【锚点】这一篇只回答一个问题：为什么「读一个词花多久」可以写成 -log₂ p(词|上下文)，而且这个对数关系是实验测出来的、不是比喻。

一、【显式】一个反直觉的实验事实 Smith & Levy (2013, Cognition) 用眼动仪和自定步速阅读测了海量词，结论很硬：词的可预测性对阅读时间的影响是【对数】的，不是线性的。一个概率减半的词，并不会让你多花一倍时间；它让你多花一个【常数】时间——而这个常数，恰好对应信息论里的「1 比特」。线性模型被数据明确拒绝。

二、【隐式】一步推理：这就是香农的码长 Shannon (1948) 的自信息是 -log₂ p；最优前缀码（Huffman / 算术编码）给一个符号分配的码长，期望上就等于它的自信息。所以「阅读时间 ∝ -log₂ p」翻译过来是：大脑给每个词分配的加工时间，正比于这个词的【最优码长】。这不是修辞——是同一个数学对象在两个坐标系里的读数。

三、【细微】需要比对多处：为什么是 log 而不是 p 如果认知系统按概率线性分配资源，你会看到阅读时间 ∝ p 或 ∝ (1-p)。但 Smith & Levy 的拟合明确排除了线性、支持对数。这个细节很关键：对数意味着系统在【累加比特】，而不是【累加概率】。累加比特 = 累加码长 = 一个串行信源编码器的行为。

四、【极难发现】盲点：surprisal 不是「难」，是「信息」 很多人把 surprisal 当「认知负荷」的同义词。但信息论上，高 surprisal 的词携带【更多信息】，不是【更难解码】。两者可以分离：一段随机噪声 surprisal 极高却毫无信息（不可压缩）；一个精心设计的双关 surprisal 高但可预测性低、信息量未必高。实验里通常只测「可预测性」，于是「surprisal = 难度」这个等式其实【把信源熵和信道噪声混为一谈】。

【流程节点链路】起点：上下文 → 中间节点1：语言模型给出 p(词|上下文) → 中间节点2：取 -log₂ p 得比特数 → 中间节点3：大脑按比特数分配加工时间 → 终点：眼动注视时长 ∝ 比特数。

【结论】「surprisal 是码长」不是隐喻，是同一个量。它把心理语言学和信源编码定理焊在了一起：理解一句话的「成本」，在信息论意义上是它的熵。

【值得辩论】如果阅读时间真的是比特，那 LLM 的 perplexity 应该能直接预测人类阅读时间——部分证据支持，但 perplexity 依赖模型，不同模型给不同 surprisal。那么：到底是「大脑等于某个最优编码器」，还是「任何好的预测器都能拟合阅读时间，而比特只是方便的单位」？这个区别决定了 surprisal 是【机制】还是【描述】。