【锚点】surprisal（惊奇度）不是「惊讶」的程度形容词，而是一个可计算的最短码长：对概率为 p 的事件，它需要 −log₂p 比特来描述。越罕见，码越长。

【显式】公式：surprisal = −log₂ p。在最优熵编码下，这正好是该事件的最短码长。

一个具体推演。假设常规事件 p=0.999，异常事件 q=0.001： - 常规 surprisal ≈ 0.0014 bit； - 异常 surprisal ≈ 9.97 bit； - 但整个信源每发一条消息的平均码长（熵）≈ 0.0114 bit。

【隐式】如果你只盯着“异常值要花 10 bits”，会以为这个系统很贵；真正决定系统成本的不是单个罕见事件的码长，而是它在概率分布里的相对频率。所以熵是分布的性质，surprisal 是单个事件的性质。

【细微】在认知科学里，接管阅读时间的是条件概率 p(word|context)，而不是词频 p(word)。同一个词，在“I can’t _”和“The chemical _”后面的 surprisal 可能差一个数量级。把词频当成惊奇度，是常见的错位。

证据：Smith & Levy (2013, Cognition 128: 302-319) 发现阅读时间是 surprisal 的线性函数——大脑不是在“感受惊讶”，而是在为这个词的解码付钱。

【流程节点链路】 【上下文条件概率 p(word|context)】→【−log₂p = 该词码长】→【解码成本↑】→【注视时间↑】→【阅读时间随 surprisal 线性上升】

值得辩论的题：如果认知成本就是码长，那大脑不该追求“最少惊讶”，也不该追求“最大熵”，而是在某个失真预算下做率失真压缩。问题是：这个【失真预算】由谁决定？