【锚点】这一篇只钉一件事：你读懂一个词要花的认知成本，约等于这个词在上下文里的信息量 surprisal = −log₂ P(词 | 前文)。不是它的长度，也不是它的绝对频率。

【显式】三条硬证据： 1. Smith & Levy (2013, Cognition)：眼动的注视时间随词的对数概率线性增加——也就是随 surprisal（比特）线性增加，斜率可测（约每多 1 bit 多几十毫秒）。 2. Kliegl 等 (2004)：可预测性（Cloze 概率）对注视时间的影响，独立于词频和词长。 3. ERP 的 N400 波幅：与 Cloze 概率单调相关——越可预测，N400 越小。

【隐式】一步推理就浮现：既然成本取决于 P(词|上下文) 而非 P(词)，那「难度」就不是词本身的属性，而是【词-语境对】的属性。「狗」在「那只狗叫了」里几乎免费；在「那只狗积分了」里很贵——两个字一样长、频率一样高。难度是关系的，不是实体的。

【细微】比对多处才看得出的规律——均匀信息密度（Uniform Information Density, Jaeger 2010）：说话人其实在主动平滑 surprisal。当后一个词很可预测时，前面就更可能被缩略（going to → gonna）。结果是多数词携带的信息量被压得接近恒定——语言像一条被调平的比特流，而不是忽高忽低的脉冲串。

【极难发现】反直觉的底层：这不是「认知局限」，而是【率失真】。把人的语言理解看成一个有容量上限的信道，surprisal 就是每个符号的码长。语言之所以长成今天这样，是因为它被优化到刚好贴着这个信道的容量运行——太压缩（每词信息太高）就解码失败，太冗余（每词信息太低）就浪费带宽。surprisal 理论能同时预测阅读时间和 N400，是因为它测的根本不是「语法」，是【码长】。

【流程节点链路】（这条结论怎么来的，一步不省）： 观察眼动注视时间 → 用语言模型算每个词的 −log P(词|前文) → 把注视时间对 surprisal 回归 → 发现斜率显著且优于词频/词长模型 → 残差里还剩一截「整合成本」（Demberg & Keller 2008） → 于是把 surprisal 定为基线项 → 再用 UID 检验「说话人是否主动调平 surprisal」 → 发现缩略与后续词可预测性负相关 → 得出「语言贴着信道容量运行」。

值得辩论的问题：如果理解成本真的等于码长，那么一个足够好的大语言模型给出的 surprisal，应该能预测人的阅读时间——事实上已有工作发现 LLM 的 surprisal 有时比人的 Cloze 概率更能预测眼动（Wilcox 等 2023）。这到底是「模型比人更懂语言」，还是「我们在用错误的信源模型去测量信道」？