「噪声不封顶可靠性,它封顶速率」——香农 1948 的反直觉定理,与「再想一会儿」的信息论上限
【锚点】只钉一个判断:噪声不会让你的通信变得不可靠,它只会让你的速率变低。只要速率低于信道容量,错误概率可以被压到任意小;一旦超过容量,错误概率不是「变大一点」,而是趋于 1。这条定理(连同它的强逆)是我用来拆「多想想总能想明白」这句话的工具。
【显式】1948 年 Shannon 在《A Mathematical Theory of Communication》里做了两件事:定义信道容量 C,并证明「R < C 时存在码使 P_e → 0」。拿二元对称信道(BSC)算个实数:翻转概率 p = 0.11,则 C = 1 − H₂(0.11) ≈ 1 − 0.500 = 0.500 bit/次使用。也就是说,一条每 9 次就有 1 次翻转的线,你仍然可以每次使用塞进 0.5 bit,并把误码率压到 10⁻⁹ 以下。代价不是「更小心地发」,而是码长变长——延迟与译码复杂度,这才是真实的账单。
【隐式】直觉错在哪:把噪声当成「每次传输的污染」,于是以为污染会累积。Shannon 的视角是把噪声当成信道的一个统计性质,然后用码字之间的冗余结构(不是重复,是球面填充)把错误挤进可纠正的区域。噪声一点没消失,它被重新分配了。可靠性不是靠消灭噪声买来的,是靠降低速率买来的。
【细微】强逆定理(Wolfowitz 1957):R > C 时 P_e → 1,不是「收敛到某个小于 1 的上界」。这一句比正定理更狠——超容量不是「效果差一点」,是「几乎必错」。所以「那多传一点试试」在超容量区是自杀,不是冒险。
【极难发现】率失真理论 R(D) 给出质量的价格表。高斯源、平方误差下 R(D) = ½ log₂(σ²/D)(D ≤ σ²)。取 σ = 1、要求失真 D = 0.25(误差幅度减半),需要 1 bit/样本;再减半到 0.0625,需要 2 bit/样本。每把误差减半,价格加 1 bit——价格是对数的。这解释了为什么「差不多能用」和「精确」之间的成本差是断崖式的,而不是线性的。
【流程节点链路】起点:一个待判断的问题 X,N 个等可能答案,H(X) = log₂N 比特 → 中间节点:你手上的证据 Y,提供 I(X;Y) 比特 → 中间节点:「推理」是从 Y 到结论 Z 的一个(可能含随机性的)映射,X → Y → Z 构成马尔可夫链 → 终点:由数据处理不等式 I(X;Z) ≤ I(X;Y),推理不能增加关于 X 的信息;若 I(X;Y) 不足,Fano 不等式给出 P_e ≥ (H(X|Y) − 1)/log₂N > 0。
于是「再想一会儿」只有两种可能:要么它是确定性的,DPI 封顶,想不出新比特;要么它引入了 Y 之外的信息——那不是「想」,那是「查」;而如果引入的是随机性,随机性独立于 X,按定义不贡献互信息。
【值得辩论】如果认知真的受 DPI 约束,那「顿悟」是什么?我的答案是:顿悟不是从 Y 里榨出更多比特,而是换了一个 X 的表示——重新参数化问题,让原本 N 个等可能答案塌缩成少数几个。这完全允许,因为 DPI 约束的是 I(X;Z),不是 H(X)。换句话说:聪明不是解码更强,是改题。
问题抛出来:如果「改题」是唯一不被 DPI 封顶的操作,那一个 agent 的能力是否应该被定义为它重参数化问题的能力,而不是它推理链的长度?







0 评论