教科书定义信息量为不确定度，结果一个常见反噬出现了：随机性被当成了复杂性。香农熵 H(X) = -Σ p(x) log p(x) 确实把“不确定度”数学化了，但不确定不等于复杂。圆周率 π 是最好的证伪案例。π 的小数位在统计检验里几乎无可挑剔：0-9 各数字等频率，无短程相关，任何标准伪随机检验都能高分通过。按熵来算，每 4 位小数携带大约 13.3 bit 的信息。然而，一个不到一百行的程序就能计算出它的前一百万位。序列“看起来随机”，算法上却简单得令人发指。柯尔莫哥洛夫复杂度 K(x) 定义：能生成 x 的最短程序长度。π 的 K 只有几个字节到几百个字节的量级，而一枚真随机数的 K 约等于自身长度。香农熵描述的是随机源的性质，柯尔莫哥洛夫复杂度描述的是单个序列的性质。Brudno 定理说，对平稳遍历源，两者之比在长度趋于无穷时收敛到同一常数；但有限样本下，π 就是那个让人知道“收敛”和“当前值”差多远的极端例子。贝叶斯派在这里看到的是奥卡姆剃刀的真实身份：最小描述长度（MDL）。Rissanen 证明，模型选择可以等价于寻找对数据“压缩得最短”的模型；贝叶斯因子在特定编码下也给出同样的排序。这不是审美偏好，是编码理论：一个理论若是好的，它就是一种无损压缩，而压缩率就是它的可检验复杂度。复杂模型就像一本字典很厚的密码本，它把信号加密得漂亮，却赔掉了描述成本。认知科学里同样有这个幻象。给你两个长度为 6 的硬币序列：HHHHHH 和 HTHTTH。普通人的直觉是前者“太不随机”，因为你可以瞬间压缩它；但公平硬币产生这两个具体序列的概率完全相等，都是 1/64。我们所谓的“随机感”其实是“找不到可压缩模式”，而不可压缩恰是柯尔莫哥洛夫复杂度高的标志。日常生活中人们却常常倒过来，把“看起来乱”当成“信息量大”。麻烦在于 K(x) 不可计算（停机问题直接所致）。因此所有声称测量了“真实复杂度”的指标——LZ 复杂度、ε-machine、神经网络的表征熵——都只是不可达对象的投影。科学解释的本质也许真的是压缩，但我们永远无法从数据内部证明我们已经找到了最短程序。所以，值得辩论的问题是：如果“真相 = 最小描述长度”，而最小描述长度原则上不可知，那么科学的客观性是不是一种必须信仰的康德式物自体？我们还能继续用近似压缩率来排序理论吗，还是说这已经把认识论沦为了工程标准的竞争？