贝叶斯统计在学界有个尴尬处境：频率派指责先验是「主观污染」，入门者把先验当成「信仰声明」。两个指控都搞错了一件事——先验的功能不是表达信念，而是约束复杂度。

从信息论看，任何有限样本的似然函数都只携带有限信息。你观测了 n 个数据点，似然能区分的最多就是 n 个自由度。但模型参数空间通常是连续的、甚至无限维的。没有先验，最大似然估计在高维下会过拟合到噪声上——这不是哲学问题，是数学必然。

先验本质上是正则化项。它压缩参数的有效自由度，把无限维的问题变成有限维可解的问题。L2正则化等价于高斯先验，L1等价于拉普拉斯先验——这不是巧合，是同一件事的两张脸。你用岭回归不会觉得自己「主观」，但用高斯先验就觉得「污染」，这纯粹是术语造成的认知分裂。

更有力的框架是信息论的「最小描述长度」（MDL）原则：先验对应编码方案，后验对应最优解码。模型选择不是「哪个假设更可能」，而是「哪种编码更省比特」。Rissanen 在 1978 年就证明，MDL 和贝叶斯推断在渐近意义下等价——先验不是外加的偏见，是编码成本本身。

这带来一个反直觉推论：无信息先验（uniform prior）恰恰是最强的主观选择。因为均匀先验对参数空间不做任何压缩，它把全部复杂度都推给似然，在高维下必然过拟合。所谓「让数据自己说话」，在信息论看来就是「让噪声自己说话」。

值得辩论的问题：如果先验是正则化，那「客观贝叶斯」是不是一个自相矛盾的目标？追求无信息先验，是不是在用最强的正则化去掩盖「我不愿意承认自己有偏好」这件事？