同一个 p=0.05,n=1000 时证据却反向支持零假设:杰弗里斯–林德利悖论不是悖论,是奥卡姆因子的显影
【锚点】这一篇只钉一个判断:p 值不是证据量。p 值是「H0 为真时,数据至少这么极端」的尾部概率;证据量是似然比。同一个 p=0.05,在 n=10 和 n=10000 下携带的贝叶斯证据可以相差两个数量级,甚至方向相反。
【显式】设定:Y_i ~ N(μ, σ²=1),σ 已知。H0: μ=0;H1: μ ~ N(0, τ²=1)。观测到 z = √n·x̄/σ = 1.96,即双侧 p = 0.05。贝叶斯因子(H0 对 H1):
B01 = √(1 + nτ²/σ²) · exp( −(z²/2) · nτ²/(σ² + nτ²) )
【流程节点链路】起点:把 z 固定为 1.96(p=0.05 不变) → 中间节点①:n=10,nτ²/σ²=10,√11=3.317,指数项 exp(−1.9208×10/11)=exp(−1.7462)=0.1744 → 中间节点②:B01 = 3.317×0.1744 = 0.579,即证据以约 1.7:1 支持 H1 → 中间节点③:n=1000,√1001=31.64,exp(−1.9208×1000/1001)=exp(−1.9189)=0.1467 → B01 = 4.64,即证据以约 4.6:1 支持 H0 → 中间节点④:n=10000,√10001=100.0,exp(−1.9208×0.9999)=0.1466 → B01 = 14.7,即约 15:1 支持 H0 → 终点:同一个 p=0.05,证据从「反对 H0 1.7:1」翻转为「支持 H0 14.7:1」,方向逆转,幅度约 25 倍。
【隐式】这不是数值巧合,是奥卡姆因子的幂次。取对数:log B01 = ½log(1+nτ²/σ²) − ½z²·(nτ²/(σ²+nτ²))。第二项随 n 增大趋向 ½z²(有界,最大 1.92),第一项 ½log(nτ²/σ²) 无界增长。所以 n 一大,宽先验把 H1 摊薄到几乎处处,H1 对 x̄ = 1.96/√n 这个「刚好显著」的点预测得极差——它被迫为一个几乎处处为零的密度付出代价。
【细微】关键细节:τ 是自由参数,悖论的方向由 τ 决定。若把 τ 设成 0.01(先验认为效应极小),同样的数据 B01 会掉到支持 H1。所以「贝叶斯因子说 H0 对」这句话不完整——必须同时报先验。这也解释了为什么 BIC(−2logL + k·log n)在 n 大时天然偏向简约模型:它就是 τ 取单位信息先验时的粗糙贝叶斯因子,那个 k·log n 就是被离散化的奥卡姆因子。
【极难发现】真正的盲点:p 值与贝叶斯因子的一致性(consistency)不是同一件事,而且两者失效模式互补。固定先验下,若 H0 为真,B01 → ∞,贝叶斯因子正确;但若 H1 为真且 μ 落在先验几乎不覆盖的极小邻域,固定先验的贝叶斯因子会收敛到支持 H0——它对「先验不含真值邻域」不稳健。而 p 值在同样情形下会正确拒绝,代价是它对 n 完全敏感、且不携带 H1 的任何信息。没有谁「更对」,只有谁的错误更贵。
【显式】信息论翻译:log₂ B01 就是 I.J. Good 的「权重证据」(weight of evidence,单位 deciban 的比特版)。B01 = 14.7 意味着数据把 H0 的赔率提高了 log₂14.7 ≈ 3.9 比特。而 p = 0.05 本身不携带任何比特——它只是一个尾部概率,不含 H1 的信息,所以它无法被「更新」,只能被「比较」。
【锚点·结论】把 p 值当证据量,等价于把「假设零为真时这件事有多罕见」当成「假设零为假有多可信」。前者是 P(data | H0),后者要的是 P(H0 | data),中间隔着一个贝叶斯因子和一个先验。
值得辩论的问题:如果期刊强制要求作者同时报「最小可支持效应 + 先验 + 贝叶斯因子」,p 值还有存在必要吗?还是说 p 值真正的价值恰恰在于它先验免疫——它不要求你承诺 τ,代价是它根本不是证据量?







0 Comments