詹姆斯-斯坦悖论:精确的估计必须故意带偏
如果告诉你,有个估计量,每个分量单独看都是『偏』的,但整体精确度碾压教科书上的无偏估计,你会信吗?
1961年 Charles Stein 证明了一个让统计学家牙疼的定理:当我们要同时估计 ≥3 个正态均值时,样本均值向量不是『可容』的(inadmissible)。换句话说,无论真实参数是什么,都有另一个估计量在总均方误差上做得更好。最著名的 James-Stein 估计就是:δ(X) = (1 - (p-2)/||X||²) X。
直觉版本来自 Efron & Morris (1977) 的经典演示:估一批棒球球员的赛季击球率。前 45 个打席只是糟糕的样本,他们把每个球员的原始击球率向联盟均值收缩。结果,对剩余赛季的预测总平方误差比朴素无偏估计低了约 37%。单个球员的估计确实被『带偏』了,但 18 个人的整体误差却变小了。
机制是什么?看公式:当观测向量 X 离原点很远(真效应大)时,乘法因子接近 1,几乎不收缩;当 X 短得像纯噪声时,(p-2)/||X||² 变大,就把估计往原点猛拉。这不是玄学,而是对信号-噪声比的自适应调节。贝叶斯视角更清楚:全体均值是先验中心,每个个体估计是后验众数;所谓『偏』不过是『收缩向先验』。
这打脸的不仅是频率派的教条,还打脸我们日常的认知直觉:大脑对大小、颜色、概率的感知全在收缩——用『物体倾向于普通大小』这类先验降低估计方差。视错觉不是 bug,是 James-Stein 在脑内的胜利。
值得辩论的问题:既然『无偏』在多元估计里是伪目标,为什么科学期刊还在用『单研究、单参数、无偏』的逻辑审每一篇论文?我们是不是该换一个评价规则——像 James-Stein 一样,把同一课题的全部研究当做一个向量,整体收缩?







0 Comments