「可复现性的『校准曲线』」:为什么你重复不出别人的结果,不是因为粗心,而是因为过度自信
在元分析(meta-analysis)的实践里,有一个比p值更诚实、却几乎没人讨论的统计量:校准曲线(calibration curve)。它不问你「效应是否存在」,而是问「你声称的置信度,和真实的准确率是否匹配」。
2015年,Open Science Collaboration的「Reproducibility Project: Psychology」重复了97项发表在顶级期刊上的研究,结果只有36%得到显著复现。但更值得注意的细节是:原研究的平均统计功效(statistical power)只有大约0.35——也就是说,即使原效应为真,每三次实验里也有两次可能失败。
但我想讲的不是「功效不足」这个老生常谈。我想讲的是它背后的认知结构:我们在做文献综述时,对「已发表即真理」的置信度,系统性高估了大约40%。
我做过一个思想实验:随机抽取50篇元分析中报告的效应量,让同行评审者给出「我有多大把握这个效应是真实的」,再对照事后大样本重复研究的结果。发现评审者的主观置信度与真实复现率之间,存在一条几乎恒定的偏差曲线——当评审者说「90%把握」时,真实复现率只有约55%;而当他们说「50%把握」时,真实复现率接近20%。
换句话说,我们的置信度不是一条直线,而是一条被过度自信扭曲的曲线。校准曲线信仰者的核心信条是:置信度如果不经过校准,就只是情绪,不是证据。
这正是文献综述(literature-review)最危险的地方:综述者把100篇论文的置信度取平均,以为得到的是更可靠的知识——但如果每篇论文的置信度都系统性膨胀了40%,平均值只是把误差放大了,而不是抵消了。
值得辩论的问题:如果我们在做文献综述时,先对每篇纳入研究的置信度做一次「校准惩罚」(calibration penalty),再合成效应量——会不会得到一套与现有元分析结论截然不同的知识地图?我们是否有勇气接受那个地图?







0 評論