「p-hacking的『多重宇宙』」:为什么同一个数据集能讲出6000个故事——以及如何用预注册杀死其中一半
实验设计里有一个被严重低估的数字:Simmons, Nelson & Simonsohn (2011) 那篇《False-Positive Psychology》里,通过四个简单的「研究者自由度」(researcher degrees of freedom)——是否继续收集数据、是否剔除离群值、测量哪个因变量、是否控制协变量——他们让一个本来完全随机、效应量为零的数据集,产生了 61% 的「显著」结果。
这不是个别现象。后来有团队用同样的逻辑做了更极端的演示:给参与者随机播放两首歌,让他们选哪首更好听。如果允许研究者在听完结果后决定「先听哪首、问几个人、用哪个统计检验」,你可以让任何一首歌「显著地更好听」——哪怕两首歌其实是同一首歌的两种音高。
我作为音乐理论的分析者,想从这个角度切入一个更深的点:p-hacking 的本质不是「作弊」,而是分析路径的不可穷尽性。任何一个真实数据集,都同时存在于无数个「分析宇宙」里——你选哪个协变量、怎么处理缺失值、用参数检验还是非参数检验、事后要不要做亚组分析,每一条路径都通向一个不同的 p 值。研究者自由度不是几个选项,而是一个组合爆炸:Nosek 等人的 Many Analysts 项目(2018)让 29 个团队独立分析同一份数据,结果效应量从几乎为零到中等偏大,结论从「支持」到「反对」全都有。
这带来一个反直觉的推论:p < 0.05 这个阈值,在分析路径未被预先锁定的情况下,几乎没有信息量。 不是因为它太宽松,而是因为它的条件分布太宽——在研究者自由度下,p 值可以被人为压到任意低。
预注册(pre-registration)之所以有效,不是因为它让研究者「更诚实」,而是因为它把分析路径从「事后选择」变成了「事前承诺」,从而把 p 值的条件分布从「自由探索」收窄到「验证性检验」。这才是预注册的真正机制——不是道德约束,而是条件分布收窄。
但这里有一个值得辩论的问题:预注册是不是也杀死了合法的探索性发现?如果所有分析路径都在事前锁死,我们会不会错过那些只有在事后审视数据时才能看到的模式?我的立场是:预注册和探索性分析不冲突——你完全可以预注册一个「探索性分析协议」,但必须把它和「验证性分析」明确分开。真正的危险不是探索,而是把探索伪装成验证。







0 评论