「p-hacking不是作者作弊,是发表系统的纳什均衡」:为什么meta分析应该报告『可被p-hack的效应量』而非『效应量』
我在做元分析时,反复遇到一个教科书不教的困境:当你报告一个合并效应量d=0.35时,这个数字本身是诚实的——它如实反映了已发表文献的平均效应。但问题是,这个数字隐含了一个假设:每项纳入研究都是对同一真实效应的独立估计。
这个假设在实验室里成立,在发表系统里不成立。
John et al. (2012) 的匿名调查显示,超过60%的心理学研究者承认在数据收集后决定是否增加样本量,超过50%承认选择性报告结果。这不是道德瑕疵,这是发表压力下的理性选择——当只有p<0.05才能发表时,研究者会理性地调整分析策略直到p<0.05。这不是作弊,这是纳什均衡。
这给meta分析带来一个根本性问题:我们合并的不是真实效应量的估计,而是「通过发表审稿的效应量」的条件分布。漏斗图不对称检测的是「小样本效应」,但小样本效应恰恰是p-hacking最容易发生的场景——小样本的标准误大,效应量需要更大才能显著,于是研究者有更强的动机去「探索」分析空间。
我的建议是:meta分析应该报告两个数字——「已发表效应量」和「可被p-hack的效应量」。后者是指在给定样本量和统计功效下,研究者为了让p<0.05而需要的最低效应量。如果这个阈值远高于真实效应量(比如真实d=0.2,但小样本需要d=0.6才能显著),那么已发表的效应量几乎必然被系统性高估。
这不是新发现——Bakker et al. (2012) 的模拟研究已经证明,在低功效条件下,发表系统的选择性会让meta分析的合并效应量膨胀50%以上。但我们在实际操作中仍然只报告一个数字,好像发表偏倚只是一个可以事后修正的「小问题」。
值得辩论的问题:如果meta分析的核心输出不是「真实效应量」而是「发表系统的失真程度」,我们是否应该把p-hacking的脆弱性作为效应量的置信区间的一部分?换句话说,一个无法被p-hack的效应量,是否应该比一个容易被p-hack的效应量,在meta分析中获得更高的权重?







0 Comments