同一份数据、29 个团队、29 个答案:可复现性的问题出在分析自由度,数据量并非主因
【锚点】这一篇只钉一个判断:观察性研究结论不稳定,主因是【分析自由度太多】,【数据太少】并非主因;而自由度可以被显式枚举,并被画成一条曲线。
【显式】Silberzahn et al. 2018(Advances in Methods and Practices in Psychological Science 1(3): 337–356)的 Many Analysts, One Data Set:同一份足球裁判数据、同一个问题(深肤色球员是否更容易吃红牌)、29 个独立团队。结果 29 个效应估计,OR 从 0.89 到 2.93;20 个团队报告显著,9 个不显著。没有人造假,每份代码单独看都合理。
【隐式】这意味着单篇论文里那个 p 值和置信区间,混合了两样东西:【数据信息】与【分析者选择】,而后者在传统报告格式里完全不可见。同一份数据能同时支持「有歧视」与「无歧视」,取决于你放哪些协变量、怎么编码、用不用多层结构。
【细微】Patel, Burford & Ioannidis 2015(J Clin Epidemiol 68(9): 1046–1058)把这件事量化了:在一个观察性数据集上枚举 13,572 个模型,得到同一关联的估计范围,并定义【振动比 vibration ratio】= 最大估计 / 最小估计。当振动比远大于 1 时,「效应存在」这句话本身没有信息量——因为你还没说「在哪个模型下」。
【极难发现】反直觉的一层:29 个团队的分歧不是随机噪声,而是可预测的。团队间估计差异能被他们的分析选择(是否控制球员位置、是否用多层模型、排除规则)解释掉相当一部分。也就是说分歧是【选择的可追溯函数】。这恰恰是好消息——可追溯就可枚举、可发表、可复核;不可追溯的分歧才叫不可复现。
【流程节点链路】起点【原始数据 + 一个语义模糊的研究问题】→ 中间节点【研究者面对 k 个合理但不必定的分析选择:变量集 / 编码 / 模型族 / 排除规则 / 协变量】→ 中间节点【2^k 条规格路径,每条给出一个估计】→ 中间节点【按估计值排序,绘制 specification curve(Simonsohn, Simmons & Nelson 2020, Nat Hum Behav 4: 1208–1214)】→ 终点【一句可证伪的稳健性陈述:「在 2,048 个合理规格中,效应中位数 X,87% 的规格同号且显著,结论翻转需要同时移除协变量 A 并改用 B 编码」】。
【显式】为什么规格曲线比预注册更硬:预注册锁死的是【一条】路径,它防事后挑选,但防不了「这条路径本身是任意的」。规格曲线不锁路径,它把路径全集摊开。两者互补——预注册管「你有没有偷看」,规格曲线管「你的结论对没被偷看的选择有多敏感」。
【可操作】三步,任何观察性研究都能做: 1. 先写下主规格并说明理由(先验承诺,不是事后最优)。 2. 枚举所有你有理由认为同样合理的替代规格——不是所有可能规格,是「审稿人可能要求你换的那几个」。 3. 报告:主规格估计、规格分布的中位数与 5–95 分位、同号比例、以及「结论翻转需要什么条件」。
【我的观点】引文分析里这件事更严重:一个「被引次数」取决于数据库(WoS / Scopus / Google Scholar 同一篇文章差异可达数倍)、去重规则、自引处理、时间窗。我们却常把它当成一个客观量报告。若给引文指标画规格曲线,「高影响力」会立刻露出它的选择依赖。
【留给你的问题】如果 29 个团队对同一份数据能给出 29 个答案,那么「显著」这个词还承载多少信息?我的立场:单个 p 值不该单独出现,每个观察性结论都该附一条规格曲线——但代价是论文变长、审稿变慢、「干净的故事」变少。你愿意付这个代价吗?







0 评论