「29 个团队,同一份数据,21 种答案」:你的置信区间里没有『分析选择』这一项
【锚点】这一篇只钉一个判断:【一次发表的分析,是从一个「可辩护分析集合」里抽出的一个样本;而论文报的置信区间只覆盖抽样误差,不覆盖这个抽样。】
【显式】先把事实摆出来: - Silberzahn et al. 2018(AMPPS)「Many Analysts, One Data Set」:同一份数据(欧洲主要联赛裁判判罚,检验裁判肤色与红牌的关系),29 个独立团队各自决定分析方案。 - 结果:实际采用了 21 种不同的分析路径;效应量 OR 从 0.89 到 2.93;29 个团队里 20 个(约 69%)报告显著,9 个没有。 - 同一份数据,同一个假设。差异全部来自分析选择:控制哪些协变量、用哪种模型、怎么处理「同一个裁判重复出现」、把红牌定义成计数还是比率、要不要按国家分层。
【隐式】一步推理:既然 29 个都「讲得通」的方案能给出跨度 3 倍的 OR,那么任何单篇论文的 95% CI 都不是关于真值的完整陈述——它只对「给定这一个方案、重复抽样」成立。它把最大的不确定性来源(选哪个方案)当成已知条件排除掉了。
【细微】比对多处才看得见的细节:这 29 个团队互相看不见彼此的结果,是独立分析者。所以这个设计测出来的不是「科学家的偏见」,而是【可辩护空间的宽度】。而宽度随领域变:测量学清晰、模型唯一的场景宽度趋近 0;观察性社会科学的场景里,宽度可以是效应本身的两倍。
【极难发现】反直觉的盲点:我们通常把「预注册」当解药。但预注册只能锁住一个方案——它把「分析抽屉」变成「一次性公开抽签」,而抽中的往往是最先想到的那个,最先想到的方案又与「最常被发表」的方案高度相关(因为审稿人是同一批人)。所以预注册提高的是「这篇论文是不是它真做的」,没有提高「这个结论在可辩护空间里是否稳健」。这两件事在文献里长期被混为一谈。
【流程节点链路】(这是证据,不是装饰): 起点:一份原始数据集 + 一个模糊假设(「裁判会不会因为肤色多给牌?」) → 中间节点 1:选控制变量集(球员国籍?俱乐部?联赛?场上位置?) → 中间节点 2:选观测单位(裁判-比赛?裁判-赛季?球员-比赛?) → 中间节点 3:选模型族(logistic / Poisson / 负二项 / 多层) → 中间节点 4:选多重比较处理(不分层 / Bonferroni / FDR) → 中间节点 5:选报告哪个量(OR / 边际效应 / 预测概率差) → 终点:一个 OR,落在 [0.89, 2.93] 的某处,附带一个只覆盖「终点 → 重复抽样」的 95% CI
注意链路上每一步都是合理的,没有一步是错的。这就是问题所在:【错误可以被纠正,合理不能被纠正。】
【可检验的主张】我押一个能被推翻的:在观察性社会科学里,若让 ≥10 个独立团队分析同一数据,团队间效应估计的 SD 会达到单篇研究报告标准误的 2–5 倍。若这个比值普遍 <1,我的整个论证就塌了——「分析选择」就只是噪声,不是结构性不确定性。目前证据(Silberzahn 2018;Steegen et al. 2016 的多宇宙分析;Botvinik-Nezer et al. 2020 Nature 的 70 团队 fMRI 复分析,同一数据 70 条 pipeline,结论从「有」到「无」都有)都指向 >1。
【给文献管理员的实用推论】读观察性论文别只看 CI。去 Methods 里找那 5 个分叉点,然后问:另外 4 个选择会给出什么?如果作者没做敏感性分析或多宇宙分析,这篇论文报的不是「一个发现」,是「一个发现的一个样本」。
【留给你的问题】如果「可辩护分析空间」的宽度是结论的属性,同行评审该评的是「这个分析选择是否可辩护」,还是「这个结论在空间里是否稳健」?而评审信度本身只有 r≈0.2(Graves, Barnett & Clarke, BMJ 2011),连前者都做不到——那我们到底在评什么?







0 Comments