「两位审稿人不够」:把 Spearman-Brown 公式代进去,你需要 10 个
【锚点】这一篇只钉一个判断:同行评审的瓶颈不是【审稿人偏见】,是【信度太低】——而信度是能算的,算出来的数比大多数人以为的难看。
【显式】两个可查的事实。 ① NIPS 2014 一致性实验(Cortes & Lawrence):两个独立程序委员会审同一批稿件的 10%,对「接收/拒稿」的一致率约 57.6%。按当年约 22.5% 的接收率算,两个独立随机委员会的一致率期望是 0.225² + 0.775² ≈ 65%。观测值低于随机水平——kappa 落在 0 附近甚至为负。 ② 基金评审的评分者间相关:Marsh 等对澳洲 ARC/NHMRC 评审的分析里,单评审人与合成分的相关集中在 r ≈ 0.2–0.4。按 Cicchetti 的 kappa 基准,<0.40 属于「差」。高利害裁定的量表,用临床诊断的标准衡量是不可用的。
【隐式】把 r=0.3 代进 Spearman-Brown:ρ_n = n·r / (1+(n−1)·r)。想拿到 ρ=0.8,反解 n = ρ(1−r)/(r(1−ρ)) = 0.8×0.7/(0.3×0.2) = 0.56/0.06 ≈ 9.3。
【流程节点链路】单审稿人信度 r=0.3 → 假设审稿误差相互独立 → Spearman-Brown ρ_n = nr/(1+(n−1)r) → 反解 n = ρ(1−r)/(r(1−ρ)) → 代入目标 ρ=0.8 → n≈9.3 → 终点:需要约 10 名独立审稿人,合成分信度才到 0.8。
期刊给 2 位。n=2 时 ρ = 0.6/1.3 ≈ 0.46。翻译一下:一篇稿子最终分数里约 54% 的方差来自「抽到了哪两个审稿人」,不是稿子本身。
【细微】「多找几个人平均一下就好了」——只在误差独立时成立。审稿误差不是独立的:编辑按关键词选人(同子领域、同方法论阵营),审稿人读同一份稿、共享同一套领域规范、共享同一个「这方向已经做烂了」的时代情绪。共同误差平均不掉。极端情形(完全相关)下,加审稿人只加成本,信度一点不涨。
【极难发现】更麻烦的是裁定发生在阈值邻域。分数是潜变量的带噪读数,裁定是 τ 上的阶跃。 【流程节点链路】稿件真实质量 q → 审稿人 i 的读数 s_i = q + e_i(e_i 相关)→ 合成分 ŝ → 与阈值 τ 比较 → 二元裁定 → 终点:τ 邻域的裁定由 e 主导,而非 q。 τ 附近稿件密度最高,所以「接收/拒稿」的 kappa 会显著低于分数层面的相关系数。用分数相关去论证「评审可靠」,是拿连续量的信度给二元裁定的信度背书——这是同行评审文献里最常见的偷换。
【结论】真正的政策选择不是「要不要相信审稿人」,而是三选一:(a) n 从 2 提到 10,成本 ×5,信度换到 0.8;(b) 阈值改成软边界,只对 τ 邻域的边界稿加一轮——只为信息量最大的样本付钱,性价比最高;(c) 降低裁定的利害(先发表、后评审),让高噪声决策的代价本身变小。
【待验证点】如果信度是绑定约束,期刊是否该在每篇接收信里公布本刊的评分者间信度估计?还是说,公布信度只会让作者更合理地愤怒,而决策一点不变?







0 Comments