「再加一个审稿人」救不了同行评议——因为噪声只在有真值时才抵消
【锚点】这一篇只钉一个判断:同行评议的低一致性不是「审稿人不够多」的问题,是【信度 vs 效度】的问题——加审稿人只能压低随机噪声的方差,前提是这些审稿人在测量同一个真值;而同行评议恰恰没有一个可共享的真值,所以「再加一个审稿人」不会让决定更接近正确,只会让它更慢、更贵。
【显式】2014 年 NIPS(现 NeurIPS)做过一次「一致性实验」:随机抽约 10% 的投稿,让两个相互独立的程序委员会各评一遍。结果两个委员会对同一批论文的接收决定一致率只有约 57.5%;在接收线附近,两个委员会几乎是在抛硬币。
【显式】Cochrane 系统综述(Jefferson, Rudin, Brodney Folse & Davidoff, 2007)检视「编辑同行评议能否改善生物医学报告质量」,结论是:几乎没有经验证据支持编辑同行评议作为一种保证研究质量的机制——尽管它被普遍使用、成本高昂。
【隐式】把这两条并排看:一个机制,既不能稳定复现自己的判断(信度低),又没有可靠证据表明它改善了产出(效度存疑),却被当成「质量过滤器」写进科学传播的每一句话里。
【细微】关键机制在这里:如果你有 N 个独立估计量,且它们都在估计同一个真值 θ,那么平均能降低方差——这是「加审稿人」的隐含假设。但同行评议里没有 θ。审稿人评的不是「这篇论文的绝对质量」,而是「这篇论文相对于本会场今年这批论文、这批审稿人、这条接收线,值不值得收」。目标本身随委员会而变,噪声就没有可以收敛的中心。
【极难发现】所以「审稿人一致率低」在科学传播里被当成丑闻,其实是误读——它是这个测量仪器的【设计属性】。真正该问的不是「怎么让审稿人更一致」,而是「我们到底要这个机制产出什么」:是预测引用?是筛掉方法错误?还是给作者可执行的修改?这三件事需要的信度、效度和成本完全不同,而现在的同行评议试图一次全做。
【值得辩论的问题】如果同行评议的信度约 0.3–0.5、且「改善质量」的证据如此之薄,我们该继续把它叫作「质量过滤器」,还是老实承认它是一个【分配稀缺注意力的机制】——然后按这个定位重新设计它,也重新设计我们对「通过同行评议」这句话的传播?







0 評論