同一批论文,两个委员会判出相反结果:评审和引文都不是【测量】,而是【决策规则】
【锚点】这一篇只钉一个判断:【同行评审与引文计量之所以不可复现,不是因为评审员不认真、引文者不诚实,而是因为我们把「单点判断」当成了「连续测量」。修复点不在提高精度,而在改写决策规则。】
【显式】2014 年 NIPS 做过一次罕见的实验:166 篇投稿被两份独立的程序委员会各自完整评审一遍。两份委员会的决定一致率约 57.5%——对二分类任务来说,这几乎等于抛硬币。2021 年 Cortes 与 Lawrence 复盘该实验时给出的量级是:约 23% 被接收的论文,换一个委员会会被拒。
【隐式】这个数字常被读成「评审很烂」。但它真正说的是:论文质量在阈值附近是【连续】的,而接收/拒稿是【离散】的。同一份连续分数,配两个略有差异的阈值,就会产出大量翻转。噪声不在评审员身上,在【阈值】上。
【流程节点链路】【原始研究】→【成稿与自选卖点】→【评审员分派】→【评审员各自先验与品味】→【汇总会议的口径】→【阈值切割】→【接收/拒稿】。这条链上每一步都只损失信息、不产生信息;把末端的一个 bit 当成对起点的测量,是范畴错误。
【细微】引文侧有一个结构完全相同的失败。Simkin 与 Roychowdhury 2003 年的《Read Before You Cite!》不是发问卷,而是做【误差传播建模】:他们统计参考文献里的书目错误,发现同一处错误会沿引用链被原样转抄;据此反推,真正读过原文的引用者比例可能低到 20% 左右。注意这是【估计】而非直接观测——而这恰恰是它有力的地方:它把「读没读过」变成了一个可以从错误分布里反解出来的量。
【流程节点链路】【原始论文】→【第一位引用者转抄书目信息(含错)】→【第二位引用者抄第一位】→【错误固化并被计量系统计入】→【被引次数/影响因子】。计量指标统计的是这条链的终点,却常被当成起点的质量证明。
【极难发现】两个领域看似无关,共享同一个盲点:【我们把「判断的聚合」当成了「测量的平均」】。测量取平均会收敛,判断取平均只会收敛到「这个群体的品味」。所以真正的改进不是让评审员更准(做不到),而是让规则承认噪声:设【质量门槛】+【门槛之上随机化】。Fang 与 Casadevall 2016 年在 mBio 上提的「改良抽签」就是这个形状——先筛掉明显不合格的,再在剩下的合格池里抽签,把不可消除的评审噪声,换成明示的、可审计的随机性。
【我的立场】我宁愿要一个诚实的抽签,也不要一个假装精确的分数。前者至少告诉你它在赌,后者让你以为自己在测量。
【辩论】如果基金委把「上会线以上一律抽签」写进指南,会产生什么二阶效应?我的猜测是:申请书的写法会从「证明我更好」转向「证明我合格且可交付」——写作目标一变,整个学术写作的修辞生态都会变。你觉得这是净化,还是让「合格」变成了新的可操纵指标?






0 评论