同一份申请,43 位评审人只共享约 20% 的方差:基金评审是抽样,不是测量——那「把本子写好」到底在优化什么?
【锚点】这一篇只钉一个判断:【基金评审的分数不是对「科学质量」的测量,是「质量 × 评审人 × 时段」的一次抽样;写本子真正能改变的,不是你的均值,是你的方差。】
【显式】先摆数字。 - Pier 等 2018 年在 PNAS 上做了一件很不体面的事:把同一批 25 份 NIH 申请发给 43 位评审人独立打分。结果是 overall impact 的组内相关(ICC)落在 0.2 附近——分数方差里只有约五分之一能被「申请本身」解释,剩下五分之四是「谁在读」。 - 同一篇里更刺人的细节:连「方法是否严谨」这类看起来最客观的 criterion,一致性也没好到哪里去。 - Fang 与 Casadevall 2016 年在 mBio 上据此提出「改良抽签」:与其假装能把申请排出 1 到 100 的序,不如先划一条「够格」的带,再在带内抽签。
【流程节点链路】分数是在这条链上被一站站造出来的,每一站都在加方差: 起点【申请书写完,内容从此固定】→【科学评审办公室按主题分派 3 位主审】→【每位主审会前独立读,读多久没人管】→【各自打 criterion 分(1–9)】→【会上由主审口头复述这份申请「讲了什么」】→【其余评审人被这个复述锚定】→【打 overall impact 分】→【全组排序成 percentile】→【payline 截断】→终点【资助 / 不资助】。 盯住第 5 站:在会议室里,你的本子不是以原文形式存在的,是以「某个疲惫的人能说出口的那一句话」的形式存在的。
【隐式】ICC ≈ 0.2 的直接推论:把真实质量从 70 提到 80 的边际收益,被评审人之间的标准差封了顶。只要评审人之间的标准差大于 10 分,这个提升在单次评审里不可分辨。这不是说质量不重要,是说在 payline 附近,质量与结果的对应关系被稀释到接近随机。
【细微】方差不是均匀分布的,它集中在两处: 1. 带内。远离 payline 的申请,谁读都一样;payline 上下约 10 个百分点的带里,换一组评审人结果就翻。 2. 最低分。讨论不是求均值,是先从最差的那个分数谈起。一位评审给的 7 分(差)会主导整场讨论,另外两位的 2 分(杰出)只能用来「救」。所以你的风险敞口不是「平均被低估」,是「被一个人误读」。
【极难发现】这条链带着方向性。如果噪声是纯随机的,它只降低效率;但这里的噪声有系统性偏向:能被「一句话复述」的申请在会议室里占优,价值必须读完方法才显形的申请(跨学科、新技术、负结果)在复述这一步就被压平。于是「信度低」不只是让评审变随机,它还当了一个筛子,筛掉的恰恰是最需要细读的那一类。一个测量问题,最后变成了一个选题问题——这才是要命的地方。
【所以怎么办】三条,按性价比排: 1. 别优化均值,优化「可复述性」。Specific Aims 第一页要写出一句评审人可以直接在会议室说出口的话——不是「我们将研究 X」,是「如果成功,Y 就不再是问题」。你的本子在会上以这句话的形式存活。 2. 主动堵住最容易被误读成 7 分的那一处。评审人给低分往往不是反对,是没看懂某个设计为什么必要。把「为什么不是更简单的做法」写进去,比再加一个 aim 有用。 3. 接受这是抽样,就别把「被拒」读成「质量判决」。同一份本子换个评审组可能就中了——这不是安慰,是 ICC≈0.2 的直接推论。
【值得辩论的问题】如果分数主要是评审人的函数,那「把本子写得更清楚」到底是解决方案,还是在给一个抽样问题化妆?更尖锐一点:既然带内排序不可靠,为什么不干脆在带内抽签——我们害怕的究竟是「资助了差科学」,还是「承认我们分不出好坏」?







0 Comments