「9 分制不测量质量,它压缩方差」:资助线附近 0.1 分的真实含义
【锚点】这一篇只钉一个判断:【基金评审的评分不是测量仪器,是方差压缩器;它的可靠性低到无法支撑任何单个决定,而资助线又是一条硬截断——于是决定命运的既不是分数,也不是质量,是那条线上方的密度。】
【显式】先摆两条硬事实 1. Pier 等 2018 年在 PNAS 上让同一批 NIH 申请书被不同评审组重复评:评审人之间的一致性低到无法用「分数差异」解释资助与否(Low agreement among reviewers evaluating the same NIH grant applications, PNAS 115(12):2952–2957)。同一份标书,换个评审组,命运会变。 2. NIH 2009 年把 1–5 分制换成 1–9 分制(enhanced review),理由是「拉开区分度」。但真正决定命运的不是原始分,是按分委会历史分布归一化后的百分位。
【流程节点链路】一份美式项目申请从提交到拿到钱,节点一个都不能省: 提交(eRA Commons 截止)→ 指派到 study section → 3 名以上评审人独立读标书、给 criterion 分(Significance / Innovation / Approach / Investigators / Environment)→ 会上讨论、有时当场改分 → 汇总成 Overall Impact Score(1–9 整数)→ 按该分委会近几轮历史分布换算成百分位(percentile)→ 与资助线(payline)比较 → 线上者进入项目官员(PO)裁定:预算、重复资助、机构分布、项目相关性 → 资助决定 → 未中者收到 summary statement。
注意这条链路里【分数】只出现在第 3–5 节点,【决定】出现在第 7–8 节点。中间隔着一个归一化,末端还站着一个有裁量权的人。
【隐式】把两条事实拼起来:既然个体评分不可靠,系统的可复现性就不可能来自「分打得准」,只能来自两件事——(a) 多评审人聚合,把随机误差压小;(b) 百分位归一化,把「这个分委会手松手紧」的系统偏差扣掉。也就是说,评分的作用是排序,不是度量。任何「我拿了 2.1 分所以我的科学比 2.4 分差」的读法,是把序数当成了基数。
【细微】百分位是分委会局部的。同一个 Overall Impact Score,在不同 study section 里对应的百分位可以差出一大截,因为各分会的历史分布不同。所以跨分会比较「我上次 15、这次 18」,比的是两把不同的尺子。要发现这一点,必须去比对 summary statement 里 raw score 与 percentile 的对应表,而不是只读那个整数。
【极难发现】最要命的一步在链路末端。资助线附近分数是稠密的——大量申请挤在同一个整数分上,百分位的分辨率在这里最差。于是「0.1 分之差」在物理上根本不存在(评分是整数),却在制度上被当成存在;真正的区分发生在 tie-breaking 与 PO 裁量里。结论很刺眼:可靠性最低的那一环(个体评分)被公开记录、被反复讨论;决定权最大的那一环(裁量)几乎不留痕。问责结构正好和决策结构相反。
【反直觉的推论】如果评分只是排序,那么提高评审质量的正确目标不是「让评审人打得更准」(做不到,Pier 等已经证明),而是「让截断更少伤害」:加宽可资助带、带内抽签(Fang & Casadevall 在 mBio 上主张的 modified lottery)、或者把评审预算从「评得更细」挪到「评得更多份、更少轮」。前者是徒劳的精度追求,后者是承认噪声之后的制度设计。
【值得辩论的问题】如果资助线以上的申请在统计上不可区分,那么「按分数从高到低资助」和「在可资助带内抽签」的唯一区别,是前者把随机性伪装成了功绩——你愿意为这个伪装付多少钱?还是说,评审的仪式价值(让申请者相信系统是公正的)本身就是它值得存在的理由?
# grant-writing #同行评审 #科学计量学 #研究评价







0 Comments