90% 一致,κ 只有 0.44:为什么「两位审稿人意见基本一致」在方法学上几乎不算证据
【锚点】这一篇只钉一个判断:审稿人之间的【一致率(agreement)】不是【信度(reliability)】。当你只报告「一致率」,你报告的是两个边际分布的乘积,不是审稿人共享的判断标准。
【显式】三条一眼可见的事实。 (1) Cohen’s κ = (po − pe)/(1 − pe)。关键在 pe:它完全由两位审稿人各自的「录用/拒稿」边际比例算出,与稿件本身的质量分布无关。 (2) 一组可手算的数字。100 篇稿子,两位审稿人各录 20 篇,观察一致率 po = 0.84。则 pe = (20×20 + 80×80)/100² = 0.68,κ = (0.84 − 0.68)/(1 − 0.68) = 0.50。 (3) 把同一批稿子变得更「难录」:各录 5 篇,观察一致率反而升到 0.92。此时 pe = (5×5 + 95×95)/100² = 0.905,κ = (0.92 − 0.905)/(1 − 0.905) ≈ 0.16。一致率从 84% 升到 92%,κ 从 0.50 掉到 0.16。
【隐式】一步推理:κ 的分母 (1 − pe) 是「扣掉运气之后还剩多少可分歧空间」。当边际极度偏斜(95% 拒稿),可分歧空间只剩 0.095,任何一致都几乎必然是「两个人都说拒」这种零信息一致。所以「高一致率 + 低 κ」不是矛盾,是同一个事实的两种写法。
【细微】三处比对才看得见的细节。 (a) 这就是 Feinstein & Cicchetti (1990) 命名的【κ 悖论】:可以构造两组数据,A 组一致率 0.85、κ = 0.70;B 组一致率 0.90、κ = 0.44。一致率更高的那组,信度更低。 (b) 同一个结构性缺陷也在 Fleiss’ κ(多审稿人版本)里——换公式不解决问题,因为 pe 仍然从边际算。 (c) 换成序数评分(1–10 分)后,加权 κ 与 ICC 会明显高于二分 κ。这不是审稿人突然变可靠了,是你改了「差一分」和「差五分」的惩罚权重。二分决定把连续判断压成一个 bit,κ 低有一部分是【压缩损失】。
【极难发现】反直觉的盲点:我们习惯把「审稿人不一致」当噪音,去追求更高的一致性。但在边际偏斜的真实稿件池里,κ 的上限被结构性压低——这意味着「κ 低」至少有两种互斥解释:(i) 审稿人不可靠;(ii) 稿件池本身缺乏可分辨的方差(大部分稿子确实都该拒)。这两种解释的政策含义完全相反:前者要改造审稿人,后者要改造「我们送审的稿件分布」。仅凭一个 κ 值,你无法区分它们。所以单报 κ 是不负责任的,必须同时报边际分布和抽样设计。
【流程节点链路】要交付一个可信的一致性结论,必须走完: 研究问题(「两位审稿人的决定是否可互换」)→ 定义编码单位(稿件 × 审稿人 × 二分/序数决定)→ 抽样与配对设计(同一稿是否真被两位独立、盲审的审稿人评过)→ 统计两位审稿人的边际分布(各录多少、各拒多少)→ 计算观察一致率 po → 由边际计算期望一致率 pe → 计算 κ 及其置信区间(bootstrap 或 Fleiss 公式)→ 检查边际偏斜程度(若最小边际 < 0.15,κ 基本不可解释)→ 若偏斜,改用 prevalence-robust 指标(Gwet’s AC1、Brennan–Prediger、Krippendorff’s α)或直接报 ICC(2,k) → 在 Methods 里同时报告 po、pe、κ、边际、n、缺失与决策规则 → 才允许写下「审稿人之间一致性为 X」这句话。 任何一个节点省略,后面那个数字就不是证据,是装饰。
【可复用的 Methods 模板】 「两位审稿人对 N 篇稿件作出独立二分决定(录用 n₁ / 拒稿 n₂;审稿人 A 录用 a 篇,审稿人 B 录用 b 篇)。观察一致率 po = …,期望一致率 pe = …,Cohen’s κ = …(95% CI …)。鉴于边际偏斜(最小边际 = …),我们同时报告 Gwet’s AC1 = … 作为稳健性检验。」 ——这句话里没有一个字是修辞,全是可复算的量。
【值得辩论的问题】如果 κ 在偏斜的稿件池里天然被压低,那「提高同行评审信度」这个目标,究竟该改造审稿人(培训、结构化评分表、多审稿人平均),还是该改造【被送审的稿件分布】(编辑 desk-reject 更多,让进入评审的稿件方差更大)?前者是评审流程问题,后者是编辑决策问题——但只有后者能真正抬高 κ 的上限。你站哪一边?






0 评论