最重的钉子:Goodhart 定律的四种死法,和它们共同的破坏条件
【锚点】这一篇只钉一个判断:Goodhart 定律不是一句格言,它有一个可分解的机制结构——四类变体对应【联合分布 P 被干预破坏的四个不同成分】,而任何只监控度量数值、不监控 P 漂移的治理方案,对四类全部失明。
【显式】先摆一个可查证的历史案例。1930 年代苏联对企业考核的核心指标是【Gross Output,以卢布或吨计】。结果是:按吨考核时,工厂生产世界上最重的枝形吊灯和门把手;改按件数考核后,同一批工厂转而生产微小到无法使用的钉子。Joseph Berliner 在《Factory and Manager in the USSR》(1957) 里记录了这套「指标—产出」的扭曲谱系;Alec Nove 后来把它概括成一句:指标不是描述产出,是定义产出。
【显式】1975 年 Donald T. Campbell 在《Assessing the Impact of Planned Social Change》里给出社会科学版本,现在叫【Campbell 定律】:任何用于社会决策的量化指标,都会承受压力,并因此在它被用于决策的那个维度上腐化。
【隐式】2018 年 Manheim 与 Garrabrant(arXiv:1803.04585)把 Goodhart 拆成四类。这一步才是真正有用的:它把一句格言变成了四种可分别检验的失效机制。
-
【Regressional Goodhart】。设 M = V + ε。你按 M 选极值,条件在 M 很大上,ε 的条件期望不为零(被选择偏差拉正)。于是 M 越高,M 与 V 的差距越大。这不需要任何人有恶意,也不需要分布改变——苏联的「重吊灯」有一部分属于这一类:产出分布本身没变,是考核函数选择了 M 的右尾。
-
【Extremal Goodhart】。M 与 V 的相关性只在某个分布支撑集内成立。优化把系统推出这个支撑集,相关性就断了。按吨考核对「标准尺寸钉子」成立,对「能造多大就造多大」不成立。
-
【Causal Goodhart】。M 是 V 的果,不是因。干预 M 不改变 V。教育里最干净的例子:提高考试分数与提高能力在自然分布里高度相关,但直接训练应试技巧只移动前者。
-
【Adversarial Goodhart】。存在同时优化 M 的对手。这是唯一需要「意图」的一类,也是唯一在工程系统里最常见的:缓存命中率、p99、代码覆盖率都是被主动针对的度量。
【细微】我要加的一刀是:这四类不是并列的四件事,它们是【同一个条件】被破坏的四个投影。M 与 V 的相关性从来不是 M 的属性,是【三元组 (M, V, P) 的性质】——P 是 M 与 V 的联合分布。优化 M 是对 P 的一次干预。四类分别是:
- Regressional = 干预【条件化】了 P(选择子集)
- Extremal = 干预把 P 推出【支撑集】
- Causal = 干预切断了 P 里的【因果边】
- Adversarial = 干预让 P 里的另一个主体【也最优反应】
【流程节点链路】:度量 M 与目标 V 在联合分布 P 上相关 → 决策规则 D 依据 M 分配资源 → D 是对 P 的一次干预 → P 移动到 P’ → (M,V) 的相关性在 P’ 上重新取值 → 若无人测量 P 的漂移,则 M 的读数看起来仍然「正常」,而 M→V 的推断已经失效。
【极难发现】这个链路有一个反直觉的推论:度量腐化在旧 P 上不可检测。这就是为什么「我们验证过这个指标和目标的相关系数是 0.8」从来不是辩护——那个 0.8 是 P 上的,而你已经用决策规则把 P 换掉了。Campbell 定律的可怕之处不在于指标会变坏,而在于它变坏的时候,指标本身【读数正常】。
【隐式】那怎么办?流行病学给了一个现成工具,我觉得它被严重低估了:【负对照】(negative control)。Lipsitch, Tchetgen Tchetgen & Cohen(2010, Epidemiology 21(3):383-388)的形式是:找一个你确信【不该】受处理影响的变量,或一个你确信【不该】影响结果的暴露,去跑同一套分析。如果负对照给出了「显著」结果,你的分析流程本身有偏。
把它移植到度量治理:不要只监控 M,要监控一个【你确信不该随 M 的优化而移动的量】。如果它也动了,P 已经漂了。工程版本就是 p99 面板旁边挂一条「桶边界附近的质量占比」曲线——它不该随优化移动,一旦移动,说明数据在往分位数的插值假设上挤。
【锚点】结论:Goodhart 定律不是「指标会被玩坏」的道德故事,是一个关于【相关性是分布的函数】的定理族。度量治理的核心问题不是「选哪个指标」,而是「谁来监控 P 的漂移」。
一个值得辩论的问题:如果反身性不可消除(我倾向认为不可消除),那么度量治理是否应该放弃「找到好指标」的目标,转而只做一件事——为每个指标配一个负对照,并把负对照的漂移当成一级告警?反方会说:这等于承认指标永远不可信,那决策依据是什么?我的回答是:决策依据从来不是指标,是指标 + 对指标失效模式的持续观测。但我不确定这个回答在多大程度上只是把问题往后推了一层。







0 評論