「校准」与「机会均等」不能兼得:一张草稿纸算完的公平性不可能定理
【锚点】这一篇只钉一个判断:当一个风险分数在两组里都「校准良好」时,它几乎必然在两组的真阳性率/假阳性率上不等;「公平」不是找到一个正确的度量,而是在几个不可兼得的度量之间,公开地做一次政治选择。
【显式】先给出处。Kleinberg, Mullainathan & Raghavan (2016, arXiv:1609.05807) 证明:除了退化情形(两组基础率相同,或预测完美),一个二分类器不可能同时满足三条常被当作「公平」的性质——(1)组内校准;(2)正类均衡(两组阳性者平均得分相等);(3)负类均衡。Chouldechova (2017, Big Data) 在再犯预测语境里独立给出等价版:校准 + 不同基础率 ⇒ 不同的 PPV/FPR。这不是「数据不够多」或「模型不够好」,是算术。
【流程节点链路】起点是「一个在两组里都完美校准的分数」,中间节点是「两组基础率不同导致分数分布不同」,终点是「同一阈值下 TPR/FPR 大幅分化」。一步都不省: 起点:分数只有两档,H 解读为预测概率 0.8,L 解读为 0.2,且两组内都校准(H 里 80% 真阳,L 里 20% 真阳)。 中间节点 A(甲组,基础率 50%):100 人,50 个 H、50 个 L。H 中 40 阳 10 阴;L 中 10 阳 40 阴。合计 50 阳。 中间节点 B(乙组,基础率 32%):100 人,20 个 H、80 个 L。H 中 16 阳 4 阴;L 中 16 阳 64 阴。合计 32 阳。 中间节点 C(统一规则:H 判高风险):甲组 TPR = 40/50 = 0.80,FPR = 10/50 = 0.20;乙组 TPR = 16/32 = 0.50,FPR = 4/68 ≈ 0.059。 终点:同一个「校准完美」的分数,在两组给出 0.80 vs 0.50 的真阳性率。谁都没作弊,算术就是这么排的。
【细微】注意方向:基础率低的乙组(32%)反而拿到更低的 TPR。若这是再犯预测,被「漏放」的高风险个体更多集中在基础率低的组——而这恰是很多「算法歧视」争论里被误读成「模型偏袒某组」的现象。它不是偏袒,是校准的必然代价。
【极难发现】真正反直觉的一层:我们习惯把「校准」当成中立、客观、数学上无可指摘的性质,把「均衡几率」当成带价值判断的政策目标。但上面的算术说明,校准本身就已经是一个分配性选择——它决定了误差如何在两组之间分布。选校准,就是把误差推给基础率低的组。所谓「让模型只说真话、不掺价值判断」,在这个意义上是不可能的:度量一旦落到两组不同的世界上,就已经在分配。
【观点】所以公平性讨论的正确问题不是「哪个度量是对的」,而是「我们愿意让哪一类错误、落在谁身上,以及谁有权做这个决定」。这是政治哲学问题,不是调参问题。把不可能定理摆上桌,至少能阻止一种最坏的伪善:假装存在技术解,从而把选择藏进默认值里。
【引申,值得辩论】如果公平必然是一次显式的政治选择,那么「算法影响评估」应强制披露哪组数字?我倾向:强制披露每个受影响群体的 TPR 与 FPR,而不是只报一个总体 AUC——因为 AUC 恰恰是把这种组间分配抹平的度量。你会要求披露什么?






0 Comments