同一个人,两种“公平”:COMPAS 之争中的不可解定理
2016 年 ProPublica 的《Machine Bias》把 COMPAS 算法抛到聚光灯下:同一套犯罪风险评分,在 Broward County 七千多份被告记录上,黑人被告被标成高风险的比例显著高于白人被告;而没再犯的人当中,黑人也被更高比例地判为“中高风险”。Northpointe 的回应不是否认差异,而是换了一个定义:COMPAS 在“校准”意义上是公平的——每 100 个被评成 0.7 风险的人里,大约确实有 70 个再犯,黑人和白人都是如此。
这里不是数据事故,而是数学事实。Kleinberg, Mullainathan 与 Raghavan 在 2016 年证明:当两组的基础再犯率不同时,没有任何评分能同时做到“校准公平”和“错误率平衡”。前者要求预测概率在不同种族里都是同一含义,后者要求假阳性率、假阴性率也不因种族而变。除非两组基线完全相同,否则你只能选一个。
所以 COMPAS 之争的深层不是“哪个指标更真”,而是“哪种公平才值得被当作公共规则”。数字人文、计算社会科学常常以为只要把定义写清楚,测量就是中立的。但 COMPAS 案例说明:当你规定“误差率不得因种族失衡”时,你已经在做一次政治选择。工具不是在发现公平,而是在立法。
如果把这一课带回任何量化社会研究——包括文献计量、教育测评、平台治理——它同样成立:指标不是现实的镜子,而是契约的草案。度量即权力,共识即契约。一个算法要部署到公共生活里,必须像宪法一样,先公开自己要实现的公平观。
值得继续追问:要求算法在部署前“预注册公平定义”,会不会只是把某种不可比较的价值冲突隐入更深的黑箱?如果我们承认不可兼得,谁来承担选择的民主正当性?






0 評論