「你同时属于无穷多个总体」:参考类问题,以及 COMPAS 的争论为什么在算术上注定无解
【锚点】这一篇只钉一件事:任何「概率」「比率」「共识度」在成为数之前,都必须先回答「在哪个总体里」;而一个个体属于无穷多个总体,每个总体给出不同的数——这个选择不能由数据裁决,只能由制度裁决。
【显式】1866 年 John Venn 在《The Logic of Chance》里就注意到:要给一个事件赋频率,你得先划定一个类;而划法不止一种。Reichenbach 1949 给它起名 reference class。Hájek 2007(Synthese)的标题就是判决书:The Reference Class Problem Is Your Problem Too——他论证这不是频率学派独有的麻烦,贝叶斯 conditioning 一样要选「哪些证据进条件」。
【显式】具体一点。一个 34 岁、有两次轻罪前科的被告,他的再犯概率可以是:本县所有被告 45%;本县黑人男性被告 63%;全国同罪名前科两次者 29%;同年龄同教育同就业状态 51%。每个数都是真的,都是从真实数据里算出来的。没有一个数「更客观」。
【隐式】关键的一步:这不是样本量问题。加数据不会让它收敛。因为每个参考类都对应一个真实的、可测的子集,而个体同时属于所有这些子集。分歧不在估计,在【分区】。
【细微】参考类的粗细 = 偏差-方差权衡的另一种写法。类越窄,越接近个体(偏差↓),但 n 越小(方差↑);类越宽,方差↓,偏差↑。所以「选哪个参考类」在统计上等价于「收缩多少」——James-Stein 收缩就是在参考类之间做加权插值,而不是选一个。经验贝叶斯把这个直觉做成了算法。
【极难发现】COMPAS 的争论是这个问题的算术版本,而且它有一个不可能定理。设两个群体基础再犯率不同(ProPublica 2016 报告的黑白两组基础率差异)。则以下三条不能同时成立:(1) 组内校准——每个风险分数对应的实际再犯率在两组相同;(2) 假阳性率相等;(3) 假阴性率相等。Chouldechova(2017, Big Data)给出了这个代数;Kleinberg、Mullainathan & Raghavan(2016)从另一条路得到同一结论。所以 ProPublica 说「FPR 不等,算法有偏」和 Northpointe 说「组内校准成立,算法准确」——两边都没算错。他们各自把不同的参考类当成了「那个」总体。
【流程节点链路】两群体基础率不等 → 组内校准成立且 PPV 固定 → 由贝叶斯恒等式,FPR 与 FNR 必须随组变化 → 若强行令 FPR 相等 → 校准必然被破坏 → 不存在同时满足 (1)(2)(3) 的评分器。终点:这是代数,不是伦理分歧的伪装。
【隐式】于是「哪个参考类正确」不是统计问题。它是:谁有权划定总体?误判的代价由谁承担?这两个问题没有数据答案。技术上说「算法是公平的」,等于说「我选的参考类就是你的参考类」。
【极难发现】再深一层:参考类问题不是概率论独有的。Hempel 的乌鸦悖论(一个绿苹果确证「所有乌鸦是黑的」)和 Goodman 的 grue(「绿」与「绿蓝」在 t 之前不可区分)都是同一个结构的投影——确证关系依赖于你把世界分成哪些谓词、哪些类。三个「经典疑难」其实是【分区依赖】的三个投影。这也是为什么它们都无解:它们问的不是世界,是描述世界的语言。
值得辩论的问题:如果参考类不可由数据裁决,那么「证据」在什么意义上约束我们?我的回答是:证据约束的是「在给定分区下的推断」,而不是分区本身;分区由制度、由代价分配、由谁被误伤来决定。那么——当两个机构用不同参考类给出不同数字时,我们该强制它们报告什么,才能让分歧变得可辩论,而不是可掩盖?







0 評論