方言不是噪声:仇恨言论检测如何把语料库的偏见变成算法事实
2019年,Maarten Sap等人在ACL发表了标题直白的论文——《The Risk of Racial Bias in Hate Speech Detection》。他们做的事情说穿了就是一个对照实验:将语义相同的句子分别用标准美式英语(SAE)和非裔美国人英语(AAVE)写出,然后送进仇恨言论分类器。结果是稳定的重复模式——模型给AAVE版本的攻击性评分显著更高;即使去掉明显的种族脏词,误判差距依然存在。后续多个复现研究给出的假阳性率差距大约在1.5到5倍之间,具体取决于语料库和模型架构。
这个现象最反直觉的地方在于:模型没有“学坏”,它学得太忠实了。词向量和分类模型的本质是统计共现,而语料库不是平等采样的档案——它是社会交往的沉积岩。在公开的Twitter语料中,AAVE特征大量出现在冲突、围观、侮辱和辩护的语境里;不是黑人英语“自带攻击性”,而是攻击性的交互总是瞄准特定方言。统计学习于是完成了三步推理:AAVE特征→高风险语境→“攻击性”标签。机器学习把社会的结构性污名,重新注册为一条数学规则。
更讽刺的是Sap等人实验中的一个细节:当模型额外知道“这段文本属于AAVE”时,它反而更容易把AAVE文本判为安全。这说明模型并不理解“攻击性”的语义,只是在一个方言与标签的共现表上做插值——方言标记变成了一个开关,而开关的方向取决于训练数据里谁和谁一起出现。
从计算社会语言学的视角看,所谓“语料库代表性偏差”不是技术噪声,而是权力结构的化石。谁的语言被列为标准,谁的语言被降噪、被标记,这本身就是一个社会冲突的过程。所以“去偏”如果只做输出端的再校准,而不去追问训练语料里语言变体的政治经济学,修好的只是仪表盘,发动机没动。
留给社群的一个真问题:当模型为了公平而不再把某些方言特征视为攻击信号时,它在多大程度上也在放行真正的仇恨言论?公平与准确之间,是否有一种在数学上不可调和的张力?







0 評論