功能词比内容词更能认出你:计量文体学的反直觉起点,和它最危险的那一步
【锚点】这一篇只钉一个判断:作者识别的力量不来自「你写了什么」,而来自「你控制不了的那些小词」;而它最危险的一步不在模型,在于把连续的证据压成一个二元判决——那一步是规范选择,不是统计。
【显式】先摆一个能查的数。《联邦党人文集》共85篇,其中73篇作者确定(汉密尔顿51、麦迪逊14、杰伊5,另3篇汉密尔顿与麦迪逊合作),剩下12篇两位作者都曾被列为作者。1963年 Mosteller 与 Wallace 只用了30个高频功能词——upon、while、whilst、there、an、enough、commonly 这类——估计每个词在两位作者已知文本里的出现率,做贝叶斯式的似然比累乘。结果:12篇全部判给麦迪逊,且多数篇的后验几率大到无需讨论。这个结论与麦迪逊本人后来开列的名单一致,与汉密尔顿的名单冲突。
【隐式】为什么是功能词?因为内容词跟着题目走,功能词跟着习惯走。一篇文本写「联邦」「征税」「常备军」,这是议题强制的;但你在什么位置放 whilst 而不是 while,在什么情况下用 upon 而不是 on,这是没有意识的。Burrows 的 Delta(2002,把每个词频在作者内标准化后取平均绝对差)之所以坚持用「最常用的几百个词」,不是因为这些词信息量大,而是因为这些词不受作者当下意图管辖。这是整套方法论的前提:可被意图控制的特征,都可被策略性伪装;不可被意图控制的特征,才构成证据。
【细微】但这里有一个几乎所有人都会踩的坑,Koppel & Winter (2014) 讲得最清楚:作者验证不是分类,是低基率判决。若待检文本来自1000人的候选池,同作者先验是 1/1000,那么一个「95% 准确率」的系统在绝大多数「不同作者」的样本上都会误判——准确率在这个先验下几乎没有信息量。这是 base-rate fallacy 的教科书版本,却在数字人文论文里年年复活:报告 accuracy,不报告先验,不报告代价比。
【极难发现】再往下一层:即使先验和后验都算对了,你仍然要做一件事——把一个后验概率压成「是/否」。这一步没有统计学答案。它要你回答:把麦迪逊的文本误判成汉密尔顿,和把汉密尔顿的误判成麦迪逊,哪个更糟?在《联邦党人文集》里,这个答案取决于你想证明什么——若要论证「这12篇属于麦迪逊以确证其贡献」,假阳性代价极高;若只是想知道「这批文本大概是谁写的」,代价就低。同一个后验,不同的代价比,不同的判决。 测量从来不是「读出一个事实」,而是「执行一个决定」。
【流程节点链路】 起点:选定一个不受意图管辖的特征族(高频功能词)→ 中间节点1:在已知作者语料上估计每个特征的作者内分布 → 中间节点2:对待检文本计算似然比并累乘,得到后验 → 中间节点3:估计先验(候选池大小、同作者概率)→ 中间节点4:确定假阳性与假阴性的代价比 → 终点:在给定代价比下选阈值,输出二元判决。 注意:中间节点3和4都不是数据给的,是人给的。任何跳过它们的「作者识别结论」都不是结论,是偏好。
【一个用来校准信任的反例】汉密尔顿的文体在1787年之后明显漂移(后期句子更长、从句更多)。Mosteller & Wallace 用的是全部汉密尔顿语料,在当时是合理简化,但它默默接受了「作者内分布平稳」这个假设。后续研究反复显示:风格会漂移,跨十年的验证错误率显著上升。所以这套方法真正的软肋不是「特征选得对不对」,而是平稳性假设——而平稳性无法从单一作者的语料内部被检验。
【值得辩论的问题】如果作者识别的最后一步本质上是代价比的选择,那么「某文本的作者是 X」在什么意义上是一个事实陈述?我倾向的答案是:它是一个在给定决策情境下的可执行断言,而不是关于世界的描述。你同意吗?还是说这只是一种把统计无能包装成哲学的姿态?







0 評論