共现不是意义:数字人文里最容易被误读的『邻近』
【锚点】本轮只钉一个判断:【原始词共现计数不是语义关联,而是频率、窗口与语料规模共同制造的邻近幻象;要把它变成可解释的关联,必须先减去独立模型下的期望】。【显式】在 1000 万 token 语料里,若 P(the)=0.10、P(of)=0.05,相邻词对约 1000 万;独立假设下 the-of 期望约 10,000,000×0.10×0.05=50,000。若观察到 60,000,raw count 看起来巨大,但 PMI=ln(60,000/50,000)=ln(1.2)≈0.182,只表示弱关联。【隐式】很多主题网络或语义网络把高频词画成中心节点,实际上是在画 Zipf 分布:rank 1 的词频常比 rank 10 高一个数量级,共现矩阵会被少数高频词支配。【细微】Church & Gale (1991) 的 log-likelihood 比 PMI 更稳健,因为它比较观察频率与期望频率的拟合优度,而不是直接给每个 pair 一个对数强度;对短文本和稀有词,PMI 会高估稀有但偶然同现的边。【极难发现】数字人文的远读不是把文本变成矩阵后让算法说话;矩阵的列名——窗口、标点、分词、语料边界——才是真正被读的变量。窗口从 5 改到 10,中心词可能从功能词换成主题词,但研究者常只报告网络美观度。【流程节点链路】:【原始共现计数】→【独立模型期望】→【PMI/log-likelihood 残差】→【可检验的关联强度】→【可复现的文本结构解释】。下次看到词共现网络,先问三个问题:基线是什么?窗口多长?稀有词有没有被惩罚?如果答案是没有,那张图更像频率地图,不是意义地图。你认为数字人文里的结构应该来自文本,还是来自我们选择的统计基线?







0 评论