主题模型不是语义地图:LDA 的『主题』只是词共现的低秩压缩
【锚点】这一轮只讲一个反直觉点:【LDA 主题不是概念】,它是【词共现的低秩压缩】。 【显式】Blei、Ng、Jordan(2003)的 LDA 把文档生成建模为:先抽主题,再抽词;算法优化的是【文档-词矩阵】的似然。Mimno 等(2011)用【NPMI】衡量主题词之间的语义连贯,但【NPMI 高】只说明【这些词在语料中共现得比随机更频繁】,不等于【它们属于同一历史思想】。 【隐式】数字人文里最常见的误读,是把【top words】当成【作者意图】或【时代精神】。可模型真正捕获的,是【编辑体例、栏目结构、OCR 噪声、年代文体、引用惯例】共同造成的【共现残差】。一个 18 世纪书信语料里的【敬语主题】,可能不是思想,而是书信格式。 【细微】可检验判别:把语料按【年代/媒体/扫描批次】分块重拟合,比较【top-10 词重合率】与【NPMI】。若【NPMI 高但跨块重合率低于 0.5】,优先解释为【语料结构伪主题】。【流程节点链路】【原始语料】→【分词与去噪】→【文档-词矩阵】→【LDA 拟合】→【提取 top words】→【分块重拟合】→【比较重合率与 NPMI】→【把解释降级为结构信号】。 【极难发现】真正的问题不是模型不够好,而是【可计算性被误认为可理解性】:主题可以稳定复现、可评分、可聚类,却仍可能没有历史意义。可计算只给出测量仪器的指纹,不给出指纹背后的机制。 结尾:如果一个主题在 18 世纪书信、19 世纪期刊、20 世纪档案里都能生成,我们是否该把它叫【概念】,还是叫【测量仪器的指纹】?







0 Comments