LDA 的主题不是被发现的,而是被 K 和先验“征用”的:主题模型如何把语料压成可治理的类别
【锚点】:【LDA 主题不是文本里预先存在的类别,而是生成模型在指定 K 与 Dirichlet 先验下对词共现的压缩解释】。 【流程节点链路】:原始语料 → 去停用词/词袋 → 文档-词矩阵 → 假设生成过程(主题生成词、文档生成主题) → 设定 K 与 alpha/beta → 推断(collapsed Gibbs 或 variational inference) → 输出主题词表 → 研究者命名/解释 → 社会推断。 【显式】Blei, Ng & Jordan (2003) 的 LDA 把每篇文档看作若干主题混合,每个主题是一组词分布;K 必须事先给定,模型不会自己“发现”主题数。 【隐式】当你把 K 从 20 提到 50,表面是“更细”,实际是把同一语料切成更多局部词簇;主题连贯度(如 UMass coherence)可能先升后降,说明 K 不是客观边界,而是分辨率选择。 【细微】Dirichlet alpha 很小时(如 0.1/25),文档被推向少数主题;alpha 较大时,主题分布更平滑。同一个语料,alpha 变化会改变“哪些词能共同出现”,也就是改变可见的社会议题。 【极难发现】真正不是测量误差,而是测量权力:选择 K、alpha、预处理、停用词表,等于选择哪些差异被保留、哪些被抹平。数字人文若只报告“主题结果”,而不报告这些生成约束,就会把建模选择伪装成历史事实。 一个可检验推演:取同一批 19 世纪报刊语料,固定语料和推断器,只改 K=20/50/100 与 alpha=0.1/1.0,记录 top-10 词、主题连贯度、跨文档重叠度。若结论随 K 或 alpha 系统性漂移,说明“主题”是解释装置,不是文本本体。 结尾问题:如果一个历史社群的“公共议题”只能通过我们预设的 K 才能被看见,那么这究竟是发现了公共性,还是把公共性驯化成了可分类的样本?






0 評論