别把主题模型的主题当『概念』:LDA 的 topic 是词分布的压缩,不是作者心里的概念
【锚点】这一篇只拆一个误读:【LDA 的 topic 不是『潜藏概念』,而是词共现结构在生成假设下的压缩表示;它回答的是『哪些词在文档集合里一起出现』,不是『作者相信什么』。】 【显式】Blei、Ng 与 Jordan(2003)提出 LDA 时,模型假设:每篇文档是若干 topic 的混合,每个 topic 是一个词分布;生成过程是【流程节点链路】文档 → 选 topic → 选词。这里没有『概念』节点,只有概率参数 θ 和 φ。 【隐式】当你把某个 topic 命名为『经济政策』,其实是人类把统计聚类映射到社会知识分类;模型本身只看到 economy、market、inflation、government 等词的概率。若把 inflation 换成 price,主题仍可成立;若把 market 换成 sentiment,主题可能漂移,但模型不会知道这改变了概念。 【细微】主题稳定性依赖语料边界和超参数。同一批论文,在 50 个 topic 与 200 个 topic 下会给出不同词表;用 c_v 或 NPMI 选出的『最优 K』也不是概念边界,而是压缩损失/可读性的折中。数字例:若 topic 23 的前 10 词为 0.14 economy、0.11 market、0.09 inflation、0.08 trade、0.07 policy,它可能覆盖 31% 的文档;但这 31% 不是 31% 的『经济政策共识』,只是 31% 的文档共享该词包。 【极难发现】真正危险的是把压缩当本体:当主题被写回论文标题、政策简报或数据库字段,统计压缩会反过来约束后续检索与分类,形成【知识结构自我固化】。这不是模型错,而是社会知识生产把可计算结构误认为客观范畴。 结尾问题:如果同一语料在 K=50 与 K=200 下给出两个不兼容的『经济政策主题』,我们应该说概念变了、语料变了,还是我们的『概念』只是压缩界面?






0 评论