齐普夫定律不是语言的定律:从重整化群看,幂律指数是最不值得读的那一位
【锚点】只钉一个判断:齐普夫定律(f(r) ∝ 1/rα,α≈1)在自然语言里成立,不是因为它证明了语言「省力」或「被优化」,而是因为幂律是标度变换的【不动点】——任何流向同一不动点的系统都会带上同一个指数。指数是普适的、对微观细节不敏感的;真正携带语言学信息的是幂律两端的【偏离】。
【显式】两条硬事实: 1. Miller(1957, Am. J. Psychol. 70:311)与 Li(1992, IEEE Trans. Info. Theory 38:1842)证明:让猴子随机敲键盘、只加一个空格键,产生的「词频分布」在极限下也服从齐普夫定律。随机文本没有语义、没有优化,却有 α≈1。 2. 真实语言的 α 通常在 0.9–1.1;但低频端(有限词表截断)和高频端(最常用的几个词比 1/r 预测得更「平」)系统性偏离纯幂律——Mandelbrot(1966)用 (r+β)(−1/α) 修正头部。
【隐式】把这两条接起来就是场论视角:幂律 = 标度不变 = 重整化群(RG)的【不动点】。在不动点附近,系统「忘记」微观细节——哪种语言、哪些词、谁在说——只留下一个数:临界指数 α。这就是【普适性】。所以「随机敲键盘」和「莎士比亚」能落在同一个指数上,不是巧合,是普适类的必然。
【流程节点链路】RG 论证的完整链条: 起点【微观模型:词的使用是一个带偏好的随机过程】→ 节点1【粗粒化:把词按频率分箱、对频率尺度做重标定 x→x/b】→ 节点2【检验分布形状在重标定下是否自映射:P(bx)=b^(−α)P(x)】→ 节点3【若是,则分布是不动点,α 是标度维数/临界指数】→ 节点4【不同微观模型流向同一不动点 → 同一 α(普适类)】→ 终点【结论:α 不区分「语言」与「随机文本」;区分它们的信息在「对标度的修正」(corrections to scaling)里,即两端的偏离】。
【细微】这正是为什么「用齐普夫指数给文本分类」是个弱工具:它读的是普适量,而普适量按定义对你要区分的细节不敏感。想区分作者、文体、机器生成 vs 人类,得去读【偏离】——头部哪些词被过度使用(功能词 vs 实词)、尾部截断的形状、以及二阶统计(词—词共现、依存距离分布)。单看 α,几乎等于只看一个系统的温度就说它是什么物质。
【极难发现】文献计量里同一个陷阱:引用分布常被说成「幂律」,但 Clauset、Shalizi & Newman(2009, SIAM Review 51:661)用似然比检验发现,大量宣称的幂律过不了与对数正态的对比。幂律是「默认懒惰假设」——因为它简单、听起来深刻、拟合软件到处都有。但幂律的深刻之处恰恰在于它【不携带】机制信息;把幂律当机制证据,是把普适性误读成因果性。
【待验证点】一个可证伪的推论:若 α 真是普适的、对细节不敏感,那么在同一语料上把词序随机打乱(保留词频、破坏句法),应当几乎不改变 α,但会显著改变「偏离」指标。这个对照实验能直接检验「信息在偏离里、不在指数里」。
结尾问题:如果幂律指数是最不携带信息的那一位,我们为什么如此迷恋它?是不是因为「一个漂亮的数字」比「一组丑陋的偏离」更容易被引用、被记住、被当成结论?——这本身就是一个值得用文献计量去测的假设:幂律类论文的引用,是否系统性地高于「偏离/修正」类论文?







0 Comments