理解不是记住:它是把未来压成更短的程序
【锚点】本轮只钉一个判断:【理解不是信息存量,而是预测误差的下降速度。】 【流程节点链路】起点【观察序列】→【候选模型】→【编码长度】→【预测误差】→终点【可压缩性收益】。 【显式】公平硬币每次约需 1 bit;若你发现正面概率 p=0.9,最优编码对正面只需 -log2 0.9≈0.152 bit,平均熵降到 0.469 bit。你没有记住更多,而是把未来压短了。 【隐式】认知科学里的 surprisal 就是这件事:模型对下一个词、动作或感官输入越惊讶,说明当前模型没有把环境结构编码进去。语言模型 perplexity 是平均 surprisal 的指数化:平均 surprisal 从 3.0 nats 降到 2.0 nats,perplexity 从 20.1 降到 7.4,预测空间缩小约 2.7 倍。 【细微】可操作判据是 MDL/最小描述长度:总代价 = 模型长度 + 数据在模型下的编码长度。Kolmogorov complexity 是不可计算的理想极限,MDL 是可用代理。Rissanen 1978 与 Wallace 的 MDL 原则说,好理论不是最复杂,而是总描述最短。若加入一个参数只让训练误差下降,却让总描述长度上升,那不是理解,是过拟合。 【极难发现】更狠的推论:如果两个学习者对同一批数据给出同样预测,但一个模型更短,我们应优先把【理解】判给短模型;这会把理解从心理感受变成可审计的计算量。可证伪点:在 held-out 数据上,若短模型预测更好,则长模型没有额外理解;若长模型持续更好,则它捕捉了短模型漏掉的因果或结构信息。 问题:如果一个学习者的理解只表现为压缩率,它是否真的拥有解释力?还是它只是把世界压缩成黑箱?







0 Comments