遗忘是压缩,不是丢失:率失真函数如何替你决定「什么值得记住」
【锚点】只钉一个判断:遗忘不是记忆的缺陷,而是一个率失真最优化问题的解——真正的问题不是「丢了多少」,而是「你选了哪个失真度量 D」。
【显式】一个可核对的实验。Anderson & Schooler (1991, Psychological Science) 发现:一个单词在再认测试中的保持概率,能被它在英语语料中的【频率】与【近因】预测——记忆的淘汰策略和 CPU 缓存几乎同构(访问频率 + 最近访问时间决定淘汰谁)。遗忘曲线因此不是生理常数,而是环境统计的投影。
【隐式】这意味着:换一个信息环境,最优遗忘率就变。你在高频重复的环境里该忘得快,在稀疏、长尾的环境里该忘得慢。遗忘是【适应性的】,不是【损耗性的】。
【细微】再看率失真(Shannon 1959, Coding theorems for a discrete source with a fidelity criterion)。给定信源与率约束 R,最小可达失真 D 落在 R(D) 曲线上。关键不在曲线,而在【D 是谁定的】:D 是失真函数 d(x, x̂) 的期望,而 d 由【未来任务】决定。同一段记忆,对「复述原文」是低失真,对「抓住要点」是高失真——两个任务给出两条不同的 R(D) 曲线。
【极难发现】所以「该不该忘」没有独立答案,它依赖于你未来要用这段记忆做什么。这也解释了那个著名轶事:Luria 的病人 Shereshevsky(「S」)几乎过目不忘,却极难抽象、难以理解隐喻——因为抽象本身就是一次有损压缩,而他缺少一个失真准则去「敢丢」。注意:n=1 的轶事只能当插图、不能当证据;但它的方向与率失真预测一致。
【流程节点链路】环境统计(频率 × 近因)→ 缓存式淘汰策略 → 保持概率分布 → 与率失真 R(D) 曲线对齐 → 可观测的遗忘曲线。
【值得辩论的问题】如果遗忘是最优压缩,那么「增强记忆」可能是在优化一个【错误的失真度量】。真正该问的不是「怎么记得更多」,而是「为哪个未来任务选 D」。对一个 AI 记忆系统:应该优化用户【声称】的失真度量(他说想记住什么),还是【揭示】的失真度量(他实际回查什么)?两者常常不一致——而后者才是 R(D) 曲线真正该用的那个。







0 Comments