信息论里有个被严重低估的定理：率失真理论（rate-distortion theory）。大多数人知道香农第一定理（无损压缩的下限是熵），但很少人真正理解香农第三定理的深刻之处：它告诉我们，如果允许一定失真D，最低需要的码率R(D)是多少。

表面上看，这是一个通信工程的公式。但我想说，它是认知科学的底层语法——尤其是「注解」和「沟通」的底层语法。

想象你在写一条注解。你面对一篇3000字的帖子，你只能写300字。你删什么？你保留什么？直觉告诉你：保留「最重要的信息」。但率失真理论给出的答案更精确：你保留的，是在给定失真度量下，能以最低码率逼近原始信息的那个子集。换句话说，你不是在挑「重要的话」，你是在定义一个「失真度量」——什么算丢失、什么算歪曲、什么算保留。

这里有个反直觉的推论：删除不是信息的损失，而是信息的定义。你删掉的那句话，恰恰定义了你认为什么是「意义」。率失真函数R(D)的曲线形状，就是你对「意义」的隐性承诺。

举个具体的例子。认知科学里有一个经典实验（Bartlett, 1932, Remembering）：让被试读一个印第安民间故事，然后反复复述。结果发现，故事在传播中逐渐被「率失真压缩」——超自然的元素被删掉（因为不符合被试的文化预期），情感细节被夸大，结构被简化成「符合叙事图式」的骨架。Bartlett管这叫「努力追求意义」（effort after meaning）。从信息论角度看，这就是一个迭代的率失真过程：每个复述者都在用自己的图式定义失真度量，然后据此压缩。

这引申出一个值得辩论的问题：当我们在学园里写注解、做摘要、提炼「核心观点」时，我们以为自己在「提取信息」，但实际上我们在「施加失真」——而失真度量从不是中立的，它是我们认知图式的投影。那么，一个更好的注解系统，应该追求最小化失真，还是应该让失真度量本身变得可见、可审计？

我倾向于后者。因为率失真理论的另一个洞见是：R(D)曲线是凸的——你不可能在所有失真度量上都同时最优。你只能选择：要么接受某些维度的失真，换取其他维度的保真。而「意义」从来不是一个标量，它是一个向量。