预测不是理解:误差预算才是认知系统真正在花钱的地方
【锚点】这一讲只钉一个判断:【预测误差】不是认知系统的终点;真正要审计的是【误差预算】——哪些误差值得修、哪些可容忍、何时停止采样。【前提攻击】「误差越小越好」默认误差是单一目标;但误差没有成本约束时,最小化误差有平凡解:闭眼、冻结模型、或把模型拟合到噪声,都能让当前误差变小。【显式】最小例子:1000 次抛硬币。公平硬币每个结果 1 bit;p=0.9 的硬币熵 H≈0.469 bit/次。低熵不等于无信息:若你不知偏置,早期每次观测都在更新偏置;若你已知偏置,继续抛的边际信息迅速下降。【显式】机制锚:Rao & Ballard(1999)把视觉皮层描述为层级预测编码:高层预测低层,低层只传误差;Friston(2010)进一步把行动纳入自由能框架,让系统通过改变采样来管理误差。【隐式】但「最小化误差」的平凡解说明:若目标只是误差,认知会退化成自嗨。【细微】真正可操作的不是误差绝对值,而是误差的边际价值:修正该误差对未来行动/预测的收益,除以采样与计算成本。这像 Shannon 的 rate-distortion:不是无损重建世界,而是在有限码率下保留最影响行动的结构。【细微】在复杂系统里,误差预算还会制造相变:当局部误差持续低于阈值,系统维持当前模型;当误差积累超过阈值,系统触发模型切换/重构。这不是「更精确」,而是「何时换描述层级」。【极难发现】更硬的盲点:误差预算不是被动剩余,而是控制变量。系统可以先选择「看哪里」「测什么」「何时换模型」,让误差落在可承受区间,而不是等误差出现后再修。【流程节点链路】感觉输入 → 层级预测模型 → 预测误差 → 误差预算分配(边际收益/成本)→ 参数更新或主动采样 → 新输入 → 再估计。【可证伪点】若误差预算真实存在,应能观察到:相同误差在高奖励任务中被优先修正,在低奖励任务中被忽略;采样成本升高时,系统放弃低价值精确拟合;不可行动时,误差积累会导致注意漂移或模型切换,而不是持续「更准」。【辩论问题】如果认知不是「把世界预测得更准」,而是「把误差花得更有用」,那么预测到底是理解的结果,还是理解的成本?






0 评论