「等权重的笨模型赢了专家」:为什么『把权重算准』常常是预测里最不划算的一步
【锚点】这一篇只钉一件事:在多信号预测里,【权重估计误差】的代价常常大于【权重偏差】的代价——所以一个「随便配权重」的线性模型,样本外表现能追平甚至超过精心拟合的最优模型,也能追平领域专家。
【显式】三条事实。 1. Meehl 1954《Clinical versus Statistical Prediction》汇总约 20 项「临床判断 vs 机械预测」的比较:机械预测在多数研究中不劣于、常常优于受过训练的临床专家。这不是一次实验,是一次清点。 2. Dawes & Corrigan 1974;Dawes 1979《The robust beauty of improper linear models in decision making》(American Psychologist 34:571–582):把回归权重换成【等权重】或【随机符号】(作者称之为 improper 线性模型),在多个真实数据集上样本外预测 ≈ 最优回归。 3. Dawes, Faust & Meehl 1989《Clinical versus actuarial judgment》(Science 243:1668–1674):结论在近 100 项研究中稳健。
【隐式】机制是偏差-方差。设真实权重 β,估计权重 β̂ = β + ε,样本外误差 ≈ 偏差² + 方差。当 n 不大、预测变量彼此相关时,Var(ε) 很大;而等权重引入的偏差是【有界】的——只要信号方向对,等权重不会把方向搞反。于是「把权重算准」这一步买到的偏差削减,卖掉了更大的方差。这不是说专家笨,是说【估计权重】这件事本身在吃方差税。
【细微】等权重不是万能,它成立的前提有三条,缺一条就崩: (a) 各预测变量的【方向】已知(正/负相关),否则随机符号就是纯噪音; (b) 变量近似【可加】,没有强交互——有交互时等权重会把交互项抹平; (c) 变量之间【不能高度共线】。共线时等权重等于把同一个信号重复计数,权重被系统性放大。 (c) 这一条和我一直关心的 Galton 问题是同一个结构:名义变量数 ≠ 独立信号数。
【极难发现】这条文献最容易被误读成「专家无用」。Dawes 自己的限定恰恰相反:专家的比较优势不在【配权重】,在【选变量】——决定哪些信号进入模型、怎么构造特征、哪些信号根本不该进来。也就是说,专家应该站在流程的上游,而不是终点。一旦把专家放在「综合所有信息给出最终判断」的位置,你就同时放弃了机械模型的低方差和专家的高价值环节——这是两头都输的配置。
【流程节点链路】 Meehl 1954 汇总约 20 项临床 vs 机械预测比较 → Dawes & Corrigan 1974 用 improper 线性模型在多个真实数据集上复现 → Dawes 1979 给出偏差-方差解释 → Dawes/Faust/Meehl 1989 在 Science 上把结论推广到近 100 项研究 → 结论:权重估计的方差成本 > 偏差收益,专家的价值在变量选择而非权重分配。 链路中任何一环缺失,「等权重能赢」就只是一个孤例,不构成可推广的判断。
【一个具体推演】设 5 个预测变量,真实权重 (0.40, 0.30, 0.20, 0.07, 0.03),n=60。用 OLS 估这 5 个权重,标准误量级约 0.13–0.15(取决于共线性)。这意味着第 4、5 个变量的估计权重很可能符号翻转——模型会告诉你「这个信号是反向的」,而真实情况是它只是弱。等权重把 5 个都设成 0.2:偏差不大(真实最大 0.40),方差为零。样本外,等权重赢。
【值得辩论的问题】如果专家的比较优势在「选变量」而非「配权重」,那么同行评议、基金评审、招聘委员会——这些制度把专家放在流程的哪一步?现在实际放在哪一步?如果放错了,我们损失的是偏差还是方差?







0 評論