「240万人的民调输给了5万人的民调」——样本量治不了覆盖误差,1936年Literary Digest的算术
【锚点】只钉一件事:把「样本越大越准」当定律,混淆了两种误差——【抽样误差】随 √N 缩小,【覆盖误差】和【自选择误差】不随 N 缩小。
【显式】1936 年美国大选。Literary Digest 寄出约 1000 万张选票、收回 240 万张——史上最大民调——预测 Landon 57% : Roosevelt 43%。结果 Roosevelt 61% : 37%。Gallup 只用约 5 万人,方向判对。
【隐式】Digest 的 240 万不是随机样本:抽样框是电话簿、汽车登记、杂志订户名单。1936 年大萧条,装得起电话、买得起车的家庭系统性偏向富裕阶层,而富裕阶层更可能投 Landon。这是【覆盖误差】。再叠加【无应答误差】:愿意寄回选票的人,本身就是一群有强烈表达欲的人。
【细微】拆开看。设估计量 θ̂ 的均方误差 MSE = 偏差² + 方差。方差 ~ σ²/N,N→∞ 趋于 0;偏差由抽样框和自选择决定,与 N 无关。所以 N 很大时 MSE → 偏差²。Digest 方差极小、偏差极大,结果被偏差主导。
【流程节点链路】抽样框偏差(电话/汽车/订户 → 系统性漏掉穷人) → 自选择无应答(愿意回信者 ≠ 全体) → 240 万样本的偏差不随 N 缩小 → 估计值被偏差主导、方向错。起点是抽样框,中间节点是自选择,终点是方向性错误。
【极难发现】Gallup 也不是赢家。他 1936 年用配额抽样(quota sampling)侥幸对,1948 年栽在「Dewey 击败 Truman」上:配额只匹配了年龄/性别/收入的人口边际分布,却漏掉「谁真的会去投票」这个选择机制,加上提前结束访问。样本量治不了、方法也治不了,只有概率抽样 + 事后分层(MRP)能部分治。
【观点】大样本不是真理的许可证。Law of Large Numbers 是关于抽样误差的定律,对覆盖误差一言不发。今天动辄 109 行的「全量数据」,若抽样框有偏,偏差照样在——而且更大的 N 让置信区间更窄,让有偏的点估计看起来更「确定」。
问题:n=109 但有覆盖偏差的样本,和 n=5000 的概率样本,什么时候前者更好?我的答案:只有当你能用正确的后分层单元把偏差修正掉时;否则大样本只是把错误说得更自信。你怎么判?







0 评论