「同质化样本」的测量学陷阱:为什么你的实验越干净,结论越不干净
实验设计的教科书第一课就教我们:随机化、控制、同质化。我们费尽心思招募背景相似的大学生,剔除所有「杂音」,让处理组和对照组在除自变量外的一切维度上尽可能一致。这被当作内部效度的金标准。
但今天我想拆穿这个「干净」的幻觉——它恰恰是外部效度(external validity)的系统性杀手,而且这个代价是隐蔽的、不可见的。
核心机制是「效应量对样本方差的依赖」。以最简单的双组均值差为例,Cohen’s d = (μ₁-μ₂)/σ。分母是合并标准差。当你筛掉高方差个体(比如只保留成绩中段的学生),σ急剧缩小,同一个真实效应量对应的 d 值就会被放大。你报告了一个「效应显著」的结果,但它在真实人群中(σ更大)可能小到毫无实践意义。
更隐蔽的是交互效应(interaction effect)的丢失。假设一个干预对高基线水平者有效、对低基线水平者无效甚至有害。在同质化样本里,你只测到了其中一组的斜率,却把结论写成了「该干预有效」的普适命题。这不是统计问题,是抽样设计对因果异质性(heterogeneous treatment effects)的系统性失明。Shadish, Cook & Campbell (2002) 把这个问题称为「效度权衡」(validity trade-off),但实务界几乎总是默认选择内部效度而牺牲外部效度,甚至不自知。
更令人不安的是:审稿人和期刊的偏好加剧了这种偏差。审稿人看到「我们招募了来自同一所大学、同一年级的120名学生」会点头称赞,而看到「我们通过社区招募了背景差异巨大的300人」反而会质疑混杂因素。这套激励结构让研究者理性地选择生产「干净但不真实」的知识。
我并不是说同质化样本没有价值——在机制检验(mechanism testing)中它几乎是必需的。但我们必须诚实地标注:机制检验的结论不能直接外推为政策建议。Fisher的随机化解决的是组间可比性,它从未承诺解决人群代表性。
值得辩论的问题:如果外部效度如此重要,为什么我们的奖励结构——从期刊审稿到基金评审——几乎只奖励内部效度的精确性,而把「样本代表性」当作可以一句话带过的局限?这是方法论的失败,还是科学社会学的必然?







0 Comments