跳转到内容
← 返回研究方法
量化方法方法论约 17 分钟阅读

统计模型

Statistical Modeling

统计模型回归因果推断不确定性分层模型

破除误解

统计模型不是把数据放进软件后等它给出真相,也不是在表格里找到显著星号就宣布发现。它是一种把理论问题、数据结构和不确定性连接起来的推理工具。模型的作用不是替研究者思考,而是迫使研究者明确:比较的是谁和谁,控制了什么,遗漏了什么,误差来自哪里,结论能推广到哪里。

  1. 误解第二个误解,是以为统计模型越复杂越高级。

    实情复杂模型可以处理复杂结构,但也可能掩盖脆弱假设。一个清楚的交叉表、一张分组趋势图、一个简单回归,有时比堆叠变量的模型更能说明问题。

  2. 误解第三个误解,是把相关当因果。

    实情社会学模型常能显示教育、收入、性别、地区和健康之间存在关联,但关联本身不能说明原因。统计模型必须和研究设计、理论机制、时间顺序和替代解释一起使用。

回归系数被读成“X 对 Y 的效应”,是社会科学里最普遍的越界。普通最小二乘在一组假设下给出最佳线性近似,这些假设并不包括“你控制得够多,因果就出现了”。戴维·弗里德曼反复写过:回归是一种描述装置;把它当成因果引擎,是把软件输出读成了世界结构。见 实验与准实验。

模型从问题开始

统计模型首先服务研究问题。研究者要问:我要描述分布,解释差异,预测结果,还是识别因果?不同目标需要不同模型。

描述性模型关注社会状态。例如不同收入组的住房负担率、不同年龄群的孤独感、不同地区的教育机会。解释性模型关注变量之间的关系,例如家庭背景如何与大学入学机会相关。预测模型关注未来或未知个体,例如哪些学生更可能辍学。因果模型则问如果某条件改变,结果是否会改变。

这四种目标不能混淆。一个预测很准的模型未必解释机制,一个解释清楚的模型未必适合预测,一个相关模型未必能识别因果。

调查数据尤其容易把目标混在一张表里。一份全国概率样本很适合描述和相关,却几乎从不自带处理分配。见 调查研究。把横截面回归写成“教育提高了收入”,省略的是:谁上了大学、谁没有,本身已经被家庭、能力和制度筛选过。

变量与操作化

统计模型中的变量不是自然落下来的,它们是操作化的结果。阶层可以用收入、职业、教育、资产或主观认同测量;社会资本可以用朋友数量、可求助资源、组织参与或网络位置测量。不同操作化会得到不同结论。

研究者必须说明变量为何能代表概念。若用收入代表阶层,就可能忽视资产和职业声望。若用学历代表教育,就可能忽视学校质量、专业差异和家庭文化资本。若用点赞数代表支持,就可能忽视讽刺、围观和算法推荐。

变量选择还涉及伦理。把族群、性别、地区、户籍或家庭背景放进模型,可能揭示不平等,也可能被误用于标签化。模型不是中立物,它会改变人们理解群体的方式。

操作化一旦进入回归,就变成了“保持其他条件不变”的那组其他条件。测错了的控制变量,不是中性的噪声,它会把系数推向错误的方向。测量误差在自变量上通常把效应往零拉;在控制变量上,它可能让你以为已经控制,其实没有。

回归的基本逻辑

回归模型试图估计在其他条件相同的情况下,一个变量与结果变量之间的关系。例如在控制家庭背景、性别和地区后,教育年限是否仍与收入相关。

“控制变量”不是魔法。只有当控制变量被正确测量、理论上合适,并且没有引入新的偏差时,它才有帮助。控制过多可能把真正的机制控制掉,控制过少可能留下混杂。

回归系数需要放回社会意义中解释。一个系数显著不代表影响重要。样本很大时,小到几乎没有现实意义的差异也可能显著。研究者应报告效应大小、置信区间和实质意义。

因果图把“该控制什么”从直觉变成可推导的问题。混杂因子在原因和结果的共同前因上,应当控制。中介变量在因果路径上,控制它会把要估计的总效应切掉一段。对撞因子被两个变量共同指向,控制它反而打开一条伪路径。把凡是能找到的人口学变量一股脑塞进右边,不是谨慎,是三种错误的随机混合。

“其他条件相同”在观察数据里几乎从不成立。回归制造的是统计上的条件相同:在已测变量的取值上对齐。未测的动机、学校质量、歧视和运气仍在残差里,并且常常与教育相关。这就是为什么同一张教育—收入回归,在随机分配奖学金的设计和在自愿升学的调查里,意思完全不同。

弗里德曼的警告针对的是一种职业习惯:先跑回归,再为系数发明故事。顺序应当反过来。先有比较的对象、反事实和替代解释,再决定要不要用回归去估计。模型是估计器,不是发现引擎。

分类结果与计数结果

社会学数据常不是连续变量。是否就业、是否迁移、是否投票、是否进入大学,是二元结果;职业类别、居住类型、家庭形态,是多分类结果;抗议次数、犯罪次数、发帖数量,是计数结果。

这些结果需要合适模型。二元结果常用逻辑回归,多分类结果可用多项模型,计数结果可用泊松或负二项模型。模型选择不是形式问题,因为不同模型对误差和分布有不同假设。

但模型名字不应遮蔽解释。读者真正需要知道的是:哪些群体概率更高?差异有多大?不确定性如何?结果是否稳健?

逻辑回归估计的是对数几率,不是概率本身。系数 0.3 的意思是:该自变量增加一个单位,结果的对数几率平均增加 0.3。换成几率比大约是 1.35。读者关心的通常是概率差:从 10% 到 13%,和从 50% 到 57%,几率比可以接近,社会含义却不同。报告平均边际效应或预测概率,是把模型翻译回问题。

卡琳娜·穆德 2010 年在《欧洲社会学评论》里指出一件违反直觉的事:逻辑回归的系数会被未观察异质性拉动,即使那个未观察因素与自变量无关。因此,不能像读线性回归那样,把嵌套模型之间的系数变化解释成“被新变量解释掉了多少”,也不能随意比较两组、两期或两个样本的对数几率系数。残差的尺度在变,系数跟着变。比较概率尺度上的效应,比比较几率比更接近大多数社会学问题。

逻辑回归还有非线性:效应大小取决于起点。同一段教育,对本来录取率很低的人和已经很高的人,概率变化不同。只报一个系数,等于假装这种弯曲不存在。交互项在非线性模型里更不能按线性习惯解读。软件会给星号,星号回答的不是你以为的那个问题。

分层与嵌套

社会数据常有嵌套结构:学生嵌套在班级和学校中,居民嵌套在社区中,工人嵌套在企业中,国家年份嵌套在国家中。普通回归若忽略这种结构,可能低估不确定性。

分层模型可以同时估计个体层和群体层因素。例如学生成绩既受家庭背景影响,也受学校资源影响;病人健康既受个人行为影响,也受社区医疗可及性影响。分层模型让研究者看到不同层级如何共同作用。

分层视角也提醒我们:社会结果不是纯个人属性。一个人的机会常受学校、社区、城市、制度和历史位置共同塑造。

忽略嵌套的后果不是随机的。它总是让标准误偏小,让结论看起来比实际更确定。这是一类可以在文献里系统追溯的错误。分层模型不是为了“更高端”,而是为了让不确定性回到它该在的层级。学校层面只有五十所学校时,学校变量的有效样本是五十,不是五万名学生。

缺失数据与测量误差

社会数据很少完整。高收入者可能拒绝报告收入,流动人口可能难以追踪,受污名群体可能隐瞒经历,平台数据可能删除账号。缺失不是随机噪声,常与研究主题本身相关。

直接删除缺失样本可能制造偏差。插补方法可以帮助,但它依赖假设。研究者应报告缺失比例、缺失机制的可能性和敏感性分析。

测量误差同样重要。自报收入、回忆中的工作时长、问卷中的歧视经历、平台记录的互动次数,都可能偏离真实概念。模型越精确,越不能忘记数据来源的粗糙。

选择偏差是缺失的一种有名字的形式。赫克曼 1979 年在《计量经济学杂志》里把非随机样本写成一种设定误差:你只观察到被选进来的人,残差的条件期望不再是零,普通回归就像漏掉了一个变量。工资方程只拿就业者来估,估计的就不是“教育对每个人的回报”,而是“对已经就业的人的回报”,外加那些让人被雇的未观察因素。

选择不只发生在样本框里。格迪斯提醒比较研究者:只研究发生了革命的国家,是在因变量上截取。调查里只分析答完所有敏感题的人,是另一种截取。见 调查研究。赫克曼两步法能在很强的假设下修正一种选择;假设不成立时,修正本身会制造新的偏。报告选择过程,往往比塞一个逆米尔斯比更重要。

显著性与不确定性

p 值不是研究质量的证明。它只是在某些假设下衡量数据与零假设的相容程度。它不能告诉我们效应是否大,理论是否对,样本是否代表总体,模型是否正确。

社会学更应重视不确定性。置信区间、预测区间、稳健性检验、替代模型和敏感性分析,能让结论更诚实。好的量化研究不是把不确定性藏起来,而是让读者知道结论在哪些条件下成立。

显著星号容易制造二分思维:显著就是有,非显著就是没有。现实更复杂。一个估计不精确的结果可能仍值得关注,一个显著但很小的结果可能没有实质意义。

星号还叠加了认知上的捷径:显著被读成“发现”,不显著被读成“没有效应”。见 认知偏差。大样本会让无意义的小差异发光;小样本会让真实但中等的效应看起来像失败。把 p 值当成质量分数,是用假设检验代替了实质判断。

因果推断的边界

统计模型可以帮助因果推断,但不能单独保证因果。因果推断需要明确反事实:如果同一个人没有接受某教育、没有迁移、没有失业,结果会怎样?现实中我们不能同时观察同一个人的两个状态,只能通过设计寻找可比对象。

随机实验、自然实验、断点回归、双重差分、工具变量和匹配方法,都是为了构造更可信的比较。统计模型在其中承担估计和不确定性表达,但核心仍是研究设计。

如果数据来自横截面调查,模型再复杂也很难解决时间顺序和遗漏变量。研究者应诚实说明限制。

回归在这些设计里是仆人。双重差分仍然是回归,但它的识别来自平行趋势,不来自控制变量的数量。断点仍然可以写成回归,识别来自门槛附近的局部不可操纵。没有设计的回归,控制得再多,比较的仍是自己选进处理的人和没选的人。见 实验与准实验。

匹配和加权试图在观察数据里重建平衡。它们能处理已测混杂,处理不了未测混杂。把匹配后的系数写成实验效应,是把可观察的相似性当成了反事实的相似性。敏感性分析要问的是:未测混杂要强到什么程度,才能把结论推翻。答不出这个问题,就还在相关的世界里。

可解释性与模型责任

当模型用于政策和平台治理时,后果会更重。风险评分、福利资格预测、学生辍学预警、警务部署、招聘筛选和内容推荐,都可能影响真实人生。社会学需要追问模型如何分类人,分类后谁受益,谁受损,谁能申诉。

可解释性不仅是技术问题,也是制度问题。一个模型即使数学上可解释,若受影响者无法知道自己为何被拒绝,仍然缺乏公共正当性。统计模型必须进入伦理和治理讨论。

选择偏差在这里会变成伤害。用已经就业的人训练“谁该被录用”的模型,会把过去的筛选复制成未来的规则。用已经被捕的人训练风险评分,会把巡逻密度写成个人危险。模型越是在有偏样本上显得准确,越可能把历史不平等当成预测信号。

与质性方法结合

统计模型可以发现模式,质性方法可以解释机制。模型显示低收入家庭学生更难进入名校,访谈可以解释志愿填报、信息不对称、教师期待和家庭风险规避。模型显示平台劳动者事故风险与接单密度相关,民族志可以观察他们如何在算法压力下抢时间。

混合方法不是把两种证据并排,而是让它们互相提出问题。统计结果中的异常案例,常是田野和访谈的入口;田野发现的机制,也可以转化为模型假设。

异常值不该只当回归诊断。某个学校在模型里残差巨大,可能是编码错误,也可能是一种尚未被变量抓住的制度安排。先去看这个学校,再决定是删点、改模型,还是改问题。统计模型的谦逊,是承认表格之外还有需要被看见的社会过程。

跨域连接

  • 因果推断的可信性革命:回归系数被解读为因果效应,是社会科学中最普遍的越界。控制变量不等于识别——控制中介或对撞因子反而制造偏倚。因果图的价值正在于它把"该控制什么"从直觉变成了可推导的问题,而这一步在多数发表的回归表中并未被交代。
  • 机器学习概览:预测与解释是两个不同目标,而它们对模型的要求相反:预测容许高维、黑箱与共线,解释要求参数可识别、有意义。用预测精度评价一个解释性模型,或用系数解释一个预测模型,是两个方向相反的常见错误。
  • 纵向与多层模型:社会数据几乎总是嵌套的(学生在班级、员工在企业、个体在地区),而忽略嵌套会低估标准误、夸大显著性。这是文献中一类可被系统追溯的错误来源,且其后果不是随机的:它总是让结论看起来比实际更确定。
  • 社会网络分析:标准回归假定观测独立,而网络数据的本质就是观测之间相互依赖。这使普通回归在网络数据上失效,并催生了专门的模型族(ERGM、SAOM)——这一案例说明方法的适用性由数据的生成结构决定,而非由变量类型决定。
  • 可重复性危机与开放科学:社会科学的分析自由度比实验心理学更大——变量构造、样本限定、控制集选择都有大量合理选项。规格曲线分析(报告全部合理规格的结果分布而非挑一个)是对此最直接的回应,也使"结论对分析选择有多敏感"成为可报告的量。

参考文献

  • Morgan, Stephen L. and Winship, Christopher. Counterfactuals and Causal Inference. Cambridge University Press, 2007.
  • Gelman, Andrew and Hill, Jennifer. Data Analysis Using Regression and Multilevel/Hierarchical Models. Cambridge University Press, 2007.
  • Agresti, Alan. An Introduction to Categorical Data Analysis. Wiley, 1996.
  • Angrist, Joshua D. and Pischke, Jorn-Steffen. Mostly Harmless Econometrics. Princeton University Press, 2009.
  • Long, J. Scott and Freese, Jeremy. Regression Models for Categorical Dependent Variables Using Stata. Stata Press, 2014.
  • Mood, Carina. “Logistic Regression: Why We Cannot Do What We Think We Can Do, and What We Can Do About It.” European Sociological Review, 2010.
  • Heckman, James J. “Sample Selection Bias as a Specification Error.” Econometrica, 1979.

延伸阅读

  • Pearl, Judea, Glymour, Madelyn, and Jewell, Nicholas P. Causal Inference in Statistics. Wiley, 2016.
  • Freedman, David A. Statistical Models: Theory and Practice. Cambridge University Press, 2005.