为什么“看过数据以后”很重要
研究者面对一份复杂数据,可以选择排除哪些参与者、如何转换变量、控制哪些协变量、测试哪些结局。许多选择都有合理理由,但组合起来会形成巨大的分析空间。
如果先看结果再决定路径,偶然模式很容易被包装成事先预测。问题不一定来自欺骗,而来自人类擅长为已经发生的结果建立连贯故事。
预注册在观察关键结果前,用带时间戳的记录说明研究问题、设计、样本、变量与分析计划。它的核心功能是区分验证性检验与探索性发现,而不是消灭探索。
探索产生新理论,验证检验预先承诺的预测。两者都重要,但证据角色不同。
一份有信息量的预注册
高质量预注册应具体到另一位研究者能够理解主要决策。
它通常包括:
- 主要与次要研究问题;
- 自变量、因变量及其操作化;
- 样本来源、纳入排除标准和停止规则;
- 条件分配、盲法与操纵检查;
- 数据清理、异常值和缺失处理;
- 主要模型、对比、协变量与多重检验策略;
- 效应方向、判断标准和功效依据;
- 允许的数据依赖决策及其触发条件。
只写“将使用适当统计方法”几乎没有约束力。把软件输出的每个细节都冻结,也会使计划无法应对现实数据。关键是预先锁定会改变主结论的选择。
预注册不等于研究质量
一个设计薄弱、测量无效、样本不足的研究,即使完美预注册,仍然只能提供弱证据。
预注册主要减少结果依赖的分析与叙事自由度。它不能保证理论正确、操作有效、数据诚实或样本具有代表性。
反过来,没有预注册也不等于研究无价值。早期探索、罕见事件、档案研究和理论生成常难以详细预设。此时应透明区分事前与事后决定,并把结果视为待验证线索。
预注册是一种证据标签,不是道德徽章。
如何处理偏离
现实研究会偏离计划:招募不足、设备故障、分布违背假设、量表信度异常,或者出现未预料的伦理风险。
偏离本身不是问题,隐藏偏离才是。报告应说明原计划、实际做法、改变时间、理由以及对结论的影响。
最好同时呈现预注册分析与有理由的替代分析。如果两者结论不同,这种差异是重要信息。
“预注册允许任何修改,只要披露”并不意味着修改没有证据代价。看过结果后的分析更适合作为探索,需要独立数据确认。
注册报告改变发表激励
注册报告把同行评审提前到结果产生之前。
第一阶段,作者提交理论、研究问题、方法和分析计划。审稿人评价问题是否重要、设计能否回答问题、样本量是否充分。
若方案通过,期刊给予原则性接收。研究完成后,第二阶段检查是否按批准方案执行、质量控制是否达标、结论是否忠于数据。
只要研究实施合格,结果显著、无效或方向相反都不影响原则性接收。这直接削弱了发表偏差和“追逐显著性”的激励。
注册报告不只适合简单实验
注册报告可用于随机实验、观察研究、纵向研究、二手数据、模型比较、定性研究和重复研究,但计划形式应适配方法。
对已有数据,关键是说明研究者接触过哪些变量和结果。若完全看过数据,不能假装是纯验证;可以使用保留样本、盲分析或独立数据集。
定性研究不必预先冻结主题结果,但可以注册研究问题、抽样逻辑、访谈框架、反思位置和分析流程。
复杂模型可以注册模型族、比较标准和决策树,而不必预知所有收敛问题。
开放材料、数据与代码
预注册只覆盖研究前的承诺。完整透明性还包括研究材料、去标识数据、分析代码、版本环境和结果报告。
开放材料让他人检查操纵和复用任务。开放代码让效应量、图表和排除规则可以复算。开放数据允许替代分析,但必须服从参与者同意、隐私和法律限制。
“开放”不是把未经整理的文件上传。数据需要字典,代码需要入口与环境说明,材料需要许可,版本需要固定。
无法公开敏感数据时,可以共享模拟数据、变量结构、分析代码、受控访问流程或聚合结果。透明性应与风险成比例。
可重复、复现与重复验证
这些词常被混用。
计算可重复指使用原数据和代码得到相同结果。
分析复现可能指独立团队用同一数据重做分析。
重复研究则用新数据检验效应是否再次出现,可以是尽量相同的直接重复,也可以是改变情境的概念重复。
计算可重复是最低工程要求,却不证明科学结论可靠。新数据重复更接近稳健性,但结果差异需要结合精度、情境和方法解释,不能简单投票。
多元分析与规格曲线
有些研究问题存在多种同样合理的分析选择。与其假装只有一条正确路径,可以系统展示结果在完整选择空间中的变化。
规格曲线、多宇宙分析和多分析者研究能揭示结论是否依赖特定操作、排除规则或模型。
这些方法不应变成“跑尽所有模型再数显著比例”。分析集合仍需理论上合理,结果之间也往往相关。
预注册可以提前定义合理规格范围和总结规则,让稳健性分析本身不被结果导向。
功效、精度与停止规则
样本量计划应围绕最小重要效应、目标精度或决策风险,而不只使用以往小研究的乐观效应。
固定样本设计需预先规定停止点。顺序设计允许中途检查,但必须使用适当边界或贝叶斯决策规则。
“收集到显著为止”会提高假阳性率;“预算用完为止”虽现实,也应提前说明预期精度和不确定性。
注册报告的第一阶段评审能在数据昂贵之前修正低功效设计,减少结果出来后无法补救的浪费。
隐私、权益与开放边界
开放科学不是开放参与者。
心理数据可能包含创伤、诊断、位置、声音、少数身份和社会网络。简单删除姓名往往不足以阻止重识别。
研究者应在同意阶段说明共享层级和未来用途,采用数据最小化、访问控制、去标识与风险评估。弱势群体和原住民数据还涉及集体权益与数据主权。
开放默认值应当服务公共知识,而不能把隐私成本转嫁给参与者。
研究团队与制度责任
个体研究者很难单独改变发表制度。期刊、资助者、大学和评价体系共同决定什么行为得到奖励。
若晋升只计算显著、快速和高影响力论文,透明流程就会与职业生存冲突。注册报告、数据管理经费、重复研究资助、贡献者角色和软件成果认可都属于制度改革。
开放实践也需要基础设施和培训。要求所有团队执行复杂标准,却不给时间、存储、统计支持和隐私资源,会扩大机构间不平等。
常见误区
预注册会扼杀创造力混淆了探索与隐藏探索。探索可以无限丰富,只需正确标注。
偏离预注册就是失败会鼓励研究者隐瞒必要调整。透明偏离比机械遵守错误计划更科学。
共享数据等于开放科学忽略了材料、代码、元数据、隐私和可执行环境。
重复失败推翻原理论过于粗糙。重复研究也有抽样误差、设计差异和实施问题,应综合效应与不确定性。
透明就意味着无偏也不成立。公开的偏差仍是偏差,但公开使它可以被发现、评估和修正。
一套实务工作流
研究开始前,建立版本库、数据管理计划和贡献者角色。
在试点后、正式结果前冻结主要方案,并把预注册链接写入项目记录。
数据收集期间记录招募、排除、设备和方案偏离,不覆盖原始数据。
分析时用脚本从原始数据生成最终结果,保存软件版本和随机种子。
写作时把确认性、偏离分析和探索性结果分开,报告所有预设主要结局。
发布时提供材料、代码、数据访问说明和可读的数据字典,并保留不可变版本。
如何阅读一项“开放”研究
先比较时间戳与数据访问时间,确认预注册是否真正事前。
逐项核对注册问题、样本、排除、结局与最终报告,而不只看论文是否有徽章。
检查代码能否从数据生成表图,数据限制是否有清楚伦理理由。
判断探索性结果是否被包装为确认性结论,偏离是否完整解释。
最后看开放材料是否足以支持审计和复用,而不是只有一个无法运行的附件。
跨域连接
- 证伪主义:预注册把波普尔的规范要求变成了可执行的制度——先说出什么结果会被算作反驳,再去看数据。这一步之所以必要,正因为确认倾向不是靠个人自觉能克服的:它需要一个把承诺固定在时间上的外部装置。
- 统计学:核心的技术理由是在看到数据后决定分析路径会使名义错误率失效。这不是舞弊问题而是统计前提被违反,因而"我没有作弊"与"我的 p 值有效"是两个独立的命题——这一区分是整场方法论改革中最需要被普及的一点。
- 可重复性危机与开放科学:注册报告更进一步,把发表决定移到结果产生之前,从而切断了发表偏倚的来源。其效果已可被观察:注册报告中报告阳性结果的比例显著低于常规流程,而这一差距本身就是对旧文献可信度的一个估计。
- 因果推断的可信性革命:经济学在更早时期通过预分析计划处理同一问题,而两个领域的经验都指向同一条边界:过于僵硬的预注册会抑制正当的探索。成熟的做法因而是区分而非禁止——把确证性分析与探索性分析分开标注,而不是要求所有分析都被事先规定。
- 软件测试:计算可重复性是另一层问题——同样的数据与代码能否得到同样的数字。共享代码、固定随机种子、容器化环境处理的是这一层,而它与"换一批被试还能否得到同样效应"是两个不同的问题;用同一个词指称两者,常使讨论失焦。
方法的核心判断
开放科学的目标不是让研究看起来更纯洁,而是让证据的形成过程可追踪:
哪些决定发生在数据之前,哪些发生在数据之后,哪些结果没有出现于论文,以及别人能否检验这条链?
当承诺、偏离、探索和限制都被清楚标记时,科学共同体才有条件纠错和累积。
参考文献
- Nosek, B. A., et al. (2018). The preregistration revolution. Proceedings of the National Academy of Sciences, 115(11), 2600-2606.
- Chambers, C. D. (2013). Registered Reports: A new publishing initiative at Cortex. Cortex, 49(3), 609-610.
- Munafò, M. R., et al. (2017). A manifesto for reproducible science. Nature Human Behaviour, 1, 0021.
- Simmons, J. P., Nelson, L. D., & Simonsohn, U. (2011). False-positive psychology. Psychological Science, 22(11), 1359-1366.
- Hardwicke, T. E., & Wagenmakers, E.-J. (2023). Reducing bias, increasing transparency and calibrating confidence with Registered Reports. Nature Human Behaviour, 7, 15-26.
延伸阅读
- Center for Open Science. Preregistration and Registered Reports Resources.
- Nosek, B. A., et al. (2015). Promoting an open research culture. Science, 348(6242), 1422-1425.
- Klein, R. A., et al. (2018). Many Labs 2. Advances in Methods and Practices in Psychological Science, 1(4), 443-490.