长期主义与存在风险：为尚未出生的人类辩护

2022 年 8 月，英国哲学家威廉·麦卡斯基尔（William MacAskill）出版了《我们欠未来什么》（What We Owe The Future）。这本书以公众读物的形式，系统阐述了一个在有效利他主义圈子里酝酿了十余年的道德立场：长期主义（longtermism）。

书上市前三个月，麦卡斯基尔与 FTX 创始人山姆·班克曼-弗里德（Sam Bankman-Fried）深度交谈，据报道这次谈话对 SBF 的有效利他主义投资决策产生了重大影响。三个月后，FTX 崩溃，SBF 被捕，数十亿美元的"赚钱捐钱"资金化为乌有。

这场丑闻把一个哲学争论拖进了公众视野，也让长期主义的批评者获得了难得的现实素材。

这是 2020 年代最具爆炸性的伦理学辩论之一，核心问题是：我们对那些尚未存在的未来人，究竟负有什么道德义务？

破除误解：长期主义不只是"想想未来"#

"长期主义"这个词听起来无害甚至是常识——当然应该考虑长远后果。但哲学意义上的长期主义，是一个极为激进的道德立场，它的含义远超常识：

核心主张：如果未来的人数远多于现有人数（在宇宙级别的时间尺度上，潜在的未来人可能多达 $10^{23}$ 以上），那么影响这些未来人存在的事件，在道德重要性上可能压倒一切当下的问题。气候变化、疾病、贫困——与让人类文明根本不复存在的存在风险相比，都可能是次要的。

这不是修辞，而是严格的数学推论：如果当下的行动可以将人类文明灭绝的概率降低 0.001%，而那些未来的人每人都有与当代人相同的道德权重，那么这个行动的预期价值，可能大于治愈当今世界的所有疾病。

这是长期主义最核心、也最具争议的推论。

思想谱系：如何到达长期主义#

长期主义的哲学根源是清楚的，但它的推论却令许多人感到不安：

彼得·辛格（Peter Singer）的效果延伸：辛格的溺水婴儿论证（1972 年）表明，如果我们能以很小的代价阻止大的伤害，我们就有义务这么做——不管距离远近。长期主义把这个逻辑延伸到了时间维度：时间距离和地理距离一样，在道德上不应该有特殊地位。

德里克·帕菲特（Derek Parfit）的人口伦理：帕菲特在《理由与人》（Reasons and Persons，1984 年）中系统探讨了不同人口规模的道德比较——如果存在更多幸福的人更好，那么让更多人存在就应该是我们的道德目标。这是"可能存在的受益者"悖论的来源，也是长期主义预期价值计算的哲学基础。

尼克·博斯特罗姆（Nick Bostrom）的存在风险框架：博斯特罗姆 2002 年提出了"存在风险"（existential risk）的概念——那些威胁到人类或地球上所有智慧生命未来的风险，由于其不可逆性，具有特殊的道德权重。他识别的主要存在风险包括：超级智能 AI 的对齐失败、工程化流行病、核战争和气候崩溃等。

托比·奥尔德（Toby Ord）的《悬崖》：牛津哲学家托比·奥尔德 2020 年出版的《悬崖：存在风险与人类未来》（The Precipice）是长期主义的核心文本之一。奥尔德估计，本世纪内人类面临存在灾难的总体概率约为 1/6——基于对各类风险（AI、生物武器、核武器等）的综合判断。他强调，这个估计不是精确计算，而是基于专家判断的概率区间。

2022–2024 年的爆炸性争议#

支持方：麦卡斯基尔的大众化论证#

《我们欠未来什么》尝试将长期主义带给一般读者。麦卡斯基尔的核心论证是：

1. 未来的人也很重要（相当于当代人）
2. 我们有能力影响他们是否存在以及他们是否幸福
3. 因此，影响未来轨迹的行动应该在我们的道德计算中获得极高的权重
4. 减少存在风险（尤其是 AI 和生物技术风险）是当下最重要的道德任务

批评方：一个越来越广泛的联盟#

2020 年代的批评来自多个方向：

哲学批评（帕菲特式的内部批判）：人口伦理本身就是充满悖论的领域。帕菲特著名的"令人反感的结论"（Repugnant Conclusion）——如果人口规模足够大，哪怕每个人的生活仅仅是"勉强值得过的"，总量上也优于一个人口较少但每人生活幸福的社会——表明简单的加总式功利主义在人口伦理中会导致直觉上无法接受的结论。长期主义的预期价值计算面临同样的困境。

认识论批评：关于数百年后甚至数千年后的人类状况，我们能做多可靠的预测？统计学家和哲学家指出，对极长时间跨度的预测，不确定性大到足以让任何预期价值计算失去意义。我们无法可靠地说"降低 AI 风险 0.001% 的预期价值比治愈疟疾更大"，因为这两件事的不确定性量级完全不同。

政治批评（Emile Torres 等）：批评者 Emile Torres 和 Timnit Gebru 等人论证，长期主义实质上是一种"精英主义的末日崇拜"——少数受过良好教育的技术精英，根据自己的判断来决定什么才是最重要的存在风险，然后忽视当下贫困、不平等、殖民主义造成的真实伤害，因为这些"只是"短期问题。Torres 在《有效利他主义的黑暗面》等文章中还指出，长期主义与某些白人优越主义的存在风险话语存在令人不安的交集。

FTX 丑闻的后续影响：麦卡斯基尔明确支持 SBF 的"赚钱捐钱"策略，SBF 也公开表示受到长期主义影响。FTX 的崩溃让批评者质疑：当"最终目标"足够重要，是否会产生"目的为手段辩护"的危险逻辑？麦卡斯基尔事后公开澄清，表示他对 SBF 的信任是个错误，并强调有效利他主义反对不道德手段。

存在风险的评估：谁来判断，如何判断？#

奥尔德在《悬崖》中的 1/6 概率估计，是如何得出的？这是理解长期主义实践层面的关键问题。

奥尔德明确表示，这是基于专家判断的主观概率，而非精确的统计计算。他的方法是：综合各领域专家对各类风险（AI 风险、生物技术风险、核战争、气候极端情景等）的独立概率估计，然后通过一个简单的框架合并。

这个方法的局限：

• "专家"的选择本身就是有偏差的（长期主义研究圈子内的专家，往往对 AI 风险有更高的估计）
• 不同风险之间的相关性很难量化
• 历史上对大型灾难的预测，往往被事后证明是严重高估或严重低估的

重要的是，这种概率估计不是科学结论，而是有理由的信念——这一点奥尔德本人也承认，但批评者认为长期主义的公开讨论常常模糊了这个区别。

AI 风险在长期主义中的核心地位#

博斯特罗姆和奥尔德都认为，超级智能 AI 的对齐失败是本世纪最大的存在风险，超过气候变化、核战争和工程化流行病。

这个判断有几个组成部分：

1. AGI（人工通用智能）可能在本世纪内实现
2. 一个比人类智能强大得多的 AI 系统，如果对齐失败，可能采取我们无法控制的行动
3. 由于 AGI 的能力优势，这个失败可能是不可逆的

批评者的反驳包括：

• AGI 的时间表极不确定，许多严肃的 AI 研究者认为本世纪不会实现
• 即便 AGI 出现，"对齐失败导致灭绝"的情景涉及大量关于 AI 能力和目标的假设，这些假设本身缺乏实证依据
• 过度关注 AI 存在风险，可能分散对更确定的当前 AI 危害（偏见、监控、自动化失业）的注意力

代价与争议的核心张力#

长期主义面临的最深刻的哲学张力，是确定性的当下伤害与概率性的未来收益之间的比较。

一个每年能挽救一千条生命的医疗项目，与一个"以 0.001% 的概率降低存在风险"的 AI 安全研究，哪个在道德上更应该优先？

长期主义的预期价值计算会说后者——但这要求我们接受：极低概率乘以极大数字，就可以在道德上胜过确定的小数字。多数人的直觉抵抗这种计算，但哲学家对"什么时候应该违背直觉"有着持续的争论。

未知的边界#

• 帕菲特式的人口伦理困境能否被解决？如果不能，长期主义的数学计算就建立在流沙上
• AI 存在风险的概率估计，能否在未来几十年内被更好地约束？还是它将永远停留在主观判断的层面？
• 长期主义的激励结构——少数精英决定人类最重要的问题——是否内嵌了一种难以察觉的权力集中？
• 存在风险与当下危害之间的权衡，是否存在不依赖预期价值计算的道德框架？

跨域连接#

• 时间贴现：论证的关键一步是拒绝对未来人的福利作纯时间贴现——若贴现率为零，未来人口的巨大数量就主导了任何期望效用计算。这一步是规范假设而非经验发现，而经济学中标准的贴现实践正建立在相反的假设上，两者的分歧无法由数据裁决。
• 风险与不确定性：极小概率乘极大后果的结构使计算极不稳定——估计值对概率的微小改变高度敏感，而这些概率本身几乎无法被经验约束。这不否定谨慎的理由，但它说明论证不能只靠期望值，需要另有关于不可逆性与选择权保留的论证。
• 复合气候风险：气候领域已发展出处理长时段、深度不确定性的实用方法——适应路径、无悔措施、把不可逆的大额投入推迟到信息更充分时。这套方法论比期望效用计算更能处理存在风险的实际决策，且它不需要先就贴现率达成一致。
• 不平等经济学：把资源投向遥远未来的主张面临一个分配诘问——当下的可避免苦难是确定的，而未来收益是推测的。长期主义者的回应是两者不必竞争，而实际的资金流向是可以被观察的，这使这一争论有一个不依赖理论的检验方式。
• 电车难题：这一立场把伦理推向了聚合式的极端形态，而它遇到的困难与功利主义的经典反例同构：巨大数量可以淹没任何个体的诉求。这不是新问题，但存在风险的语境使它第一次具有了实际的资源分配后果。

参考文献#

• Ord, T. The Precipice: Existential Risk and the Future of Humanity. Hachette Books, 2020. 长期主义的系统性阐述与存在风险的全面评估。
• MacAskill, W. What We Owe The Future. Basic Books, 2022. 长期主义的大众化版本。
• Bostrom, N. "Existential Risk Prevention as Global Priority." Global Policy 4(1), 15–31 (2013). 存在风险框架的学术陈述。
• Parfit, D. Reasons and Persons（第四部分：未来世代）. Oxford University Press, 1984. 人口伦理与世代间伦理的奠基文本。
• Torres, P. "Against Longtermism." Aeon, 2021. 长期主义的重要批评性文章，长期可读。
• Greaves, H. & MacAskill, W. "The Case for Strong Longtermism." Global Priorities Institute Working Paper 7 (2021). 长期主义的哲学辩护。
• Crary, A. "The Toxic Ideology of Longtermism." Radical Philosophy 2(16), 2023. 从政治哲学角度对长期主义的批评。
• Singer, P. "Famine, Affluence, and Morality." Philosophy & Public Affairs 1(3), 229–243 (1972). 长期主义的道德直觉来源。