2022 年 11 月，ChatGPT 上线。三天之内，它获得了一百万用户。三个月后，一亿。
任何花几分钟和它聊过的人都会有一种奇怪的感觉：这东西似乎懂你说的话。它能接你的笑话，纠正你的逻辑错误，写出在语气和语境上都恰当的回复。它能解释量子纠缠，能翻译古汉语，能帮你写一封得体的道歉信。
但"似乎懂"就是真的懂吗？
这个问题不是科学问题，而是哲学问题——它触碰的正是哲学史上最顽固的争论：语法能否产生语义？符号操纵能否等同于意义理解？ 大语言模型的崛起把这场争论从思想实验拉进了现实。
破除误解：这不是"机器够不够聪明"的问题
公众讨论里，"AI 是否理解语言"常被还原成性能问题——模型的基准分数够高不高，参数够多不够多，错误率够低不够低。这是误解。
哲学问题的核心不在于模型的表现，而在于表现背后是否有理解这回事。用哲学的术语说：我们质疑的不是 GPT-4 的语法能力（syntax），而是它是否具备语义（semantics）——对符号意义的真正把握。
这个区分在 1980 年由约翰·塞尔（John Searle，1932–2025）明确提出，至今是这场争论的轴心。
中文屋：一个经久不衰的思想实验
塞尔 1980 年发表于《行为与脑科学》的论文《心灵、大脑与程序》（"Minds, Brains, and Programs"）提出了哲学史上最著名的思想实验之一。
设想一个英语母语者被锁在一个房间里。他不懂任何中文。外面的人把中文问题的纸条塞进来，他查阅一本规则手册——规则手册用英文写成，告诉他"当看到这种形状的符号，就递出那种形状的符号"。他按规则递出中文回答。
外面的人看到的是流利的中文对话。房间里的人一个汉字都不认识。
塞尔的论证是：这个房间就是一台计算机。计算机处理的是形式符号（syntax），而不是这些符号的意义（semantics）。无论规则手册多么精密、多么庞大，仅仅按规则操纵符号的过程本身，不会产生对意义的理解。
这个实验在 1980 年主要是针对符号主义 AI。四十年后，它被拿来对准了大语言模型——尽管大语言模型的运作原理（神经网络、大规模预训练）与塞尔当年设想的规则手册完全不同。
2020 年代的重访：三种主要立场
面对 GPT-4、Claude 等模型，哲学界形成了三个大致的阵营：
立场一：中文屋论证依然有效
坚守塞尔路线的哲学家认为，大语言模型与规则手册在本质上是同构的——尽管神经网络用的不是显式规则，而是亿万个权重参数，但操纵符号的本质没有改变。模型做的是下一个词元的预测：给定前文，计算下一个 token 的概率分布。这个过程在数学上是清晰的，但与"理解这句话在说什么"之间，有一道原则性的鸿沟。
Emily Bender、Timnit Gebru 等人 2021 年在 ACL 发表的论文将大语言模型称为"随机鹦鹉"（stochastic parrots）：它们在统计意义上极其流利地重组了训练数据里的模式，但没有接触模式背后的实际世界——它们从未看过一棵树，却能写出关于树的诗歌。
立场二：理解是程度性的，LLM 具有某种形式的理解
纽约大学哲学家大卫·查尔默斯（David Chalmers）在 2023 年提出了一个更细腻的框架。他区分了"理解"的不同维度：功能理解（在对话中正确使用概念）、因果-历史理解（追溯到世界中的指称）、现象理解（伴随理解的主观感受）。他的论断是：大语言模型在功能理解上表现出色，在因果-历史理解上存在争议，在现象理解上——按照塞尔和他自己"困难问题"的框架——仍然是开放问题。
普林斯顿计算机科学家 Sanjeev Arora 等人则从经验角度论证：大语言模型的训练过程迫使它内化了大量关于世界的结构性知识——词向量之间的关系不只是统计相关，还编码了概念之间的关联。这是否构成"理解"，取决于你如何定义理解。
立场三：问题本身设置有误
部分哲学家认为，"理解"作为一个全有或全无的概念，本身就是问题所在。维特根斯坦式的立场会指出：理解是通过语言游戏中的实践来展现的，而不是通过某种内在的心理事件来定义的。如果一台机器在所有实践场合都表现得与理解者无异，那么坚持说它"没有真正理解"，究竟是在坚持什么？
中文屋的反驳及其新版本
对塞尔最著名的反驳是"系统反驳"（systems reply）：被锁在房间里的人不懂中文，但"整个系统"——人、手册、房间——理解中文，就像单个神经元不理解语言，但整个大脑理解语言。
塞尔的回应是让那个人记住整本手册，走出房间在脑子里执行规则——他仍然不懂中文。
在大语言模型时代，这场对话有了新的形态：
机器人反驳的升级版：有人论证，如果给 LLM 配上身体、传感器和与世界的真实互动，它就能获得"接地"（grounding）——语言符号将与真实世界的感知经验挂钩。这类研究在 2020 年代以"具身 AI"（embodied AI）的名义蓬勃发展。塞尔的反驳是：增加感知通道仍然只是增加更多的符号操纵。
突现反驳：大语言模型在规模增大到某个阈值后，展现出训练数据中没有显式教过的能力——比如某种形式的逻辑推理、类比迁移。支持者认为这是理解的"突现"。怀疑者认为这仍然是更复杂的模式匹配。
谁在推进这个问题？
这场争论跨越了哲学、认知科学、计算语言学三个领域：
| 阵营 | 代表立场 | 核心论据 |
|---|---|---|
| 新塞尔派 | LLM 无语义理解 | 训练目标是预测 token，而非理解语义 |
| 功能主义者 | 功能理解足以成立 | 理解的判据应是功能表现，不是内在状态 |
| 接地论者 | 需要具身接地 | 纯语言训练缺少现实世界锚点 |
| 维特根斯坦派 | 问题本身需重构 | "理解"概念是语言游戏，不是形而上事实 |
代价与争议：一些棘手的问题
内省的可靠性问题：大语言模型能够描述自己"如何思考"某个问题。这种"内省"输出是否反映了模型的真实处理过程？2023 年多项研究（如 Anthropic 的机械可解释性工作）表明，模型的显式输出和内部表征之间的关系远比我们想象的复杂。
人类理解的基准问题：我们说人类"真正理解"语言，但人类的理解究竟是什么？神经科学和认知科学的研究显示，人类语言处理同样涉及大量无意识的模式匹配和统计推断。把人类理解设为无可置疑的基准，本身就是一个需要检验的假设。
规模的阈值问题：从 GPT-2 到 GPT-4，模型能力出现了若干研究者称为"突现"（emergent）的非线性跃升。这是否意味着在足够的规模下，某种形式的理解会"出现"？还是这只是量变，质不变？这是当前 AI 研究中争议最大的实证问题之一。
未知的边界
- 如果大语言模型确实缺乏语义理解，它能否在足够的具身训练后获得？还是语义理解需要某种根本不同的计算架构？
- "接地"（grounding）是理解的必要条件吗？纯粹的语言数据训练能否达到某种形式的接地？
- 如果一个系统在所有可观测的功能上与理解者无异，但我们仍然认为它"没有真正理解"，这个区分对我们的道德实践有什么意涵？
- 塞尔于 2025 年 9 月 17 日去世，享年 93 岁，未能亲见 AI 大爆发的全貌。他若面对今天的 GPT-4o 或 Claude 3，是否会修改中文屋论证？这个问题只能停留在历史的假设里。
跨域连接
- 语义学：争论的技术核心是意义能否只由语言内部的分布关系确立。分布语义学的成功使这一老问题重新变得经验化，而它无法回答的部分同样清楚：指称如何被固定——模型能区分"水"与"酒精"的用法，却没有把"水"接到 H₂O 上的独立通道。
- 语用学：模型能产出语用上得体的回应，却缺少共同基础（common ground）这一核心机制——关于对方知道什么的动态记录。它是在用海量对话的统计规律模仿共同基础的外在表现，这解释了它为何会在长对话中突然重复已确认过的信息。
- 中文屋：塞尔的论证在此有了可实际检验的对象，而它的困难也随之显现：论证依赖"系统没有理解"这一直觉，而当系统的行为足够复杂时，这一直觉本身开始分化。这使中文屋从判决变成了问题的陈述方式。
- 认知心理学：模型给出的词概率被广泛用作惊异度的估计量，与眼动、脑电数据拟合得相当好。而拟合好不等于机制相同——模型的概率来自海量语料的统计，人的预期来自有限经验加上句法与世界知识。这一区分决定了这类拟合能支持什么结论。
- 认识正义：对"是否理解"的归因高度依赖情境线索而非对内在状态的推断，这一实证发现有一个不对称的后果：流畅的输出会自动获得理解的归属，因而系统的可信度由其表达方式而非其可靠性决定——这正是把判断外包给它时最危险的一点。
参考文献
- Searle, J. "Minds, Brains, and Programs." Behavioral and Brain Sciences 3(3), 417–424 (1980). 中文屋论证的原始文本。
- Bender, E., Gebru, T., McMillan-Major, A. & Shmitchell, S. "On the Dangers of Stochastic Parrots: Can Language Models Be Too Big?" FAccT 2021. ACM. "随机鹦鹉"框架。
- Chalmers, D. "Could a Large Language Model be Conscious?" 未出版手稿，2023 年在多个场合演讲。
- Titus, C. "LLMs, Turing Tests and Chinese Rooms: The Prospects for Meaning in Large Language Models." Inquiry (2024). DOI: 10.1080/0020174X.2024.2446241.
- Arora, S. & Goyal, A. "A Theory for Emergence of Complex Skills in Language Models." arXiv:2307.15936 (2023).
- Wittgenstein, L. Philosophische Untersuchungen [《哲学研究》]. 1953.（"意义即使用"的经典来源）