先拆掉一个流行判断:“机器会说话了,语言学争论就此终结”
2022 年底以来,一种说法广为流传:大语言模型(LLM)只靠预测下一个词就写出了合乎语法的文章,这证明语言无非是分布统计,乔姆斯基错了,语言学被工程学绕过了。这个判断把三个不同的问题压成了一个:机器能否产出流利的语言(工程问题)、机器内部的表征是否具有语言学家所说的结构(实证问题)、以及人类儿童在远少于机器的数据条件下凭什么学会语言(理论问题)。第一个问题的答案确实是“能”,但它并不自动回答后两个。LLM 的真正意义不在于宣布了胜负,而在于它把语言学几十年来停留在哲学层面的争论——先天与习得、规则与统计、能力与表现——第一次变成了可以做实验的问题。
历史脉络:一场七十年的老争论换了新战场
1959 年,乔姆斯基发表对斯金纳《言语行为》的书评,主张语言不是刺激—反应的联想链,而是一套生成性规则系统,儿童依靠内在的语言能力(competence)在有限输入下迅速掌握语法——这就是“刺激贫乏”(poverty of stimulus)论证的核心。这一立场此后几十年与经验主义路线反复交锋:基于用法的语言学家反驳说,输入远比乔姆斯基设想的丰富,一般性的统计学习与范畴化机制足以解释习得的大部分。
LLM 的出现把这场辩论推向一个奇特的位置:机器学习架构几乎不带任何语言学先验——没有先天的短语结构,没有内置的语法范畴——却从纯文本中习得了令人惊讶的句法敏感性。皮安塔多西(Piantadosi, 2023)因此宣称现代语言模型“驳倒了乔姆斯基的路径”。乔姆斯基本人则与罗伯茨、瓦图穆尔在 2023 年《纽约时报》的评论中回应:LLM 是堆砌统计模式的高超模仿,与人脑“用有限操作生成无限表达”的效率原则南辕北辙,机器吃下的数据量与人类儿童根本不在同一量级,二者不可比较。语言学界的回应同样分裂:卡齐尔(Katzir, 2023)和科德纳等人(Kodner, Payne & Heinz, 2023)指出,LLM 的学习条件与儿童完全不对等,它们的成功不构成对习得理论的有效检验。
证据一:探针——句法表征是否“涌现”
第一个可以动手测量的问题是:模型内部有没有句法结构?休伊特与曼宁(Hewitt & Manning, 2019)提出结构探针:在词向量空间里学习一个距离度量,发现它能相当准确地重建依存树的树距——说明句法树的信息确实编码在表征的几何结构中。坦尼等人(Tenney, Das & Pavlick, 2019)逐层分析 BERT,发现各层的功能顺序近似经典的 NLP 管线:低层处理词性与词块,中层处理句法,高层处理语义与指代——模型在无人教授的情况下“重新发现”了语言学的分析层次。
但要给这个“涌现”加两条脚注。其一,探针能读出信息不等于模型在生成时使用了这些信息——这是探针方法论本身的教训,高容量探针甚至可能自己学会任务。其二,读出的是统计上可用的结构线索,它与语言学家设想的离散、递归、受约束的句法表征是否同构,仍是有争议的解释问题。已确证的是“表征中含有大量句法信息”,有争议的是“这是否等于拥有句法知识”。
证据二:系统泛化——组合性之考
语言学对“懂语言”最硬的一条标准是组合性:理解“猫追狗”和“狗追猫”靠的不是背过这两个句子,而是掌握可迁移的结构规则。雷克与巴罗尼(Lake & Baroni, 2018)构造 SCAN 基准,把指令拆成原语重新组合(学过“跳”和“左转两次”,就该执行“跳两次”),发现当时的序列到序列模型在需要系统重组的拆分上接近崩溃。金与林岑(Kim & Linzen, 2020)的 COGS 基准以语义解释为目标做了同样的事,结论是模型擅长分布内插值、拙于分布外组合。
这场考试的意义随着模型换代而变化:更大的 Transformer 在 SCAN/COGS 类任务上表现显著改善,争论于是从“神经网络原则上做不到组合”转向“当前模型做到的是哪种组合”——是抽象的、对结构敏感的规则,还是更精巧的类比外推。卡利尼等人(Kallini et al., 2024)从另一个方向施压:训练模型学习“不可能语言”(违反人类语言普遍约束的人造语法),如果模型对人类可能的语言与不可能的语言学起来一样容易,“模型内部有语法”的说法就更难成立。这条证据线至今开放。
证据三:语言学反向输出——给 AI 造考卷
这场遭遇战中语言学不只是被检验者,更是出题人。马文与林岑(Marvin & Linzen, 2018)开创的最小对照对方法——构造只在一个句法特征上不同的句子对,比较模型给合法句与非法句的概率——把心理语言学的精密实验设计搬进了模型评测。瓦尔斯塔特等人(Warstadt et al., 2020)的 BLiMP 基准把这一思路规模化:覆盖英语句法、形态与语义接口的十二类现象、六万七千个最小对照对,成为衡量模型“语法敏感性”的标准尺。
结果出人意料地好:大模型在 BLiMP 多数子任务上逼近或超过人类基线。但这恰恰暴露了评测方法论的老问题——考分接近天花板时,考试失去区分度;且提示词式的询问与概率测量并不等价,模型“知道”某句不合法与它在生成中避开该句,可能是两回事。语言学的贡献在这里是双重的:既提供了测试工具,也提供了对工具限度的分析——什么算证据、证据支持到哪一步,这正是实验语言学训练的核心判断力。
证据四:数据饥渴与新版刺激贫乏之争
最尖锐的对比在输入效率。弗兰克(Frank, 2023)在《认知科学趋势》上算了这笔账:儿童到青春期听到的语言大约在数千万词的量级,而大模型的训练语料以千亿到万亿 token 计,相差四到五个数量级;且儿童的输入是与他人互动中的多模态口语,不是无主的文本。人类的学习机器比 LLM 数据高效得不可思议——这究竟是“强先验”的证据,还是“输入质量与学习机制不同”的证据,双方各取所需。
使这场争论区别于二十世纪版本的是,它第一次可以被实验检验。“婴儿语言模型”挑战(BabyLM Challenge, Warstadt et al., 2023)要求参赛者在发展上合理的数据量(千万词级)内训练模型,检验什么样的架构与目标能在儿童规模输入下学到语法。威尔科克斯等人(Wilcox, Futrell & Levy, 2024)把语言模型当作“可习性的动物模型”:在受控合成语料上训练、操纵输入分布,精确测量一条语法规则需要多少、什么形态的证据才能被学会——把“刺激够不够”从思想实验变成了剂量实验。结论尚不一致,但争论的性质已经改变:从立场之争变成了曲线之争。
争议与边界:能力与表现之分还成立吗
生成语法的核心区分——底层的语言能力(competence)与充满口误、记忆限制的语言表现(performance)——搬到机器上立刻变得别扭。LLM 的输出当然只是“表现”;那它的“能力”在哪里?候选答案(内部表征、概率分布)都无法像对人类那样用直觉判断与加工实验来探测,而模型出错的方式——长度退化、罕见构式失败——有时像记忆限制,有时像知识缺失,难以定性。有学者主张这个区分对机器无意义,机器只有表现;也有人认为它反而更有必要:对 BLiMP 的高分是“能力”,实际对话中的句法崩溃是“表现”,混淆二者就会高估或低估模型。
有一条证据线被双方同时引用,需要特别小心对待:模型与人的“对齐”研究。胡等人(Hu et al., 2024)在《美国国家科学院院刊》报告,语言模型对关键语法构式的可接受度判断与人类评分高度相关;阅读时间研究也反复发现,模型计算的惊讶度(surprisal)能预测人类实时加工的困难。支持者把这看作模型捕获了人类语法知识的证据;批评者指出,行为层面的拟合不能区分机制——查表查得足够好的系统和按规则生成的系统可以在同一份行为数据上表现一致。对齐结果确证了“行为相似”,但“机制同构”仍需内部证据,这正是探针与干预研究要补的课。
对两大理论阵营的冲击也不对称。生成语法必须回应:不带语言学先验的机器为何能学到结构敏感的泛化——这削弱了“唯有强先天约束才能解释习得”的论证形式,尽管不触及“人类头脑实际如何”的问题。基于用法的理论看似得分——纯分布学习能走这么远正是其纲领的胜利——但也必须回答:LLM 的“用法”是静态文本的共现统计,不是嵌入互动、指涉与意图的真实使用,把 LLM 当作基于用法理论的证明,和把它当作儿童习得的模型一样,都跨过了证据允许的范围。
为什么今天仍然重要
这场遭遇的持久后果,不是某一派语言学被证伪,而是语言学问题获得了新的实验形态。习得理论的可检验部分在扩大:输入剂量、归纳偏置、表征几何都可以被操纵和测量。同时,AI 评估在可预见的未来离不开语言学——通用基准刷到天花板之后,真正能把“会说”与“懂”分开的,仍是最小对照对、受控语法、跨语言覆盖这套语言学家的工具箱。LLM 没有终结语言学,它把语言学最老的问题变成了最急的工程问题。
跨域连接
- 大语言模型:LLM 对语言学最有价值的贡献不是答案而是可检验性——“掌握分布统计算不算懂语言”过去只能口头辩论,如今可以用探针、最小对照对和受控预训练逐一测量。同时也要警惕反向错误:把工程上的流畅生成直接当作理论问题的裁决。
- 乔姆斯基 与 斯金纳—乔姆斯基之争:2023 年的争论几乎是 1959 年书评的翻版——统计学习能否从零产出语法知识。区别在于,当年双方争夺的是对动物与人类行为的解释权,今天争夺的是对一个可以拆开检查的机器的解释权:同一哲学分歧,第一次有了共同的实验对象。
- 语法理论的证据与争论:LLM 对生成语法与基于用法的理论各打五十大板——纯分布学习的成功削弱了强先天论证的形式,但静态文本统计也不是真正意义上的“用法”。LLM 不是任何一派的战利品,而是迫使双方把“什么证据能区分我们”写清楚的催问者。
- 儿童怎样学会语言:数据饥渴对比是刺激贫乏之争的新形态——儿童在数千万词的多模态互动输入中学会语言,机器用了多四到五个数量级的文本。差距究竟归因于先验结构、输入质量还是学习机制,正是 BabyLM 这类“发展合理规模”实验试图分离的变量。
- 计算语言学与自然语言处理:最小对照对方法(BLiMP 及多语扩展)说明评测工具的精度直接来自语言学分析的精度——考卷出到什么粒度,能力结论才能说到什么粒度。计算语言学在这里完成了一次角色反转:从借用工程指标,到向 AI 评估输出方法论。
参考文献
- Chomsky, N., Roberts, I., & Watumull, J. “The False Promise of ChatGPT.” The New York Times, 2023-03-08.
- Piantadosi, S. T. “Modern Language Models Refute Chomsky’s Approach to Language.” In From Fieldwork to Linguistic Theory, Language Science Press, 2023.
- Katzir, R. “Why Large Language Models Are Poor Theories of Human Linguistic Cognition: A Reply to Piantadosi.” Biolinguistics 17 (2023).
- Warstadt, A., et al. “BLiMP: The Benchmark of Linguistic Minimal Pairs for English.” Transactions of the Association for Computational Linguistics 8 (2020): 377–392.
- Lake, B. M., & Baroni, M. “Generalization without Systematicity: On the Compositional Skills of Sequence-to-Sequence Recurrent Networks.” ICML, 2018.
- Kim, N., & Linzen, T. “COGS: A Compositional Generalization Challenge Based on Semantic Interpretation.” EMNLP, 2020.
- Frank, M. C. “Bridging the Data Gap between Children and Large Language Models.” Trends in Cognitive Sciences 27(11) (2023): 990–992.
延伸阅读
- Wilcox, E. G., Futrell, R., & Levy, R. “Using Computational Models to Test Syntactic Learnability.” Linguistic Inquiry 55(4) (2024): 805–848.
- Warstadt, A., & Bowman, S. R. “What Artificial Neural Networks Can Tell Us about Human Language Acquisition.” In Algebraic Structures in Natural Language, 2022.
- Kodner, J., Payne, S., & Heinz, J. “Why Linguistics Will Thrive in the 21st Century: A Reply to Piantadosi (2023).” arXiv:2308.03228, 2023.