跳转到内容
← 返回核心概念
人工智能计算机科学 · 人工智能史12 分钟阅读

专家系统与第二次 AI 寒冬

Expert Systems and the Second AI Winter

1980 年代初,人工智能第一次成为一门生意。 商业逻辑很清楚:把某个领域专家的知识,写成一大堆"如果……那么……"的规则,装进推理引擎,就得到一个能在该领域作出专业判断的系统。它不需要通用智能,只需要在一个窄领域里比新手强。

专家系统知识工程第二次 AI 寒冬知识获取瓶颈符号主义

1980 年代初,人工智能第一次成为一门生意。

商业逻辑很清楚:把某个领域专家的知识,写成一大堆"如果……那么……"的规则,装进推理引擎,就得到一个能在该领域作出专业判断的系统。它不需要通用智能,只需要在一个窄领域里比新手强。

它确实做到了。DEC 公司的 XCON 用于配置 VAX 计算机订单——这项工作规则繁多、容易出错、且极其枯燥——据该公司报告,它每年节省了数千万美元。MYCIN 在血液感染诊断的评估中表现不劣于医师。这是 AI 第一次拿出可核算的投资回报。

投资随之涌入:企业成立知识工程部门,专用的 Lisp 机器厂商上市,日本在 1982 年启动"第五代计算机"国家计划。

到 1990 年代初,这个市场基本消失了。 Lisp 机器厂商倒闭或转型,第五代计划在 1992 年结束时未达成主要目标,"专家系统"成了一个招标文件里要避开的词。

破除误解:它不是"没用"

第一,它真的有用,而且部分至今仍在运行。 规则引擎从未消失——它们改了名字,藏在保险核保、税务软件、工业控制、医疗决策支持与合规检查系统里。当规则明确、变化缓慢、且必须可审计时,基于规则的系统仍然是正确选择。 消失的是"专家系统"这个品类与围绕它的产业叙事,不是这项技术。

第二,它失败的方式很具体,不是笼统的"AI 太难"。 下面四条瓶颈可以逐条说清,每一条都指向今天仍在的工程问题。

第三,把它简单归为"符号主义失败、连接主义胜利"是一种事后重构。 两次寒冬的原因结构不同:第一次(1970 年代)主要源于对通用能力的过度承诺与资金政策转向;第二次源于一个真实产品的规模化失败。而第二次寒冬结束后崛起的统计机器学习,正在若干方面重新遭遇专家系统当年的问题。

四个瓶颈

一、知识获取瓶颈。

这是最根本的一条,也是当时被明确命名的困难。要建一个专家系统,必须让知识工程师坐在专家旁边,把专家的判断逐条问出来、写成规则。

问题在于专家说不出自己怎么做的。一位资深医生看一眼病人就知道情况不妙,你问他依据什么,他给出的解释往往是事后重构的、不完整的、甚至与他实际的判断过程不符。波兰尼所说的"我们知道的比我们能说出来的多",在这里成了一个工程上的硬约束。

结果是:一个中等规模的系统需要数百到数千条规则,每条都要靠访谈提炼、验证、调试。建造成本随规则数超线性增长,而这正是它无法规模化的原因。

二、脆性(brittleness)。

规则系统在其覆盖范围内表现良好,一旦越界就没有优雅降级。它不会说"这个我不确定",而是自信地给出一个错误答案,因为它没有任何常识可以察觉自己已经越界。

人类专家在遇到反常时会退回到更基础的知识:这不对劲,让我重新想想。规则系统没有"更基础的知识"这一层。 这个问题在 1980 年代被清楚地诊断出来,并直接催生了 Cyc 这类试图手工编码常识的项目——那个项目运行了四十年,本身也是一个值得单独考察的案例。

三、维护的组合爆炸。

规则之间会相互作用。加入第 501 条规则时,必须确认它不与前 500 条冲突、不改变已有案例的结论。规则库的维护成本随规则数的平方级增长,而领域知识本身在不断变化。

XCON 之所以是最成功的案例,恰恰因为计算机配置这个领域规则明确、有客观对错、且由公司自己控制。多数领域不具备这三个条件。

四、硬件路线的崩塌。

专用 Lisp 机器在 1980 年代初有真实的性能优势,但通用工作站与 PC 的性价比提升得更快。到 1987 年前后,专用硬件的优势消失,整个硬件产业段在两三年内蒸发。 这一击与 AI 本身的能力无关,纯粹是通用计算的规模经济碾过了专用路线——这个模式后来在多个领域重演过。

第五代计算机计划

日本通商产业省在 1982 年启动的十年计划,是这段历史中最常被误读的部分。

它的目标是建造以逻辑编程(Prolog 一系)为核心、大规模并行的知识信息处理系统。它促成了美国的 MCC、英国的 Alvey 计划与欧洲的 ESPRIT——一次国家层面的技术竞赛。

1992 年结束时,它没有达成主要目标。常见的评价是"失败",但需要区分:它在并行逻辑编程与约束求解上产出了扎实的研究成果,培养了一代研究者;它失败的是产品目标与技术路线的押注。 它押注的是"知识 = 显式规则 + 逻辑推理"这条路,而真正接管这个领域的是统计方法与数据驱动。

这是一个关于技术押注的教训:国家级投入可以推动一条路线走到它的极限,但无法改变那条路线的极限在哪里。

与第一次寒冬的对照

两次寒冬常被并称,其成因结构值得分开:

第一次(约 1974—1980)第二次(约 1987—1993)
承诺的内容通用智能、机器翻译窄领域的专业判断
产品是否真的有效基本没有可用产品有真实产品与真实收益
主要失败点能力不足、组合爆炸无法规模化与维护
触发因素莱特希尔报告、资金政策商业市场收缩、专用硬件崩塌

第二次寒冬更值得研究,因为它是一次"产品成功但商业模式失败"的案例。 技术能做出示范,却无法以可接受的成本复制到下一个领域——这正是今天评估任何 AI 应用时最该问的问题。

今天的回响

专家系统的四个瓶颈,有三个在当代 AI 系统中以新形式重现:

  • 知识获取 → 变成了数据标注与偏好对齐。不再问专家"你的规则是什么",而是问"这两个输出哪个更好"。它绕开了显式化的困难,代价是标准变得隐含且难以审计。
  • 脆性 → 变成了分布外行为。模型在训练分布内表现优异,越界后同样不会说"我不确定",而是自信地给出错误答案。症状与三十年前一模一样,机制不同。
  • 维护 → 变成了模型更新的回归问题。改进一处可能损坏别处,且比规则冲突更难定位,因为没有可检查的规则可读。

唯一被真正解决的是可扩展性:学习系统从数据中获取知识的成本远低于人工编码。而这一条恰好是当年最致命的那一条,这解释了整个领域为何转向。

同时,专家系统的一项优势至今未被取代:可解释与可审计。一条被触发的规则可以被读出来、被质疑、被修改;一个模型的判断不能。在高风险且需要问责的领域,规则系统仍在使用,原因就在这里。

它留下的判断力

  • "有效"与"可规模化"是两个独立的问题。 一个在示范项目中有效的技术,其推广成本可能随领域数量线性甚至超线性增长——评估任何新技术时,先问第二个问题。
  • 注意没有"我不知道"这个输出的系统。 无法表达自身不确定性的系统,在越界时最危险,而它不会告诉你何时越界。
  • 区分"路线失败"与"研究失败"。 第五代计划的路线押错了,产出的研究成果仍然真实——这两件事在事后评价中经常被混为一谈。
  • 同一个瓶颈会换名字回来。 知识获取→数据标注、脆性→分布外泛化、规则冲突→回归。认出这种同构,是从技术史中获得实际价值的主要方式。

跨域连接

  • 感知机与第一次 AI 寒冬:两次寒冬的对照本身是最有信息量的部分——第一次是能力不足,第二次是有能力却无法规模化。把它们合并成"AI 周期性遇冷"这个笼统叙事,会丢掉唯一可用于判断当下的东西:这一次卡住的是哪一环。
  • 机器学习概览:从人工编码规则转向从数据中学习,正是为了绕开知识获取瓶颈。这个转向解决了成本问题,同时把可解释性交了出去——今天关于模型可解释性的全部研究,某种意义上是在试图买回专家系统免费拥有的那样东西。
  • 逻辑编程:Prolog 与约束求解是第五代计划的技术核心,也是符号推理最成熟的形态。它并未消亡,而是退回到了它真正擅长的位置——形式验证、调度与配置、类型系统与规则合规。理解它的适用边界,比争论符号与连接哪个更"对"有用得多。
  • 大语言模型:当代系统在脆性与不确定性表达上的表现,与专家系统惊人相似——在覆盖范围内表现优异,越界后自信地出错。差别在于覆盖范围大得多且边界不可见,这既是进步也是新的困难:规则系统至少能列出自己知道什么。
  • 形式化方法与验证:规则系统可被逐条审计这一性质,在高风险领域仍具不可替代的价值。这提示了一条务实的架构原则:把需要问责的决策放在可检查的规则层,把需要泛化的判断放在学习层,而不是用一种范式包打天下。

参考文献

  • Feigenbaum, E. A., McCorduck, P. The Fifth Generation. Addison-Wesley, 1983.
  • Shortliffe, E. H. Computer-Based Medical Consultations: MYCIN. Elsevier, 1976.
  • Barker, V. E. & O'Connor, D. E. Expert Systems for Configuration at Digital: XCON and Beyond. Communications of the ACM 32(3), 1989.
  • Lenat, D. B. & Guha, R. V. Building Large Knowledge-Based Systems. Addison-Wesley, 1990.
  • Polanyi, M. The Tacit Dimension. Routledge, 1966.
  • Odagiri, H., Nakamura, Y. & Shibuya, M. Research Consortia as a Vehicle for Basic Research: The Case of a Fifth Generation Computer Project in Japan. Research Policy 26(2), 1997.

延伸阅读

  • Crevier, D. AI: The Tumultuous History of the Search for Artificial Intelligence. Basic Books, 1993.
  • Dreyfus, H. L. What Computers Still Can't Do. MIT Press, 1992.
  • Russell, S. & Norvig, P. Artificial Intelligence: A Modern Approach. 4th ed., Pearson, 2020(第 1 章的历史部分)。
  • Hendler, J. Avoiding Another AI Winter. IEEE Intelligent Systems 23(2), 2008.