1965 年,美国哲学家休伯特·德雷福斯在兰德公司完成的研究报告《Alchemy and AI》,把当时轰轰烈烈的人工智能研究比作中世纪炼金术。炼金术士用了几百年试图把铅变成金子,早期 AI 研究者则在实验室里试图用逻辑、符号和规则让机器产生人的心智。德雷福斯的判断是:这两件事表面上都在做严谨实验,但起点可能都是同一个错误前提。放到今天看,这份报告的标题已经成为一个每次技术热潮都会被重新提起的隐喻,因为大语言模型时代同样有一批人认为再堆数据、再调参数,机器就能“真正思考”。这篇文章不做哲学史复述,而是把德雷福斯的分析框架拆开,用深度学习、大语言模型和 AI 工程实践作为检验材料,回答三个问题:他的批评哪些真的应验,哪些已经被技术绕过,以及今天的项目团队如何避免把自己的 AI 项目做成新的炼金术。
1. 德雷福斯与 1965 年的 AI 现场
1.1 当时的主流叙事:机器很快就能思考
要理解德雷福斯 1965 年的批评,得先回到当时的 AI 现场。1956 年达特茅斯会议正式提出“人工智能”这个术语之后,第一批研究者信心极强。纽厄尔和西蒙的“通用问题求解器”能解一些逻辑和符号题目,麦卡锡设计出了 Lisp 语言,机器翻译项目拿到大量经费,当时的公开演讲和报道里经常出现“二十年内机器将达到人类智能水平”这类判断。西蒙甚至在 1957 年做过一个后来被广泛引用的大胆预测:十年内计算机将击败国际象棋世界冠军,并证明重要的数学定理。
在那个时间点,AI 不是被看作一门尚未成熟的技术,而是被看作一个已经选定路线的学科。这条路线就是“符号操作”:把知识和推理都表示成形式化符号,再用规则程序去操作这些符号。今天看来,这不是 AI 的唯一可能路线,但在 1965 年左右,它几乎是整个领域的公约数。
1.2 一个哲学家为什么要闯进 AI 会场
德雷福斯是麻省理工学院哲学系教授,办公室离 AI 实验室不远,和明斯基等人有过直接交流。1965 年,他在兰德公司完成了《Alchemy and AI》这份报告,后来又在同事中传阅并引发争论。他的立场很特别:他不用“程序还能改进”这种工程视角批评 AI,而是从现象学传统出发,直接质疑 AI 的基础假设。他引用海德格尔、梅洛-庞蒂对“人在世界中存在”的分析,认为人的智能依赖身体、习惯、语境和默会知识,这些都无法被改写成一套形式规则。
这种外行视角在 1965 年很容易被当成哲学家的傲慢。但从结果看,德雷福斯提出的问题一直留在 AI 的历史里:如果智能的本质不是规则计算,那所有靠规则计算堆出来的成果,都只是在另一个赛道上自娱自乐。这个判断后来以“框架问题”“常识推理困难”“专家系统脆弱”等形式反复出现。
1.3 炼金术这个比喻为什么很锋利
德雷福斯用炼金术做比喻,并不是为了骂人。炼金术的特点很值得玩味:目标非常明确,要把贱金属变成金子;参与者都是正经学者甚至牛顿这样的顶级科学家;实验方法、设备和文献积累了几百年。但它最终没有炼出金子,因为前提错了。真正形成化学这门学科,恰恰是从放弃“变金”这个具体目标开始的。
德雷福斯的逻辑是:AI 如果沿着一套错误的前提走下去,也会出现类似局面——程序越来越复杂,论文越来越多,成果越来越精巧,但离“造出心智”这个目标越来越远。更关键的是,他给这个比喻留了口子:炼金术虽然失败了,却留下了蒸馏、煅烧、物质分类等实验传统,成为化学的前身。AI 也可能在失败过程中产生一门“关于智能机器的化学”,只是这门学科未必兑现最初造出人类智能的承诺。
理解这个层级,是读通《Alchemy and AI》的前提:它不是一句简单的“AI 不行”,而是一个关于学科前提、目标错位和科学进步的判断。
2. 德雷福斯的解剖工具:早期 AI 的四条核心假设
德雷福斯后来在《What Computers Can't Do》里把早期 AI 研究拆成四条核心假设。这里用今天的术语重新表述,并逐条说清楚为什么每一句都值得较真。
2.1 生物假设:大脑是不是一台数字计算机
第一条假设认为,大脑本质上像数字计算机一样工作,处理信息的方式是一系列离散操作。早期 AI 研究者并不见得真的研究过神经科学,但他们默认机器的计算方式和人脑的思维方式是同一类东西。
德雷福斯的反驳是:这个命题没有任何证据支撑。神经元的放电不是严格二值的简单开关,神经系统包含大量并行、模拟、自组织的机制,大脑和计算机的架构差异远比表面上大。他并不否定神经层面存在信息处理,而是反对把“大脑像计算机”当成不需要验证的起点。
这条假设在今天的讨论里仍然活跃。深度学习兴起后,一部分人相信神经网络已经证明大脑就是计算系统;另一部分人则认为,计算隐喻只是有用的抽象,不能推出人脑的智能可以被数字系统完整复现。德雷福斯当年没有给出结论,但他坚持要求这个假设被当作“待验证命题”而不是公理,这个方法论在今天依然成立。
2.2 心理假设:智能是不是规则操作
第二条假设认为,人的心智可以被看作一个按照形式规则操作信息符号的装置。这个假设比生物假设更接近 AI 程序的实现方式:既然程序是规则驱动的,那么人的思维方式也应该是规则驱动的。
德雷福斯反对的正是这一点。他用技艺和直觉做例子:一个有经验的医生看 X 光片,不是先枚举规则再推理出结论,而是直接“看出”问题;一个老司机开车,不是在每条路上都重新计算,而是依靠整体的情境感。这些能力的特点是:当事人自己都说不出具体规则,但行为高度有效。如果规则提取不出来,而智能又确实存在,那智能就包含了超出规则的部分。
2.3 认识论假设:默会知识能不能全部显式化
第三条假设直接支撑专家系统的设计:所有知识都可以被形式化表达,专家的经验可以被改写成显式规则。这条假设最容易理解错,它不是说“专家很厉害所以值得学习”,而是说“专家能说清楚自己知道的一切”。
德雷福斯从现象学出发指出,人类的绝大多数知识是默会的,像游泳、骑自行车、识别熟人面孔、判断一句话是否冒犯,这些能力无法通过问卷和访谈完整提取。专家能告诉你一部分规则,但真正让专家成为专家的是那些说不出来的判断力。这就是后来“知识获取瓶颈”问题的哲学源头:专家系统做得再大,也只是专家语言的转录,不是专家能力的复制。
2.4 本体论假设:世界是不是一堆独立事实
第四条假设是隐含在符号 AI 里最深的:世界可以分解成客观的、去语境化的事实,程序只要处理这些原子事实就够了。
德雷福斯用海德格尔的“上手状态”来说明:一把锤子在其完整意义上并不是“一个木头柄加一块铁”,而是“用来敲钉子的工具”;一个房间不只是一个物体集合,而是一个让生活得以进行的场所。意义来自情境和行动目的,不是事实自带的性质。如果程序员只把世界编码成一张事实表,程序就永远缺少“这件事在这个情境下意味着什么”的维度。
这四条假设放在一起,构成了一个完整的知识体系:大脑是计算机,心智是规则系统,知识可以全部说出来,世界可以全部枚举。每一条都很自然,但每条都只是假设。
| 假设 | 早期 AI 默认 | 德雷福斯的反驳 | 今天的检验 |
|---|---|---|---|
| 生物假设 | 大脑像数字计算机 | 神经机制未被证明是符号计算 | 神经科学与深度学习的映射关系仍在争论 |
| 心理假设 | 心智就是形式规则操作 | 直觉与技艺无法还原成规则 | 深度学习证明非规则方法也能完成不少认知任务 |
| 认识论假设 | 知识可以全部显式化 | 大量知识是默会知识 | 大模型通过统计学习吸收了隐性知识,但可靠性存疑 |
| 本体论假设 | 世界由独立事实组成 | 意义依附于情境与目的 | 机器人需要具身交互才能理解物理世界 |
3. 哪些预言在 AI 历史上真的应验
德雷福斯 1965 年的判断不是抽象的哲学玄思,很多内容后来以具体工程失败的形式重现。这一节看他哪些判断被历史检验为正确的,哪些明显失手。
3.1 框架问题:常识推理为什么一直难
1969 年麦卡锡和海耶斯发表论文正式命名“框架问题”:一个智能体在状态变化后,怎么知道哪些事实需要重新考虑、哪些事实可以保持不变。这句话听起来很像逻辑学里的细节,但它背后是德雷福斯说的本体论假设困境:如果世界被表示成一大堆独立事实,那么任何一次行动都需要检查所有事实是否变化,计算量会迅速爆炸。
后来机器人领域用“相关性问题”描述同样的问题:一个房间里的机器人要倒水,它需要知道杯子是容器、水会受重力影响、桌面上其他物体不会突然跳到杯子里。人类并不需要显式检查这些,但符号系统必须逐一维护。一直到今天,让机器人在开放物理世界里自主规划仍然是大规模部署的瓶颈,德雷福斯对“事实表世界观”的批评并没有过时。
3.2 第一次 AI 冬天与专家系统的天花板
1970 年代,机器翻译项目效果远差于预期,AI 研究经费被大规模削减,史称第一次 AI 冬天。这背后正是德雷福斯反对的心理假设和认识论假设:研究者以为用规则模拟推理就能覆盖复杂人类知识,结果发现规则数量每增加一个量级,冲突和例外就会增加更多。
1980 年代专家系统再次尝试把领域知识写成规则,德雷福斯警告的问题以“知识获取瓶颈”的形式出现:领域专家很难把自己的判断外化为规则,即使外化出来,规则系统一到边界案例就出错。下面这个极简示例可以说明规则系统的结构性问题:
# 伪代码:一个“专家规则”的边界 def diagnose(patient): if patient.fever and patient.cough: return "流感" if patient.fever and patient.rash: return "麻疹" if patient.fever and patient.joint_pain: return "登革热" # 现实世界还有几百上千条规则,组合之后立刻爆炸 return "unknown"这段代码的问题不在规则太少,而在于每加一个症状组合,就必须新增一条规则;真实世界没有尽头,规则系统永远在打补丁。这正是德雷福斯说的“知识不能全部显式化”在工程上的直接体现。
3.3 莫拉维克悖论与具身智能的迟到
机器人学者后来总结出一个“莫拉维克悖论”:对人类来说很难的棋类计算,计算机很容易;对人类来说毫不费力地拿杯子、走路、认脸,计算机却非常困难。这个观察在经验上支持了德雷福斯的核心观点——身体技能和默会知识不是简单的低阶任务,而是智能中最难复制的部分。
直到 2010 年以后,深度学习在视觉、语音和运动控制上取得突破,机器才真正开始处理感知和动作问题;而“具身智能”成为前沿研究热点,已经是近五年的事。德雷福斯强调的身体、情境、交互这三个要素,不是被当初的符号 AI 解决了,而是被搁置了几十年,最后由深度学习重新捡起来。
3.4 哪些判断明显失手
德雷福斯并不是每次都正确。最有名的失手是国际象棋。他早期认为,机器永远无法达到大师级棋力,因为下棋需要直觉,而直觉无法用规则穷举。1997 年“深蓝”击败卡斯帕罗夫,等于在具体场景上否定了他的判断。另一个失手在感知机领域。他跟随明斯基和帕佩特的观点,认为单层感知机做不了通用模式识别;这在单层网络上是数学结论,但多层神经网络后来用完全不同方式绕开了这个限制。
所以德雷福斯的历史形象是复杂的:他诊断出了符号 AI 的深层问题,但他对“机器能力上限”的很多具体断言过于绝对。正确看待他的方式是把他当作框架批判者,而不是预言机器上限的先知。
4. 深度学习与大模型时代:对德雷福斯的再检验
4.1 统计学习绕开了“规则必须显式化”
大语言模型的出现,正面回应了德雷福斯的认识论假设,但它不是通过符号规则,而是通过统计学习做到的。模型在海量文本上学习分布规律,能回答很多需要常识的问题,能写出符合语境的句子,能完成部分推理任务。这证明了一件德雷福斯当年不认为可行的事:大量默会知识,尤其是语言里的知识,可以通过数据驱动的方式被机器捕获,而不需要专家把它们写出来。
从工程角度看,这是 1965 年几乎没有人能预料到的路线。德雷福斯的批评默认了“计算机只能按显式规则工作”,而深度学习把这个问题绕过去了:规则不是写出来的,是训练出来的。这意味着他对早期符号 AI 的批评依然有效,但并不能直接推广到整个 AI 领域。
4.2 幻觉、无根基与常识缺口仍然存在
但绕过规则不等于解决智能。大模型最突出的问题——幻觉——恰好对应德雷福斯说的“无根基性”。模型能生成流利话语,却无法确认自己说的是否与世界相符;它没有持续行动的载体,无法通过实际结果校正错误。一个模型如果连续产生合理但不真实的回答,和炼金术士自信地宣称“再试一次就能炼出金子”,在结构上有些相似。
另一个问题是分布外崩溃。训练数据覆盖内的题目表现很好,稍微改变措辞、增加反事实条件、进入罕见场景,性能可能急剧下降。这和“事实表世界观”的缺陷属于同一种模式:系统依赖统计到的模式,而不是对世界因果结构的理解。
4.3 具身智能重回前沿
德雷福斯最坚持的论点,是智能必须有身体、有交互、有技能习得过程。今天这个大方向得到了主流研究的部分承认:机器人领域开始把大模型接入物理体,做视觉-语言-动作模型;智能体研究强调环境反馈和工具调用;世界模型被当作下一代通用智能的关键技术之一。这些努力的共同点是:不再认为“给模型更多文字”就足以达到强智能,而是让它进入世界、获得反馈、产生代价和后果。
当然,具身化是不是必要条件,仍然没有定论。语言系统是否能在足够数据量下涌现出完整的世界模型,是当前争论的核心。德雷福斯的遗产是把这个争论从哲学边缘带到了主流视野里。
4.4 一条对账表:1965 年的判断与今天的现实
| 议题 | 德雷福斯 1965 的立场 | 今天的现实 | 判断 |
|---|---|---|---|
| 知识显式化 | 不可能全部写成规则 | 深度学习证明大量知识可被统计捕获 | 部分过时 |
| 常识推理 | 规则系统无法覆盖常识 | 大模型能回答部分常识,但分布外脆弱 | 方向正确 |
| 机器学习棋类 | 无法达到大师级 | 深蓝 1997 年击败卡斯帕罗夫 | 明显失手 |
| 身体技能 | 必须依靠具身和默会知识 | 机器人技能学习长期困难,近年才有突破 | 经验上成立 |
| 意义与情境 | 脱离情境就没有智能 | 幻觉与无根基问题持续存在 | 仍然有效 |
5. 工程视角:一个 AI 项目怎样避免变成炼金术
德雷福斯当年批评的是整个领域,但同样适用于单个项目。今天的 AI 项目失败,很少是“模型不先进”造成的,更多是把演示当能力、把指标当理解、把论文当产品。
5.1 炼金术思维在项目里的三个典型症状
第一个症状是演示成功即自我满足。团队用一个精心挑选的测试集跑出“惊艳效果”,就认为产品已经成立。第二个症状是指标崇拜。排行榜分数涨了几个点,就声称模型能力提升;实际上评测集与训练数据分布高度重叠,分数只反映记忆。第三个症状是边界模糊。产品文档里不写模型做不到什么,只写能做什么,上线后用户遇到边界场景就投诉。
这三个症状的共同来源,是混淆了“系统在这个样本上表现好”和“系统掌握了这项能力”。德雷福斯批评炼金术时说的正是这一点:实验每次都成功,目标却从未接近。
5.2 三个最常见的坑:演示正确、评分失真、规则幻觉
结合今天的项目管理实践,下面三个坑最值得写进排错手册。
| 坑 | 错误现象 | 为什么会错 | 推荐做法 |
|---|---|---|---|
| 把演示集当验证集 | 演示视频效果完美,真实用户一用就崩 | 演示样本经过挑选,无法代表真实分布 | 建立独立的分布外测试集,演示完成后必须跑回归 |
| 只测平均指标 | 平均准确率 95%,但所有失败都集中在高危类别 | 平均分掩盖了类别不平衡和严重失败 | 按类别、场景、输入长度拆分指标,列出失败模式 |
| 让专家口头给规则就上生产 | 专家说“这个很简单,按几条规则走就行”,系统上线后不断出错 | 专家传达的是显式规则,丢掉了默会判断 | 让专家参与标注而非写规则,用数据验证规则效果 |
这三个坑每天都在真实项目中发生。前两个是工程方法问题,第三个是 1965 年那个认识论假设的现代翻版。
5.3 从学习环境到生产环境的验证链路
学习环境里跑通一个 notebook,和生产环境里稳定运行一个服务,完全是两件事。学习环境只需要验证模型“潜在可行”,生产环境必须验证输入、输出、异常分支、成本和安全。推荐按这个顺序搭建验证链路:
# 示例:分布外测试的骨架 # 用于回答“模型在没见过的样本上还能不能正常工作” import csv def evaluate(predict, samples): total = 0 failures = 0 for row in samples: prediction = predict(row["input"]) if prediction != row["expected"]: failures += 1 print("FAIL", row["id"], row["input"], prediction) total += 1 accuracy = (total - failures) / total print(f"accuracy={accuracy:.2%} failures={failures}") return accuracy这段代码的重点不是写法,而是样本集的选取规则:样本必须来自真实使用场景、覆盖正常和异常输入、与提示词调优时使用的数据分开。如果做不到,任何准确率数字都没有意义。数据拆分原则可以参考下方表格:
| 阶段 | 目标 | 数据要求 | 常见错误 |
|---|---|---|---|
| 开发调试 | 让模型快速跑通 | 少量典型样本 | 用同一批样本反复调提示词 |
| 回归测试 | 防止提示词改坏旧能力 | 多批次历史样本 | 忘记加入失败案例 |
| 分布外测试 | 检验真实泛化 | 独立采样的真实用户输入 | 让团队成员手写“很像训练数据”的样本 |
| 上线监控 | 检测线上漂移 | 匿名化线上日志 | 只在出问题时才看日志 |
5.4 发布前检查清单
任何 AI 功能上线前,建议逐项核对下面这份清单。它不是流程官样文章,而是直接对应本文前面讨论的“避免炼金术”原则。
- 成功指标是否绑定业务价值,而不是只绑定模型指标。
- 是否独立评估了分布外样本,而不是只报告评测集分数。
- 是否列出了模型已知的失败模式,并写了兜底策略。
- 是否有明确的降级路径:模型不可用时,系统能否退回到规则或人工。
- 是否接入日志和监控,能够定位“哪条输入触发了哪类错误”。
- 是否设计人工复核闭环,尤其是高风险输出场景。
- 是否确认训练数据的有效期和更新机制,数据失效后模型会退化。
- 是否评估成本与延迟,模型效果再高,不可持续就没有生产价值。
- 是否由非项目成员做了黑盒验收,避免团队自证清白。
- 是否明确写出“这项能力目前做不到什么”。
清单的用处在于强行把“演示成功”和“生产可用”分开。很多 AI 项目在线下评估时显得很强,恰恰是因为没有回答清单里第 2、3、5 条。
6. 德雷福斯的遗产:从论文标题到今日争论
6.1 一份报告如何变成三部曲
《Alchemy and AI》是德雷福斯 AI 批评的起点。1972 年他把报告扩写成《What Computers Can't Do》,1992 年修订为《What Computers Still Can't Do》,书名从“不能做”变成“仍然不能做”,本身就说明他对“机器能做很多事”这一点有所让步。1986 年他与斯图尔特·德雷福斯合著《Mind over Machine》,进一步讨论专家系统在管理决策中的局限。
对技术读者来说,最值得注意的是他在 1992 年修订版里认真讨论了神经网络的进展。他没有简单嘴硬,而是承认连接主义在某种程度上绕开了他批评的“显式规则”路线,但依然认为缺乏具身交互的纯网络系统无法形成完整的人类智能。这个姿态值得学习:批判者如果永远不更新观点,就和被批判的学科一样没有进步。
6.2 不造心智,但留下学科
回到炼金术的比喻。今天的 AI 是不是炼金术,取决于评价标准。如果目标是“造出与人类一样的心智”,那目前没有任何系统能做到,德雷福斯式的怀疑依然有效。如果目标是“在语言任务上替代或辅助人类”,那大模型已经是严肃的工程成果,不能简单斥为炼金术。
真正有价值的问题是:AI 学科最终会不会像炼金术到化学那样,在放弃“造心智”这个初始目标之后,形成一套更扎实的关于智能、表示、学习与评估的科学。目前能看到的最接近这种“化学”的东西,是评测体系、可观测性工程、对齐研究和对失败模式系统的整理。它们不性感,但它们是学科成熟度最高的部分。
6.3 AI 工程师真正该带走的东西
德雷福斯没有给出任何代码或模型,但他留下了三个可供工程落地的方法论:
第一,把“能力”和“表现”分开。系统能生成听起来合理的回答,不等于掌握了对应知识;能通过评测集,不等于能在真实世界泛化。第二,明确系统边界。任何时候都要回答“这个系统的外围在哪里、什么输入它会崩、失败时怎么降级”。第三,保留数据与行为的验证习惯,而不是靠语言说服自己。模型是否好、规则是否对,最终要用独立数据来检验,而不是用感受和演示。
如果一个 AI 项目团队能从 1965 年这份报告里带走一条教训,那就是:在多数情况下,伪造进步比实现进步容易得多,而工业界唯一能对抗这件事的办法,是把评测、边界、失败模式和回滚方案当成和模型参数一样重要的工程质量来建设。真正的“化学”,不是模型的涌现能力,而是围绕模型建立起来的可验证的系统纪律。