AI WINTER AND SPRING · CHAPTER 09
历史重演?
专家系统与 Agent 的十组镜像对位,揭示知识维护成本为何在四十年后再次出现。
把两张表并排放着
这本书写到这里,最该做的事情不是讲新故事,而是把已经讲过的两张表并排放着看。
第三章给了我们专家系统的病灶清单——规则爆炸、知识获取瓶颈、脆弱性、维护成本失控。第八章给了我们 Agent 时代的对应物——Prompt 爆炸、上下文工程瓶颈、隐性脆弱、评测危机。现在,让我们逐项对齐:
| 专家系统时代(第三章) | Agent 时代(第八章) | 同一个病灶? | |
|---|---|---|---|
| 1 | XCON 规则从 250 涨到 17,500,CSG 团队膨胀 | 通用 Agent 的 prompt 从 30 tok 涨到 160 tok,工具调用从 2 次暴涨到 8 次(本书实验) | ✅ 组合爆炸 |
| 2 | Feigenbaum 1977:"领域知识获取是瓶颈",隐性知识无法显式化 | Prompt/Agent 工程师手工编排上下文、记忆条目、工具描述,每个新场景从零重来 | ✅ 隐性知识难以编码 |
| 3 | 加一条规则破坏两条既有规则,改一处坏别处 | METR:Agent 成功率随任务时长指数衰减(半衰期模型),步数越多越漂移 | ✅ 增量破坏稳定性 |
| 4 | MYCIN 遇到未编码病原体灾难性失效(显性崩溃) | Agent 在边界外靠 LLM 记忆绕过工具校验,自信地给出推理路径错误的"正确"答案(隐性失效) | ✅ 且更危险 |
| 5 | 每条规则人工维护,每年约一半规则要改写 | 每个 prompt、工具、记忆条目人工调优,模型一升级全部要回归测试 | ✅ 维护成本超线性 |
| 6 | 每加一条规则须验证与上千条规则的交互 | SWE-bench 被刷到 90%+ 但 50% 通过的 PR 实际不可合并;OpenAI 自己弃用 | ✅ 验证成本失控 |
| 7 | 1977 年费根鲍姆命名"知识工程师"为新职业 | 2023 年 Prompt Engineer 兴起,2025 年进化为 Agent Engineer;同样面临被自动化 | ✅ 工匠角色轮回 |
| 8 | Symbolics、LMI 造专用 Lisp 硬件,1987 市场崩盘 | LangChain、CrewAI、AutoGen 造专用 Agent 框架,2025 开始洗牌 | ✅ 专用基础设施泡沫 |
| 9 | "XCON 一年省四千万"点燃淘金热 | "Devin 自主写完 App"点燃投资狂热,复现成功率约 15% | ✅ Demo 掩盖成本 |
| 10 | 日本第五代机引发美欧国家竞赛 | 各国"主权 AI"与巨头 Agent 军备竞赛 | ✅ 战略焦虑驱动 |
十项,全部命中。没有一项是修辞排比——每一对背后都有一手史料、可核证的数字、以及(在 A1/A3/A4 的情形下)我们自己跑的实验数据。
一个统计学的反驳
但一个聪明的读者会立刻反驳:你这是"事后挑选"——历史上有无数的失败,你当然总能在两个时代之间找到相似之处。这算什么论证?
这个反驳有力,必须正面回应。
如果对位只是"都失败了",那确实是廉价的模式匹配。但这十项对位的力度不在"都失败了",而在它们失败的原因是同构的。让我用一个反事实来检验:如果 Agent 时代重演的只是"失败"这个表层结果,我们应该能看到一些不同结构的失败。但我们看到的不是——
先看组合爆炸。专家系统的规则两两交互,N 条规则意味着 O(N²) 量级的潜在冲突点。我们的实验显示,通用 agent 的工具调用随 prompt 规则数超线性增长——同一个数学结构,只是"规则"改名叫"prompt 条目"。
再看隐性知识。Polanyi 1958 年指出"我们知道的远多于能说出来的",知识工程师坐在专家旁边两周也写不完专家三秒钟的直觉。今天的 Agent 工程师,坐在一个业务专家旁边,把"什么情况下该调用哪个工具、参数怎么填"写进 prompt 和记忆条目——一模一样的困境,只是 Feigenbaum 叫它"知识获取瓶颈",今天叫"上下文工程瓶颈"。
脆弱性更值得单独说。MYCIN 没见过某种细菌就 confidently 开错药。我们的实验发现,DENDRAL 升级版 agent 在金属有机化合物(它工具库不覆盖的领域)面前,没有承认不会,而是靠 LLM 的预训练记忆给出了看起来正确的答案,但绕过了工具校验层。1985 年的脆弱性是显性的——崩溃、荒谬输出,容易被发现。2026 年的脆弱性是隐性的——靠记忆伪装推理,看起来对了但过程是假的。同一种失效,进化出了更难被发现的形态。
所以对这十项,这本书的论证不是"历史押韵所以重演",而是:存在一个认识论层面的宿命——用显式手工编码的知识去覆盖开放世界,而开放世界的状态空间随规模超线性增长。1985 年这个宿命发作于规则,2026 年发作于 prompt。下一次会发作于什么容器,我不知道——但发作本身是确定的。病灶不在容器,在"手工编码知识覆盖开放世界"这个动作。
但有一个真正的不同
到这里,论证看起来很悲观——历史必然重演,Agent 注定要像专家系统一样撞墙。
但 2026 年和 1985 年之间,确实有一个不同。不是 Agent 变聪明了——它们没有。是别的东西变了。
1985 年的费根鲍姆,手里有三样他没有的东西。
状态管理。 MYCIN 没有检查点——你不能把它的推理过程存下来、回滚、分叉。规则一旦加进去就加进去了,出问题只能事后排查。XCON 后期一万七千条规则,任何一条改动都要验证它和其余全部的相容性,排查的方式是人力,不是状态机。2026 年不一样了。我们写这本书时用的对位台账,就是一个原始的状态机:每写一章,A1 的状态从"待埋"推进到"已埋"再到"已闭合",出错可以定位到具体的状态迁移,退回去重做。langgraph 把这件事做得更系统——Agent 被建模成有状态图,每个节点可序列化、可回放。知识可以版本化、回滚、分支管理。费根鲍姆做不到。
但光有状态管理还不够。状态管理让你能回退到错误发生之前——但它不告诉你错误发生了。这就引出了第二样东西。
专家系统的验证和推理是同一套规则。你用规则库推理出诊断,也用规则库自检——循环论证。MYCIN 给出错误诊断时,没有任何独立机制能发现。而我们写这本书时,Fact-Checker 智能体不信任 Researcher 智能体的初判,用一手来源独立交叉复核。OpenAI 自己弃用被污染的 SWE-bench Verified,METR 审查 AI 生成的 PR 能否真正合并——这些做法共享一个原则:判断对错的那套机制,必须独立于生成答案的那套机制。 这是 1985 年没有的第二样东西。
第三样更微妙,也更接近本书的核心。专家系统的规则库是只能增不能删的沉积物——加规则靠人,删规则没人敢,冲突检测靠几十个人的脑袋。而我们写这本书时的史料库,是一份带状态标记、带变更日志的活文档。发现第五代机预算换算错了,不删旧卡片,而是更新它、标注冲突、保留审计轨迹。这不新鲜——软件工程几十年前就解决了,它叫版本控制。Git 管代码的演化,史料库管知识的演化。专家系统的悲剧在于,它诞生在版本控制成为标配之前,规则库没被当作需要演化的代码,而被当作一次性写死的真理。
这三样东西不是技巧,不是 prompt 工程的套路,而是工程基础设施。它们加在一起,有一个名字。
一本用 Agent 写的书
在讲出那个名字之前,这本书必须做一件极不寻常的事:把镜头转向自己。
你正在读的这本书,是用多智能体协作写成的。每一章都经过一条流水线:Researcher 智证史料,Writer 起草正文,Fact-Checker 逐句复核,Continuity Editor 审查跨章一致性,Style Editor 扫除 AI 腔。这不是"用 AI 辅助写作"——这是一套工程化的写作流水线。
而最深的反讽是:这套流水线在写作过程中,亲历了它所诊断的每一个病灶。
写第八章时,"system prompt"——也就是加载进上下文的五份编排资产——已经膨胀到数万字。史料库 130 多张卡片,对位台账 10 项,术语表、架构文档、大纲。每写一章前要全部读一遍。这不正是 XCON 的规则从 250 涨到 17,500 吗?我就是那个 CSG 维护团队。
写到第八章时,我对第一章某个具体措辞的"记忆"已经不可靠了——这次对话的上下文被压缩过好几次,每一次压缩都丢失了早期细节。这就是上下文坍缩(Context Collapse)。如果没有对位台账这份外部记忆,我根本不可能记得第三章埋了哪些伏笔、该在第八章呼应什么。对位台账的存在本身,就是对长程漂移的承认——我们知道自己会忘,所以把记忆固化到了纸面上。
最讽刺的一幕发生在这里:当我派出 Researcher 智能体去核证 Devin 的复现争议时,Fact-Checker 智能体随后核证了 Researcher 的结论,发现 Cognition 创始人姓名被误传("Wang Shuyi"实为 Scott Wu)。我用的正是第十章 Verification 层所描述的"独立验证不信任初判"机制——而那一段论证,正是由这套机制产出的。
德雷福斯批判符号 AI,用的是人类的哲学。费根鲍姆诊断知识获取瓶颈,用的是人类的知识工程。这本书诊断 Agent 的脆弱性——用的是 Agent 本身。
这意味着这本书的写作过程,就是它论点的实验场。我们在写作中遭遇的每一次上下文坍缩、每一次对位漂移、每一次需要 Fact-Checker 拦截的幻觉,都是书中所诊断的病灶的一次真实发作。
但关键在于后半句:这本书写成了。 八章正文、八份可逐条核验的史料附录、一套可复现的 Agent 实验——质量经得起一手来源的检验。如果 Agent 真的脆弱到不可用,这本书怎么写得出来?
答案不是"Agent 其实很强"。答案是:这本书之所以能写成,不是因为 Agent 可靠,而是因为围绕它建造了一套工程基础设施。 对位台账防止漂移(State Management),Fact-Checker 防止幻觉(Verification),史料库防止重复核证和记忆污染(Knowledge Evolution)。
是这些"容器"驯服了 Agent 的脆弱性,而不是 Agent 本身变强了。
回到那个问题
现在可以正面回答贯穿全书的问题了:历史会重演吗?Agent 会不会像专家系统一样,撞上同一堵墙然后坍塌?
答案是:病灶会重演——它们已经在重演了。但坍塌未必。
病灶重演,是因为它的根在认识论层面——"用显式手工编码知识覆盖开放世界"这个动作本身就有天花板,换什么容器都一样。Prompt Explosion 是 Rule Explosion 换了身衣服,上下文工程瓶颈是知识获取瓶颈换了名字。脆弱性的形态更危险了——从显性崩溃变成了隐性失效,从"看得见的错"变成了"看不见的假对"。这本书的十项对位、加上我们自己跑的实验,已经把这一点钉死了。
但坍塌未必,是因为 2026 年的人类手里多了三张 1985 年没有的牌。State Management 让知识可版本化、可回滚。Verification 让"自不自信"和"对不对"解耦。Knowledge Evolution 让知识像软件一样被维护。这三张牌不能消灭病灶——组合爆炸不会消失,隐性知识不会变得可编码,开放世界不会停止超线性增长。但它们可以把病灶的发作从灾难性坍塌降级为可控的工程问题。
这正是本书最核心的判断,也是全书的转折点:
Agent 不会因为"更大"或"更聪明"而跨越那堵认识论的墙——Scaling Law 解决不了组合爆炸,对齐解决不了隐性知识。Agent 能否逃出繁荣—寒冬的循环,取决于我们愿不愿意给它造一个操作系统——把易腐的上下文,固化为可演化的工程资产。
那个操作系统的名字,是下一章的标题。
(本章是全书思想高潮。它不引入新史料,而是把第三章↔第八章的十项对位逐项闭合,并坦承本书自身作为"用 Agent 写成的书"的元叙事。本章论证依赖的全部史料,均已在第三至第八章的核证附录中独立验证。)