把经验，
装进规则。

1970 年代，斯坦福的 MYCIN 研究用规则处理感染诊断与抗菌药物选择，肖特利夫于 1976 年出版相关专著。系统不只给建议，也能解释所用规则，成为专家系统的经典案例。

MYCIN 把领域规则、推理过程及不确定性处理结合起来，探索计算机如何辅助专业判断。它属于研究系统，并未作为常规临床工具部署。其经验提出的问题至今仍有意义：知识如何维护，建议怎样解释，评估结果与实际使用之间还需要跨越哪些环节。

1980 年的 R1 论文介绍了为 DEC 计算机系统配置部件的专家系统，后来它以 XCON 广为人知。系统把配置约束与工程经验写成规则，展示了知识工程在企业流程中的价值。

配置订单并非只选择单个零件，还要检查连接、电源和空间等相互约束。R1 把这类知识用于逐步补全配置。这个案例说明，在边界明确、规则可获取的任务中，专家系统能够产生实用价值；其表现不能直接推广为所有专业工作的自动化。

日本通产省于 1982 年启动第五代计算机计划，重点探索知识处理、逻辑编程与并行推理。此前 1981 年的讨论与会议是筹备阶段，不能与正式项目启动混为一谈。

项目希望把面向知识和推理的计算作为新一代系统方向，并围绕专用架构和软件展开长期研发。其主要计划于 1992 年结束，留下研究系统与技术经验，也暴露了特定路线同市场发展的距离。评价这段历史应分别看科研成果、产业采用和原始目标。

1982 年，霍普菲尔德用物理系统的集体行为研究神经网络记忆。网络中的单元相互连接，经过状态更新可趋向稳定模式，为内容寻址记忆提供了有影响力的模型。

在相应对称连接和更新条件下，能量函数可描述网络演化，局部稳定状态对应存储模式。从残缺或受扰动输入恢复模式，是这一模型的重要直观例子。不过，稳定不意味着总能得到正确记忆；容量限制和伪稳定状态同样是理解模型的组成部分。

1986 年，鲁梅尔哈特、辛顿与威廉姆斯发表研究，展示如何通过反向传播训练多层网络学习内部表示。误差的梯度可以逐层计算，使隐藏层的权重也能系统地调整。

反向传播是计算梯度的方法，通常与梯度下降等优化规则配合使用。它并不是 1986 年突然出现的无前史发明；这篇论文的重要性在于展示多层表示学习并推动广泛使用。更深的网络仍需面对优化、数据和计算资源问题，算法普及并未一次解决所有困难。

1989 年，Cybenko 等人的研究说明，在一定激活函数和定义域条件下，具有单个隐藏层的网络能任意精度逼近连续函数。这回答了表达能力问题，却没有保证容易找到相应参数。

这里的“任意”需要连同条件一起理解：通常涉及紧集上的连续函数，以及足够多的隐藏单元。定理不意味着固定大小的网络能解决所有任务，也不承诺训练效率、所需样本或泛化表现。它帮助研究者把“能否表示”与“能否学到”明确区分开来。

1989 年，杨立昆及同事展示用反向传播训练具有局部连接和共享权重的网络，识别手写邮编数字。把图像结构的知识纳入网络设计，降低了参数需求并改善识别表现。

局部连接让单元集中处理图像中的小区域，共享权重使同一种特征可在不同位置被检测。它们与训练方法共同构成早期卷积网络的重要实践。这里区分 1989 年邮编识别论文与 1998 年 LeNet-5 文档识别论文，不把后来的结构和商业部署全部归入同一年。

沃特金斯在 1989 年博士研究中提出 Q-learning，通过与环境交互学习行动价值，无需事先给定环境转移模型。1992 年与 Dayan 合作的论文进一步给出收敛条件与证明。

学习者估计在某个状态采取某个行动能获得的长期回报，并依据新经验更新估计。所谓无模型，不是没有任务规则、状态设计或探索策略。经典收敛结论依赖有限状态行动、充分探索和合适学习率等条件，不能直接套用于任意深度网络。

1992 年前后，IBM 的 Tesauro 发展 TD-Gammon，把神经网络与时序差分学习用于西洋双陆棋。通过大量自我对弈，系统改进局面评估，展示了强化学习处理复杂游戏的潜力。

自我对弈减少了对专家棋谱的依赖，但系统仍使用游戏规则、状态表示与研究者设计的训练过程，不是从没有知识的空白状态开始。不同版本的实力和所用特征有所变化。因此这里不把后期世界级表现、所有版本和“发现最优策略”合并为 1992 年的一次成果。