Let's Make AGI Real

这里还是想好好介绍一下Rich Sutton的著名千字短文《The Bitter Lesson》（http://www.incompleteideas.net/IncIdeas/BitterLesson.html），以警醒那些还试图以人类的不完美来纠正机器的完美的努力：这一切必然是徒劳的。虽然人文主义的信仰一直是令人敬佩的，但相信真理并不贬损我们对自我价值的信仰，特别是当我们未来蜷缩在山顶洞里的子孙，可以偶尔为创造了灿烂的机器文明而感到无上的荣光和自豪时。

在人工智能（AI）研究领域的发展历程中，一篇名为《苦涩的教训》（The Bitter Lesson）的短文犹如一盏警钟，时常被后人提及并引发深刻反思。该文由强化学习领域的先驱者Rich Sutton于2019年公开发表，其核心观点直击AI研究的本质，认为在长期来看，那些能够有效利用持续增长的计算能力的一般性方法，最终将以巨大的优势胜过那些依赖人类经验和领域知识的精巧设计. 本文将以严谨的学术视角，深入剖析《苦涩的教训》的来龙去脉、核心观点、重大意义及其在AI领域产生的深远影响。

作者及其学术背景

Rich Sutton教授是人工智能和强化学习领域的杰出学者，他在强化学习领域做出了奠基性的贡献. 其与 Andrew G. Barto 合著的《强化学习》（Reinforcement Learning: An Introduction）被誉为该领域的权威教材. Sutton长期以来对智能体如何通过与环境的互动进行学习并达成目标抱有浓厚的兴趣. 他对AI发展趋势的深刻洞察力，使得《苦涩的教训》一经发表便获得了广泛关注，并成为OpenAI等机构研究人员的必读文章.

在2025年3月，ACM协会宣布将2024年的图灵奖授予Richard S. Sutton和他的博导Andrew G. Barto，以表彰他们在强化学习的概念和算法基础方面的开创性工作。他们从20世纪80年代开始的一系列论文中，引入了强化学习的主要思想，构建了其数学基础，并开发了强化学习领域的重要算法，这为创建智能系统奠定了关键基础. ACM图灵奖常被誉为“计算机领域的诺贝尔奖”，旨在奖励对计算机事业做出重要贡献的个人。

历史背景与核心论点

《苦涩的教训》的提出并非空穴来风，而是源于对过去数十年AI研究历史的深刻观察与总结. Sutton注意到，AI研究人员常常倾向于将人类自身的知识和对问题的理解融入到智能体的设计中，期望以此在短期内提升性能. 然而，历史经验表明，这些基于人类知识的精巧设计往往会在达到一定程度后遭遇瓶颈，甚至阻碍更进一步的突破性进展.

Sutton在文中通过多个经典案例佐证其观点:

• 计算机象棋：早期的研究者致力于利用人类对棋局结构的理解设计复杂的评估函数和搜索策略。然而，最终击败世界冠军卡斯帕罗夫的“深蓝”主要依赖于大规模的深度搜索. 尽管当时许多象棋AI研究者对此表示失望，认为“蛮力搜索”并非通用策略，但事实证明，充分利用计算资源的简单方法取得了最终的胜利.
• 计算机围棋：类似的情况在围棋领域再次上演。研究人员最初投入大量精力，试图利用人类的围棋知识和棋局特征来避免大规模搜索。但这些努力最终被证明是无效的。AlphaGo通过有效地应用大规模搜索和自对弈学习价值函数，取得了里程碑式的成功. 这再次印证了通用方法在算力支持下的强大潜力.
• 语音识别：早期的语音识别系统依赖于人类对语音、音素和发声器官的知识。但在20世纪70年代的DARPA语音识别竞赛中，基于统计模型（如隐马尔可夫模型）的方法，尽管计算量更大，但最终超越了那些基于人类知识的方法. 随着深度学习的兴起，语音识别系统更是越来越少地依赖人类知识，更多地依赖于大规模数据和计算资源.
• 计算机视觉：早期计算机视觉的研究方法包括搜索边缘、广义圆柱体或使用SIFT特征等，这些都带有强烈的人工设计痕迹. 然而，现代深度学习神经网络仅使用卷积和某些不变性的概念，并通过大规模数据训练，在性能上取得了显著的提升.

基于这些历史观察，Sutton提出了《苦涩的教训》的核心论点：AI研究应该更加重视开发能够随着计算资源增长而持续扩展的通用方法，例如搜索和学习. 他认为，人类意识的复杂性是难以捉摸的，试图将人类的思考方式直接构建到AI系统中，在长期来看是事倍功半的. 相反，研究者应该专注于开发元方法，让AI智能体能够像人类一样甚至超越人类进行自主发现.

意义与巨大影响

《苦涩的教训》的发表在AI研究领域引起了广泛的讨论和深刻的反思. 其意义和影响主要体现在以下几个方面：

• 对AI研究方向的指引：该文强调了算力在AI发展中的核心作用，并预言随着摩尔定律的持续发展，通用学习算法将展现出越来越强大的能力. 这对当时的AI研究方向，尤其是在深度学习蓬勃发展的大背景下，起到了重要的指导作用，进一步推动了研究者对更深层次、更通用的模型和算法的探索.
• 对传统AI方法的反思：《苦涩的教训》对那些过度依赖人类知识和手工设计的AI方法提出了质疑，促使研究者重新审视这些方法的局限性以及在长期发展中的潜力.
• 对深度学习浪潮的理论支撑：深度学习正是通过构建深层神经网络，利用大规模数据和强大的计算资源进行学习，这与《苦涩的教训》的观点高度契合. 因此，该文也被视为对深度学习方法有效性的一种理论解释和支持. 研究表明，CVPR会议论文对“苦涩的教训”原则的遵循程度与论文的引用影响力存在一定的正相关关系，尤其是在深度学习兴起之后.
• 在AI创业领域的启示：《苦涩的教训》的思想也延伸到了AI创业领域。有观察指出，许多AI初创企业试图通过在软件层面利用领域知识设置约束规则（工程优化）来弥补当前AI模型的不足. 然而，正如“苦涩的教训”所揭示的，随着更强大的通用模型的出现，这些工程优化的边际效益将逐渐降低，最终会被简单的堆叠算力的通用方案所超越. 因此，创业者应该更多地关注如何利用和适应通用AI模型的发展，而不是过度依赖人为设计的复杂工作流.
• 引发关于AI本质的讨论：《苦涩的教训》不仅是一篇技术性的文章，更引发了关于什么是真正的智能、AI应该如何发展等更深层次的哲学思考. 例如，关于AI是否应该模仿人类的学习方式，以及人类知识在AI发展中应扮演何种角色等问题，都受到了该文的启发.

来龙去脉

《苦涩的教训》的形成并非一蹴而就，而是Sutton长期思考和研究的结晶。他在人工智能领域数十年的从业经历，以及对不同AI方法兴衰的观察，为他总结出这一深刻的规律奠定了基础. 该文的公开发表正值深度学习技术取得巨大成功的时期，这使得文中的观点更容易被人们所接受和认同. 尽管如此，Sutton的观点也并非没有争议，一些学者认为，在AI的发展过程中，人类知识仍然扮演着至关重要的角色，例如在设计网络架构、损失函数等方面. 然而，《苦涩的教训》的核心思想——在长期来看，充分利用计算能力的通用方法将占据主导地位——已被越来越多的实践所证实.

结论

总而言之，Rich Sutton的《苦涩的教训》是一篇极具洞察力的文章，它基于对AI研究历史的深刻反思，提出了在长期发展中，通用方法和持续增长的计算能力才是推动AI进步的关键驱动力的论点. 该文不仅对AI的研究方向产生了深远的影响，也引发了关于AI本质和未来发展路径的广泛讨论。尽管对于人类知识在AI发展中的具体作用仍存在争议，但《苦涩的教训》所揭示的“算力至上”的长期趋势，无疑为我们理解和规划AI的未来发展提供了重要的启示. 随着计算能力的不断提升和通用学习算法的持续进步，我们有理由相信，《苦涩的教训》中所预见的未来正在加速到来.