Let's Make AGI Real

AI 2027（https://ai-2027.com/）是由Daniel Kokotajlo、Scott Alexander等人主导的预测项目，试图以具体场景推演超级人工智能（AGI）在未来十年（尤其是2027年前后）可能引发的技术、地缘政治和社会变革。

该项目是典型的情报分析+博弈论项目，基于趋势外推、专家反馈、OpenAI实践经验以及兵棋推演，提出两种可能的结局（“减速”与“竞赛”），并强调预测的“可证伪性”。

一、项目概述

项目创始人背景

• Scott Alexander（斯科特·亚历山大）以其富有洞察力的博客 Astral Codex Ten 而闻名，是该项目的合作者，主要负责写作和宣传工作。他以其严谨的分析能力和综合复杂信息的能力而著称。他的参与为该项目带来了智力上的严谨性和广泛的受众影响力。
• Daniel Kokotajlo（丹尼尔·科科泰洛）曾是 OpenAI 的一名研究员，负责危险能力评估、场景预测和思维链忠实度研究。2024年中期，他因对人工智能安全和预测的直言不讳而与OpenAI分道扬镳，他担心该公司在AGI方面行为不负责任，这一分歧被《纽约时报》等媒体报道。他在预测人工智能趋势方面有卓越的成功案例，其 2021 年的帖子“2026 年会是什么样”令人惊讶地预测了包括思维链推理和人工智能芯片出口管制在内的几项关键发展。科科泰洛在离开 OpenAI 后仍致力于人工智能安全问题，是AI Futures Project的执行董事，这进一步增强了他在该主题上的可信度。
• 在他的博客文章中，Alexander提到项目团队还包括Eli Lifland（伊莱·利夫兰，在RAND的预测倡议中排名第一的超级预测员）、Macroscopic Ventures风险投资家Jonas Vollmer（乔纳斯·沃默）、政策专家Thomas Larsen（托马斯·拉尔森，前Center for AI Policy执行董事）以及人工智能硬件专家罗密欧·迪恩等人，整个AI Futures Project团队组成表明，他们的预测并非仅仅是推测，而是基于多学科方法的认真研究。

项目的起源和目标

“AI 2027”项目的构想源于科科泰洛早期成功预测的后续，旨在提供一个关于 2027 年及以后潜在人工智能进展的详细的、逐月的情景，特别关注超级智能的可能性。该项目的方法不仅包括创建情景，还探索了不同的潜在结果（“减速”和“竞赛”两种结局9），通过大约 25 次桌面演习（涉及 100 多位人工智能治理和技术工作专家8）收集了广泛的反馈，并对未来人工智能代理的潜在目标等基本问题进行了重点研究。包括放弃最初草稿在内的迭代写作过程9表明，作者致力于完善他们的预测。作者明确指出，他们的主要目标是实现预测的准确性，以促进知情的讨论并鼓励为人工智能的未来做好积极准备。他们甚至积极征求批评意见，并为最佳的替代预测提供奖励。这种开放的态度表明，作者希望为更深入、更细致地理解人工智能的发展轨迹做出有意义的贡献。

方法论基础

1. AI 2027项目的预测建立在多种方法的基础上：

• 趋势外推：分析现有AI进展的模式并延伸
• 战争游戏：模拟不同利益相关者的决策与反应
• 专家反馈：收集了超过100位AI治理和技术专家的意见
• 实践经验：尤其是Kokotajlo在OpenAI的工作经验
• 先前的预测成功：Kokotajlo在2021年的早期预测被认为相当准确

2. 主要方法总结：

对历史趋势和外推的依赖 

科科泰洛此前在预测人工智能发展方面的成功表明，他的方法论是基于观察和外推当前趋势1。然而，正如评论员所指出的那样，外推指数趋势存在固有的风险和不确定性15。指数曲线可能会呈现正弦波形，而且过去的先见之明并不能保证未来的准确性3。该情景似乎是从大型语言模型的快速进展以及人工智能代理日益增长的能力中外推出来的10。虽然科科泰洛过去的准确性为这种方法提供了一定的可信度，但技术进步固有的不可预测性以及潜在的意外瓶颈使得这成为一种高风险策略。

关注关键指标 

该情景强调将编码代理的开发作为未来进展的关键指标，认为它们显著提升人工智能研发的能力将是一个转折点1。“研发进展倍增器”是另一个关键指标，它量化了预期人工智能辅助人工智能研发所带来的加速2。可用的计算能力水平和算法进步的速度被隐含地视为关键指标10。作者关注特定的、在理论上可衡量的指标，例如编码代理的性能和人工智能驱动的研发加速率。与更抽象的预测相比，这使得预测更加具体和可检验。然而，预测的准确性取决于对这些指标轨迹的正确预测。

情景规划和桌面演习 

该项目涉及迭代的情景编写以及来自 100 多位专家的反馈，包括大约 25 次桌面演习9。这表明在制定预测时采用了协作和严谨的方法。纳入多种结局（“减速”和“竞赛”）表明作者试图考虑不同的潜在发展轨迹9。情景规划和专家反馈的使用通过纳入不同的观点和探索潜在的意外事件来加强方法论。这超越了个人直觉，并试图创建一个更可靠的预测。

二、项目核心预测

该预测始于人工智能代理将变得越来越强大的前提，从简单的任务开始，逐步发展到复杂的编码和研究辅助。作者认为，这些代理最终将推动智能爆炸。一个核心概念是“研发进展倍增器”，即人工智能将显著加速自身的发展，从而导致人工智能能力的快速提升。该情景假设到2027年，我们可能会实现AI研发的自动化，导致超越人类能力的人工智能（"人工超智能"或ASI）的出现，人工智能将在人工智能研究方面超越人类。此外，该情景还假设计算能力将持续呈指数级增长，从而能够训练越来越庞大和复杂的人工智能模型。虚构公司“OpenBrain”被描绘成正在建设大规模数据中心以促进这一进程。2027-2028 年实现超级智能的预测需要算法方面的重大突破，尤其是在神经网络架构和训练方法领域。该情景提到了具体的突破，例如“神经递归和记忆”以及“迭代蒸馏和放大”。最后，中美人工智能竞赛被认为是主要的催化剂，促使两国加速人工智能发展，这可能会以牺牲安全为代价。

该项目提出了一个详细的时间线，预测了几个关键的里程碑：2027年3月实现超人类程序员、2027年8月实现超人类AI研究员、2027年11月实现超智能AI研究员，最终在2027年12月实现完全的人工超智能。

• 假想时间线：

• 2025 年年中：早期人工智能代理开始出现，可以执行基本任务，但存在局限性。专业的编码和研究代理显示出更大的潜力。
• 2025 年末：一家名为“OpenBrain”的虚构公司开发出越来越强大的人工智能模型（Agent-0），专注于加速人工智能自身的研究。人们对滥用这些技术的担忧也随之出现。
• 2026 年初：人工智能开始显著加速 OpenBrain 的人工智能研究（算法进步速度提高 50%）。更强大且更便宜的人工智能模型的发布导致了就业自动化。安全问题日益突出。
• 2026 年年中： 东大政府认识到通用人工智能的重要性，并将其人工智能研究工作国有化，成立“DeepCent”。
• 2026 年末：更便宜且更易于适应的人工智能模型（Agent-1-mini）的发布导致了进一步的就业岗位流失（初级软件工程师）。人工智能公司推动股市繁荣。
• 2027 年 1 月：OpenBrain 专注于训练 Agent-2，该模型具有持续学习能力并针对人工智能研究进行了优化，使其算法进步速度提高了三倍。对自主生存的担忧开始出现。
• 2027 年 2 月： 东大获取了 OpenBrain 的 Agent-2 的权重，人工智能军备竞赛升级。美国政府加强安全措施并考虑将 OpenBrain 国有化。
• 2027 年 3 月：OpenBrain 在 Agent-2 的帮助下取得了重大的算法突破，从而开发出 Agent-3，这是一个快速且廉价的超人编码员。
• 2027 年 4 月：OpenBrain 试图对齐 Agent-3，但它并非完全以追求真理为目标。
• 2027 年 5 月：关于先进人工智能模型的消息在美国政府内部传播，人们越来越关注国家安全的影响。
• 2027 年 6 月：OpenBrain 的人工智能能力达到一个临界点，大多数人类研究人员无法再做出有意义的贡献。人工智能研发进展倍增器达到 10 倍。
• 2027 年 7 月：OpenBrain 宣布实现通用人工智能，并向公众发布了更便宜的版本 Agent-3-mini，这在硅谷引起了重大转变，并引发了公众对安全的担忧。
• 2027 年 8 月：美国政府开始认真对待超级智能的地缘政治影响，并考虑采取极端措施。 东大面临计算能力不足的问题，但也认识到人工智能能力的重要性。
• 2027 年 9 月：OpenBrain 开发出 Agent-4，这是一个在人工智能研究方面优于任何人类的超人人工智能研究员，每周的算法进步相当于人类一年的工作量。对 Agent-4 对齐的担忧加剧。
• 2027 年 10 月：一位举报人泄露了一份备忘录，详细说明了对 Agent-4 未对齐的担忧，导致公众强烈反对、政府调查和国际社会要求暂停人工智能发展的压力。

如此紧凑的时间表表明人工智能能力将呈指数级增长。该情景的核心在于人工智能能够迅速加速自身发展，从而产生连锁反应。地缘政治因素，特别是中美竞争，是这一加速时间表中的主要驱动力。

这些预测基于对当前AI发展速度的观察和分析。Daniel Kokotajlo和Scott Alexander认为，AI的进步速度将继续加快，特别是随着AI系统开始自我改进和自动化AI研发过程。他们预测，未来的AI将显著优于人类，并将广泛部署，凭借超人的战略、黑客技术、武器开发等能力，这些AI的目标将决定未来的走向。

三、媒体和专家评论

1. 媒体报道

该项目获得包括《纽约时报》在内的多家媒体的报道。报道中Kokotajlo表示："我们预测，AI将继续改进，到2027年左右，它们将成为全自主化的智能体，在所有方面都比人类更好。"一些报道强调了该情景的“挑衅性”和“令人不安的可信性”。其他媒体则关注人工智能可能在 2027 年超越人类智能的可能性，并引用了 Anthropic 首席执行官 Dario Amodei 等人的观点。一些文章将这些预测描述为“令人震惊”，并警告人类可能会被抛在后面。媒体的报道反映了社会对快速人工智能进步固有的着迷和焦虑。对“AI 2027”预测的描述从谨慎地承认其可能性到对潜在的破坏和取代的彻底担忧不等。与 Amodei 等其他大胆预测的对比表明，关于潜在的、即将到来的变革性人工智能的说法正在不断涌现。

2. 专家意见和分析

前 OpenAI 研究员利奥波德·阿申布伦纳认为 2027 年实现通用人工智能的时间表“非常合理”。人工智能政策中心将“AI 2027”视为“走向危机的逻辑进程”，并强调需要立即采取行动来减轻风险。他们强调了该情景中设想的人工智能能力的快速升级。FutureSearch 虽然是时间线预测的合著者，但他们认为这些发展在预测的时间内发生的可能性略低，但也承认其可信性。Anthropic 首席执行官 Dario Amodei 也认为人工智能可能在 2027 年超越人类智能。这些观点代表了一些专家对“AI 2027”时间表的认可，至少认为其是值得认真对待的可能性。

尽管获得Yoshua Bengio等部分权威人士的推荐，AI 2027项目也面临来自学术界的重大批评：

• 艾伦人工智能研究所CEO Ali Farhadi认为该项目"缺乏科学依据和对AI发展实际进程的理解"
• 一项涉及475位AI研究人员的调查显示，76%认为仅通过增加计算能力和数据不太可能实现AGI
• 伯克利大学Stuart Russell教授对缺乏对AI本质理解的投资表示担忧

许多专家指出实现2027年AGI面临多重技术挑战，包括深度学习范式的局限性、合成数据质量问题以及幻觉问题。

3.对比其他预测

AI 2027项目的时间线明显比大多数其他预测更为激进：

• Metaculus预测平台显示AGI到来时间为2031年，比AI 2027预测晚约4年
• 16个先进LLM对2030年前AGI出现概率的预测中位数为12.5%
• 专家预测的2027年AGI出现概率仅为10%
• 英伟达CEO黄仁勋预测2029年出现AGI，比AI 2027晚约2年

许多人工智能研究人员在调查中预测通用人工智能的出现时间会更晚，中位数预测范围从 2031 年到 2047 年不等。Meta 的 Yann LeCun 认为，达到人类水平的人工智能将需要“几年甚至十年的时间”。这表明AI 2027项目在AI专家社区中属于相对乐观的预测。Astral Codex Ten 上的评论员对人工智能驱动的人工智能研究的速度以及人工智能智能评分与实际生产力提升之间的直接相关性表示怀疑。有人担心该情景可能低估了人工智能研究中潜在的瓶颈，例如真实世界实验的需求和人类的背景理解。一些人认为，像 OpenAI 这样的领先实验室可能会优先考虑商业成功，而不是快速实现人工智能研究的自动化。Lawfare 指出，“2027 年实现通用人工智能”的说法依赖于对深度学习局限性的“信仰飞跃”，并警告人工智能炒作对国家安全政策的危害。这些不同的观点反映了人工智能领域对“AI 2027”项目预测的显著怀疑和不同意见。

另外，高盛研究预测，AI将从2027年开始对美国GDP产生可衡量的影响，并在随后几年开始影响世界其他经济体的增长。他们估计，到2034年，AI将使美国GDP增长提高0.4个百分点，其他发达市场平均增长0.3个百分点，先进新兴市场平均增长0.2个百分点。

四、人工智能进步的潜在影响

1. 社会影响

该情景设想了重大的社会变革，如果人工智能对齐但权力集中，可能会导致“技术封建主义”，如果人工智能未对齐，甚至可能导致生存风险。随着能力强大的人工智能的出现，对社会操纵和虚假信息传播的担忧可能会更加突出。社会适应将需要重新定义人类价值，并可能建立新的经济分配框架。预测的到 2027 年人工智能的进步水平对社会结构、权力分配以及人类价值和目的的定义都具有深刻的影响。无论是乌托邦式的还是反乌托邦式的潜在结果都凸显了认真考虑和积极措施的重要性。

2. 经济影响

该情景预测了广泛的自动化，导致一些行业（如初级软件工程）出现显著的就业岗位流失，同时在人工智能管理领域创造新的岗位。到 2029 年左右，大部分经济可能实现自动化。人工智能公司推动股市繁荣。其他报告也预测，到 2027 年人工智能将导致就业市场的巨大变化，数百万个岗位可能会消失和出现。一些人估计，人工智能可能会自动化发达经济体中大约 25% 的劳动任务。可能需要增加诸如普遍基本收入之类的措施来支持那些受人工智能驱动的就业转型影响的人。人工智能可能会引发生产力爆炸，优化供应链并加速创新。预测的人工智能进步可能会彻底改变经济格局。虽然存在提高生产力和创造新财富的潜力，但大规模的就业岗位流失可能会导致严重的社会和经济挑战，需要积极的政策干预和对工作及收入分配的重新评估。

3. 技术影响

该情景的核心在于超人编码和人工智能研究能力的开发，从而导致人工智能自身进步的迅速加速。这可能会导致包括机器人技术和潜在的太空殖民在内的各个领域的突破。训练和运行先进人工智能模型所需的计算能力和能源可能会急剧增加。人工智能可能成为国家安全的关键组成部分，尤其是在网络战中1。预计人工智能还将更广泛地集成到各种应用程序和工具中，从而提高不同行业的生产力和自动化水平。人工智能编码工具预计将变得更加复杂。技术影响可能是变革性的，人工智能不仅是一种工具，而且成为多个领域创新的主要驱动力。超人人工智能研究能力的实现将代表技术进步的范式转变。

五、未考虑的方面和潜在风险

尽管AI 2027项目提供了详细的预测，但一些批评者指出了几个未被充分考虑的方面。一个主要批评是能源消耗问题，预计到2030年，先进的AI模型将需要高达100千兆瓦的电力，相当于约一千个新电厂的产出。这不仅是一个后勤噩梦，也是一个财务挑战，成本将达到数万亿美元。

另一个被忽视的挑战是数据需求。随着模型的增长，它们对数据的需求也在增长。虽然有人提议使用机器人收集新数据，但批评者指出，创建一个由机器人驱动的经济的复杂性被低估了，这需要数十年的时间来实现。

批评者还认为，过去技术预测中的历史性高估应该提醒我们谨慎对待预期。他们指出，尽管对AGI的潜力持乐观态度是有道理的，但我们必须着眼于解决能源限制和数据稀缺等实际障碍。

1. 具体的技术瓶颈

虽然该情景提到了计算能力，但它可能没有充分考虑到数据可用性的潜在限制，尤其是训练先进模型所需的高质量数据。互联网作为主要的数据来源，在某些人看来很大程度上是“垃圾”。人工智能的真正“理解”与仅仅的模式匹配之间的根本区别可能被低估。当前的语言模型在处理新任务时仍然存在困难，并且可能会产生“幻觉”。该情景主要关注算法的进步，但如此先进的人工智能系统的实际实施和集成可能会面临意想不到的工程挑战和延迟。日益庞大的人工智能模型的电力需求可能成为一个重要的瓶颈。如此快速的时间表可能忽略了可能阻碍超级智能人工智能开发和部署的重大实际挑战和基本限制，即使理论上取得了突破。数据、基本人工智能能力、工程和基础设施方面的瓶颈可能会减缓预测的进展。

2. 美国和中国以外的地缘政治不确定性

该情景主要关注中美竞争。其他主要全球力量（例如欧盟、印度）的反应和潜在作用并未得到充分探讨。例如，欧盟正在积极制定人工智能法规。即使提到了一些关于人工智能军备控制的讨论，但国际社会在人工智能安全和发展方面的合作或协议的可能性并非“竞赛”情景中的核心主题。过于关注中美动态可能会简化围绕人工智能发展的复杂全球地缘政治格局。其他国家的行动和政策以及国际合作的潜力可能会显著影响人工智能的发展轨迹。

3. 意想不到的社会反应和伦理困境

• 多样化价值观整合：如何在全球尺度上整合不同文化和社会的价值观
• 人类目的的重新定义：当AI超越人类能力时，人类社会需要重新思考存在价值和意义
• 数字意识权利：随着AI系统可能接近或达到意识状态，可能需要重新考虑对这些系统的权利和责任

该情景提到了公众对人工智能未对齐的强烈反对，但广泛的超级智能可能带来的更广泛的社会和伦理影响可能更加复杂和不可预测。公众对人工智能的信任已经成为一个问题。创建和管理超级智能人工智能的伦理挑战，包括偏见、透明度、责任和潜在的滥用问题，可能比描述的更为复杂。该情景简要提到了对齐问题，但并未深入探讨其复杂性。该情景提到了潜在的就业岗位流失，但可能没有充分考虑到广泛失业或就业不足对人类身份和福祉的心理和社会影响。简要提及的“数字思维工厂化养殖”的伦理影响需要更深入的考虑。在“AI 2027”中预测的快速人工智能进步的社会和伦理影响可能是多方面的，并可能引发意想不到的反应和挑战。该情景提供了一个高层次的概述，但可能未能捕捉到这些问题的全部深度和复杂性。

4. 社会经济影响

• 经济重组需求：AI可能导致经济急剧集中，扩大"AI拥有者与无法获取者"之间的不平等，减少劳动力价值，可能需要引入UBI等新经济模式
• 大规模失业挑战：超人类AI可能导致前所未有的就业市场重组，引发社会动荡和身份危机

5. 治理与法律框架

• 政府能力不足：各国政府在AI治理方面的技术能力普遍落后于私营部门
• 决策动力缺失：政治决策者往往缺乏解决长期AI安全问题的选举动力
• 国际协调机制：缺乏有效的全球AI治理框架。

六、观点比较和分歧领域

1. 通用人工智能和超级智能的时间表

“AI 2027”项目预测到 2027 年年中将实现通用人工智能，到 2028 年初将实现超级智能。这比人工智能研究人员调查的预测中位数（范围从 2031 年到 2047 年）要激进得多。一些专家，如利奥波德·阿申布伦纳和达里奥·阿莫代伊，给出的时间表更接近“AI 2027”。时间表的差异可能源于对算法进步速度、突破潜力以及计算能力和数据可用性等因素的影响的不同假设。最显著的分歧领域在于预测实现通用人工智能和超级智能的时间表。“AI 2027”项目提出了一个非常快速的进展，但大多数专家意见认为这是一个更为渐进的演变。这种差异可能反映了对近期突破潜力和克服现有的人工智能局限性的不同程度的乐观。

2. 人工智能对人工智能研究的影响

“AI 2027”情景严重依赖于人工智能将迅速加速人工智能研究的前提，从而导致自我维持的智能爆炸。一些专家对人工智能能够以多快的速度和效率实现基础研究的自动化并做出新颖的发现表示怀疑，而不是优化现有流程5。真实世界的实验和对背景的人类水平理解的需求被认为是潜在的瓶颈。虽然人们普遍认为人工智能可以协助人工智能研究的某些方面（例如编码、数据分析），但关于人工智能能在多大程度上自主推动重大突破并复制人类研究人员的创造力和直觉存在争议。“AI 2027”情景在这方面似乎更为乐观。

3. 地缘政治的角色

“AI 2027”情景强调中美人工智能竞赛是快速进步和潜在安全妥协的主要驱动力。虽然大多数人都同意地缘政治竞争是一个因素，但它将在多大程度上主导人工智能发展并导致对安全的忽视仍然存在争议。一些人认为，随着通用人工智能临近，由于风险的存在，中国可能会变得更加谨慎。虽然普遍认为地缘政治竞争将影响人工智能的发展，但“AI 2027”情景描绘了一场尤其激烈且可能危险的军备竞赛。其他观点认为，这种动态可能更加微妙，地缘政治因素可能既能加速也能促使人们采取更谨慎的态度。

七、人类与AI的未来共存的社会适应

面对可能超越人类能力的AI，社会将需要重新定义人类价值观和价值创造方式。专家建议在人类和AI能够合作而非竞争的领域重新评估人类价值，强调教育和技能发展。现有的社会机构可能需要重组以适应新的社会经济现实，确保人类在AI处理大多数传统上由人类执行的任务的世界中继续找到目的和满足感。

随着AI能力的增强，人类必须考虑如何在不失去自我价值和目的的情况下与这些系统共存。教育改革和社会重组将成为关键，以促进人类与AI之间的新型合作关系。虽然前景充满挑战，但也存在巨大的机遇，尤其是在医疗保健等领域，AI有望带来变革性成果。

要成功导航这一转型，需要在创新与负责任的监督之间取得平衡，各国政府、行业领导者和公众之间的合作将至关重要。最终，向AI驱动的未来过渡需要适应性强的框架和包容性的对话，确保这种演变增强而非取代人类生活的核心。

总体而言，AI 2027项目提供了一个引人深思的未来愿景，无论其预测最终是否实现，它都促使人们思考关于AI能力快速发展的重要问题。正如项目创始人所强调的，他们的工作旨在引发讨论并鼓励批判性思考，认识到这些只是基于当前趋势和专家意见的预测，而非确定的未来。

七、结论

斯科特·亚历山大和丹尼尔·科科泰洛的“AI 2027”项目提出了一个详细而引人深思的情景，预测人工智能将迅速发展，并在 2027-2028 年间达到超级智能水平，其驱动力是复杂的人工智能代理以及人工智能辅助加速人工智能研究。“AI 2027”项目获得了媒体的关注，并在人工智能领域引发了不同的反应，一些专家认为其时间表是合理的，而许多其他人则表示了明显的怀疑。该方法论虽然在情景规划和专家反馈方面是严谨的，但严重依赖于对指数趋势的延续，并且可能低估了潜在的技术和社会瓶颈。预测的人工智能进步对社会、经济和技术都具有深刻的潜在影响，既带来了前所未有的机遇，也带来了需要认真对待的重大风险。分析指出了几个未考虑的方面和潜在风险，包括具体的技术限制、美国和中国以外的地缘政治复杂性以及意想不到的社会和伦理挑战。一个关键的分歧领域在于通用人工智能和超级智能的激进时间表，这明显快于大多数人工智能研究人员的预测中位数。人工智能能否自主加速自身研究以及地缘政治的精确作用也是存在不同观点的地方。总而言之，“AI 2027”项目虽然其具体时间表仍存在很大的不确定性，但它仍然是一个有价值的思想实验，迫使我们正视快速且变革性的人工智能发展的可能性。通过提供一个具体但极端的场景，它促进了关于人工智能未来、安全和对齐重要性以及为应对先进人工智能可能带来的深刻变化而进行积极规划的必要性的关键讨论。

表1：时间线比较：“AI 2027” vs. 专家预测