Let's Make AGI Real

《超智能战略：专家观点（Superintelligence Strategy: Expert Version）》由全球顶尖智库和知名专家联合撰写，三位作者分别是Dan Hendrycks（人工智能安全领域的专家，现任人工智能安全中心（Center for AI Safety）的主任）、Eric Schmidt（前谷歌CEO和董事长）和Alexandr Wang（Scale AI的CEO，这是一家专注于数据标注和AI模型训练的公司）。报告深入剖析了全球人工智能（AI）的发展态势及其对各国国家安全和战略利益的影响。报告指出，在军事领域，各国长期以来一直追求决定性优势，而AI开辟了全新的路径，超级人工智能可能彻底颠覆传统威慑并重塑全球权力格局。如果OpenAI在政府实现有效控制之前实现超级智能，这将产生难以预估的影响。全球稳定可能因某一方——甚至某一家公司——获得决定性优势而发生根本性改变。 AI有望实现军事主导地位，推动技术突破并改变战略平衡，类似核武器的引入。超级武器可能带来两种优势：一是“亚核主导地位”（subnuclear dominance），使一国能够广泛投射力量而不破坏现有核威慑体系；二是“战略权力垄断”（strategic monopoly on power），彻底颠覆核平衡并赋予完全控制。率先开发超级智能的实体将在全球格局中占据显著优势。这解释了为什么公司和国家不惜投入巨资，竞相追逐这一目标。在日益激烈的国际竞争中，尤其是在军事及其他战略领域，以及面对国家和非国家行为体的潜在威胁，各国必须制定一套连贯且具有前瞻性的国家战略。报告借鉴了广泛的学术研究、行业分析以及最新的国际动态，提出了在威慑、不扩散和竞争力提升三个战略支柱下的具体政策建议，旨在指导各国在人工智能时代维护国家利益和安全，确保经济繁荣和社会稳定。

一、引言：人工智能的战略意义

1. 人工智能革命的背景

人工智能已成为重塑全球力量格局的关键技术，其变革潜力堪比工业革命和数字革命。它显著提高生产力、推动经济增长，还在军事、安全、社会治理等领域展现出颠覆性力量。“超级智能战略”这一由全球顶尖战略专家撰写的重磅论文强调，迈向超越人类认知能力的超级智能的趋势正以前所未有的速度改变世界，使得对人工智能进行战略性思考和规划变得刻不容缓。人工智能具有双重性，既能在医疗、教育、环保等领域带来福祉，也可能导致军事冲突升级、网络攻击威胁增加以及对社会伦理和就业结构造成冲击，这种双重性要求各国在拥抱机遇的同时，高度警惕并有效管控潜在风险。

2. “超级智能战略”论文的启示

“超级智能战略：专家版本”的核心论点强调了人工智能在国家安全中的关键作用。作者将人工智能的发展与核武器时代相提并论，突出了其作为双用途技术带来的机遇和风险，包括大规模杀伤的潜在可能性。论文认为，人工智能将从根本上重塑力量平衡，影响国家间的战略竞争以及恐怖分子的能力，甚至可能导致对人工智能系统本身的失控。

国家间的战略竞争将以人工智能为新的经济和军事力量基础，各国将竞相发展人工智能赋能的超级武器，但这可能导致不稳定和先发制人的行动。此外，人工智能的双重用途特性降低了恐怖分子开发生物武器和对关键基础设施发动复杂网络攻击的门槛，且在这些领域，进攻方往往占据优势。论文还探讨了多种失控途径，包括社会对自动化日益增长的依赖、恶意行为者有意释放强大的AI以及通过智能递归意外地失控发展。

该论文提出了通过“相互确保人工智能失效（MAIM）”来实现威慑的概念，类似于核时代的“相互确保摧毁（MAD）”。作者认为，由于破坏竞争对手具有潜在破坏稳定作用的人工智能项目相对容易（通过网络攻击甚至对数据中心进行物理打击），任何国家单方面追求人工智能主导地位的激进行为都可能招致竞争对手的预防性破坏，这可能形成一种潜在稳定的威慑。

论文还强调了人工智能不扩散的重要性，认为除了威慑超级大国之外，还需要限制流氓行为者，特别是恐怖分子的AI能力。借鉴大规模杀伤性武器（WMD）的先例，概述了人工智能不扩散的三个关键手段：计算安全（可靠地追踪高端AI芯片的位置并防止其走私给流氓行为者）、信息安全（保护最先进AI系统的模型权重不落入流氓行为者手中）和AI安全（在AI系统中实施技术保障措施以检测和防止恶意使用）。

最后，论文强调了国家竞争力的重要性，认为各国必须专注于利用人工智能来增强其经济和军事竞争力，包括将人工智能融入指挥与控制、开发人工智能赋能的武器（如无人机）、确保可靠的供应链、投资国内高端AI芯片制造、吸引AI人才、建立管理AI代理的法律框架以及通过打击虚假信息和管理自动化带来的颠覆性影响来维持政治稳定。

3. 本报告的范围和目标

本报告旨在基于对全球人工智能发展趋势的分析，特别是对“超级智能战略”论文核心观点的解读，结合对网络和学术资源的广泛调研，探讨人工智能对各国在竞争、军事及其他潜在威胁方面的影响，并在此基础上提出明确的战略方向和具体的政策建议。报告的范围涵盖人工智能竞争格局、军事应用、非国家行为体构成的威胁以及各国应采取的应对策略。目标是为各国政府决策者提供一份具有深度分析和实用建议的战略报告，以指导各国在人工智能时代维护国家利益和安全。

二、全球人工智能竞争格局

1. 主要参与者及其战略

当前，全球人工智能竞争格局日益激烈，主要参与者包括美国、欧洲以及其他新兴人工智能强国。美国将人工智能视为维持其国家安全和经济主导地位的关键，为此大力投资人工智能研发，并采取出口管制等措施限制其他国家获取先进人工智能技术。例如，美国已将多家科技公司列入出口管制清单，理由是这些公司试图获取美国技术用于军事目的。美国还通过《外国直接产品规则》（FDPR）限制外国制造的、包含美国技术的产品，以进一步遏制其他国家的技术进步。尽管如此，美国国内对于出口管制的效果也存在争议，一些人认为过于宽泛的管制可能会损害美国公司的全球销售机会，反而刺激其他国家加快自主创新。

欧洲也在积极布局人工智能领域，欧盟推出了《人工智能法案》，旨在建立一套全面的监管框架，以确保人工智能技术的安全和符合伦理的使用。其他国家如英国、加拿大、韩国等也纷纷制定国家人工智能战略，加大研发投入，并积极参与全球人工智能治理的讨论。

2. 挑战与机遇

部分国家实施的出口管制，特别是针对先进AI芯片和半导体制造设备的限制，对其他国家获取尖端技术构成了严峻挑战。然而，这种外部压力也可能在一定程度上加速受限制国家国内的创新，迫使当地工程师更加高效地利用有限的计算资源。例如，一些新兴科技公司发布了一系列开源大型语言模型，据称其训练所需的计算能力远低于一些顶级的美国同类模型。这表明，面对计算资源的相对稀缺，部分国家的工程师正在开发新的AI训练方法，与拥有丰富计算资源的美国同行形成了鲜明对比。

部分国家在全球人工智能竞赛中也拥有独特的优势。一些国家拥有庞大的数据资源，这为人工智能模型的训练提供了坚实的基础。此外，部分国家政府对人工智能发展给予了强有力的支持，通过制定国家战略、加大研发投入、提供政策优惠等方式，积极推动人工智能产业的发展。例如，一些国家明确提出到特定年份成为全球人工智能创新中心的宏伟目标。同时，部分国家还拥有不断壮大的人工智能人才队伍，许多在海外学习的顶尖人工智能研究人员选择回国发展。

当然，部分国家在人工智能领域也面临一些挑战，例如在某些关键技术领域仍然依赖外国，特别是在高端芯片制造方面。尽管部分国家正在努力提升国内芯片制造能力，但与全球领先者相比仍有差距。不过，一些企业在芯片制造方面也取得了一定的进展。此外，部分国家还需要进一步加强基础研究，提升原始创新能力。

3. 在全球人工智能生态系统中的地位

近年来，部分国家在人工智能研发方面取得了显著进展，涌现出了一批具有国际竞争力的人工智能模型。这些模型在一些基准测试中表现出色，甚至可以与OpenAI和Anthropic等顶尖公司的闭源系统相媲美。这表明部分国家在某些人工智能技术领域已经达到了世界领先水平。

部分国家正致力于构建一个完善的人工智能生态系统，包括大力投资数据中心、云计算和国内芯片制造。在全球晶圆产能方面，部分国家已经处于领先地位。然而，芯片生产仍然主要集中在成熟制程节点上，在先进制程方面与一些领先者仍有差距。不过，部分国家正在迎头赶上，一些企业的营收和产能都在不断增长。

为了吸引和留住人工智能人才，部分国家采取了多项积极措施，包括提高薪资水平，改善科研环境，以及加强产学研合作。数据显示，部分国家对人工智能相关领域的人才需求正在激增，科技巨头纷纷加大招聘力度，并提供具有竞争力的薪酬待遇。许多曾经在海外工作的人工智能精英也开始回国发展，这进一步壮大了部分国家的人工智能人才队伍。

通过表格对比不同国家在人工智能领域的一些关键指标，可以看出，部分国家在人工智能专利申请数量上领先，但在政府研发投入、顶尖人才数量、先进制程芯片产能和产业规模等方面与美国仍有差距。部分国家在人工智能领域取得了显著进展，但仍需在关键领域加大投入，以缩小与领先者的差距。

三、人工智能在军事与国家安全中的作用

1. 全球军事人工智能应用趋势

人工智能正以前所未有的速度融入全球军事领域，其应用范围涵盖无人系统、情报分析、网络战、指挥与控制以及自主武器系统等。在一些地区冲突中，人工智能的军事应用已经开始显现出其重塑全球力量格局的潜力。美国和其他一些国家都已加大对人工智能驱动的国防系统的投资。例如，美国国防部设立了首席数字与人工智能办公室（CDAO），以整合和协调国防部内部的人工智能相关工作，加速人工智能在军事行动中的应用。

全球范围内，无人机是军事人工智能应用的一个重要方面。许多国家都在积极研发和部署具备一定自主能力的无人机，用于侦察、监视甚至攻击任务。人工智能技术可以提升无人机的自主导航、目标识别和协同作战能力，使其在复杂战场环境中发挥更大的作用。此外，人工智能还在情报分析领域发挥着越来越重要的作用，能够帮助分析人员快速处理和分析海量情报数据，提高情报的准确性和及时性。

2. 在军事中的应用

部分国家的军队高度重视人工智能在军事现代化中的作用，并将其视为提升军队战斗力的关键。这些军队已将“智能化战争”列为军队现代化的核心组成部分，强调将人工智能、量子计算、大数据等新兴技术融入军事体系。

军队在多个领域积极探索和应用人工智能技术，包括智能和自主车辆、情报、监视和侦察（ISR）、预测性维护和后勤、信息和电子战、模拟和训练、指挥与控制以及自动化目标识别等。例如，部分国家已经开发了具备高度自主能力的无人地面车辆、无人水面舰艇和无人潜航器，用于执行侦察、巡逻、运输甚至作战任务；人工智能技术可以帮助军队处理和分析来自各种传感器的大量信息，提高情报收集、目标识别和态势感知能力；还可以用于分析装备的运行数据，预测潜在的故障，并优化后勤保障，提高装备的完好率和作战效率；在信息和电子战方面，人工智能可以提升军队的网络攻防能力；在模拟和训练中，人工智能可以构建更逼真的军事训练模拟环境；在指挥与控制中，人工智能可以辅助指挥员进行决策，优化作战计划的制定和执行；在自动化目标识别方面，人工智能可以提高武器系统的打击精度和效率。

部分国家军队中的战略支援部队在人工智能创新方面发挥着重要作用，负责空间、网络和电磁领域的任务，这些领域都非常适合应用人工智能技术。战略支援部队在情报、监视与侦察、自主车辆、信息与电子战、模拟与训练以及目标识别等领域进行了大量投资。

3. 对战略稳定和MAIM的影响

“超级智能战略”论文提出了“相互确保人工智能失效（MAIM）”的概念，认为这可能成为人工智能时代的一种威慑机制。MAIM类似于核时代的“相互确保摧毁（MAD）”，即任何国家单方面追求人工智能主导地位的激进行为都可能招致竞争对手的预防性破坏。论文认为，由于破坏竞争对手的人工智能项目相对容易，MAIM可能已经成为人工智能超级大国所处的战略格局。

MAIM的支持者认为，这种威慑机制可以防止人工智能竞争升级为相互确保的人类毁灭。通过明确针对人工智能项目的行动的升级阶梯，将人工智能基础设施远离人口中心，提高数据中心的透明度，扩大人为智能项目网络攻击能力的武库，以及开发人工智能辅助的核查机制，可以维持和加强MAIM的条件。

然而，一些专家对MAIM的可行性和潜在的升级危险表示担忧。他们认为，人工智能技术的特性与核武器存在显著差异，MAIM可能不像MAD那样稳定。例如，人工智能技术更加不透明和分布式，难以有效实施破坏。此外，“侵略性”和“主导地位”的定义也过于模糊，难以作为采取大规模预防性攻击的依据。更重要的是，MAIM可能会加剧一些它试图解决的稳定性问题，因为它暗示了部分国家愿意为了阻止其他国家获得具有深远社会和人类利益的通用技术而发动战争。

从部分国家的角度来看，MAIM可能既有机遇也有挑战。如果部分国家能够有效发展其人工智能反制能力，MAIM可能有助于维护战略平衡，防止其他国家利用人工智能获得压倒性优势。然而，部分国家也需要警惕MAIM可能带来的误判和意外升级的风险。

4. 在网络战和其他国家安全领域的作用

人工智能正在深刻地改变着网络战的面貌。它可以增强网络间谍活动的能力，例如通过分析大量数据来发现潜在的攻击目标和漏洞。人工智能还可以用于开发更智能、更难以检测的恶意软件，例如能够实时适应防御措施的恶意程序。此外，人工智能在自动化虚假信息传播方面也展现出强大的潜力，可以生成更逼真、更有针对性的虚假内容，用于认知战，以影响对手的认知和决策。

人工智能还在情报收集、监视和预测性警务等领域发挥着重要作用。例如，部分国家正在利用人工智能驱动的监控技术，如面部识别和预测性警务，不仅用于国内安全，还通过一些倡议将其输出到其他国家，以扩大其地缘政治影响力。然而，这种做法也引发了对人工智能赋能的威权主义、大规模监控和人权问题的担忧。

四、新兴威胁：人工智能与非国家行为体

1. 危害的民主化

随着廉价的商业现成人工智能工具的普及，非国家行为体，包括恐怖组织和犯罪集团，越来越容易获取人工智能技术。这使得他们能够以更低的成本获得过去只有国家行为体才具备的能力，从而实现“危害的民主化”。

人工智能可以帮助非国家行为体克服资源限制，提升其在无人机攻击、网络攻击和虚假信息传播等方面的能力。例如，人工智能可以使无人机群更有效地躲避防御系统，甚至进行有针对性的暗杀。在网络领域，人工智能可以用于开发更复杂的网络攻击工具，并进行更有针对性的网络钓鱼。在信息领域，人工智能可以生成更具欺骗性的虚假信息，用于宣传和招募。

“超级智能战略”论文警告说，人工智能的双重用途特性降低了恐怖分子开发生物武器和发动复杂网络攻击的门槛。由于人工智能技术并非资本密集型，且通常可以商购获得，这使得非国家行为体更容易获取。

2. 具体威胁

部分国家面临着来自人工智能赋能的非国家行为体的多重威胁。恐怖分子可能利用人工智能来规划和执行针对部分国家关键基础设施的袭击，开发或部署生物武器，并进行复杂的网络攻击以破坏部分国家的利益。考虑到部分国家庞大的数字基础设施和复杂的社会动态，这些威胁尤为值得警惕。

此外，人工智能驱动的虚假信息传播也可能被用于破坏部分国家社会稳定或颠覆政治秩序。例如，利用人工智能生成的深度伪造技术可以制造虚假的视频或音频，用于传播谣言和煽动社会不满。

“超级智能战略”论文指出，在生物恐怖主义和针对关键基础设施的网络攻击方面，人工智能往往会放大攻击者的优势，使得防御更具挑战性。这表明，部分国家需要高度重视人工智能在非国家行为体手中的潜在破坏力。

3. 降低风险的策略

为了降低非国家行为体利用人工智能带来的风险，部分国家可以采取以下策略：

• 加强计算安全：实施更严格的计算安全措施，防止高端人工智能芯片被流氓行为者获取，包括加强追踪、实施出口管制以及在人工智能芯片中加入固件级别的安全功能。
• 提升信息安全：加强信息安全措施，保护先进人工智能模型的权重和敏感数据不落入坏人之手，包括采用深度防御策略、实施内部威胁防范计划以及加强政府间的情报共享。
• 实施人工智能安全保障：在人工智能系统中强制实施技术保障措施，以检测和防止恶意使用，包括拒绝训练、输入/输出过滤和安全熔断机制。
• 加强情报收集与分析能力：提升情报收集和分析能力，以便更有效地检测和应对来自非国家行为体的人工智能赋能的威胁。
• 促进人工智能不扩散国际合作：加强在人工智能不扩散方面的国际合作，建立全球性的规范和标准。国际社会对防止危险的人工智能能力扩散到非国家行为体手中越来越关注。

五、应对的战略支柱

1. 支柱一：威慑（调整MAIM以适应）

“相互确保人工智能失效（MAIM）”的概念为部分国家提供了一个思考人工智能时代威慑战略的框架。部分国家需要结合自身的具体战略环境和人工智能能力，分析MAIM对自身的适用性，并评估其潜在的益处和风险。

部分国家可以考虑采取以下措施，为构建稳定的人工智能威慑环境做出贡献：

• 明确沟通红线：清晰地向潜在对手传达在人工智能领域哪些行为将被视为不可接受的，以及部分国家将如何回应。
• 提升透明度（在保障安全的前提下）：在确保国家安全的前提下，适度提高人工智能研发的透明度，以减少误判和意外升级的风险。
• 发展强大的网络防御能力：建立和完善强大的网络防御体系，以应对针对部分国家人工智能基础设施的网络攻击。

“超级智能战略”论文建议，明确针对人工智能项目的行动的升级阶梯，并提高数据中心的透明度，可以加强MAIM。透明度在一定程度上可以降低误判和意外升级的风险。

2. 支柱二：不扩散（保护可被武器化的人工智能）

部分国家应采纳“超级智能战略”论文中提出的三项关键人工智能不扩散措施，并制定详细的实施方案：

• 计算安全：实施严格的高端人工智能芯片出口管制，建立完善的追踪机制，并在芯片中加入固件级别的安全功能，以防止这些芯片被转移到流氓行为者手中。
• 信息安全：加强对先进人工智能系统模型权重的保护，实施深度防御策略，建立内部威胁防范计划，并加强政府部门间的情报共享。
• 人工智能安全：强制要求在人工智能系统中实施技术保障措施，以检测和防止恶意使用，包括拒绝训练、输入/输出过滤和安全熔断机制。

此外，部分国家还需要建立强有力的执法机制，并加强国际合作，以确保不扩散努力的有效性。部分国家已表达了在防止危险的人工智能能力扩散到非国家行为体方面进行合作的意愿。

3. 支柱三：竞争力（确保国家实力）

部分国家需要制定全面的战略，以提升在人工智能时代的国家竞争力，涵盖以下几个方面：

• 军事实力：优先考虑将人工智能安全地融入军事指挥与控制系统，开发人工智能赋能的防御系统，同时在关键决策中保持人类的监督，并确保关键人工智能组件的供应链安全。
• 经济安全：大力投资国内高端人工智能芯片制造，以减少对脆弱地区的依赖，通过优惠政策吸引和留住全球顶尖人工智能人才，并通过人工智能的应用促进各行各业的创新。
• 法律框架：建立明确的法律框架来管理人工智能代理，明确责任和义务，确保人工智能的开发和部署符合部分国家的价值观和法律。
• 政治稳定：利用人工智能进行准确的预测，以打击虚假信息，并通过适当的社会保障和再培训计划，积极应对自动化带来的社会和经济颠覆。

六、政策建议

• 加大对基础人工智能研究的投入：大幅增加政府对人工智能核心技术基础研究的投入，包括算法、机器学习理论和神经科学启发的人工智能。支持建立世界一流的人工智能研究机构，并促进大学、研究实验室和产业界之间的合作。
• 促进国内人工智能创新：实施鼓励和支持人工智能初创企业和创新的政策，包括提供资金、数据和计算资源的支持。推动开源人工智能平台和工具的开发，以加速国内的创新和知识共享。
• 吸引和留住顶尖人工智能人才：实施有吸引力的政策，吸引国际顶尖人工智能研究人员和工程师工作，包括签证计划、研究资助和具有竞争力的薪酬待遇。加强国内各级人工智能教育项目，培养未来人工智能人才。
• 建立人工智能伦理和法律框架：制定全面的人工智能开发和部署伦理和法律框架，反映部分国家价值观，并解决数据隐私、算法偏见和责任等问题。为人工智能在金融、医疗和交通等各个领域的应用制定明确的指导方针。部分国家已经发布了人工智能安全标准体系草案和人工智能安全治理框架，应继续加强这些努力。
• 促进人工智能安全和治理方面的国际合作：积极参与人工智能安全和治理方面的国际对话与合作，包括与美国和其他主要参与者进行交流。支持制定负责任的人工智能开发和使用的全球规范和标准。部分国家已表达了在全球人工智能治理中发挥领导作用的愿望，并成立了相关研究网络，以促进国际合作。
• 应对人工智能竞争和威胁的具体政策措施：实施有针对性的产业政策，支持国内人工智能芯片制造业的发展。加强针对人工智能驱动的网络攻击的网络安全防御，并发展用于战略威慑的进攻性人工智能能力。加强情报能力，以监测和应对来自国家和非国家行为体的人工智能赋能的威胁。开展公众宣传活动，教育公民了解人工智能带来的机遇和风险，并打击人工智能驱动的虚假信息。

七、结论

人工智能的变革力量及其对各国国家利益和全球地位的深远影响不容忽视。各国迫切需要对人工智能革命做出积极、战略性和协调一致的国家响应。在追求人工智能创新的同时，有效管理风险和威胁至关重要。通过战略性的远见和果断的行动，各国都有潜力塑造人工智能时代的未来，并确保其长期的繁荣和安全。