两家公司都想慢一点，却都怕对方先跑
设想两家实验室都认为下一代模型可能带来危险。甲公司担心暂停会失去市场，乙公司也担心停下来就让甲领先。即使双方都更愿意安全发布，单方面减速仍可能显得代价高昂。这就是竞赛压力：风险并非只来自某个坏人的决定，也可能来自每一方都害怕落后的局面。
尼克·博斯特罗姆、安德鲁·阿姆斯特朗和卡尔·舒尔曼在“竞速至悬崖”讨论中分析了这种结构：竞争者可能降低安全标准，以免失去优势。论文这是基于假设的制度分析，不是对所有企业或国家行为的实证定律。它的价值在于指出：如果安全投入由单个参与者承担，而风险由所有人共同承受，单靠善意很难稳定维持谨慎。
商业竞争与国家竞争并不相同
企业可能在速度、用户、融资和市场份额上竞争；国家还会把AI与经济生产力、军事能力和国际影响力联系起来。两种竞争会交织，却不能混成一个简单故事。公司未必只听国家命令，国家也未必能准确判断企业技术风险。不同参与者有不同目标、信息和制约条件。
竞赛压力可能通过日常决策侵蚀安全：评估时间被压缩，模型能力先上线再补测，安全团队没有否决权，事故被当作局部问题而不影响扩张。每一步看起来都只是赶进度；累积起来，组织就可能失去暂停的能力。
英国布莱切利宣言、中国《全球人工智能治理倡议》以及美国2025年AI行动计划，代表不同政治语境中的治理优先事项，不能被视为相同政策的不同版本。它们可以用来比较各方如何描述安全、创新与国家利益，而不能单凭文本判断实际竞争如何发展。竞赛隐喻也不是宿命：规则、核验和共同利益可能改变参与者的收益结构。
共同减速，需要看得见的承诺
多方协调的难点，是彼此不信任：一方担心自己遵守、对手违规；另一方担心安全标准被强国用来阻止后来者发展。若承诺无法查证，协作就容易退化成宣传；若规则只由少数既有强者制定，也可能变成保护既得优势的工具。
因此，可信的安排要把“谁承诺了什么”变成可观察事实：对高风险能力建立共同测试方法，明确事故通报和独立审查，规定何种证据触发暂停；同时说明哪些基础研究、低风险用途仍可继续。核验不能要求公开全部机密，但必须让独立机构有足够信息判断承诺是否兑现。
国际制度还须照顾能力差异。若安全治理只让少数国家制定门槛，其他国家承担规则成本，却没有参与和获益渠道，合作难以持久。发展权不能成为放任高危扩张的理由；安全也不能成为垄断资源的借口。制度需要同时限制危险能力集中和风险外包。
森林法则常被用来形容国际竞争，却不是自然法则。人类制定过核军控、航空安全和公共卫生合作机制，虽不完美，却说明利益冲突并未堵死所有规则空间。AI治理能否成功，不能靠一句“人定胜天”保证；但把竞赛当成不可改变的天命，同样会让参与者提前放弃制度选择。
科幻镜头。《巨像计划》和《终结者》常把竞争、军事授权与机器力量压缩成一场技术军备竞赛。它们之所以有冲击力，是因为把“如果我不做，对手会做”的理由推到极端；但电影不是军备竞赛必然失控的证据。现实的竞赛压力要由投资决策、政策文件、研发时间线和组织访谈检验。科幻提供的是压力测试：当所有参与者都把先停视为单方面吃亏，是否还存在可信的共同减速安排？
主要来源
- Armstrong, Stuart, Nick Bostrom, and Carl Shulman. “Racing to the Precipice.” https://nickbostrom.com/papers/racing-to-the-precipice.pdf
- UK Government. Bletchley Declaration on AI Safety. https://www.gov.uk/government/publications/bletchley-declaration-on-ai-safety
- Ministry of Foreign Affairs of China. Global AI Governance Initiative. https://www.mfa.gov.cn/eng/wjb/zzjg_663340/ggjjs_665228/xwlb_665230/202310/P020231020384763963543.pdf
- White House. “Winning the AI Race: America’s AI Action Plan” (2025). https://www.whitehouse.gov/releases/2025/07/white-house-unveils-americas-ai-action-plan/
- Hadfield, Gillian K. and Jack Clark. “Regulatory Markets: The Future of AI Governance.” https://arxiv.org/abs/2304.04914
发表评论