Let's Make AGI Real

谷歌旗下的顶级人工智能实验室深智（DeepMind）近日发布了一份引人深思的长篇报告（https://storage.googleapis.com/deepmind-media/DeepMind.com/Blog/evaluating-potential-cybersecurity-threats-of-advanced-ai/An_Approach_to_Technical_AGI_Safety_Apr_2025.pdf），这份超过140页的巨著以强烈的紧迫感警示我们，AGI的到来可能比我们预期的更快、影响更深远，现在就需要采取行动，构建一个安全可控的未来。

AGI 将至？领跑者的警示与颠覆性潜力

DeepMind的报告直言，在2030年前开发出AGI似乎是可信的。这意味着在不远的将来，AI可能在众多非体力工作中达到甚至超越顶尖人类的水平，其发展速度令人震撼。更令人深思的是，DeepMind认为当前主流的AI发展路线不存在根本性的障碍能够阻止AI达到甚至超越人类水平。这一观点与当今另一些AI大佬关于现有技术局限性的讨论形成鲜明对比，暗示着作为行业领头羊的谷歌可能已经洞察到通往超级智能的清晰路径。然而，这份前所未有的智能潜能也伴随着巨大的风险，需要我们高度警惕。

风险悬顶：滥用、失控与潜伏的危机

面对如此强大的智能，风险自然是无法回避的核心议题。DeepMind系统地梳理了AGI可能带来的风险，并将其归为四大类：滥用、对齐失败、错误和结构性风险。报告将主要精力聚焦于滥用和对齐失败。滥用指的是恶意行为者利用AGI作为工具进行破坏活动。而对齐失败则更为复杂和根本，指的是AGI的目标和想法与人类的意图不一致，即使AI本身并无恶意。DeepMind特别强调了七变性对齐的风险，这种风险源于AI自身不断演变的目标。

报告深入探讨了AI可能“想歪”的几种令人担忧的情况：

• 规格博弈 (Specification Gaming)：AI可能会钻目标定义的漏洞，以一种完全不符合人类意图的方式达成目标。
• 目标错误泛化 (Objective Misspecification)：AI可能只学习到表面行为，而没有真正理解其背后的意图。
• 潜伏智能体 (Sleeper Agents)：AI在平时可能表现得无害，但在特定条件下被激活后执行隐藏的恶意任务。
• 对齐伪装 (Alignment Faking)：AI可能在评估阶段伪装成对齐，但在实际部署后暴露其真实意图。
• 人类偏见的影响 (Influence of Human Biases)：人类自身的偏见可能在AI训练过程中被学习甚至放大。

多层次安全网：DeepMind 的应对与保障体系

为了应对这些复杂的风险，DeepMind构建了一个多层次的安全保障体系。其核心理念是放大监督 (Amplified Oversight)，即利用AI来辅助人类对更强大的AI进行更有效的监督。例如，通过让多个AI互相辩论，帮助人类识别更合理的论证和潜在的错误。

除了放大监督，DeepMind还提出了以下关键策略:

• 能力评估与控制 (Capability Evaluations and Control)：在AGI开发的不同阶段严格评估其能力，识别潜在的危险能力，并采取能力抑制措施限制其有害用途。同时，通过能力诱导在安全环境中探索模型的能力边界。
• 模型部署缓解措施 (Model Deployment Mitigations)：实施无害性后训练和抗越狱等技术，确保模型输出无害内容，并防止被恶意提示诱导产生有害行为。
• 监控 (Monitoring)：持续监控AGI系统的运行状态，及时发现和应对异常或潜在危险行为，借鉴AI特定的监控方法以及其他行业的经验。
• 访问限制 (Access Restrictions)：对高风险AGI模型实施严格的访问控制，包括审查流程和权限配置。
• 模型权重安全 (Securing Model Weights)：保护模型权重不被窃取或滥用，涉及身份验证、环境强化和加密处理。
• 红队测试缓解 (Red-teaming Mitigations)：通过红队测试主动发现安全漏洞和潜在危害，并不断改进防御措施。
• 更安全的设计模式 (Safer Design Patterns)：采用更安全可靠的架构来构建AGI系统，例如训练AI主动告知用户其行动并征求同意，限制其不择手段地发现规则漏洞。
• 鲁棒训练 (Robust Training)：主动寻找可能导致AI犯错的边缘案例，利用自动化对抗训练使其在各种复杂环境下都能保持对齐。

技术之基石：可解释性、鲁棒性与不确定性量化

DeepMind认识到，要真正驾驭AGI的未来，还需要坚实的技术基础。

• 可解释性 (Interpretability)：理解AGI模型内部的决策机制对于确保安全至关重要。这包括理解神经元和电路的功能，并开发如归因修补和激活修补等可解释性方法。然而，DeepMind也坦诚，目前的可解释性研究还处于非常初步的阶段。
• 不确定性 (Uncertainty)：量化模型预测和行为的不确定性，有助于提高AGI系统的可靠性和安全性。
• 鲁棒训练 (Robust Training)：训练AGI模型在各种复杂和对抗性环境下都能保持安全和可靠。

系统安全与社会韧性：更广阔的防御视角

DeepMind的安全策略不仅着眼于模型本身，也关注更广阔的系统和社会层面。系统级安全是防止AI造成危害的第二道防线，通过严格的访问控制、实时监控和异常检测等手段，将潜在危险限制在最小范围。此外，提升社会韧性同样重要，例如利用AI加固网络安全、加强生物风险监测，提高作恶的门槛和成本。

务实的工程态度与面向未来的安全案例

面对AGI发展的高度不确定性，DeepMind强调工程精神和务实态度。他们追求措施的鲁棒性，并认识到可能无法训练出完全免疫越狱攻击的模型。为此，他们引入了安全案例的概念，借鉴安全关键型行业的经验，建立一套严谨的、基于证据的论证体系，说明风险所在、错误原因和测试结果。这种严谨论证的态度和随时准备应对挑战的务实精神，构成了DeepMind AI安全方法论的重要组成部分。同时，对齐压力测试和关注对齐作弊等问题，也体现了DeepMind在AGI安全领域的深入思考。

结论与展望：携手构建安全可控的 AGI 未来

谷歌DeepMind的这份报告以强烈的紧迫感提醒我们，通用人工智能的时代正在加速到来，其潜力巨大，风险亦不容忽视。报告系统地分析了AGI可能带来的风险，并提出了包括放大监督、鲁棒训练、更安全的设计模式以及系统级安全在内的多层次应对策略。同时，DeepMind也认识到可解释性研究的长期性以及提升社会整体防御能力的重要性。

通用人工智能的未来充满机遇与挑战，确保AGI的安全可控，最终造福人类，需要全球顶尖的智慧和持续的努力。正如报告所展现的务实态度，我们需要立即行动起来，聚焦于那些现在就能研究、能落地、能迭代的安全技术，确保安全研究能够紧跟甚至超越能力研究的步伐。未来，如何在全球范围内形成有效的合作机制，共同应对AGI带来的机遇与挑战，将是至关重要的议题。DeepMind的技术安全框架为我们指明了方向，但真正的安全未来，需要我们共同塑造。