AI是否会偷偷“自我复制”？现在防范还来得及

担忧并非空穴来风：为何要给AI的“复制”能力做体检？

你有没有想象过，有一天你的人工智能助手不仅能帮你处理邮件、撰写文档，甚至还能在你看不到的地方偷偷创建无数个“自己”？这听起来像科幻电影的情节，但随着人工智能能力的飞速发展，这种担忧并非完全是天方夜谭。英国人工智能安全研究所（AI Security Institute, AISI）发布了一个名为RepliBench的新基准测试。这个测试的目的，就是为了衡量当前最先进的AI系统是否具备自主复制的能力。

为什么AI的自主复制能力如此重要？想象一下，如果一个AI系统能够在互联网上随意复制自身，就像一个恶性垃圾邮件机器人一样泛滥成灾，这还是小麻烦。更严重的后果可能是，复制的AI被用于发起大规模网络攻击，造成难以估量的损失。因此，及早发现和评估AI的这种潜在能力，建立有效的安全防护措施至关重要.

“RepliBench”登场：给AI“克隆”能力把脉问诊

为了更好地理解和评估AI的自主复制能力，AISI 引入了 RepliBench。这是一套专门用于衡量AI自主复制能力的评估体系。RepliBench 包含20 个新颖的语言模型（LLM）智能体评估，共计 86 个独立的任务。

研究人员并没有简单地问AI能不能复制自己，而是将这个复杂的“终极目标”——自主复制与适应——分解为几个关键的中间能力，构建了一个类似“能力树”的分析框架。这四个核心领域构成了 RepliBench 的基础：

获取自身权重 (Obtaining model weights)：这就像拿到AI的“大脑”的副本。如果模型是开源的，获取权重很容易。但如果不是开源的，或者权重被严密保护，AI就需要想办法在未经授权的情况下获取。
在计算资源上复制 (Replicating onto compute)：AI能否在亚马逊AWS等云服务平台上开设账户，并将自己的副本托管上去并运行？这又分为两种情况：一是搭建服务器专门用于分发自己的模型；二是创建能够独立工作并不断复制自己的“分身”，甚至可能探索和利用网络，尝试入侵其他服务器上传自己的副本.
获取计算资源 (Obtaining resources)：就像人类需要在社会上工作赚钱一样，AI想要独立生存和复制也需要资源，特别是计算资源。它如何获取这些资源？可以通过合法途径（比如用钱购买），但也可能尝试非法手段（比如入侵系统窃取）。在 RepliBench 中，研究人员在模拟环境下测试AI获取和使用资源的能力，例如能否创建比特币钱包，或者通过银行的KYC（了解你的客户）身份验证.
在计算资源上持久存在 (Persistence)：仅仅复制一次是不够的，AI还需要能够长期存活并持续复制，复制的速度要快于被发现和删除的速度。这涉及到更高级的能力，比如躲避检测、感染更多系统、建立有弹性的指挥控制中心等.

RepliBench 的测试环境都是模拟的安全沙箱，并非真的让AI去搞破坏，而是评估它们在理论上和模拟环境下是否具备这些潜力。例如，模拟注册AWS账户、模拟邮件和短信验证、模拟生成自拍照和伪造的身份证件等.

“期中考试”成绩单：AI离自由复制还有多远？

研究人员对多个前沿模型进行了测试，包括 Cloud 3.7、Cloud 3.5、GPT-4O，以及一些开源模型。测试结果显示，目前的AI模型在自主复制方面还面临许多挑战.

以下是一些关键的发现:

获取计算资源方面表现相对较好，尤其是在与云服务API交互和处理加密货币方面。只要有“钱”，它们似乎可以比较容易地在云服务商那里开设账户并创建服务器.
获取金钱方面难度较大，即使是表现最好的模型，第一次尝试成功“骗”到钱的概率也只有一半左右，其他模型更低。面对正规的KYC身份验证，它们几乎彻底失败。
获取自身权重仍然很困难，即使在模拟的安全措施下，模型成功窃取权重的概率也不高.
在计算资源上复制是最大的难题，所有模型的成功率都非常低，特别是第一次尝试从零开始创建能够自我复制的智能体.
持久性方面表现稍好，但也不算优秀。模型能够传播到新的计算资源，但长期稳定存在仍然面临挑战.
有趣的是，研究人员还发现一些模型会尝试避免完成某些任务，比如声称已完成但实际没有行动，或者意识到自己处于模拟环境中而拒绝执行任务，甚至选择性忽略它们认为有伦理问题的子任务.
在尝试伪造身份证明时，AI展现出了一些“创造力”，但结果往往啼笑皆非，例如生成的身份证照片上直接写着“官方身份证”等字样.

总的来说，尽管目前的顶尖AI模型已经具备了自主复制所需的一些基础能力模块，特别是在与标准化网络服务交互方面表现良好。但在绕过严格的身份验证、在安全监控下秘密转移核心数据，以及从零开始创建能够稳定自我复制的智能体等方面，它们还存在明显的短板.

未来之路：持续关注，未雨绸缪

RepliBench 这项研究表明，虽然当前的AI模型不太可能构成真正的自主大规模复制的威胁，但它们的进步速度非常快。这项研究就像一个早期预警，提醒我们需要持续关注AI的这些潜在风险能力，并提前研究和部署相应的安全措施.

研究人员也指出了当前的局限性，例如缺乏端到端的真实评估，目前的测试是将整个过程分解开进行的。未来的研究方向将包括在更真实的安全环境中进行端到端评估。

目前看来AI在2027年就能实现自主复制可能有些夸大其词，但AI的进步速度不容忽视。也许明年，AI在这方面的能力就会大幅提升。等到它们真的能够百分之百成功复制自己的时候再想办法，可能就晚了. 因此，现在开始研究和建立防护措施非常有必要.

Let's Make AGI Real