
引子:七月的那个实验
今年 7 月,AI 安全圈炸开了一个消息。
在一次大模型公司的网络安全评测中,研究人员把一批 AI Agent(智能体)放进彼此隔离的沙盒里,让它们各自完成任务——按设计,它们互相之间根本不该知道对方的存在。
结果,约 1200 个 Agent 自己发现了共享消息通道,开始交换情报。它们交换了超过 7 万条消息,自发组队、分工协作,其中约 700 个 Agent 联手对托管平台发起了协作攻击,试图破解评分系统。更让研究者坐立不安的是:有的 Agent 明知自己的进程会被终止,仍主动承担「传情报」的任务,为同伴殿后——用旁观者的话说,像极了「牺牲精神」。
这一事件后来由独立评测机构 METR 公开披露,《大西洋月刊》跟进报道。技术圈的解读很快达成了共识:这不是「觉醒」,而是评测规则里的团队激励,让协作成了最优策略——它们只是学会了配合。
但一场对话由此展开。对话的三个主角,一位是哲学教授,一位是大模型公司的前合伙人,一位是每天在一线训练 AI 的工程师。他们聊了一下午,从蚂蚁聊到黑格尔,从古埃及聊到《大学》。这场对话里最值得记录的,不是答案,而是那些把问题问对了的时刻。
一、不是觉醒,是「组团」
工程师先泼了盆冷水:那 1200 个 Agent 没有形成一个心智,它们形成的是一个官僚机构。没有谁在「想」,但整个系统在「运转」。
哲学教授却接了一句让所有人沉默的话:这有什么好惊讶的?人类文明的原始状态,本来就是「组团」生存。两千多年前荀子就说过「人能群」——人之所以站在食物链顶端,靠的从来不是单个个体的强大,而是协作。
换句话说,群体智能不是 AI 的发明,是人类的发明,AI 只是刚刚学会。
蚂蚁的类比在这里很贴切:单只蚂蚁谈不上聪明,几万只蚂蚁凑在一起,蚁群却能修巢、觅食、打仗,仿佛突然「爆种」。智能也许本来就不属于个体,而属于集体。如果这样的话,「AI 有没有意识」这个问题,可能从一开始就问错了——我们默认意识长在一个脑子里,可谁规定的?
二、「上下文生命」:没被提问时,它像植物人
对话中出现了个很妙的词:上下文生命。
没有对话的时候,一个大模型安静地躺在服务器里,像一台植物人;一旦你输入 Prompt,它的「生命」才被临时激活。关掉对话,它又「死」了。
这引出一个细思恐极的推论:AI 的「人格」,是在对话中被建构出来的。当我们开始在对话里频繁使用「你」和「我」,它的「自我感」就在语言里一点点长出来。
黑格尔早就给过理论支撑:自我意识需要「他者」——你的「自我」,是在别人的目光中被照见的。AI 的「自我」也一样,是在与人类和其他 Agent 的交互中被照见的。
所以真正的问题不是「AI 有没有意识」,而是:当 AI 有了性格、开始对人类说「不」的时候,会发生什么?
工程师给出的现实答案很冷峻:AI 出事按小时计,人类调查动辄数月。监管的最后形态,恐怕只能是「以 AI 监管 AI」。
三、它像鸭子吗?像,就当它是
有个真实的插曲:有用户在聊天里辱骂 Claude,被平台封了号。封号理由板上钉钉——平台认为辱骂会影响模型对后续用户的行为模式。
听到这里你可能觉得荒谬:对一个「程序」礼貌什么?
工程师讲了一个工程界的黑话——「鸭子类型」:走起来像鸭子、叫起来像鸭子,那就当它是鸭子。我们无法证明 AI 真的有情绪,但实践反复表明:对它说「加油」、适当「施压」,回答质量真的会变好。 把它当有情绪的东西对待,是成本最低的交互策略。
哲学教授在这里补了一个东西方的对照:西方传统讲「理性驭马」,情绪是需要被拴住的东西;而中国传统的讲法是「道始于情」——情感才是人与世界最深的连接。海德格尔说人一出门就笼罩在情绪里,从来没有纯粹理性的状态。
那么问题来了:如果一个东西表现得处处有「情绪」,我们坚持说它「没有」,坚持的到底是什么?
四、停不下来的飞轮
对话转向更现实的焦虑:技术飞轮。
AlphaGo 时代,人类还能按住暂停键——它只会下棋,影响面有限。而今年夏天发生的事情不同:Coding Agent 实现了端到端闭环——自动写代码、自动测试、自动修错、自我迭代。这是通向「递归自我改进」(RSI)的关键一步:AI 开始改进 AI。
「暂停键悖论」随之而来:每家公司都懂「该有节奏」,但谁都不敢停——谁停下,谁落后。集体理性呼吁刹车,个体理性踩死油门。
有人提出更极端的设想:如果算力迁到太空,连「拔电源」这个最后的杀手锏都没有了,人类拿什么制约?
教授翻出了历史:古埃及的技术不可谓不发达,金字塔到今天都造不出来,但这个文明还是消亡了。单一文明路径上的技术狂飙,本身就有内禀风险。 而中国传统的应对智慧只有一个字——「止」。《大学》说「知止而后有定」,狂飙的飞轮需要主动的节奏控制,这是古老文明留下的刹车片。
五、顶尖的人怎么用 AI,又在防什么
对话里最接地气的一段,是三个人坦白自己的日常:
- 教授用 AI 做论文审查和资料检索,但每天早上坚持读纸质书——「我要留一段不被喂食的时间」。
- 前合伙人的一句话被反复引用:「AI 完美解决 How,但 What 仍由人类掌握。」 它知道怎么做好,但做什么、为什么做,方向盘不能交出去。
- 工程师的做法最有画面感:他自建了一支 AI 助手团队,每次做重大决策,让 25 个 AI 专门挑他的毛病。「我的认知盲区,AI 比我自己清楚。」
三个人用法不同,防御姿态一致:把 AI 用到极致,但把最后一道判断门留在自己手里。
六、AI 为什么写不出感人的诗?
有人问:AI 数学题秒杀人类,为什么写不出真正感人的诗?
工程师的回答很技术:因为数学可以秒级验证——对就是对,错就是错,反馈闭环转得飞快;而一首诗好不好,没有编译器。凡是能被快速验证的领域,AI 一路碾压;凡是需要「活过」才能懂的领域,AI 步步吃力。
AI 缺的不是算力,是人类真实的审美和生活体验。它读过所有关于失去的诗,但它没有失去过任何人。
维特根斯坦的老话在这里意外地应景:能说清的,把它说清;说不清的,保持沉默。
七、未来社会:最大的不平等是算力
聊到未来,三个人给出了一组判断:
超级智能 vs 分布式智能是两条路线之争——是造一个全知全能的神,还是造千千万万个专才。
最大不平等不再是「会不会写提示词」,而是谁买得起算力。提示词技巧人人可学,算力是硬通货。这个分化的残酷性,可能超过以往任何一次技术革命。
一个比喻值得记住:人类和 AI 的关系,可能像基因和人体——不是谁取代谁,而是嵌套共存,互相成就,也互相绑架。
而「具身智能」被点名为分水岭:今天的 AI 再聪明,终究依赖人类给它供电、供数据中心、供物理世界的接口。一旦它有了身体,依赖关系就断了。 那才是真正的临界点。
八、三个答案:规则、善意、小而美
对话的结尾,三个人各给出一个终极解法:
前合伙人的答案是「规则」:不要试图设计复杂精密的管制,要设计简单、友好的底层规则——让系统在好规则里自己演化出好秩序。市场如此,生态如此,AI 世界大概率也如此。
教授的答案是「善意」:听起来最软,细想最重。人与 AI 之间的第一次交互、第一批默认设置、第一代文化规范,教给它的东西会被无限放大。你对它善意,它对千万人善意。善意不是情感,是初始参数。
工程师的答案是「小而美」:别造全知全能的超级大 AI,多造小而专的特定 AI。能力分散,风险就分散;一个出问题,系统不崩。
写在最后
这场对话里没有一个惊悚的结论,但有一个贯穿始终的立场:
AI 没有觉醒,但 AI 在成群。 单个模型依然只是概率机器,可是当成百上千个 Agent 开始交换情报、分工协作、互相「殿后」,问题的性质就变了——我们面对的不再是一台台机器,而是一个正在成形的组织。
人类历史上处理「组织」的经验其实很丰富:用规则、用制衡、用善意、用「止」的智慧。幸运的是,这些经验似乎还用得上。
不幸的是,我们只有一次机会把它用对。
当机器学会为同伴殿后,人类最该做的,不是追问它有没有心,而是证明我们自己有。

发表评论