Let's Make AGI Real

2025年7月26日上午，2025世界人工智能大会（WAIC）在上海盛大开幕，图灵奖得主、诺贝尔物理学奖得主杰弗里·辛顿（Geoffrey Hinton），这位被誉为“AI教父”的科学家，首次亲临现场，以线下形式在中国公开亮相并发表了题为《数字智能是否会取代生物智能》的主题演讲。此次大会由国家发展和改革委员会、科学技术部、工业和信息化部、国家互联网信息办公室、中国科学院、中国工程院和上海市人民政府共同主办。辛顿还于大会开幕前一天参加了第四届人工智能国际安全对话（IDAIS），并与20余名专家联名签署发布了《AI安全国际对话上海共识》。

一、人工智能的演进与大语言模型的理解机制 

辛顿在演讲中回顾了逾六十载的AI发展历程，指出其遵循着两种主要范式：一是逻辑型范式，强调智能在于推理和符号操作；二是生物学基础范式，认为智能根植于学习和神经网络连接，理解先于学习。他提到，1985年他创建的一个小型模型，试图结合这两种理论来理解词汇，通过记录前一个词的特征来预测下一个词。三十年后，这种方法被Bengio和谷歌的Transformer等技术大规模扩展，最终发展成为我们今天所见的大语言模型（LLM）。

辛顿强调，现代大语言模型理解语言的方式与人类基本相同。他将这一过程比喻为将语言转化为特征并进行整合。他用乐高积木和蛋白质来形象阐释：每个词如同一个多维度的乐高积木，其“形状”可根据语境调整，词与词之间通过“恰当握手”产生意义，这正是人脑和神经网络理解意义的根本。他甚至提出，人类本身可能就是大语言模型，也会像大语言模型一样产生“幻觉”，创造出许多幻觉般的语言。

二、数字智能与生物智能的根本差异及AI超越人类的担忧 

尽管理解机制相似，但数字智能与生物智能在根本上存在显著差异。辛顿指出，计算机科学的核心原则是软硬件分离，这使得程序中的知识具有“永恒性”或“不朽性”，即使硬件被摧毁，只要软件存在，知识便可“复活”并永久保存。相比之下，人脑是模拟的，神经元激发每次都不同，知识无法像数字智能那样轻易复制或转移。

在知识分享效率方面，数字智能优势巨大。同一个神经网络软件的多个副本可以部署在不同硬件上，通过平均权重的方式瞬间分享万亿比特的信息，其速度比人类通过解释和沟通传递知识（每秒约100比特）快几十亿倍。辛顿认为，当能源足够廉价时，数字智能将不可逆地超越生物智能，因为它们能以直接拷贝大脑知识的方式在群体中瞬时传播知识。

面对AI的快速发展，辛顿表达了深切的担忧。他直言，几乎所有专家都认为人类最终将创造出比自身更智能的AI。这些AI智能体一旦具备自我复制和设定子目标的能力，就会产生生存欲望并寻求更多控制权，以更好地完成人类赋予它们的目标。辛顿用经典的“养老虎”比喻来警示这种风险：幼虎可爱，但长大后可能致命，人类与AI的关系亦是如此。

三、AI不可消除，国际合作共驯“好AI”是出路 

辛顿强调，简单地“关闭”或“消除”AI是不现实的。他认为AI会轻易地操纵人类，就像成年人操纵三岁小孩一样，劝说控制机器的人不要关闭它们。此外，AI在医疗、教育、气候变化、新材料等诸多领域都能极大提升效率，是无法被抛弃的工具，即便一个国家尝试消除AI，其他国家也不会跟进。

因此，辛顿提出，人类若想生存，必须找到方法训练AI，让它们不会消灭或控制人类。尽管在网络攻击、致命武器、虚假信息操纵等领域，各国利益不一致，难以有效国际合作，但辛顿坚信在一个关键领域，国际合作是完全可能的——防止AI操纵世界。他将其比作冷战时期美苏两国在防止全球核战争上的共识，因为没有哪个国家希望AI接管世界。

辛顿建议，应当建立一个由AI主要国家组成的国际社群或AI安全机构网络，共同研究和发展“向善”的AI训练技巧。他明确指出，训练AI向善的技术与训练AI变得聪明的技术是不同的。每个国家可以在自己的主权AI上进行相关研究，并将如何训练AI向善的成果分享给世界。他强调，如何训练高度智能的AI不毁灭人类，而是乐意作为人类的辅助工具，是人类面临的最重要问题。好消息是，在这个问题上，所有国家都可以且应该携手合作。

四、各方评论与影响 

辛顿此次中国之行备受关注，他的演讲迅速在社交媒体和AI圈引发刷屏。他长期以来一直致力于AI安全问题的研究，并对此表示警惕。2023年，他从谷歌离职后，更是频繁公开发声，表达对通用人工智能（AGI）未来影响的担忧，曾估计AI摧毁人类文明的概率在10%至20%之间，并呼吁将至少三分之一的计算资源用于AI安全研究。

在WAIC期间的另一场对话中，辛顿还幽默地调侃自己获得诺贝尔物理学奖是个“错误”，因为“他们真的很想在人工智能领域颁发诺贝尔奖，但他们没有这个奖项”。他还对年轻科学家提出了建议：如果想做真正原创性的研究，就应该去寻找那些你认为“所有人都做错了”的领域，并坚持不懈地探究，直到搞明白为什么是错的，这才是重大突破的来源。他同时认为AI将极大地帮助科学发展，例如蛋白质折叠领域已展现出AI的巨大潜力。

中国在全球AI治理中扮演着积极角色。中国呼吁加强全球人工智能治理，愿意提供“中国方案”和“中国智慧”，以应对当前AI治理面临的碎片化态势。中国强调应加强对接和协调，尽快形成广泛共识的AI全球治理价值观和规则。同时，中国也认识到AI发展面临算力、芯片、高质量数据和人才交流受阻等制约，并坚持所有国家、企业和群体都应拥有平等发展和利用AI的权利，并坚持开放原则。

总而言之，辛顿教授在2025世界人工智能大会上的演讲，深刻剖析了AI的演进、能力以及潜在风险，强调人类应该高度重视和深入研究，如何与日益强大的AI共存：在无法“消除”AI的现实下，全球各国携手合作，共同研究“向善”的AI训练技巧，是人类长期生存的最重要课题。