Let's Make AGI Real

一、 引言：AI时代的治理需求与OECD原则的诞生

人工智能（AI）在医疗保健、生产力和科学进步等领域提供了巨大的效益。然而，它也带来了诸多风险，包括潜在的虚假信息、数据不安全以及版权侵犯等问题。鉴于AI技术的无国界特性，国际合作和互操作性的基础至关重要。

在此背景下，OECD于2019年通过并于2024年更新了其AI原则。这些原则为政策制定者和AI参与者提供了实用且灵活的指导。原则旨在引导AI的开发和部署，以最大化其益处，同时最小化其风险。通过遵循这些指导，可以利用AI潜力实现经济增长、社会福利和环境可持续性，同时保护个人和社会价值观。到2023年5月，全球超过70个司法管辖区的政府已报告了超过1000项遵循OECD AI原则的政策举措。

OECD AI原则由五项价值观驱动的原则和五项针对政策制定者的建议构成。

二、 价值观驱动的五项核心原则

这五项原则旨在塑造以人为中心的AI发展方式，确保AI既具有创新性又值得信赖，并尊重人权和民主价值观。

1. 包容性增长、可持续发展和福祉 (Inclusive Growth, Sustainable Development, and Well-being)

AI参与者应主动负责任地管理可信赖的AI，追求对人类和地球有益的成果。具体目标包括：增强人类能力和提升创造力、促进弱势群体的包容性、减少经济、社会、性别及其他方面的不平等、保护自然环境，最终推动包容性增长、福祉、可持续发展和环境可持续性。

2. 以人为本的价值观与公平 (Human-Centred Values and Fairness)

在整个AI系统生命周期中，AI参与者必须尊重法治、人权、民主和以人为本的价值观。这包括：非歧视和平等、自由、尊严、个人自主权、隐私和数据保护、多样性、公平、社会正义以及国际公认的劳动权利。同时，AI参与者需要应对AI放大或传播的错误信息和虚假信息，并尊重受适用国际法保护的言论自由及其他权利和自由。为此，AI参与者应实施机制和保障措施，例如具备人类能动性和监督能力，以应对超出预期用途、故意滥用或意外误用所带来的风险。

3. 透明度和负责任的披露 (Transparency and Responsible Disclosure)

AI参与者应致力于AI系统的透明度和负责任的披露。他们应提供适当、有意义且与技术水平一致的信息，具体目标包括：

• 促进对AI系统（包括其能力和局限性）的普遍理解。
• 使利益相关者意识到他们与AI系统的互动，包括在工作场所的互动。
• 在可行且有用的情况下，提供清晰易懂的信息，说明导致预测、内容、建议或决策的数据源/输入、因素、过程和/或逻辑，以便受AI系统影响的人能够理解其输出结果。
• 提供信息，使受到AI系统不利影响的人能够对其输出结果提出质疑。

4. 稳健性、安全性和保障性 (Robustness, Security, and Safety)

AI系统在其整个生命周期中都应保持稳健、安全和可靠。在正常使用、可预见的使用或误用或其他不利条件下，它们应能正常运行，并且不会构成不合理的安全和/或保障风险。应在适当情况下建立机制，以确保如果AI系统可能造成不当伤害或表现出不良行为，可以在需要时安全地被覆盖、修复和/或退役。在技术可行的情况下，还应建立机制来加强信息完整性，同时确保对言论自由的尊重。

5. 问责制 (Accountability)

AI参与者应根据其角色、背景和技术水平，对AI系统的正常运行和遵守上述原则负责。为此，AI参与者应确保可追溯性，包括与AI系统生命周期中做出的数据集、流程和决策相关的可追溯性，以便分析AI系统的输出并响应查询。AI参与者应持续采用系统的风险管理方法，处理与AI系统相关的风险，包括有害偏见、人权（如安全、保障和隐私）、劳动和知识产权等。

三、 政策制定者的五项建议

OECD原则还为各国政府提供了五项行动建议，以促进和规范可信赖AI的发展。

1. 投资于AI研发 (Investing in AI Research and Development)

政府应考虑进行长期的公共投资，并鼓励私人投资，用于可信赖AI的研发，特别是关注挑战性的技术问题以及AI相关的社会、法律和伦理影响。政府还应考虑和鼓励投资于具有代表性、尊重隐私和数据保护、且没有不当偏见的开放数据集，以支持AI研究和开发环境。

2. 培养数字生态系统 (Fostering a Digital Ecosystem)

政府应促进发展一个包容、动态、可持续和可互操作的可信赖AI数字生态系统。这包括数据、AI技术、计算和连接基础设施，以及酌情共享AI知识的机制。例如，政府可以考虑推广数据信托等机制，以支持安全、公平、合法和合乎道德的数据共享。

3. 塑造敏捷的政策环境 (Shaping an Agile Policy Environment)

政府应推广一种敏捷的政策环境，支持可信赖AI系统从研发阶段过渡到部署和操作阶段。为此，政府应考虑利用实验来提供受控环境，对AI系统进行测试和扩展。此外，应采取基于结果的方法，在实现治理目标方面提供灵活性，并酌情在司法管辖区内部和之间进行合作，以促进治理和政策环境的互操作性。

4. 为工作世界和社会的变革做好准备 (Preparing for the Transformation of the World of Work and Society)

政府应与利益相关者密切合作，为工作世界和社会的变革做好准备。这包括赋予人们有效使用和互动AI系统的能力，为他们配备必要的技能。政府还应采取措施，例如通过社会对话，确保受AI部署影响的工人能够公平过渡，包括通过工作生活中的培训计划、社会保障支持以及获得劳动力市场的新机会。政府需促进AI在工作中的负责任使用，增强工人的安全性、提高工作质量和公共服务质量。

5. 国际合作 (International Co-operation)

各国政府应积极合作推进这些原则，并负责任地管理可信赖AI。政府应在OECD和其他全球及区域论坛中合作，酌情分享AI知识。他们应鼓励国际、跨部门和开放的多利益相关者倡议，以积累AI的长期专业知识。此外，政府应促进制定多利益相关者、共识驱动的、针对可互操作和可信赖AI的全球技术标准。同时，政府应鼓励开发和使用国际可比指标来衡量AI研究、开发和部署，并收集证据基础来评估原则实施的进展。

四、 OECD在数字领域的广泛关注议题

除了AI原则外，OECD还在数字领域内持续关注多个关键的政策子议题，致力于应对技术进步带来的挑战和机遇：

• 人工智能治理：关注如何应用有效的治理来驾驭AI的益处并减轻其风险。
• AI计算：随着AI发展，对大规模计算资源的需求增长，引发了对国家实现AI战略能力的关注。
• AI风险与事件：关注AI带来的风险，例如偏见和歧视、观点两极化、隐私侵犯、安全和保障问题。需要开发可互操作的基于风险的AI治理方法。
• 数据流动和治理：关注数据流动和相关的治理框架。
• 数字安全、隐私与数据保护：涵盖数字安全、在线安全与福祉，以及隐私和数据保护问题。
• 生成式AI（GenAI）：关注GenAI带来的关键挑战和考虑因素，特别是其在创建新内容（如文本、图像、视频）方面的潜力。
• AI与教育和技能：探讨AI对教育系统的影响，以及如何培养适应AI时代的技能。

结论

OECD AI原则及其政策建议，提供了一个全球性的、具有前瞻性的框架，旨在指导各国在拥抱AI带来的创新优势的同时，坚定维护人权、民主价值观和社会公平。通过确保AI系统的负责任、可追溯、安全和以人为本的发展，OECD致力于推动国际社会共同迈向一个人机协作、可持续发展的智能未来。正如其所强调的，有效治理是驾驭AI益处并减轻其风险的关键。

目前，经济合作与发展组织（OECD）人工智能原则（OECD AI Principles）已获得OECD 成员国和全球许多合作伙伴的采纳，截至2023 年 5 月，各国政府在70 多个司法管辖区内报告了1000 多项遵循 OECD AI 原则的政策举措。