Let's Make AGI Real

最近，阿里巴巴发布了一款名为“万相Wan2.1”的多模态AI模型，并宣布采用Apache2.0协议开源。这个模型的神奇之处在于，它能仅凭一张图片和一段文字描述，就能生成高分辨率的超长视频，效果简直让人惊叹。然而，这项技术在外网却引发了一场“成人内容”风暴，也让人们开始思考：AI多模态模型是否已经跨越了一个危险的引爆点？

多模态大模型技术正以前所未有的速度改变成人内容产业的各个方面，从创作生产到消费模式，从商业格局到伦理法律问题。这些大模型不仅在生产和制作方面带来了巨大的效率提升，更在商务模式、消费行为、隐私保障及版权法规等多个层面引发深刻变革，对既有社会伦理体系及法律制度构成严峻挑战。

技术滥用引发的侵权案例

多模态大模型在成人内容领域的应用，尤其体现在对隐私与肖像权的侵犯上。这些案例展示了技术滥用所带来的严重后果，同时也凸显了现有法律法规的不足。

日本的马赛克去除技术案例尤为典型。根据报道，一名日本男子利用被称为”GAN”（生成对抗网络）的AI技术，将成人视频中的马赛克去除并贩卖牟利，获利高达1100万日元，最终因违反版权法被逮捕。这一案例生动展示了如何利用AI技术绕过法律对成人内容的监管限制，同时也侵犯了原内容创作者的权益。此类技术本质上并非真正”还原”原始内容，而是通过AI的”猜测”和”联想”功能，创造出高度匹配的视觉效果，这种技术虽然在修复老旧照片等领域有积极作用，但在成人内容领域的应用引发了严重的隐私和法律问题。

更为严重的是”AI换脸”技术在成人内容领域的滥用。2024年6月20日，北京互联网法院对两起涉”AI换脸”软件侵权的案件进行合并审理并宣判，认定使用他人视频”换脸”后制作模板再提供”换脸”服务的网络服务提供者侵害了用户的肖像权。在这两个案例中，原告是拥有众多粉丝的国风短视频模特，被告未经授权使用原告的视频制作换脸模板并上传至APP中供用户付费使用，这种行为不仅侵犯了原告的肖像权，还侵害了他们的个人信息权益。

深度伪造技术在成人内容创作中的滥用已经造成了广泛的社会伤害。据报道，许多明星艺人，如著名歌星Taylor Swift深受其扰，且大量普通人也沦为这场AI deepfake技术”侵扰”的对象4。韩国新闻报道大量女性成为深度伪造性犯罪受害者，其中有近三分之一为未成年人，这一现象引发了社会各界的强烈关注和担忧。

AI工具与技术应用实例

多模态大模型技术在成人内容领域的应用不仅体现在侵权案例中，也表现为一系列专门工具的出现，这些工具往往打着技术创新的旗号，但应用边界模糊。

CodeFormer被网友称为”地表最强AI马赛克去除神器”，采用最先进的神经网络AI技术，可以精准修复各种老旧、模糊、残缺、黑白的照片和视频。虽然该技术的初衷可能是用于照片修复和画质提升，但其”去除马赛克”的能力显然也可用于成人内容领域，绕过内容保护措施。该工具已经开发出可视化操作界面的懒人包，降低了使用门槛，使得普通用户也能轻松操作，这无疑增加了技术滥用的风险。

值得注意的是，这类工具的开发者通常会强调其技术价值和合法用途，如修复老照片或提升画质，而避而不谈其在成人内容领域可能的滥用。这种技术与伦理的矛盾使得监管部门面临两难：既不能阻碍技术创新，又要防止技术滥用带来的社会危害。

商业模式变革案例

多模态大模型技术不仅改变了成人内容的创作和消费方式，也催生了新的商业模式，部分企业已经开始在这一领域尝试创新。

AI生成内容订阅服务是一种新兴的商业模式。虽然搜索结果中没有直接关于成人内容领域的具体例子，但我们可以参考出门问问基于自研通用大模型”序列猴子”推出的”魔音工坊”，该平台已拥有超过600万注册会员，其中付费会员超过40万。这种模式也可能被应用于成人内容领域，通过提供AI生成的个性化内容来吸引订阅用户。

定制化创作服务也正成为一种流行的商业模式。一些平台开始提供基于用户文本描述生成个性化成人内容的服务，用户可以通过文字指令定制符合个人偏好的图像或视频内容。这种服务通常采用付费点数或会员订阅制，为内容生产者提供了新的盈利渠道。

值得注意的是，随着技术的普及和用户自主生成能力的提升，传统的付费下载模式正面临严峻挑战。当用户可以通过AI工具自行生成满足个人需求的内容时，对传统付费内容的需求必然下降。这迫使传统内容提供商不断调整业务模式，向技术服务提供商或专业内容定制商转型。

隐私保护与对抗技术案例

面对多模态大模型带来的隐私挑战，一些研究者和企业正在开发对抗技术，试图保护个人免受未授权内容生成的侵害。

一些研究者正在探索向数据集中添加对抗性扰动的方法，破坏模型对其中敏感信息的提取与利用。此外，还有研究致力于防止人脸身份信息提取的技术，以应对深度伪造的威胁。这些技术虽然有前景，但仍处于研发阶段，尚未形成有效的保护机制。

在平台责任方面，Midjourney等平台已在其服务条款中增加了数字版权法案要求的删除策略，允许艺术家要求从数据集中删除其作品。这种做法为成人内容行业提供了参考，表明平台需要主动建立内容审核和权利保护机制，而不是被动应对侵权指控。

版权争议与法律挑战

多模态大模型在内容领域的应用也引发了一系列版权争议和法律挑战，多起标志性案例正在重塑行业法律边界。虽然目前大多还不涉及成人内容，但也值得借鉴。

“全球AIGC平台侵权第一案”（又称”奥特曼案”）是一个具有里程碑意义的判例。2024年2月，广州互联网法院就某人工智能平台侵权一案作出判决，认定被告人工智能平台构成著作权侵权1。在该案中，原告上海某文化发展有限公司通过许可获得了奥特曼系列作品在中国的著作权授权。被告AI公司通过其Tab网站的AI生成绘画功能，未经授权使用奥特曼形象训练其大模型并生成实质性相似的图片，侵害了原告的复制权、改编权和信息网络传播权。法院的判决为AI生成内容领域的著作权保护提供了重要参考。

另一个引人注目的案例是2023年12月27日《纽约时报》起诉OpenAI和微软的版权侵权案。纽约时报指控这两家公司未经授权使用其数百万篇文章训练人工智能模型，导致训练出的聊天机器人如今作为一个消息来源与新闻媒体竞争，造成”数十亿美元损失”5。虽然这个案例不是直接关于成人内容的，但其原理同样适用于成人内容领域的AI模型训练问题，即成人内容制作商同样面临其作品被未授权用于训练AI模型的风险。

我国”全国首例AI文生视频侵权纠纷案”也为行业提供了重要参考。2024年12月30日，湖南省长沙市中级人民法院对此案作出了”驳回上诉，维持原判”的二审判决38。一审法院认定某网络公司通过其开发的”AI一键成片”功能，非法传播《庆余年》短视频片段构成侵权，判令赔偿原告经济损失及合理支出80万元，并立即停止侵权行为。法院认为，作为AI服务的提供者，被告网络公司没有履行应尽的注意义务，也没有建立有效的知识产权侵权风险防范机制，其侵权行为存在明显过错。这一判决不仅为AI技术应用划定了法律红线，也为生成式人工智能服务提供者的责任认定提供了重要参考。

法律监管的进展与不足

多模态大模型在成人内容领域的应用引发了各国监管机构的关注，一系列法律法规正在制定或完善中。

以下是美国的一些相关法律：

非自愿AI生成色情内容分享
非自愿AI生成色情内容可能违法，预计参议院将提出相关法案。
[https://www.congress.gov/bill/117th-congress/house-bill/9631?s=1&r=1]

淫秽内容
根据Millerv. California（1973）定义，涉及猥亵兴趣、明显冒犯、缺乏严肃价值，不受保护，州可禁止。
[https://www.oyez.org/cases/1971/70-73]
[https://library.municode.com/va/newport_news/codes/code_of_ordinances?nodeId=CD_ORD_CH27OB_ARTIIOFREJU]

未成年人访问
多个州（如犹他、阿肯色）要求年龄验证，包括AI生成内容，可能需地理围栏或政府ID验证。
[https://apnews.com/article/porn-age-verification-utah-8f8f4960ad1ec4afc5d59fd7d34c3b9d]
[https://www.arkansasonline.com/news/2023/mar/14/house-passes-bill-requiring-age-verification-for-arkansans-accessing-porn-websites/]

深度伪造
几乎所有州禁止在成人内容中使用非自愿深度伪造，Section230保护平台免责，但AI生成内容可能涉及共谋。
[https://www.eff.org/issues/cda230]
[https://www.bloomberg.com/news/articles/2023-06-20/deepfake-porn-political-ads-push-states-to-curb-rampant-ai-use?in_source=embedded-checkout-banner], [https://www.eff.org/issues/cda230]

年龄验证与记录保持
Section2257要求记录表演者年龄，适用于计算机处理真实人物图像，需显示记录位置，AI平台验证困难。
[https://www.law.cornell.edu/uscode/text/18/2257]
[https://caselaw.findlaw.com/court/us-10th-circuit/1097641.html]

虚假儿童性虐待材料
美国法律禁止生产、分发、查看与真实儿童“几乎无法区分”的虚假材料，无需实际存在儿童。
[https://www.law.cornell.edu/uscode/text/18/1466A]

2024年7月，国家网信办等七部门联合公布了《生成式人工智能服务管理暂行办法》，其中要求生成式人工智能服务提供者应当”使用具有合法来源的数据和基础模型”，且”不得侵害他人依法享有的知识产权”5。这一规定虽然没有专门针对成人内容，但同样适用于该领域的AI应用，为行业划定了基本法律边界。

欧盟方面，2024年6月，欧洲议会通过了《人工智能法案》，要求披露生成式AI是否使用受版权保护的材料来训练5。这一法案是全球首份针对AI监管的全面法规，其对成人内容领域的AI应用同样具有约束力。

然而，这些法律法规在实践中仍面临诸多挑战。成人内容的全球性特点使得不同国家和地区的法律规定难以协调，比如日本法律要求在成人视频中使用马赛克，而其他地区可能有不同规定。这种差异使得建立统一的监管标准变得极为困难。

结论

通过对这些真实案例的分析，我们可以清晰地看到多模态大模型对成人内容产业的深远影响。从日本马赛克去除技术案例到全球AIGC平台侵权第一案，从深度伪造技术滥用到AI文生视频侵权纠纷，这些案例生动展示了技术创新与伦理法律之间的张力。

“万相Wan2.1”的出现，既是技术的一大步，也是对人类社会的一大考验。我们必须在享受AI带来的便利的同时，保持警惕，防止其对伦理和社会秩序造成不可逆转的损害。作为技术前沿的公司，阿里巴巴和其他AI巨头需要认真思考技术中立性的问题。他们不仅要追求技术的突破，还要承担起相应的社会责任，确保技术不会被滥用。

未来，成人内容产业需要在技术创新与权益保护之间寻求平衡，构建既能促进创新又能防止滥用的生态系统。这需要内容创作者、平台运营商、监管机构和技术开发者共同努力，建立更加完善的法律框架和行业自律机制，促进行业健康发展。

只有当技术创新与伦理约束、法律保护相互协调，多模态大模型技术才能在成人内容产业中发挥积极作用，同时最大限度地减少对个人权益和社会秩序的负面影响。