欧盟已就修订《人工智能法案》达成一致，同意禁止AI生成深度伪造的色情内容。这项禁令将写入2024年通过的《人工智能法案》中，标志着欧盟在法律层面划出了一条明确红线。



欧洲议会议员迈克尔·麦克纳马拉表示，这是欧盟首次通过立法，明确禁止“脱衣换脸”这类应用。他强调，欧盟今天画出了这条红线，人工智能绝不能用来羞辱、剥削或危害他人。

近年来，AI深度伪造的色情内容引发了全球范围内的关注。

今年1月，马斯克旗下社交平台X的AI聊天机器人Grok，就被部分用户滥用来生成色情内容，引起了很大舆论争议。据人工智能取证组织报告，在2025年12月25日到2026年1月1日期间，Grok生成的2万张深度伪造图片中，有55%的人物穿着暴露，其中81%是女性，还有2%的图片涉及18岁以下的未成年人。

在持续数周的压力下，X平台于1月14日宣布对Grok采取限制，禁止用该功能生成真人裸露图像。X的安全团队表示，已经采取了技术措施，防止用户通过Grok账号编辑真人穿着比基尼等暴露服装的图像，这一限制适用于所有用户，包括付费订阅用户。

此外，该团队还表示，正在全天候地增设防护措施，删除违规和非法内容，必要情况下会永久封号，并与当地政府及执法部门合作。