当地时间周一，三名美国少女——其中两人尚未成年——对埃隆·马斯克旗下的人工智能公司 xAI 提起诉讼，指控其开发的 Grok 图像生成器被用来制作并传播她们的儿童性虐待材料（CSAM）。这是今年早些时候 Grok 被曝在未经同意的情况下大量生成裸照事件后，首起由未成年人发起的集体诉讼。

原告律师 Vanessa Baehr-Jones 在一份声明中表示：“xAI 明知制造这种危险产品会带来严重后果，却仍选择从对真实人物——包括儿童——的性剥削中牟利。”

这起诉讼由三名来自田纳西州的少女发起，但案件提交到了 xAI 总部所在的加州。诉状详细描述了她们如何发现自己的裸照被人工智能篡改后，在未经许可的情况下上传到 Discord 服务器并在网上广泛传播。

据称，在她们向警方报案后，执法部门当月晚些时候逮捕了一名嫌疑人，并在其手机中发现了疑似使用 xAI 图像和视频生成技术制作的儿童性虐待材料。

诉讼指出，这些非法内容是通过一款获得 Grok 授权的第三方应用程序生成的。该应用依赖 xAI 的技术来创建图像，而 xAI 则从中获利。

这起案件是近期针对 xAI 的多起法律行动之一。此前，马斯克一位孩子的母亲也提起了类似诉讼，欧盟也已就此展开正式调查。在事件最严重的时候，反数字仇恨中心的研究人员估计，Grok 在不到两周内生成了约 300 万张性化图像，其中约 2.3 万张涉及未成年人。

马斯克曾在今年 1 月否认相关指控，称：“我完全不知道 Grok 生成过任何未成年人的裸照，绝对没有。”他还强调，Grok 不会生成任何非法内容，并声称其系统设计原则是遵守各地法律。

然而，周一提交的诉状详细还原了这些女孩发现 AI 伪造裸照在网络流传的过程。其中一名女孩在去年 12 月收到一位匿名 Instagram 用户的消息，对方提醒她，有人将一系列深度伪造的图片和视频上传到了一个 Discord 服务器，内容显示她和同校其他女生裸体并摆出性暗示姿势。

这名少女认出，其中有三张照片明显经过 AI 处理，而原始素材拍摄于她未成年时期，包括一张她在学校返校节活动中的照片。起诉书还提到，调查人员后来发现，这些图片曾在 Telegram 上被分享，甚至被当作“货币”用于交换其他儿童性虐待材料。

诉状写道：“这些图片显示她全身赤裸；视频则记录了她脱衣直至全裸的过程。”

另外两名原告也在今年 2 月发现，包含她们形象的类似 AI 生成内容正在网上流传。她们要求 xAI 就由此造成的名誉损害和心理健康伤害进行赔偿。

其中一名女孩的母亲通过律师表示：“看到女儿意识到这些图片被制作、传播，而且根本无法撤回，当场就惊恐发作——那一刻，我的心都碎了。”

尽管诉状承认这些图片并非直接通过 X 平台或官方 Grok 应用生成，而是经由第三方应用调用 Grok 技术制作，但原告方认为，xAI 仍需承担责任——因为这些操作依赖 xAI 的服务器，且 xAI 通过授权这些应用使用其技术而获利。

律师指责 xAI 利用模糊的授权结构和监管缺位，实际上是在推卸责任。