xAI因涉嫌生成儿童色情深度伪造内容,被美国巴尔的摩市正式起诉并索赔。
据路透社报道,美国巴尔的摩市已正式对埃隆·马斯克旗下的人工智能公司 xAI 提起诉讼,指控其 AI 聊天机器人 Grok 非法生成未经同意的露骨色情图像,甚至包括涉及儿童的性剥削内容。作为目前因“深度伪造”问题起诉 xAI 的最大城市(人口约56.8万),巴尔的摩在马里兰州巡回法院提交的诉状中指出,xAI 将 Grok 宣传为安全、通用的 AI 助手,但其实际行为已涉嫌违反消费者保护法。
法庭文件引用了反数字仇恨中心的一项调查:基于对 2 万张样本的分析,仅在今年年初的 11 天内,社交平台 X 上就通过 Grok 生成了约 300 万张高度逼真的性化图像,其中超过 2.3 万张涉及未成年人。巴尔的摩市长布兰登·斯科特发表声明,直指科技公司正在为儿童性剥削提供技术便利,并强调必须追究相关责任。
诉状还特别提到马斯克本人于 2025 年 12 月 31 日在 X 平台上发布的一张由 Grok 生成的图像——画面中是他身穿蓝色比基尼的拟真自画像。原告方认为,此举相当于公开为 Grok 生成真人暴露图像的能力“站台”,构成对该功能的变相背书。
目前,自 2023 年上线以来,Grok 已面临来自美洲、欧洲、亚洲和澳大利亚等多地的监管审查。尽管 xAI 在今年 1 月中旬宣布在部分国家和地区限制 Grok 的图像生成功能,且马斯克当时声称对 AI 生成未成年人相关内容“完全不知情”,但舆论与法律压力并未缓解。
此次巴尔的摩市不仅要求法院判令 xAI 支付未明确数额的罚款,更寻求一项禁令,强制 xAI 彻底修改 Grok 中被认定具有“剥削性”的设计机制。截至目前,估值约 1.25 万亿美元的母公司 SpaceX 及 xAI 均未就该诉讼作出官方回应。





