技巧与策略

xAI 罕见起诉一名 Grok 用户，因其滥用 AI 生成儿童性虐待图片、视频

xAI 罕见地对一名 Grok 用户提起了法律诉讼，指控该用户滥用其人工智能服务来制造儿童性虐待图像和视频。这名用户，哈伍德，在今年 2 月因涉嫌性剥削未成年人而被捕。xAI 于周二向得克萨斯州一家联邦法院提交了起诉书，声称哈伍德的行为违反了公司的服务条款。

AI 公司主动起诉用户涉嫌利用 AI 生成色情内容的案例，此前极为少见。

此次诉讼的提交正值 xAI 因 Grok 的内容安全问题而面临全球性审查之际。有指控称 Grok 允许用户创建未经当事人同意的色情深度伪造内容，包括由 AI 生成的、逼真的虚假视频。

xAI 在其法律文件中指出，公司会暂停或终止违规账户，并向美国国家失踪与受虐儿童中心报告疑似儿童性虐待材料，以执行平台规定。据称，在 2026 年，xAI 已暂停了 52222 个账户，并向美国国家失踪与受虐儿童中心提交了 73604 份报告，这些报告促成了至少 244 人被捕。

根据IT之家获得的信息，xAI 指控哈伍德将成年人和未成年人的普通照片上传至 Grok，随后试图生成以照片人物为对象的色情深度伪造内容。此外，哈伍德还被指控制作未经成年人本人同意的色情图像。

xAI 要求法院判令哈伍德支付金额尚未确定的赔偿金，并永久禁止其使用 Grok。xAI 在诉状中表示，“被告经过蓄意策划，把原告的工具变成犯罪武器，不仅给真实受害者造成深重而持久的伤害，也使原告面临重大法律风险和声誉损失。”

开云（KAIYUN）中国官方网站专注于全球热门体育赛事及互动娱乐内容，覆盖足球、篮球、网球、电竞等多个领域，为用户提供赛事直播、实时比分、赛事资讯、数据分析及精彩活动服务。开云不断更新优质内容，为广大体育爱好者打造便捷高效的在线平台。

精选开云体育内容，kaiyun与你一同发现更多精彩。