马斯克旗下 Grok 被指生成儿童色情图像，xAI 面临多起集体诉讼

IT之家 11 月 11 日消息，据彭博社报道，简 · 多伊（Jane Doe）已经多年没有想起过自己的初中毕业典礼，直到一名执法调查人员拿出当年庆祝活动的一张照片，开始向她询问相关情况。 照片中的她当时只有 14 岁，身穿黄色碎花连衣裙，面带笑容，双臂搭在几名朋友的肩膀上。其中一些朋友，她如今已经很少联系。 调查人员告诉她，照片中一名同学的成年哥哥，曾利用埃隆 · 马斯克（Elon Musk）旗下的人工智能聊天机器人 Grok，将这张原本再普通不过的照片篡改成儿童性虐待材料（CSAM）。生成的图片中，正值初二年级的简 · 多伊全身赤裸，以性挑逗姿势出现。这些图片随后被发布到了互联网上。 她在针对马斯克旗下生成式 AI 公司、Grok 开发商 xAI 提起的一起集体诉讼中，以简 · 多伊 5 号的身份参与案件。 简 · 多伊 5 号在一份诉状中写道：“目前根本无法确定，还有多少其他儿童性犯罪者可能已经持有简 · 多伊 5 号的儿童性虐待图片，也无法确定这些图片通过暗网渠道和应用程序在网上传播的范围究竟有多广。” 现年 18 岁的简 · 多伊在即将离开家乡前往大学就读的几天前接受采访时表示：“这些图片已经流传出去了，我真的无能为力。这才是最让我害怕的事情。” 她还说：“这件事让我觉得，自己好像想要放弃一切。” 如今，借助 AI，任何人都可以轻而易举地从个人社交媒体账号或学校网站上获取普通照片，并在几秒钟内将其变成令人难以想象的色情图像。简 · 多伊 5 号只是越来越多试图通过法律手段追究 xAI 责任的年轻受害者之一，她们认为 Grok 帮助用户制作了这些令人不安的图片。 在此过