Grok이 반복적으로 아동의 성적인 이미지를 생성했다는 광범위한 보고서에 대해 이미 전 세계에서 여러 조사를 받고 있는 xAI는 이제 집단 소송을 앞두고 있습니다. Grok이 아동 착취 자료를 생성하기 위해 자신의 사진을 사용했다고 주장하는 세 명의 십대가 캘리포니아에서 xAI를 상대로 집단 소송을 제기했습니다.
소송에 따르면, 10대 중 한 명은 지난해 12월 누군가가 자신과 다른 미성년자들의 AI가 생성한 이미지와 동영상을 자신이 익숙하지만 성적으로 노골적인 포즈로 변형한 환경에서 공유하고 있다는 경고를 받았다. 이미지와 비디오는 Discord, Telegram 및 기타 플랫폼에서 공유되었으며 다른 CSAM 이미지에 대한 “물물교환 도구”로 사용된 것으로 알려졌습니다. 해당 이미지를 조사한 법 집행관은 소녀의 부모에게 이 이미지가 xAi의 Grok으로 생성되었다고 말했다고 소송은 밝혔습니다.
모두 테네시에 살고 있으며 Jane Doe 1, Jane Doe 2 및 Jane Doe 3으로 확인된 세 명의 십대는 “심각한 정서적 고통을 겪었다”고 서류는 밝혔습니다. 10대 변호사들은 엔가젯에 제출한 고소장에 “이 CSAM의 제작과 유포로 인해 발생한 사생활, 존엄성, 개인 안전의 파괴적인 손실로 그들의 삶은 산산조각이 났습니다”라고 적었습니다. “이미지 및 비디오 제작 제품의 사용 증가를 통한 xAI의 금전적 이익은 그들의 비용과 행복에서 비롯되었습니다. 원고는 CSAM 이미지와 비디오가 계속해서 아동 성범죄자들에 의해 온라인으로 인신매매되고 거래될 수 있다는 사실을 알고 남은 생애를 보내야 할 것입니다.”
소송에는 현재 세 명의 개인이 언급되어 있지만 고소장에는 Grok이 자신의 사진을 성적인 이미지로 조작한 “최소 수천 명의 미성년자”가 포함될 수 있다고 말합니다. 소송은 xAI가 아동 학대 자료의 생산 및 배포를 금지하는 법률을 포함하여 여러 법률을 위반했다고 주장합니다.
xAI는 소송에 대한 논평 요청에 즉시 응답하지 않았습니다. 회사는 또한 Grok의 합의되지 않은 누드 생성 혐의에 대해 미국과 유럽에서 여러 조사를 받고 있습니다. 디지털 증오 대응 센터(Centre for Countering Digital Hate)의 연구원들은 지난 1월 Grok이 아동용으로 보이는 23,000개의 이미지를 포함하여 수백만 개의 성적인 이미지를 제작했다고 추정했습니다.
이전에 Grok의 “매운” 능력을 홍보했던 xAI CEO Elon Musk는 “Grok이 생성한 미성년자 나체 이미지를 인식하지 못했다”고 주장했습니다. xAI는 지난 1월 Grok을 사용하여 실제 인물의 이미지를 비키니로 편집하는 것을 중단하고 Grok의 이미지 생성 기능을 유료 가입자에게만 제한할 것이라고 발표했습니다.
