그녀의 첫 번째 본능은 그녀가 알고 있는 다른 피해자들에게 연락하는 것이었고, 그 후 “결국 현지 법 집행 기관에 연락하여 범죄 조사가 시작되었습니다”라고 고소장은 말했습니다.
Discord 증거를 조사한 경찰은 가해자가 첫 번째 피해자와 “친밀하고 우호적인 관계를 유지했기 때문에” 첫 번째 피해자의 인스타그램에 접근한 것으로 신속하게 판단했습니다. 그의 휴대폰을 검색한 경찰은 Grok에 대한 액세스 권한을 부여하거나 구매한 제3자 앱을 발견했으며, 이를 통해 가해자가 소녀들의 사진을 변형하는 데 사용했다고 결론지었습니다.
거기에서 악당은 이미지를 메가(Mega)라는 파일 공유 플랫폼에 업로드하고 이를 “수백 명의 다른 사용자와 텔레그램 그룹 채팅에서 물물교환 도구”로 사용했으며, AI CSAM 파일을 “다른 미성년자의 성적으로 노골적인 콘텐츠”로 교환했습니다.
소송에서는 극심한 정서적, 정신적 고통을 이유로 피해자들이 입는 피해가 매우 크다고 밝혔습니다. 가해자를 알고 있는 피해자들은 Grok이 생성한 CSAM이 급우들과 공유되었는지, 아니면 학교에서 다른 사람들에게 배포되었는지 불확실하다고 소송에 명시되어 있습니다. 한 소녀는 스캔들이 자신의 대학 입학에 영향을 미칠 것을 두려워하고, 다른 소녀는 자신의 졸업식에 참석하기가 너무 두려웠습니다.
그러나 AI CSAM을 접하는 어떤 지인보다 더 놀라운 것은 이제 Grok의 결과로 인해 소녀들이 스토킹을 당하게 될 것이라는 두려움입니다. 소송에서 설명하듯이 “피해자의 실제 이름과 학교 이름이 온라인 파일에 첨부된 것으로 나타났습니다. 이는 다른 온라인 범죄자도 피해자를 식별할 수 있어 스토킹의 상당한 위험을 초래할 수 있음을 의미합니다.”
xAI가 Grok CSAM을 호스팅하는 것으로 알려짐
이전에 Grok Imagine의 유료 가입자가 X에 대한 항의를 촉발한 Grok 출력보다 더 많은 그래픽 출력을 생성했다고 보고된 반면, 소송에서는 xAI가 실제 사람들에게 해를 끼치는 노골적인 콘텐츠로부터 어떻게 이익을 얻는지 숨기기 위해 다른 조치도 취했다고 주장합니다.
