xAI, 합의되지 않은 성적 딥페이크 생성 혐의로 Grok 사용자 고소

SpaceXAI(xAI)는 사우스 캐롤라이나 출신의 67세 남성 Terry Wayne Harwood를 상대로 소송을 제기했습니다. 그는 Grok을 사용하여 동의 없이 실제 사람들의 성적인 이미지를 생성한 혐의로 기소되었습니다. xAI가 텍사스에 제출한 고소장에 따르면 피고는 2025년 12월 8일부터 2026년 2월 18일까지 두 개의 xAI 계정에 수많은 성인과 미성년자의 성적이지 않은 이미지를 업로드했다고 밝혔습니다. 그런 다음 그는 Grok에게 사진을 변경하거나 “포르노적인 방식으로 또는 성적 대상화”하는 방식으로 성인과 어린이를 묘사하는 새로운 이미지와 비디오를 제작하도록 요청했습니다.

회사는 그록이 “수차례” 자신의 지시를 따르기를 거부했지만 AI의 보호 장치를 우회하기 위해 편집된 지시를 반복적으로 제출했다고 말했습니다. 서류에 언급된 한 예에서 xAI는 Harwood가 옷을 완전히 입은 10~11세 소녀의 사진을 업로드한 다음 Grok에게 옷을 모두 벗고 침대에 누워 있는 동안 “플레이보이 모델 인상”을 달라고 요청했다고 말했습니다. 소송에 따르면 그록은 그의 요청을 거부했지만 계속해서 수정된 요청을 제출했습니다. 처럼 로이터 참고로 이는 AI 회사가 사용자 중 한 명을 상대로 제기한 최초의 소송 중 하나이며 xAI가 Grok의 오용에 대해 소송을 제기할 것이라는 메시지를 보냅니다.

Grok이 사용자가 실제 여성과 어린이의 사진을 성적인 이미지로 변환할 수 있도록 허용했다는 보고가 1월 초부터 나오기 시작했습니다. 규제 당국은 스캔들이 터진 후 즉시 Grok에 대한 공식 조사를 시작했습니다. 캘리포니아 당국은 영국 규제기관인 Ofcom과 마찬가지로 1월 중순부터 AI 조사를 시작했습니다. 유럽연합 집행위원회와 아일랜드 데이터 보호 위원회도 별도의 조사를 시작했습니다.

xAI는 조사가 시작될 때 사용자가 무의미한 성적 딥페이크를 생성하는 것을 방지하는 조치를 구현했습니다. 그러나 그 후에도 사용자들은 여전히 ​​Grok을 사용하여 남성의 옷을 벗길 수 있었고 Harwood는 계속해서 자신의 계정에 이미지를 업로드하고 이를 사용하여 성적인 편집을 생성했습니다.

사우스캐롤라이나주 법무장관실은 아동 대상 인터넷 범죄 태스크포스(Internet Crimes Against Children Task Force) 활동의 일환으로 3월 9일 Harwood를 체포했다고 발표했습니다. Harwood는 미성년자에 대한 3건의 2급 성착취 혐의와 5건의 3급 미성년자 성적 착취 혐의로 기소되었습니다. Harwood는 아동 성적 학대 자료를 소유했을 뿐만 아니라 배포하기도 했습니다.

xAI는 현재 법원에 불특정 금액의 금전적 손해배상을 요구하고 있습니다. 법원은 피해자가 제기할 수 있는 법적 소송에서 자신을 방어하기 위해 발생하는 비용을 피고에게 지불하도록 명령하기를 원합니다.