와이오밍 주의 한 여성은 자신의 양아버지가 AI 챗봇을 통해 자신의 성적으로 노골적인 수천 개의 가짜 이미지를 만들었다고 말했습니다.
제4자는 Grok이 그녀의 어린 시절 사진을 바탕으로 아동 성적 학대 자료(CSAM)를 제작하는 데 사용되었다고 주장하며 xAI를 상대로 법적 조치를 취하고 있습니다. 처음 보고된 바와 같이 워싱턴 포스트소송에서 Jane Doe 4로 명명된 이 여성은 그녀의 양아버지가 Grok을 사용하여 “어렸을 때 그녀의 성적으로 노골적인 이미지 수천 장을 만들어 온라인에서 거래”했다고 말했습니다.
소송에 따르면 계부는 그녀가 11살이었을 때 찍은 사진을 성적으로 노골적인 이미지로 변환하는 것을 포함해 AI 챗봇 그록(Grok)을 사용하여 그녀의 가짜 노골적인 이미지 7,000개 이상을 만들었다. 결국 주 및 지방 법 집행 기관은 CSAM 혐의로 양아버지의 전자 기기를 급습했고 이틀 후 양아버지는 자신의 차에서 자살한 채 발견됐다고 보고서는 밝혔습니다.
Jane Doe 4는 Grok이 자신의 성적으로 노골적인 딥페이크 이미지를 만드는 데 사용되었다고 주장하는 원래 소송을 제기한 다른 10대 3명과 합류합니다. 소송은 테네시의 10대 3명을 대상으로 시작됐지만 집단소송에서는 “적어도 수천 명의 미성년자”가 포함될 수 있다고 주장했다.
이번 소송 외에도 xAI와 Grok 챗봇은 CSAM과 관련된 많은 조사의 중심에 있었습니다. 지난 1월, 캘리포니아주 법무장관 Rob Bonta는 xAI가 여성과 어린이의 비합의적인 딥페이크 누드를 생성했다고 비난하면서 xAI에 대한 조사를 시작했습니다. 그 달 말, 유럽 연합(EU)도 X에 대한 자체 조사를 시작하여 플랫폼에 AI 생성 CSAM의 확산을 막기 위한 충분한 조치가 마련되어 있는지 확인했습니다. 우리는 소송에 대한 최신 업데이트에 대한 의견을 얻기 위해 xAI에 연락했으며 답변을 들으면 이야기를 업데이트할 것입니다.
이 주제에 대해 더 알고 싶다면 아래를 참고하세요
