영국 노동당 의원 Jess Asato는 Grok이 자신을 위해 만든 성적으로 노골적인 AI 생성 이미지에 대해 xAI를 고소했습니다. 파이낸셜 타임즈 보고서. 이번 소송은 영국에서 사람들이 AI 도구를 사용하여 제작한 콘텐츠에 대해 AI 회사가 책임을 질 수 있는지 여부에 대한 최초의 주목할만한 테스트입니다.
Grok 사용자는 AI 보조자가 CSAM을 생성하는 데 사용되었다는 사실이 처음 보고된 직후인 1월부터 Asato의 이미지를 제작하고 공유하기 시작했습니다. Asato는 사용자들이 Grok에게 “그녀가 클로로포름화되어 성폭행을 준비하는 모습을 보여주는” 노골적인 비디오와 함께 비키니를 입은 자신의 이미지를 생성하도록 유도했다고 주장합니다. FT 쓴다. 사용자는 나중에 xAI가 소유한 소셜 플랫폼인 X에서 더 많은 AI 이미지를 다시 공유하고 토론하고 제작했습니다.
오늘 저는 Grok의 배후 회사인 xAI를 상대로 고등 법원에 소송을 제기하려고 합니다.
저는 학대적이고 성적인 AI 딥페이크의 피해자가 된 수천 명의 여성, 심지어 어린이 중 한 명일 뿐입니다.
이런 일은 결코 일어나서는 안 되며 xAI는 책임을 져야 합니다. https://t.co/Oc9XlxHQO6
— Jess Asato MP(@Jess4Lowestoft) 2026년 6월 3일
Asato의 소송은 xAI가 개인 정보의 오용 및 데이터 보호에 관한 법률을 위반하여 Grok을 사용하는 개인 사용자임에도 불구하고 xAI가 책임을 져야 한다고 주장합니다. 그녀는 금전적 손해배상과 xAI가 영국 법률을 따르도록 강제하는 명령을 구하고 있습니다. 아사토는 “이번 조치로 여성과 어린이에게 해를 끼치기 전에 보호 장치를 마련해야 하는 대규모 기술 기업에 맞서 개인 권리의 균형을 재조정할 수 있기를 바란다”고 말했다. FT.
xAI는 1월에 Grok의 성적으로 노골적인 이미지를 생성하는 능력에 제한을 가했다고 주장했지만 테스트를 했을 때 해당 블록은 상당히 쉽게 우회되었습니다. 합의되지 않은 딥페이크를 생성하는 Grok의 능력에 대한 부정적인 반응이 널리 퍼져 있습니다. xAI나 X는 EU, 영국, 캘리포니아에서 조사를 받고 있는 것 외에도 메릴랜드 주 볼티모어 시와 10대 그룹, 엘론 머스크 자녀의 어머니인 애쉴리 세인트 클레어(Ashley St. Clair)로부터도 고소당하고 있습니다.
이 모든 일은 xAI와 X의 상대적으로 새로운 소유자인 SpaceX가 상장을 시도하는 동안 일어나고 있습니다. 부정적인 관심이 머스크의 새로운 IPO에 영향을 미칠지 말하기는 어렵지만 Grok을 통치하려는 움직임은 SpaceX CEO 자신이 아닌 규제 기관이나 이러한 소송 중 하나에서 나올 것으로 보입니다.
이 주제에 대해 더 알고 싶다면 아래를 참고하세요
