공무원이 사용자가 아닌 플랫폼을 쫓고 싶어하는 이유
관계자들은 “성적으로 노골적이거나 은밀하고 식별 가능한 실제 사람과 유사한 이미지를 생성하거나 조작하기 위해 AI를 사용하는 소위 ‘누디파이어(nudifier)’ 시스템에 대한 새로운 금지 조치를 해당 사람의 동의 없이 도입하려고 합니다”라고 보도 자료에서 설명했습니다. 그러나 관계자는 “이 금지 조치는 사용자가 그러한 이미지를 생성하는 것을 방지하는 효과적인 안전 조치를 갖춘 AI 시스템에는 적용되지 않을 것”이라고 말했습니다.
Bloomberg가 언급한 바와 같이, 이 금지령은 노골적인 딥페이크를 규제하는 EU의 접근 방식을 근본적으로 바꿔 사용자를 기소하는 것 이상으로 플랫폼을 처벌하는 것으로 옮겨갈 것입니다. 블룸버그는 그록 스캔들이 왜 그러한 규제 변화가 필요한지를 “전형적으로 보여줬다”고 블룸버그는 보도하면서 “이번 수정안은 대상의 동의 없이 성적인 자료”를 생산하고 공유하는 “AI 플랫폼을 구체적으로 표적으로 삼는” 첫 번째 EU 정책이라고 지적했습니다.
EU 관계자는 보도 자료에서 Grok을 직접 언급하지 않았지만 규제 당국은 이미 눈에 띄지 않는 다른 누드 앱에 대한 xAI 논란의 의미를 숙고하면서 AI 시스템을 조사하고 있었습니다. 의원들은 올해 초 유럽연합 집행위원회에 질문을 제출하면서 다음과 같이 경고했습니다.
Grok on X와 같은 AI 기반 누드 애플리케이션과 온라인에서 무료로 제공되는 기타 도구에 대한 최근의 충격적인 보고서는 사용자가 동의 없이 개인의 조작된 친밀한 이미지를 생성할 수 있도록 허용하는 AI 기반 도구의 증가를 강조하며, 성별 기반 사이버 폭력과 아동 성적 학대 자료 생성을 촉진합니다.
국회의원들은 “이러한 시스템은 EU 시장에서 금지되어야 한다”고 촉구했다. 특히 “국가 형법에 따라 처벌될 수 있는” “개별 가해자”는 “흔히 찾기 어렵기 때문”이다. 의원들은 “광범위한 이미지 기반 성폭력을 처음부터 예방하는 것”이 보다 적극적인 계획이라고 제안했습니다.
국회의원들의 명백한 지지로 인해 수정안이 통과될 가능성이 높은 머스크는 미국에서 Grok의 누드화 결과물에 대한 금지 명령을 구하는 법적 문제에 직면하고 있습니다. 지난 1월, 머스크의 자녀 중 한 명인 애슐리 세인트 클레어(Ashley St. Clair)의 어머니가 소송을 제기한 최초의 피해자 중 한 명이 되었습니다. 그리고 최근에는 테네시 주의 어린 소녀 3명이 Grok의 CSAM 주장으로 인해 피해를 입은 모든 어린이를 대표하는 집단 소송을 제안했습니다.
EU에서는 xAI가 Grok이 실제 사람들의 옷을 벗는 것을 막으려 하지 않는 것처럼 보이기 때문에 규제 기관의 개입에 대한 유사한 대중 압력이 가중되고 있습니다. 시민 자유 위원회 위원인 마이클 맥나마라(Michael McNamara)는 보도 자료에서 나체화 앱을 금지하자는 제안이 “우리 시민들이 기대하는 것”이라고 믿고 있다고 말했습니다.
