xAI(현재 Elon Musk의 두 회사가 합병된 후 공식적으로 SpaceXAI로 알려져 있음)는 합의되지 않은 친밀한 이미지를 생성할 수 있는 앱과 웹 사이트를 금지하는 주의 새로운 법률에 이의를 제기하기 위해 미네소타 법무 장관 Keith Ellison을 상대로 소송을 제기했습니다. 또한 사람들이 성적인 딥페이크를 만드는 데 사용할 때마다 개발자에게 벌금이 부과됩니다. 국내 최초의 이 법은 올해 초 Tim Walz 주지사의 승인을 받았으며 8월부터 발효될 예정입니다.
고소장에서 회사는 이 법이 “누드화”를 금지하려는 어설픈 시도로 표현의 자유와 시각적 표현 도구에 대한 광범위한 내용 기반 금지라고 밝혔습니다. xAI는 “인위적으로 생성된 실제 사람들의 누드 이미지를 동의 없이 유포하는 것을 금지하려는 미네소타의 관심”에 이의를 제기하지 않는다고 밝혔습니다. 그러나 이 법은 “그 목표를 훨씬 뛰어넘어 광범위한 보호 표현을 민사 책임과 정부 제재에 노출시킵니다.”
이 회사는 사용자들이 실제 여성과 어린이의 사진을 성적인 이미지로 변환하는 것을 허용했다는 보도가 나온 후 올해 초부터 뜨거운 물에 빠졌습니다. 캘리포니아, 영국의 Ofcom, 유럽 위원회, 아일랜드의 데이터 보호 위원회를 포함한 여러 당국과 규제 기관이 이 회사에 대한 조사를 시작했습니다. 합의되지 않은 딥페이크를 방지하기 위한 조치를 시행한 후에도 해당 시스템에서는 여전히 사용자가 사람들의 옷을 벗는 것을 허용했습니다.
“xAI는 사용자가 동의 없이 사람의 누드 또는 성적인 이미지를 생성하는 것을 엄격히 금지하고 있으며 실제로 이 엄격한 금지 사항을 위반하여 그러한 이미지를 생성하기 위해 광범위한 기술 차단 장치를 피하는 사용자를 상대로 소송을 제기했습니다.”라고 고소장에 썼습니다. 실제로 최근 Grok을 사용하여 수많은 성인과 미성년자의 실제 사진을 사용하여 합의되지 않은 친밀한 이미지를 생성한 사우스 캐롤라이나의 한 사용자를 고소했습니다.
새로운 법에 따르면 사용자가 자신의 제품을 사용하여 동의하지 않은 성인용 딥페이크를 생성할 때마다 개발자에게 50만 달러의 벌금이 부과됩니다. xAI는 해당 규칙이 적용되면 “2026년 8월 1일 법령이 발효될 때 Grok Imagine의 이미지 편집 기능을 다양한 방식으로 제한하는 것 외에는 실질적인 선택이 없을 것”이라고 말합니다. 따라서 “법이 발효되기 전에 자유롭게 이용할 수 있는 언론의 보호가 위축될 것”이라고 주장합니다. 회사는 법원에 해당 법률이 위헌임을 선언하고 국가가 이를 집행하지 못하도록 해달라고 요청하고 있다.
소송에 대해 Ellison은 X에 AI와 관련하여 가치 있는 논쟁이 많이 있지만 이것은 그중 하나가 아니라고 게시했습니다. “AI 누드화는 대상의 존엄성을 빼앗고 여러 수준에서 엄청난 피해를 입힐 수 있습니다.” Waltz 주지사는 “법정에서 뵙겠습니다.”라는 글을 게시했습니다.
AI를 사용하여 사람들의 의지에 반하여 누드 이미지를 생성하는 것은 끔찍합니다.
AI에 관해 가치 있는 논쟁이 많이 있습니다. 이것은 그들 중 하나가 아닙니다. AI 누드화는 대상의 존엄성을 앗아가고 여러 수준에서 엄청난 피해를 입힐 수 있습니다.
법정에서 X를 만나겠습니다. https://t.co/OcsZPkVNmk
— Keith Ellison 법무장관(@AGEllison) 2026년 7월 28일
이 주제에 대해 더 알고 싶다면 아래를 참고하세요
