또한 xAI가 발견한 모든 CSAM은 NCMEC에 보고된다는 점에도 주목됩니다.
xAI는 고소장에서 Harwood가 xAI의 규칙을 “노골적으로 위반”하고 Grok의 “기술적 보호 장치”를 “우회하기 위해 많은 노력을 기울였기 때문에” 자신의 결과물에 대한 책임은 Harwood에게만 있다고 주장했습니다.
Harwood는 “오해의 소지가 있는 프롬프트”에 의존하여 이를 수행했다고 xAI는 말했습니다. 그리고 Harwood는 자신이 불법 콘텐츠를 생성할 수 있다는 사실을 알고도 스스로 경찰을 관리하지 못했다고 xAI는 주장했습니다. 고소장에서 xAI는 Harwood가 처음으로 챗봇에 의존하여 불법 콘텐츠를 만든 이후 Grok 사용이 금지되었다는 사실을 알았어야 했다고 주장했습니다. 그러나 눈에 띄게 xAI는 Harwood가 자신의 계정에 벌금이 부과될 수 있다는 경고를 받았다는 사실을 나타내지 않습니다.
대신 Harwood는 “xAI 서비스 약관을 위반한 후 해당 기간 동안 Grok을 계속 사용했다”고 xAI는 주장했습니다. “그가 동의한 xAI 서비스 약관은 이전 위반 이후 사용을 금지했습니다.”
xAI는 미국 지방 법원이 Harwood가 xAI의 조건을 위반하고 xAI와의 계약을 위반했다고 판결하기를 바라고 있습니다. 그러나 아마도 더 중요한 것은 Musk가 Grok이 생성한 CSAM 및 NCII에 대해 xAI가 아닌 사용자만 책임이 있다는 면책 조항을 법원이 인정하기를 원한다는 것입니다. xAI에 따르면 사람들이 Grok을 사용할 때 xAI는 입력과 출력이 모두 포함된다고 주장하는 모든 콘텐츠에 대해 책임을 집니다.
법원이 사용자가 AI 결과물에 책임이 있다는 데 동의할지 여부는 아직 확인되지 않았습니다. 아마도 저작권청은 AI 결과물을 인간이 만든 것으로 보지 않는다는 점에 주목할 만합니다. 다른 이미지가 그런 식으로 법적으로 인정될 수 없다면 법원이 AI 도구에 의해 생성된 아동 성 이미지가 사용자에 의해 어떻게 생성될 수 있는지 확인하기 위해 고군분투한다면 이는 xAI의 공격에 큰 문제를 일으킬 수 있습니다.
xAI가 이 싸움에서 이기면 Harwood는 “제3자에 대한 실제 손해”, xAI의 “제3자 청구 및 소송에 대한 노출”, “xAI 평판 손상”에 대한 손해 배상을 포함하여 상당한 손해 배상 책임을 져야 할 수 있다고 고소장은 밝혔습니다.
이 주제에 대해 더 알고 싶다면 아래를 참고하세요
