두 회사 모두 각자의 매장에 있는 13개 앱에 대한 중단 편지를 보냈습니다.
Apple과 Google은 각자의 앱 스토어에서 AI 기반의 “Nudify” 앱을 제거할 것을 요구하는 정지 편지를 받았습니다.
보고된 바와 같이 열광한샌프란시스코 시 변호사 데이비드 치우(David Chiu)는 두 거대 기술 기업에 AI로 생성된 딥페이크 누드 이미지를 만드는 데 사용할 수 있는 총 13개의 앱을 폐쇄하라고 명령했습니다. 이 편지는 Apple과 Google에 합의되지 않은 친밀한 이미지의 확산을 “지원하고 방조”하는 것을 중단하고 문제의 앱 개발자와의 협력을 중단할 것을 호소합니다.
Chiu가 딥페이크 플랫폼을 공격한 것은 이번이 처음이 아닙니다. 이전에는 사용자가 AI를 사용하여 실제 여성과 소녀의 이미지를 포르노로 만들 수 있는 웹사이트 16곳을 상대로 소송을 제기한 적이 있습니다. 그는 말했다 열광한 Apple과 Google은 문제가 되는 앱의 인앱 결제로 수백만 달러를 벌었을 가능성이 높으며 매장이 승인되지 않도록 더 나은 조정이 필요하다고 말했습니다.
딥페이크에 대한 대중의 광범위한 항의에도 불구하고 딥페이크는 올해 초 보고서를 통해 드러났습니다. 기술 투명성 프로젝트(TTP)누드화 앱이 Apple과 Google의 조정자를 통과하는 경우가 많았습니다. 더욱이 그 중 일부는 App Store와 Google Play에서 적극적으로 홍보되고 있다고 주장했습니다. 보고서는 또한 이러한 앱 중 다수가 모든 사람에게 “E” 등급을 부여하여 어린이가 다운로드할 수 있다고 주장했습니다. 앱을 찾는 것은 “누드화(nudify)”나 “옷을 벗다(undress)”와 같은 용어를 검색하는 것만큼 간단하다고 주장했다. 이는 두 회사 모두 플랫폼에서 성적 또는 포르노 자료를 금지하는 정책을 갖고 있음에도 불구하고 그렇습니다.
웹상의 딥페이크 확산과 씨름하는 회사는 Google과 Apple만이 아닙니다. Meta의 감독 위원회는 최근 회사에 표적이 된 일반 사람들에 대한 보호를 강화할 것을 촉구했으며, 기존 예방 조치는 공인에게 유리한 것으로 보입니다. Elon Musk의 xAI는 합의되지 않은 딥페이크와 관련된 여러 소송의 대상이기도 합니다.
구글 대변인은 이렇게 말했다. 열광한 회사는 누드 기능이 있는 “수백”개의 앱을 삭제했으며 그 중 5개는 Chiu가 경고했습니다. 또한 자사의 정책은 성적인 콘텐츠를 금지하고 있으며, 신고된 앱이 규정을 위반한 것으로 밝혀지면 “신속한 조치”를 취한다고 밝혔습니다. 열광한 Apple은 출판 전에 논평을 제공하지 않았다고 덧붙였습니다.
이 주제에 대해 더 알고 싶다면 아래를 참고하세요
