올해 초 Apple과 Google은 그러한 콘텐츠를 금지하는 명확한 정책에도 불구하고 매장에서 “누드파이(nudify)” 앱을 제공하고 있는 것으로 밝혀졌습니다. 거의 3개월이 지난 후에도 이러한 앱은 여전히 사용할 수 있을 뿐만 아니라 iOS App Store 및 Google Play에서 적극적으로 홍보되고 있다고 합니다. 기술 투명성 프로젝트 (TTP). 이들 중 다수는 모든 사람을 뜻하는 “E”로 표시되어 있어 어린이도 다운로드할 수 있습니다.
해당 상점에서 “누드화”, “옷 벗기” 및 기타 용어를 검색하면 사용자는 실제 사람을 누드로 만들거나 포르노 비디오에 넣을 수 있는 앱에 액세스할 수 있습니다. 새로운 보고서는 “플랫폼은 실제 사람을 성적인 이미지로 바꿀 수 있는 AI 도구 확산의 핵심 참가자”라고 주장합니다. TTP 썼다. 앱 스토어에서는 검색 결과에 유사한 누드 앱에 대한 광고도 게재했습니다.
이 그룹은 Apple App Store에서 18개, Google Play에서 20개의 Nudify 앱을 식별했습니다. 일부는 성적인 이미지로 마케팅된 반면, 일부는 그렇게 광고되지 않았지만 여전히 딥페이크에 사용될 수 있습니다. 보고서에 따르면 이들 앱은 총 1억 2,200만 달러의 수익을 창출했으며 4억 8,300만 번 다운로드되었습니다.
“회사들이 실제로 이러한 앱을 적절하게 검토하지 않고 계속해서 승인하고 그로부터 이익을 얻지 못하는 것이 아닙니다.” TTP 케이티 폴 감독이 말했다. 블룸버그. “그들은 실제로 사용자를 앱 자체로 안내하고 있습니다.”
Apple과 Google 모두 성적 또는 포르노 자료를 금지하는 정책을 갖고 있으며, Google은 누드 앱에 대한 구체적인 정책을 가지고 있습니다. 애플은 말했다 블룸버그 그룹에서 식별한 앱 15개를 삭제했다고 밝혔고, 구글은 그 중 다수를 정지했다고 밝혔습니다. 보고서에 인용된 앱 중 하나는 비디오 얼굴 교환 AI: DeepFace여배우의 얼굴이 다른 여배우의 몸으로 바뀌는 모습을 보여줌으로써 자신을 광고하고 사용자가 부분적으로 옷을 벗은 여성의 몸에 실제 사람의 얼굴을 붙일 수 있습니다. 앱은 모든 사람에 대해 “E” 등급을 받았습니다.
누드화 및 딥페이크 앱이 확산되면서 일부 정부에서는 이에 대한 법률을 제안하게 되었습니다. 영국 아동위원회는 최근 어린이의 누드나 성적인 이미지를 생성하는 AI 딥페이크 앱을 금지할 것을 촉구했습니다. 미국과 기타 국가에서는 노골적인 딥페이크를 금지하는 법률을 제안하거나 제정했으며, 캘리포니아 법무장관은 최근 Elon Musk의 X에게 Grok의 노골적인 딥페이크에 대한 중지 명령을 보냈습니다.
