이번 주 샌프란시스코 법무장관 데이비드 치우(David Chiu)는 애플과 구글이 앱 스토어에서 소위 누드화 앱 13개를 제거할 것을 요구하는 휴전 편지를 보냈다고 와이어드(Wired)가 보도했습니다.
누드화 앱을 사용하면 실제 인물의 평범한 사진을 노골적인 이미지로 쉽게 변환할 수 있습니다. 유해한 AI 도구를 사용하면 악의적인 행위자가 옷을 벗기고, 사람의 특징을 바꾸고, 성적인 자세를 취하게 하고, 피해자의 얼굴을 다른 사람의 알몸과 바꿀 수 있습니다.
Chiu의 편지는 앱 스토어가 “금지하는 캘리포니아 법률을 위반하고 있다”고 경고했습니다. 지원 서비스 Deepfake 포르노를 만드는 것”이라고 Wired가 보도했습니다.
Wired와의 인터뷰에서 Chiu는 나체화 기술이 얼마나 보편화되었는지에 대해 자신의 사무실이 “완전히 충격을 받았다”고 말했습니다. 더 많은 도구를 사용할 수 있게 되면서 대부분 여성과 어린이가 놀라운 규모로 희생당했습니다.
Chiu는 Wired와의 인터뷰에서 “이러한 이미지는 여성과 소녀들을 괴롭히고 모욕하고 위협하는 데 사용됩니다.”라고 말했습니다. “이 산업은 개인의 평판, 정신 건강, 자율성 상실에 끔찍한 영향을 미칩니다. 자살한 피해자도 있었습니다.”
Wired는 편지를 검토한 결과 Chiu가 Google에 5개의 앱을 제거하고 Apple에 8개의 앱을 제거하도록 요청했음을 확인했습니다. Wired는 “사람들을 자신에게로 밀어붙이는 것을 피하기 위한” 앱은 보고서에 언급되지 않았다고 말했습니다. 그러나 한 앱에는 백만 건이 넘는 다운로드가 있었고 여성의 이미지를 성적으로 표현하거나 ‘무료 및 무수정’ 동영상을 만드는 광고 기능이 있다고 Wired가 보도했습니다.
Chiu는 Wired와의 인터뷰에서 그러한 앱이 앱 스토어에 남아 있도록 허용하는 것은 용납될 수 없다고 말했습니다.
Chiu는 “합의되지 않은 친밀한 이미지를 생성하는 것은 불법이고 해로우며 완전히 용납될 수 없습니다.”라고 말했습니다. 그의 사무실은 Apple과 Google이 공공의 방해로 인한 이익을 피하기 위해 더 강력한 조치를 취하거나 더 나은 탐지 기능을 개발하는 대신 유해한 앱을 무시함으로써 “수백만 달러의 수수료를 벌었을” 가능성이 있다고 추정했습니다.
Google 대변인 Dan Jackson은 Ars에 보낸 성명에서 Chiu가 신고한 5개의 앱이 유해한 콘텐츠에 대한 정책을 위반하여 Google Play 스토어에서 정지되었다고 밝혔습니다.
잭슨은 “Google Play는 성적인 콘텐츠가 포함된 앱을 허용하지 않으며, 우리는 유해한 콘텐츠가 포함된 앱을 감지하고 제거하기 위해 지속적으로 적극적인 조치를 취하고 있습니다.”라고 말했습니다. “위반 사항이 신고되면 조사하고 신속한 조치를 취합니다. 이러한 앱의 경우 수백 개의 위반 앱을 일시 중지하고 스토어에서 ‘nudify’와 같은 관련 검색어를 제한했습니다.”
이 주제에 대해 더 알고 싶다면 아래를 참고하세요
