Meta의 감독 위원회는 소셜 미디어 회사에 성적인 딥페이크의 표적이 된 일반 사람들에 대한 보호를 강화할 것을 촉구했습니다. 위원회는 이러한 이미지와 비디오가 기본적으로 합의되지 않은 것이라고 주장하면서 Meta의 성인 성적 착취 정책에 AI 생성 사칭을 추가할 것을 권장합니다. 또한 메타는 사용자가 신뢰할 수 있는 친구나 가족과 같은 “연결된 계정”을 지정하여 동의하지 않은 친밀한 이미지와 같은 잠재적 위반을 대신 보고할 수 있도록 허용하기를 원합니다.
마지막으로 이사회는 회사의 콘텐츠 보고 및 항소 양식에서 AI가 생성한 성적 흉내를 괴롭힘 및 과도한 노출과 별도의 범주로 만들 것을 권장합니다. 현재로서는 텍사스와 플로리다 주민만이 신고 사유로 딥페이크 은밀한 이미지를 나열하는 특수 양식에 접근할 수 있습니다. 위원회는 “성적인 사칭을 포함하여 AI가 생성한 합의되지 않은 친밀한 학대가 세계적인 문제”이기 때문에 모든 Meta 사용자가 이에 액세스할 수 있기를 원합니다.
Meta Oversight Board는 Instagram에서 친구를 성적으로 사칭하는 사용자의 신고를 회사가 계속 무시한 사건을 조사한 후 이러한 권장 사항을 제시했습니다. 몇 프레임 안에 속옷이 보이는 여성이 드레스를 조정하는 모습을 담은 AI 생성 영상을 인스타그램에 올린 사용자로부터 항의를 받아 조사에 착수했다. 위원회의 보고에 따르면, 기자는 내용 없는 영상에서 사칭을 한 사람의 친구라고 말했다. AI 영상에 등장한 인물은 이미 계정을 폐쇄한 상태였다.
원래 두 명의 사용자가 해당 동영상을 Meta에 신고했지만 회사는 딥페이크를 삭제하지 않았습니다. 위원회에 항소한 사용자가 먼저 Meta에 항소를 제출했지만 회사는 여전히 Instagram에서 동영상을 삭제하지 않았습니다. 이사회 자체가 Meta에 대한 문제를 제기한 후, 회사는 해당 게시물을 성인 전용으로 만들었을 뿐 커뮤니티 기준에 따라 삭제할 가치가 없다고 결론을 내렸습니다.
Meta는 해당 게시물이 처음 보고되었을 당시 AI 딥페이크에 등장한 개인이 실제 사람이라는 징후가 전혀 없었다고 이사회에 말했습니다. 묘사된 개인이 직접 동영상을 신고했다면 해당 동영상은 성인 성적 착취 정책을 위반한 것입니다. 자체 보고는 동의하지 않는다는 명확한 표시로 작용했을 것입니다. Meta가 보기에 비동의에 대한 다른 신뢰할 수 있는 지표는 법 집행 기관, 언론 또는 신뢰할 수 있는 파트너의 보고입니다. 이미지나 비디오가 “복수적이거나 선정적인 방식”으로 공유된다는 것을 암시하는 캡션이나 페이지 제목도 작동합니다.
위원회는 조사에 대한 Meta의 반응을 보면 비공개 인물이 동의하지 않음을 입증할 수 있는 유일한 실행 가능한 방법은 자체 보고임을 나타냅니다. 결국 일반 사람들이 법 집행 기관이나 언론을 개입시키는 것은 쉽지 않을 것입니다. 이러한 경로는 대부분 공인이 접근할 수 있습니다. Meta는 이러한 권장 사항에 응답해야 하지만 이를 구현할 의무는 없습니다. 이를 채택하기로 선택한 경우 이사회는 해당 구현을 모니터링합니다. 이 조사가 시작된 특정 사건에 대해 이사회는 동영상을 게시하지 않기로 한 Meta의 결정을 뒤집고 회사에 게시물을 삭제하도록 요구했습니다.
위원회는 조사 보고서에서 “AI 도구의 규모, 속도 및 정교함으로 인해 AI가 생성한 성적인 비합의 콘텐츠가 전 세계적으로 확산되는 결과를 가져온 것이 분명합니다. 성적인 딥페이크 동영상의 확산은 평판과 심리적 피해로 이어지며, 이는 여성과 소녀에게 불균형적인 영향을 미치고 사회 및 정치 생활 참여에 위축되는 영향을 미칩니다.”라고 썼습니다.
이사회가 AI 콘텐츠 및 조정과 관련된 문제에서 Meta를 비판한 것은 이번이 처음이 아닙니다. 2025년 중반에는 회사가 규칙을 지속적으로 시행하지 못하는 것을 “일관되지 않고 정당화할 수 없다”고 비난했습니다. 지난 3월 이사회는 메타에게 잘못된 정보 정책과 별개로 AI 콘텐츠에 대한 새로운 규칙을 만들 것을 촉구했습니다. 이 권고는 이스라엘 도시 하이파의 손상된 건물을 보여 준다고 주장하는 AI 생성 비디오와 관련된 조사에서 나온 것입니다. 해당 영상은 언론사를 사칭하는 계정에서 게시됐지만 실제로는 필리핀 사용자가 운영한 것으로 알려졌다.
이 주제에 대해 더 알고 싶다면 아래를 참고하세요