감독위원회는 메타에게 AI 생성 콘텐츠에 대한 규칙을 점검할 것을 다시 한번 촉구했습니다. 이번에 이사회는 메타가 잘못된 정보 정책과 무관한 AI 콘텐츠에 대한 별도의 규칙을 만들고, 보다 신뢰할 수 있는 탐지 도구에 투자하고, 다른 변화 중에서 디지털 워터마크를 더 잘 활용해야 한다고 말합니다.
이 그룹의 추천은 2025년 이스라엘-이란 분쟁 중 이스라엘 도시 하이파의 손상된 건물을 보여 준다고 주장하는 작년에 공유된 AI 생성 동영상에서 비롯되었습니다. 70만 회 이상의 조회수를 기록한 이 동영상은 뉴스 매체라고 주장하지만 실제로는 필리핀의 누군가가 운영하는 계정에 의해 게시되었습니다.
동영상이 Meta에 보고된 후 회사는 해당 동영상을 삭제하거나 해당 콘텐츠가 AI로 제작 또는 조작되었음을 명확하게 나타내는 “고위험” AI 라벨 추가를 거부했습니다. 이사회는 “고위험” 라벨을 추가하지 않기로 한 Meta의 결정을 뒤집었으며 이 사례는 회사의 현재 AI 규칙이 부족한 여러 영역에 빛을 비춰준다고 말했습니다.
이사회는 결정문에서 “메타는 특히 공익 문제와 관련하여 허위 또는 악의적인 계정 및 페이지 네트워크를 포함하여 플랫폼에서 사기성 AI 생성 콘텐츠의 확산을 해결하기 위해 더 많은 조치를 취해야 합니다. 이를 통해 사용자는 무엇이 진짜인지 가짜인지 구별할 수 있습니다.”라고 결정했습니다. Meta는 이사회가 “명백한 사기 신호”를 표시한 후 결국 페이지에 연결된 세 개의 계정을 비활성화했습니다.
이사회의 최고 권장 사항 중 하나는 Meta가 잘못된 정보 정책과 별도로 AI 생성 콘텐츠에 대한 전용 규칙을 만드는 것입니다. 이사회에 따르면 이 규칙에는 사용자가 AI 콘텐츠에 라벨을 지정해야 하는 방법과 시기에 대한 세부 사항과 Meta가 규칙을 위반한 사람들을 처벌하는 방법에 대한 정보가 포함되어야 합니다.
이사회는 또한 Meta가 현재의 “AI 정보” 라벨을 사용하는 방식에 대해 매우 비판적이었습니다. 특히 분쟁이나 위기 상황에서 적용되는 방식이 “AI 생성 콘텐츠의 규모와 속도에 맞설 만큼 강력하지도 않고 포괄적이지도 않습니다”라고 지적했습니다. “이 결과에 적절한 라벨을 지정하기 위해 AI 사용 자체 공개 및 확대된 검토(드물게 발생)에 지나치게 의존하는 시스템은 현재 환경에서 제기된 과제를 해결할 수 없습니다.”
이사회는 또한 메타가 오디오 및 비디오를 포함한 AI 미디어에 안정적으로 레이블을 지정할 수 있는 보다 정교한 감지 기술에 투자해야 한다고 말했습니다. 이 그룹은 회사가 자체 AI 도구로 만든 AI 콘텐츠에 디지털 워터마크를 ‘일관되지 않게 구현’하고 있다는 보고에 대해 ‘우려’한다고 덧붙였습니다.
Meta는 감독위원회의 결정에 대한 논평 요청에 즉시 응답하지 않았습니다. 회사는 60일 이내에 권고 사항에 공식적으로 응답해야 합니다.
이사회가 Meta의 AI 콘텐츠 처리에 대해 비판한 것은 이번 결정이 처음이 아닙니다. 이 그룹은 두 차례에 걸쳐 회사가 조작한 미디어 규칙이 “일관되지 않다”고 설명했으며, 문제가 있는 콘텐츠를 표시하기 위해 사실 확인 기관을 포함한 제3자에 의존하고 있다고 비판했습니다. 이 경우 팩트 체커 및 기타 “신뢰할 수 있는 파트너”에 대한 Meta의 의존도가 다시 제기되었으며, 이사회는 Meta가 “부분적으로 Meta 내부 팀의 역량이 크게 감소했기 때문에 홍보 및 우려 사항에 덜 반응하고 있다”는 그룹으로부터 들었다고 말했습니다. 이사회는 메타가 “무력 충돌 중에 연락하는 파트너에게만 의존하기보다는 피해 자체에 대한 평가를 수행할 수 있어야 한다”고 썼습니다.
감독위원회의 결정은 작년 게시물과 관련이 있지만, 무력 충돌 중 AI 생성 콘텐츠 문제는 최근 중동 분쟁에서 새로운 긴급 상황으로 떠올랐습니다. 이번 달 초 미국과 이스라엘의 이란 공격이 시작된 이래 소셜 미디어 전반에서 AI가 생성한 바이러스성 잘못된 정보가 급격히 증가했습니다. 이전에 생성 AI 회사와 협력하고 싶다는 뜻을 암시했던 이사회에는 메타뿐만 아니라 적용되는 것으로 보이는 제안도 포함되었습니다.
“업계에서는 사용자가 사기성 AI 생성 콘텐츠를 구별할 수 있도록 일관성이 필요하며 플랫폼은 그러한 출력을 공유하는 악의적인 계정과 페이지를 해결해야 합니다.”라고 썼습니다.
