Meta는 새로운 이미지 생성 모델인 Muse Image로 생성된 이미지와 비디오를 식별하는 도구를 개발하고 있습니다. 회사는 새 모델에 사용되는 보이지 않는 워터마크를 확인할 수 있는 웹 기반 도구의 미리보기를 선보였습니다.
Content Seal이라고 불리는 이 워터마킹 시스템은 “자르거나, 압축하거나, 크기를 조정하거나, 스크린샷을 찍는 경우에도” 그대로 유지됩니다. Meta는 블로그 게시물에서 설명합니다. “우리는 이미지에 Content Seal 워터마크가 있는지 확인할 수 있는 탐지 도구를 미리 검토하고 있으며, 이미지가 Meta AI로 제작되었는지 더 잘 이해할 수 있는 초기 방법을 제공합니다.”
Content Seal은 Meta에 있어서 다소 새로운 접근 방식인 것 같습니다. Muse Image의 일부인 버전은 독점적이지만 회사는 이전에 해당 기술의 오픈 소스 버전을 출시했다고 Meta는 Engadget에 말했습니다. Meta의 새 모델에는 오른쪽 하단 모서리에 작은 로고를 추가한 일부 이전 버전의 Meta AI와 같이 눈에 보이는 워터마크가 포함되어 있지 않습니다.
현재 Meta AI의 감지 기능은 Muse Image로 생성하거나 편집한 이미지로 제한되어 있지만 회사는 Content Seal 워터마크를 AI가 생성하고 편집한 비디오에도 확장할 계획이라고 밝혔습니다. Meta는 또한 “곧 출시될” Muse Video라는 별도의 비디오 생성 모델을 개발하고 있습니다.
저는 오늘 Meta AI로 만든 이미지에 대한 새로운 감지 기능을 시험해 보았는데, 웹 기반 도구는 편집된 이미지와 완전히 AI가 만든 창작물(위 그림과 같은)에 대한 워터마크를 감지할 수 있었습니다. 또한 내 이미지의 스크린샷에서 워터마크를 발견했습니다. “긍정적인 결과는 이미지가 Meta AI 앱 또는 Meta.ai를 사용하여 생성되거나 편집되었음을 의미합니다.”라고 회사는 FAQ에서 설명합니다. “부정적인 결과는 해당 이미지가 Meta AI 앱이나 Meta.ai를 사용하여 처리되었을 가능성이 낮다는 것을 의미합니다.”
흥미롭게도 Meta AI의 새로운 감지 기능은 아직 Meta AI 앱의 일부가 아닌 것 같습니다. 웹 도구가 AI로 만든 이미지를 식별한 것에 대해 Meta의 앱 기반 비서에게 물었을 때, 확인할 수 있는 기능이 없다고 대답했습니다. 이어 “이 특정 이미지가 메타알로 제작된 것인지 겉모습만으로는 확실히 알 수 없다”고 덧붙였다. “Meta Al은 자동으로 이미지에 워터마크를 표시하지 않으며 어떤 Al 모델이 기존 이미지를 만들었는지 감지할 수 있는 도구가 없습니다.”
Meta는 이전에 앱에서 AI 생성 자료에 라벨을 지정하고 식별하는 방법에 대해 일부 비판을 받았습니다. 감독위원회는 올해 초 Meta가 자체 도구로 생성된 AI 콘텐츠에 디지털 워터마크를 “일관되지 않게 구현”하고 있다는 점을 “우려한다”고 회사에 밝혔습니다.
하지만 새로운 기능에는 여전히 몇 가지 다른 제한 사항이 있는 것 같습니다. Content Seal은 다른 회사에서 사용하는 두 가지 확립된 워터마킹 방법인 SynthID 또는 C2PA 콘텐츠 자격 증명과 호환되지 않습니다. 웹 기반 기능은 테스트에서 이전 버전의 Meta AI 모델로 생성되거나 편집된 이미지를 식별할 수 없었습니다. Meta AI를 사용하여 이전 채팅에서 생성된 이미지를 추가했을 때 해당 이미지가 AI로 생성되었는지 알 수 없었습니다. 또한 이 기능은 어떤 이유로 Meta의 속도 제한이 적용되는 것으로 보입니다. 몇 가지 사례를 업로드한 후 ‘신원 확인 일일 한도’에 도달했다는 알림을 받았습니다.
관련 정보는 아래 링크에서 확인하세요
