작년에 Google은 Gemini 앱에 SynthID 감지 지원을 추가했습니다. 의심되는 콘텐츠를 업로드하고 챗봇에게 AI로 생성된 것인지 물어볼 수 있습니다. 이는 지난 3년간의 수십억 개의 Google AI 이미지와 오디오 클립에서 안정적으로 작동해야 합니다. 몇몇 야심찬 개발자들은 숨겨진 SynthID 패턴을 제거하는 방법을 찾았다고 주장했습니다. Google은 이러한 우회 방법 중 어느 것도 실제로 작동하지 않는다고 주장합니다.
더 많은 곳에서 더 많은 SynthID
아무도 SynthID를 해독할 수 없더라도 인터넷에 있는 대부분의 AI 이미지에는 문제가 되지 않습니다. 오직 Google의 AI 모델만이 SynthID를 적용합니다. 하지만 곧 바뀔 것입니다.
Google은 SynthID를 시스템에 추가하기 위해 여러 회사와 제휴했다고 발표했습니다. Nvidia는 Cosmos 월드 기반 모델에 SynthID를 구현할 예정이며 OpenAI는 GPT 2 이미지에 SynthID를 사용할 예정입니다. 카카오와 일레븐랩스도 AI 콘텐츠에 SynthID를 추가하기 시작할 예정이다.
그렇다고 SynthID를 검색하여 무언가가 AI인지 항상 알 수 있다는 의미는 아닙니다. 공개적으로 사용 가능한 많은 모델이 계속해서 AI 워터마킹 없이 콘텐츠를 생산하고 있으며, 자신만의 방식으로 AI 이미지와 비디오를 만들려는 사람이 훈련할 수 있는 공개 모델이 있습니다. 그럼에도 불구하고 이는 올바른 방향으로 나아가는 단계입니다.
SynthID 상태를 확인하는 새로운 경로도 있으므로 워터마크를 확인하기 위해 Gemini를 열 필요조차 없습니다. SynthID는 Circle to Search, Lens, AI 모드와 통합됩니다. 또한 문제의 콘텐츠가 포함된 탭을 공유하여 Chrome에서 Gemini를 사용할 수도 있습니다. 이러한 도구를 사용하여 SynthID 스캔을 얻으려면 “이 AI입니까?”의 변형을 요청할 수 있습니다.
현재 SynthID용 공개 API는 없습니다. 이러한 스캔을 너무 쉽게 사용할 수 있게 하면 SynthID를 우회하려는 사람들에게 공격 벡터가 될 수 있습니다. 그러나 Google은 회사의 Gemini Enterprise Agent Platform의 일부로 AI 콘텐츠 감지 API 출시를 준비하고 있습니다. 이를 통해 신뢰할 수 있는 비즈니스 파트너가 AI 콘텐츠에 더 쉽게 플래그를 지정할 수 있으며 Google은 앞으로 몇 달 동안 API를 개선할 수 있습니다.
이 주제에 대해 더 알고 싶다면 아래를 참고하세요
