회사는 SynthID를 Chrome 및 검색으로 확장하고 있습니다.
Google이 AI 콘텐츠 생성을 위한 새로운 모델과 도구를 도입함에 따라 사람들이 “이것이 AI로 제작되었나요?”라는 질문에 좀 더 쉽게 답할 수 있게 되었습니다. 회사는 AI 감지 시스템 SynthID를 확장하여 Circle to Search 및 Lens와 같은 기능을 통해 AI 생성 이미지와 AI 편집 이미지를 식별할 수 있습니다.
SynthID는 자체 AI 도구로 생성되거나 수정된 콘텐츠에 눈에 보이지 않는 메타데이터를 추가하는 Google의 자체 개발 워터마킹 시스템입니다. 작년 I/O에서 회사는 전용 SynthID 감지기를 선보였으며 나중에 이 기능을 Gemini 앱에 통합했습니다. 이제 Google은 이러한 AI 감지 기능을 Chrome 및 검색으로도 확장하고 있습니다.
업데이트를 통해 사용자는 SynthID를 사용하여 다양한 방법을 통해 이미지의 원본을 평가할 수 있습니다. Android에서는 Google의 Circle to Search가 AI 콘텐츠에 플래그를 지정할 수 있습니다. Google Lens와 Chrome의 Gemini 버전도 “이 AI가 생성되었나요?”와 같은 질문에 답할 수 있습니다. Google에 따르면 이러한 도구는 특정 이미지에 대한 세부적인 세부 정보를 제공할 수 있습니다. 회사가 공유한 한 예에서 Google은 특정 이미지가 원래 Pixel 휴대폰에서 캡처되었으며 나중에 Google 포토 앱의 AI 지원 도구를 사용하여 편집되었음을 지정합니다.
Google
즉, Google은 잠재적으로 AI로 인해 변경될 수 있는 모든 이미지에 대해 그렇게 세부적인 세부정보를 제공할 수는 없습니다. 이 회사는 Pixel 10 라인업의 기본 카메라 앱에 콘텐츠 자격 증명(별도의 업계 표준 워터마킹 시스템)을 추가했으며 현재 이 기술을 Pixel 8 및 9 모델로 확장하고 있습니다. 그러나 Google은 자체 도구를 통해 캡처하고 편집한 이미지의 출처에 대해 매우 좋은 정보를 가지고 있지만, 다른 AI 플랫폼에서 유래된 콘텐츠를 신고하는 경우에는 그다지 신뢰할 수 없습니다.
Google은 OpenAI, Kakao 및 ElevenLabs가 “SynthID 기술을 더 많은 AI 생성 콘텐츠”에 도입하기 위해 노력했다고 밝혔습니다. OpenAI는 블로그 게시물에서 “ChatGPT, Codex 또는 OpenAI API”로 생성된 이미지로 통합이 시작될 것이라고 밝혔습니다. Google은 또한 콘텐츠 자격 증명에 대한 지원을 확대하고 있으며 이를 통해 AI 감지가 좀 더 보편적으로 느껴질 것입니다. Gemini 앱은 오늘부터 콘텐츠 자격 증명 지원을 받을 예정이며, “향후 몇 달” 내에 Chrome 및 검색 통합이 예상됩니다.
물론 AI 워터마킹 시스템은 완벽할 수 없으며 사람들이 탐지 도구와 워터마크를 피할 수 있는 방법은 무수히 많습니다. 그러나 AI로 생성된 콘텐츠가 점점 더 설득력 있고 보편화되는 시기에 사람들이 앞에 무엇이 있는지 다시 확인하기 쉽게 만드는 것이 유용한 첫 번째 단계입니다.
이 주제에 대해 더 알고 싶다면 아래를 참고하세요
