몇 가지 주의 사항을 제외하면 이미지가 생성되었거나 조작되었는지 확인하는 간단한 방법입니다.
최근 몇 년 동안 이미지, 비디오, 심지어 노래까지 생성하는 생성 AI 도구가 확산됨에 따라 보고 듣는 것이 실제인지 궁금해하지 않고 인터넷에서 시간을 보내기가 어렵습니다. 생성 AI의 최대 공급업체 중 하나인 Google은 이제 그 결과물을 더 쉽게 찾을 수 있도록 만들고 있습니다. 새로운 SynthID 감지기를 사용하면 누구나 이미지, 비디오 또는 오디오 파일을 확인하여 AI로 생성되었는지 확인할 수 있으며 몇 가지 주요 주의 사항이 있습니다.
구글은 2023년 AI 생성 콘텐츠에 눈에 띄지 않는 라벨을 추가하는 SynthID를 도입했지만, 지금까지 일반 사용자가 실제로 이를 확인할 수 있는 방법은 없었다. 2025년에는 특정 연구원과 언론인을 위한 제한된 버전의 SynthID Detector를 출시했으며 이제 모든 사람이 사용할 수 있습니다. 이는 콘텐츠가 AI로 생성되었는지 여부를 확인하는 방법을 찾는 사람에게는 좋은 소식일 수 있지만 완벽한 방법은 아닙니다.
SynthID 감지기 작동 방식
SynthID 출시 이후 Google의 Gemini AI 모델은 생성되는 모든 항목에 워터마크를 삽입했습니다. SynthID Detector는 해당 워터마크를 스캔하고 사용자에게 워터마크가 발견되었는지에 대한 간단한 예 또는 아니요 대답을 제공하는 방식으로 작동합니다. 새로 제공되는 도구를 사용하려면 SynthID.com으로 이동하여 이미지, 비디오 또는 오디오 파일을 업로드하고 Google이 결과를 반환할 때까지 몇 초만 기다리면 됩니다.
이는 Google의 이전 프로세스에 비해 크게 개선된 것입니다. 이전에는 사용자가 콘텐츠가 AI로 생성되었는지 Gemini 자체에 물어볼 수 있었습니다. 그러나 생성 AI를 신뢰하지 않는 사람에게는 Gemini의 말을 그대로 받아들이기가 어렵고 기술을 완전히 피하려는 사람들에게는 즉시 금지됩니다. 또한 SynthID Detector를 사용하면 이전에는 불가능했던 Google의 SynthID 파트너가 만든 콘텐츠에 삽입된 워터마크를 검색할 수 있습니다. 이는 새로운 도구가 Gemini 외에도 OpenAI, NVIDIA, Kakao의 AI 모델로 미디어가 제작되었는지 여부를 알 수 있음을 의미합니다. Apple도 SynthID에 참여하고 있지만 창작물을 식별하는 감지기에 대한 지원은 아직 진행 중입니다.
SynthID 감지기는 얼마나 안정적인가요?
SynthID Detector는 미디어에서 AI 사용을 나타내는 패턴을 분석하는 것이 아니라 단순히 워터마크를 확인하기 때문에 오탐 가능성을 제거해야 합니다. 그러나 이러한 단순성에는 한계가 있습니다. 가장 분명한 점은 Meta의 도구와 같이 SynthID를 사용하지 않는 AI 모델로 만들어진 미디어를 감지할 수 없다는 것입니다. 또한 SynthID Detector는 업로드된 파일에서 레이블을 찾았는지 여부만 사용자에게 알려주는 것으로 제한되며 파일의 어느 부분이 AI로 생성되었는지에 대한 정보는 제공하지 않습니다.
Google은 AI 세대가 생성된 후 편집되더라도 SynthID 서명이 지속된다고 말합니다. 진취적인 사기꾼이 결국 이 문제를 해결할 방법을 찾지 못할 것이라는 보장은 없지만 회사는 이를 피하기 위한 조치를 취하고 있는 것 같습니다. 구글 대변인은 이렇게 말했다. 아르스 테크니카 사용자가 감지기의 출력을 사용하여 SynthID를 제거하는 방법을 찾는 것을 방지하기 위해 사용자는 하루에 약 10번의 확인으로 제한됩니다. 또한 사용자는 SynthID Detector를 사용하려면 Google, OpenAI 또는 Apple 계정에 로그인해야 합니다.
SynthID 감지기는 다른 AI 감지기와 어떻게 비교됩니까?
SynthID Detector는 사용 가능한 유일한 생성 AI 감지기는 아니지만 그 한계에도 불구하고 가장 신뢰할 수 있는 감지기 중 하나입니다. SynthID 파트너 OpenAI는 AI 확인 메타데이터와 SynthID 워터마크를 선택할 수 있는 자체 감지 도구를 실행합니다. Meta는 Content Seal이라는 자체 워터마크를 AI 창작물에 삽입하고 웹 기반 탐지 도구를 제공합니다. 로이터 때로는 정확하게 발견하지 못하는 경우도 있음을 발견했습니다. Anthropic 및 Microsoft와 같은 회사도 AI 미디어에 워터마킹을 시작했지만 현재 이를 감지할 수 있는 소비자 도구를 제공하지 않습니다.
이러한 모든 도구의 단점은 특정 AI 마커를 감지하도록 설계되었으며 전반적으로 생성 AI를 찾아낼 수 있는 신뢰할 수 있는 감지기가 없다는 것입니다. 많은 연구자들이 자체 AI 탐지 도구를 개발했지만 대중에게 공개되지는 않았습니다. 그리고 공개적으로 사용 가능한 범용 AI 탐지기의 경우 그 결과는 신뢰할 수 없으며 인간이 만든 작업을 AI 콘텐츠로 표시하는 경향이 있습니다.
이 주제에 대해 더 알고 싶다면 아래를 참고하세요
