오늘날에도 아무런 라벨링 없이 이미지를 생성하는 공개 모델이 많이 있습니다. 대부분의 주요 AI 플레이어가 AI 콘텐츠에 라벨을 지정하는 데 다각적인 접근 방식을 채택하더라도 이러한 AI 모델은 무기한 공유되고 개선될 수 있습니다. 생성 지니는 병에서 꺼내어 다시 넣을 수 없습니다.
라벨이 지정되지 않은 AI 콘텐츠는 항상 있기 때문에 워터마크를 통해 무엇이 진실인지 알 수는 없습니다. AI 라벨링이 보편화됨에 따라 사람들은 라벨링이 부족한 이미지나 비디오가 자동으로 합법적이라고 생각할 수 있습니다. 누군가가 저지르는 것은 위험하지만 이해할 수 있는 실수입니다. 보이지 않는 워터마크의 존재는 사람들이 점점 더 왜곡되는 인터넷을 탐색할 때 어느 정도 안정감을 줄 수는 있지만 무엇이 진실인지 알 수 있는 신뢰할 수 있는 방법은 아닙니다.
“우리가 살고 있는 미래는 점점 더 무제한 콘텐츠의 세계가 될 것입니다.”라고 Rose는 말했습니다. “경제학의 101조, 수요와 공급입니다. 공급은 천정부지로 치솟고 콘텐츠의 가치는 계속 추락할 것입니다. 그러나 점점 더 인증된 콘텐츠에 대한 수요가 있을 것입니다. 즉, 무엇인가가 그것이 주장하는 바임을 증명하는 방법입니다.”
AI 콘텐츠의 규모만으로는 모든 것을 라벨링하는 것이 불가능합니다. Google의 1000억 개의 SynthID 이미지와 비디오는 이미 인터넷상의 정통 콘텐츠를 가린 빙산의 일각에 불과합니다. 거짓을 폭로하는 것보다 진실을 검증하는 데 집중하는 것이 더 현명할 수도 있습니다.
베테랑 사진기자이자 Starling의 동료인 Mike Caronna는 “세계에서 실제 물리적 카메라로 만들 수 있는 콘텐츠의 양에는 한계가 있습니다.”라고 설명했습니다. “합성 콘텐츠의 양에는 제한이 없습니다. 그렇기 때문에 우리는 희소한 정보를 중심으로 하고 희소한 정보는 고가치의 진실한 정보입니다. 이를 확보하고 그것이 진짜라는 것을 증명할 수 있다면 거짓말쟁이의 배당금으로부터 방어할 수 있습니다.”
이 주제에 대해 더 알고 싶다면 아래를 참고하세요
