목요일, 구글은 “상업적 동기를 지닌” 행위자가 단순히 메시지를 표시하는 것만으로 Gemini AI 챗봇의 지식을 복제하려고 시도했다고 발표했습니다. 한 적대적 세션에서는 영어가 아닌 다양한 언어에 걸쳐 모델이 100,000회 이상 자극을 받아 표면적으로는 더 저렴한 모방자를 훈련시키기 위해 응답을 수집한 것으로 알려졌습니다.
Google은 회사를 피해자이자 영웅으로 규정하는 자체 제품에 대한 위협에 대한 분기별 자체 평가에 해당하는 조사 결과를 발표했는데, 이는 이러한 자체 작성 평가에서 드문 일이 아닙니다. Google은 불법 활동을 “모델 추출”이라고 부르며 지적 재산 도용으로 간주합니다. 이는 Google의 LLM이 허가 없이 인터넷에서 스크랩한 자료로 구축되었다는 점을 감안할 때 다소 부담스러운 위치입니다.
Google은 모방 행위에 있어서도 낯선 사람이 아닙니다. 2023년 The Information은 Google의 Bard 팀이 사용자가 챗봇 대화를 공유하는 공개 사이트인 ShareGPT의 ChatGPT 출력을 사용하여 자체 챗봇을 훈련시킨 혐의로 기소되었다고 보도했습니다. 영향력 있는 BERT 언어 모델을 만든 수석 Google AI 연구원 Jacob Devlin은 이것이 OpenAI의 서비스 약관을 위반한다고 리더십에 경고한 후 사임하고 OpenAI에 합류했습니다. 구글은 이 주장을 부인했지만 데이터 사용을 중단한 것으로 알려졌다.
그럼에도 불구하고 Google의 서비스 약관은 사람들이 AI 모델에서 이러한 방식으로 데이터를 추출하는 것을 금지하고 있으며, 보고서는 다소 수상한 AI 모델 복제 전술의 세계를 들여다보는 창입니다. 회사는 범인이 대부분 민간 기업과 경쟁 우위를 찾고 있는 연구원이라고 믿고 있으며 공격은 전 세계에서 왔다고 말했습니다. 구글은 용의자의 이름을 밝히기를 거부했습니다.
증류에 관한 거래
일반적으로 업계에서는 이전 모델의 출력을 바탕으로 새로운 모델을 학습시키는 이러한 방식을 ‘증류’라고 부르며 다음과 같이 작동합니다. 자체 LLM(대형 언어 모델)을 구축하고 싶지만 Google이 Gemini를 학습하는 데 소요한 수십억 달러와 수년의 작업이 부족한 경우 이전에 학습한 LLM을 지름길로 사용할 수 있습니다.
