Anthropic은 세 개의 AI 회사가 Claude 챗봇을 오용했다고 비난한 후 AI “증류 공격”에 대한 조치를 촉구합니다. Anthropic은 웹사이트에서 DeepSeek, Moonshot 및 MiniMax가 “자사 모델을 개선하기 위해 Claude의 능력을 불법적으로 추출하기 위해…산업 규모의 캠페인”을 수행해 왔다고 주장했습니다.
AI 세계에서의 증류란 능력이 떨어지는 모델이 스스로 훈련하기 위해 더 강력한 모델의 반응에 의존하는 경우를 말합니다. 증류가 전반적으로 나쁜 것은 아니지만 Anthropic은 이러한 유형의 공격이 더 사악한 방식으로 사용될 수 있다고 말했습니다. Anthropic에 따르면 이들 3개의 중국 AI 회사는 “약 24,000개의 사기 계정을 통해 Claude와 1,600만 개 이상의 교환”을 담당했습니다. Anthropic의 관점에서 볼 때 이러한 경쟁 회사는 Claude를 보다 발전된 AI 모델을 개발하기 위한 지름길로 사용하고 있었으며 이는 특정 안전 장치를 우회하는 결과를 가져올 수도 있었습니다.
Anthropic은 게시물에서 유사한 행동을 발견한 AI 업계의 다른 사람들과의 확증과 함께 IP 주소 상관 관계, 메타데이터 요청 및 인프라 지표 덕분에 이러한 정제된 공격 캠페인 각각을 “높은 신뢰도”를 가지고 특정 회사에 연결할 수 있었다고 밝혔습니다.
작년 초 OpenAI는 경쟁사들이 자사 모델을 정제하고 이에 대응하여 의심스러운 계정을 금지했다고 유사한 주장을 했습니다. Anthropic의 경우 Claude 뒤에 있는 회사는 증류 공격을 더 어렵게 만들고 식별하기 쉽게 만들기 위해 시스템을 업그레이드할 것이라고 말했습니다. Anthropic은 이러한 다른 회사를 비난하는 동시에 AI 회사가 Claude 챗봇을 교육하기 위해 노래의 불법 복사본을 사용했다고 비난한 음반 출판사로부터 소송에 직면해 있습니다.
