학계와 긴밀히 협력하는 데 자부심을 느끼는 회사로서는 좋은 모습이 아니었습니다.
Anthropic은 경쟁 AI 모델을 만들기 위해 새로운 Claude Fable 5 LLM을 사용하여 연구자들을 은밀하게 방해하는 정책을 철회하고 있다고 회사는 말했습니다. 열광한. 회사는 성명에서 “우리는 프론티어 LLM 개발을 위한 Fable 5의 보호 장치를 눈에 띄게 변경하고 있습니다”라고 말했습니다. “우리는 잘못된 절충안을 만들었고 균형을 제대로 맞추지 못한 것에 대해 사과드립니다.”
Anthropic이 강력한 Mythos 시스템을 기반으로 한 새로운 모델인 Claude Fable 5를 출시했을 때 연구원들은 이상한 점을 지적했습니다. 그들은 Fable 5가 특정 작업을 수행하라는 요청을 받으면 요청을 더 작은 모델로 조용히 다시 라우팅한다는 사실을 발견했습니다. 게다가 해당 제한 사항은 모델 문서에 공개되지 않았습니다.
새로운 모델은 경쟁하는 LLM 교육, AI 코드 디버깅, 신경 아키텍처 최적화와 같은 작업에 대한 응답을 거부하거나 저하했습니다. 연구자들은 그러한 저하뿐만 아니라 이에 대한 Anthropic의 투명성 부족으로 인해 괴로움을 겪었습니다. 물론 그들은 예상한 대로 작동하지 않는 모델을 위해 토큰과 돈을 태웠다는 점을 우려했습니다.
Anthropic은 OpenAI에 대한 보다 윤리적이고 연구자 친화적인 대안으로 자처했기 때문에 Fable 5에 대한 조치는 빠른 반발을 불러일으켰습니다. X에 대해 연구원이자 Substack 작성자인 Dean W. Ball은 “*사용자에게 알리지 않고* ML 연구의 성능을 저하시키는 것은 충격적일 정도로 적대적이며 끔찍한 모습입니다.”라고 말했습니다.
Anthropic은 Fable 5에 대한 보호 정책을 뒤집는 것이 아니라 사용자에게 제한 사항을 표시합니다. “회사에서 사용자가 고성능 AI를 구축하기 위해 Claude를 사용하려고 한다고 의심하는 경우 요청을 거부하거나 성능이 떨어지는 모델로 사용자를 리디렉션한다는 사실을 경고할 것입니다.” 열광한 썼다.
이 주제에 대해 더 알고 싶다면 아래를 참고하세요