이는 국가 안보 문제를 언급하는 정부 지침을 준수하기 위한 것입니다.
Anthroic은 6월 12일 금요일에 정부로부터 받은 명령을 준수하기 위해 모든 고객의 Fable 5 및 Mythos 5에 대한 액세스를 비활성화했습니다. 다른 모든 모델과 Claude 챗봇은 영향을 받지 않습니다. 회사는 발표에서 미국 정부가 국가 안보 문제를 이유로 새로 출시된 AI 모델에 대한 모든 외국인의 접근을 미국 내부든 외부든, Anthropic 직원이라 할지라도 중단하기를 원한다고 밝혔습니다.
미국 정부가 이러한 우려를 구체적으로 밝히지는 않았지만, Anthropic은 정부가 Fable 5를 탈옥하는 방법에 대해 들었기 때문이라고 믿고 있습니다. Anthropic은 6월 9일에 Mythos의 많은 기능을 대중에게 제공하기 위해 설계된 Fable AI 모델을 출시했습니다. 기억하시겠지만 Mythos는 Project Glasswing 파트너에게만 제공되는 최첨단 사이버 보안 모델입니다. Fable의 기능은 Anthropic이 출시한 이전 모델을 “초과”합니다. 이겼다 포켓몬스터 파이어레드 예를 들어 회사의 테스트 중에 Claude는 이기지 못했습니다. 포켓몬 레드이를 기반으로 한 오리지널 게임입니다.
Anthropic은 Fable이 해당 위치에서 보안을 유지하도록 하기 위해 취한 조치를 나열했습니다. 페이스북은 “페이블이 사이버 보안과 관련된 작업에 오용될 가능성을 줄이기 위해 강력한 보호 장치를 마련했다”며 “보호 장치가 너무 강력해 많은 사용자들이 너무 광범위하다고 불평했다”고 덧붙였다. 회사는 또한 어떤 제공업체도 탈옥 시도에 대한 완벽한 저항을 보장할 수 없으며 모든 모델은 이를 위해 특별히 만들어진 탈옥에 취약하다고 설명했습니다. “우리는 탈옥을 좁게 만들거나(비보편적 탈옥의 경우) 제작 비용이 매우 많이 들도록 하고(보편적 탈옥의 경우) 이를 철저한 모니터링과 결합하여 성공적인 공격을 신속하게 감지하고 차단하는 것을 목표로 했습니다.”라고 방어 전략에 대해 밝혔습니다.
정부는 익명의 법인이 관리들과 공유한 잠재적인 좁고 보편적이지 않은 탈옥에 대해 회사에 구두 증거를 제공한 것으로 보입니다. Anthropic은 앞으로 24시간 동안 더 많은 세부 정보를 공유하겠다고 약속했지만 잠재적인 탈옥이 상용 모델 리콜의 원인이 되어야 한다는 점에는 동의하지 않는다는 점을 분명히 했습니다.
“우리가 공개적으로 밝혔듯이 우리는 정부가 투명하고 공정하며 명확하고 기술적 사실에 근거한 법적 절차의 일환으로 안전하지 않은 배포를 차단할 수 있는 능력을 가져야 한다고 믿습니다.”라고 AI 감독의 필요성에 대해 목소리를 높여온 Anthropic은 썼습니다. “이번 조치는 그러한 원칙을 준수하지 않습니다.”
관련 정보는 아래 링크에서 확인하세요