피트 헤그세스(Pete Hegseth) 국방장관의 최후 통첩에도 불구하고 앤트로픽(Anthropic)은 자사 AI의 가드레일을 제거하라는 국방부의 칙령을 “양심적으로” 따를 수 없다고 말했다고 CEO 다리오 아모데이(Dario Amodei)는 블로그 게시물에 썼다. 국방부는 대량 감시 및 자율 무기에 대한 보호 장치를 제거하는 데 동의하지 않으면 2억 달러 규모의 계약을 취소하고 Anthropic을 “공급망 위험”으로 분류하겠다고 위협했습니다.
Amodei는 “우리가 가장 선호하는 것은 우리가 요청한 두 가지 안전 장치를 마련하면서 국방부와 전투원들에게 계속 봉사하는 것입니다”라고 말했습니다. “우리는 미국의 국가 안보를 지원하기 위한 노력을 계속할 준비가 되어 있습니다.”
이에 대해 미 국방부 차관 에밀 마이클은 X에 게시한 글에서 아모데이가 “미군을 개인적으로 통제하려는 것 외에는 아무것도 원하지 않으며 우리 국가의 안전을 위험에 빠뜨리는 것은 괜찮다”고 비난했습니다.
대치 상황은 국방부가 Anthropic에 Claude AI 제품을 대량 감시 및 인간 감독 없이 살상할 수 있는 완전 자율 무기 개발을 포함하여 “모든 합법적인 목적”으로 사용할 수 있도록 요구하면서 시작되었습니다. Anthropic은 해당 모델에 “안전 스택”이 내장되어 있어도 이러한 기술을 제공하는 것을 거부했습니다.
어제, 액시오스 Hegseth는 펜타곤의 조건에 동의하기 위해 금요일 오후 5시 1분까지 Anthropic에게 마감일을 주었다고 보고했습니다. 동시에 DoD는 잠재적으로 Anthropic을 “공급망 위험”으로 분류하기 위한 첫 번째 단계인 Claude에 대한 의존도에 대한 평가를 요청했습니다. Anthropic은 이 명칭이 일반적으로 중국과 같은 적국의 회사에 대해 예약되어 있으며 “이전에는 미국 회사에 적용한 적이 없습니다”라고 썼습니다.
Amodei는 자신의 입장을 바꾸지 않고 국방부가 Anthropic에서 탈퇴하기로 결정한 경우 “우리는 진행 중인 군사 계획, 작전 또는 기타 중요한 임무에 대한 중단을 피하면서 다른 공급자로 원활하게 전환할 수 있도록 노력할 것”이라고 말했습니다. Grok은 Google의 Gemini 및 OpenAI와 함께 DoD가 고려 중인 다른 제공업체 중 하나입니다.
그러나 군대가 클로드로부터 벗어나는 것은 그렇게 간단하지 않을 수 있다. 지금까지 Anthropic의 모델은 정보, 무기 개발 및 전장 작전에서 군대의 가장 민감한 작업에 허용된 유일한 모델이었습니다. 클로드는 미군이 베네수엘라 대통령 니콜라스 마두로와 그의 아내를 납치한 베네수엘라 공습에 사용된 것으로 알려졌다.
AI 회사는 사용자에게 잠재적인 해를 끼칠 수 있다는 이유로 널리 비판을 받아왔지만 대규모 감시와 무기 개발은 이를 분명히 새로운 수준으로 끌어올릴 것입니다. 펜타곤에 대한 Anthropic의 잠재적인 답변은 특히 며칠 전 주력 안전 서약을 철회한 후 가장 안전을 지향하는 AI 회사라는 주장을 시험하는 것으로 간주되었습니다. 이제 Amodei가 대응했으므로 초점은 국방부로 옮겨져 인류에게 심각한 해를 끼칠 수 있는 위협을 처리하는지 확인하게 될 것입니다.
