OpenAI의 Sam Altman 대표는 X에서 OpenAI의 모델을 기관의 네트워크에 배포하기로 국방부와 합의했다고 밝혔습니다. OpenAI의 가장 중요한 안전 원칙 중 두 가지는 “국내 대량 감시와 자율 무기 시스템을 포함한 무력 사용에 대한 인간의 책임을 금지하는 것”이라고 밝혔습니다. Altman은 회사가 정부가 선호하는 전쟁부(DoW)라는 이름으로 명명한 해당 기관과의 계약에 이러한 원칙을 명시했으며 이를 존중하기로 동의했다고 주장했습니다.
이 기관은 도널드 트럼프 대통령이 모든 정부 기관에 Claude 및 기타 Anthropic 서비스 사용을 중단하라고 명령한 직후 OpenAI와의 거래를 종료했습니다. 기억하실지 모르겠지만, 피트 헤그세스(Pete Hegseth) 미국 국방장관은 이전에 AI의 가드레일 제거를 계속 거부하면 인류를 “공급망 위험”으로 표시하겠다고 위협했습니다. 이로 인해 이 기술이 미국인에 대한 대량 감시와 완전 자율 무기에 사용되는 것을 방해하고 있습니다.
오픈AI의 모델에도 동일한 가드레일이 있다면 정부가 왜 오픈AI와 협력하기로 합의했는지는 불분명하지만, 알트만은 정부가 협력하는 모든 AI 회사에 동일한 조건을 제공하도록 요청하고 있다고 말했다. 해외 지원, 인도주의 업무 및 종교 자유 담당 수석 차관인 제레미 르윈(Jeremy Lewin)은 X에서 DoW가 계약에 “특정 기존 법적 권한을 참조하고 상호 합의된 특정 안전 메커니즘을 포함한다”고 말했습니다. 이전에 DoW의 기밀 시스템에 Grok을 배포하기로 계약을 체결한 OpenAI와 xAI 모두 이러한 조건에 동의했습니다. 그는 “앤트로픽을 제안하고 거부한 것과 똑같은 타협”이라고 말했다.
2024년부터 미국 정부와 협력을 시작한 앤트로픽은 헤그세스에게 절을 거부했다. Altman이 OpenAI의 합의를 발표하기 불과 몇 시간 전에 발표된 최신 성명에서 Altman은 입장을 반복했습니다. “전쟁부의 어떤 협박이나 처벌도 대규모 국내 감시나 완전 자율 무기에 대한 우리의 입장을 바꾸지 않을 것입니다.”라고 Anthropic은 썼습니다. “우리는 법정에서 공급망 위험 지정에 대해 이의를 제기할 것입니다.”
Altman은 X에 대한 자신의 게시물에서 OpenAI가 회사의 모델이 제대로 작동하도록 기술적 보호 장치를 구축할 것이라고 덧붙였으며 이것이 DoW가 원했던 것이기도하다고 주장했습니다. “(모델의) 안전을 보장”하기 위해 기관과 협력하도록 엔지니어를 파견하고 있으며 클라우드 네트워크에만 배포할 예정입니다. 처럼 뉴욕 타임즈 참고로 OpenAI는 정부가 사용하는 Amazon 클라우드에 아직 없습니다. 하지만 회사가 기업 고객을 위해 Amazon Web Services(AWS)에서 모델을 실행하기 위해 Amazon과 파트너십을 맺었다고 발표했기 때문에 상황은 곧 바뀔 수 있습니다.
