미 국방부는 AI 회사들이 기밀 정보에 대해 군사용으로 특별히 모델의 버전을 훈련시키도록 할 계획을 세우고 있다고 밝혔습니다. MIT 기술 리뷰. 만약 사실이라면, 올해 초 피트 헤그세스 국방장관이 발표한 성명(PDF)을 바탕으로 미국이 ‘AI 우선’ 전투력을 목표로 하고 있다는 점을 보면 놀랄 일은 아닐 것입니다.
국방부는 이미 군대에서 AI 모델을 사용하고 있습니다. 예를 들어, 미국은 트럼프 대통령이 연방 기관에 기술 금지를 명령한 후에도 베네수엘라 대통령 니콜라스 마두로(Nicolas Maduro)의 체포와 이란 공격을 돕기 위해 앤트로픽(Anthropic)의 클로드(Claude)를 사용한 것으로 알려졌습니다. 그러나 실제 기밀 데이터에 대해 훈련된 모델은 예를 들어 공개 정보가 아닌 과거에 발생한 유사한 상황에 대해 더 정확하고 자세한 응답을 제공할 수 있습니다.
MIT 기술 검토 부서는 기밀 정부 프로젝트를 호스팅할 수 있는 보안 데이터 센터에서 교육을 수행할 계획이라고 밝혔습니다. 미 국방부는 AI 모델의 복사본을 훈련하지만 훈련에 사용되는 데이터의 유일한 소유자로 남게 됩니다. 드문 경우지만, AI 회사의 누군가가 기밀 정보를 보기 위해 적절한 보안 허가를 받을 수도 있습니다.
이전에 Google과 OpenAI에서 AI 정책 노력을 이끌었던 Aalok Mehta는 기밀 데이터에 대한 훈련 모델이 특정 위험을 수반한다고 간행물에 말했습니다. 훈련된 모델은 군사 목적으로 특별히 제작된 버전이기 때문에 정보가 공개될 수는 없습니다. 그러나 예를 들어 국방부 전체에서 동일한 모델이 사용되는 경우 올바른 인가 수준이 없는 인원은 접근할 수 없는 정보를 얻게 될 수 있습니다.
이 이니셔티브가 추진되면 부서는 최근 기관과 계약을 체결한 OpenAI 및 xAI의 모델을 교육할 가능성이 높습니다. 오랫동안 정부와 협력해 온 Anthropic은 이 프로젝트에 참여하지 않을 수도 있습니다. 회사는 자사 기술이 대량 감시와 자율 무기 개발에 사용되는 것을 거부했고, 그 결과 트럼프는 모든 연방 정부에 이를 금지하라고 명령했습니다.
