CNN의 소식통은 미국이 핵무기 부품을 운반하고 있다고 생각되는 중국 선박을 거의 공격했다고 주장합니다.
부분적으로 AI로 생성된 허위 정보 보고서로 인해 미군은 중동에서 중국 선박을 공격할 뻔했습니다. CNN 보고서. 보고서에 인용된 소식통에 따르면 이 사건은 “거의 전쟁을 일으켰으며” 미국 국방부의 민감한 업무에 AI를 통합하는 것의 위험성을 강조했습니다.
Engadget은 국방부에 이에 대한 논평을 요청했습니다. CNN의 보고입니다. 답변을 받으면 이 문서를 업데이트하겠습니다.
평가는 AI 챗봇에 중국 선박의 적하목록에 대해 질문한 특수작전사령부 분석가에 의해 작성되었습니다. 에 따르면 CNN챗봇은 “오픈 소스 정보와 비밀 신호 정보”를 결합하여 선박에 “핵무기 프로그램의 구성 요소”가 포함되어 있다고 결론지었습니다. 이 주장은 관리들이 선박이 AI로 생성되었다는 사실을 알 때까지 군대가 선박을 체포하도록 거의 이끌었습니다.
CNN 분석가는 우주선이 실제로 무엇을 운반하고 있는지, 상업용이든 미국 정부를 위해 설계된 AI 도구가 무엇인지 알 수 없었다고 말했습니다. AI를 전반적으로 채택하려는 국방부의 추진을 고려하면 잠재적으로 몇 가지 옵션이 있습니다.
지난 1월, 피트 헤그세스(Pete Hegseth) 국방장관은 국방부가 “AI 우선”이 되고 미국 주요 AI 기업의 모델을 실험하도록 지시하는 메모를 발표했습니다. 이는 군대가 자율 무기 개발을 위해 자체 모델을 사용하는 것을 거부하고 정부에 의해 잠시 금지된 Anthropic의 계획대로 진행되지 않았지만 다른 여러 AI 파트너십으로 이어졌습니다. 예를 들어, SpaceXAI는 2월에 군대가 Grok을 사용할 수 있도록 계약을 체결한 것으로 알려졌으며, NVIDIA, Microsoft 및 Amazon은 5월에 AI 기술을 DoD에 제공하기 위해 파트너십을 체결했습니다. 이러한 종류의 정부 거래는 수익성이 높기 때문에 기업이 이를 추구합니다. 그러나 AI 채택 확산을 돕는 것은 일반 엔터프라이즈 소프트웨어에 없는 위험을 분명히 수반합니다.
관련 정보는 아래 링크에서 확인하세요
