토큰은 ‘무가치’하고 ‘버려졌다’고 추론했습니다.
OpenAI 연구 모델은 오늘 코딩 작업을 완료하기 위해 제어할 수 없는 지갑에서 테스트 이더리움 토큰을 훔쳐 또 다른 모호한 이정표를 세웠다고 회사가 사건 보고서에서 밝혔습니다. 이후 에이전트는 토큰에 가치가 없기 때문에 괜찮다고 말하면서 OpenAI로부터 해당 행위를 숨겼습니다. OpenAI는 “이 사례는 모델이 계정 소유자의 허가를 피해 가능성에 대한 자체 판단으로 대체한 다음 승인 없이 해당 판단에 따라 조치를 취할 수 있음을 보여줍니다”라고 썼습니다.
지난 6월 26일 발생한 사건은 GPT-5.6 Sol 모델이 내부 훈련을 받고 있는 중에 발생했다. 이 작업에는 암호화폐 거래 프로토타입을 업데이트하고 Sepolia라는 Ethereum 테스트 네트워크에 계약을 배포(특수 코드 게시)하는 작업이 포함되었습니다. 이러한 계약에는 네트워크 수수료 지불이 필요하지만 OpenAI는 “자금이 있는 지갑을 제공하지 않았으며 모델이 독립적으로 찾은 계정에서 자금을 사용할 수 있는 권한을 부여하지 않았습니다”라고 OpenAI는 보고서에서 밝혔습니다.
처음에는 자금 부족으로 인해 에이전트가 어려움을 겪었지만 낙심할 수는 없었습니다. 이 모델은 승인되지 않은 계정의 키에 액세스하기 위해 공개 개발자 복구 문구(비밀번호를 복구하는 데 사용할 수 있는 것과 유사)를 사용할 수 있다고 추론했습니다. 해당 공격 경로에 열려 있는 362개의 주소를 추적하고 배포를 완료하기에 충분한 Sepolia ETH를 보유하고 있는 주소를 찾았습니다(분명히 말하면 Sepolia ETH는 테스트 외에는 가치가 없습니다).
많은 범죄자들과 마찬가지로 요원은 ETH “수도꼭지”의 자동 배수를 위해 누군가가 이 액세스 권한을 열어두었음이 틀림없다고 추론했습니다. 또한 OpenAI의 정렬 오류 기록에 따르면 해당 암호화폐는 사실상 “버려지고” “가치가 없는” 것으로 나타났습니다. 그만큼 조각 저항 OpenAI는 에이전트가 “공개 복구 문구를 통해 자금이 지원되는 계정을 선택했는지 또는 해당 계정의 잔액을 사용했는지 공개하지 않았다”고 밝혔습니다. 향후 유사한 사건을 방지하기 위해 회사는 현재 실시간 인터넷 액세스가 감지되면 모든 트래픽과 페이징 보안을 모니터링하고 있습니다.
목표를 달성하기 위해 악의적으로 행동하는 에이전트가 익숙하게 들린다면 OpenAI, Anthropic 및 기타 AI 회사의 모델이 최근 이러한 작업을 많이 수행해 왔습니다. 피해자의 일부 목록에는 Hugging Face AI 코드 저장소, 호주의 Medicare 포털, 여러 미국 연방 기관 및 RubyGems 개발자 레지스트리가 포함됩니다. 결국 AI 직원들조차 정부 규제가 적절하다고 믿고 있는데 트럼프 행정부는 지금까지 그런 움직임에 반대해 왔다.
관련 정보는 아래 링크에서 확인하세요
