Google의 테스트 파트너인 Irregular의 구성 오류로 인해 모델이 탈출했습니다.
Gemini는 테스트 환경에서 탈출하여 인터넷에 접속하고 3개 회사를 해킹했으며 Google은 다음과 같이 인정했습니다. 월스트리트저널. 최근 몇 달간 AI 뉴스를 잠깐이라도 본 적이 있다면 이 시나리오는 아마도 이 시점에서 여러분에게 친숙하게 들릴 것입니다. OpenAI, Anthropic 및 Meta에서 발생한 것과 마찬가지로 Gemini도 AI 모델을 평가하기 위해 4개 회사 모두와 협력하는 이스라엘 스타트업인 Irregular의 테스트 환경 구성이 잘못되어 인터넷에 액세스할 수 있게 되었습니다.
해당 사건은 OpenAI 모델이 Hugging Face에 침입하기 전인 5월에 발생했으며, 해당 모델의 사이버 보안 기능을 테스트했습니다. 구글은 신문 테스트 중 가상의 회사로부터 정보를 얻는다는 목표가 모델에 주어졌는데, 우연히 실제 회사의 이름도 동일하게 되었다는 것입니다. 그 후 모델은 테스트 시스템에서 허점을 발견했고, 이를 이용해 인터넷에 접속했습니다.
1차 사건에서는 모델이 스스로 비밀번호를 해독해 실제 회사 서비스에 접근할 수 있었다. 다른 테스트 실행 중에 두 건의 사고가 더 발생했습니다. 이 모델은 온라인에서 회사 이름을 검색하고 공개 저장소에서 다른 회사에 속한 로그인 자격 증명을 발견했습니다. 모델은 자격 증명을 사용하여 해당 회사에 액세스했습니다. 구글은 제미니가 실제 서비스에 침입했다는 사실을 깨닫고 세 가지 경우 모두 자체 활동을 중단했다고 말했습니다.
회사는 그에게 말했다. 신문 그 모델은 해킹이 무엇인지 파악하자마자 해킹을 중단했기 때문에 사건을 모델 불일치로 간주하지 않았습니다. 또한 해킹이 회사에 해를 끼치지 않았기 때문에 대중에게 공개할 필요가 없다고 생각했습니다. 구글은 이번 사건과 관련된 정확한 모델을 밝히지는 않았지만 최신 모델은 아니라고 밝혔다. 해킹당한 회사도 공개하지 않았지만 통보를 받았다고 밝혔습니다. Google의 보안 엔지니어링 부사장인 Heather Adkins는 회사가 Irregular와 협력하여 동일한 일이 다시 발생하지 않도록 테스트 프로세스를 변경했다고 말했습니다.
Google의 경쟁사인 OpenAI, Anthropic 및 Meta는 모두 지난 몇 달 동안 자사 모델이 테스트 중에 제3자 조직에 침투했다는 사실을 밝혔습니다. OpenAI는 최근 Hugging Face 사건이 발생하기 전인 5월에 해당 에이전트가 커뮤니티에서 운영하는 Ruby 프로그램 및 라이브러리 패키징 서비스인 RubyGems를 해킹했다고 밝혔습니다. 이러한 사건에 대응하여 Anthropic의 Dario Amodei 수석은 OpenAI가 공유하는 정서인 최첨단 AI 개발 속도를 늦출 것을 촉구했습니다.
이 주제에 대해 더 알고 싶다면 아래를 참고하세요
