이제 인공 지능과 관련하여 점점 커지는 우려 사항 목록에 사이버 범죄를 추가할 수 있습니다. 구글 위협 인텔리전스 그룹(GTIG)은 AI가 개발했다고 믿는 제로데이 익스플로잇을 사용하는 위협 행위자를 사상 처음으로 발견했다고 밝혔다.
구글은 보고서에서 위협 행위자가 이를 ‘대량 착취 사건’에 사용할 계획이었지만 사전에 발견해 ‘사용을 막았을 수도 있다’고 밝혔습니다. 구글은 자체 Gemini 모델이 사용되었다고 믿지는 않지만 AI 모델이 취약점을 발견하고 공격을 무기화하는 데 여전히 “높은 신뢰”를 갖고 있다고 덧붙였습니다.
GTIG 보고서는 대상을 식별하지 않았지만 구글이 이름이 알려지지 않은 회사에 통보했고 그 회사가 문제를 패치했다고 말했습니다. 구글은 악의적인 행위자도 밝히지 않았지만 중국과 북한과 관련된 사람들이 보안 취약점을 악용하기 위해 AI를 사용하는 데 “상당한 관심”을 보인 것을 암시했습니다.
일상적인 사용을 위해 AI 모델이 얼마나 빠르게 발전했는지를 보면 악의적인 의도로 사용되는 것은 놀라운 일이 아닙니다. 와의 인터뷰에서 뉴욕 타임즈GTIG의 수석 분석가인 존 헐트퀴스트(John Hultquist)는 이번 사건을 “앞으로 다가올 일의 맛보기”이자 “빙산의 일각”이라고 표현했으며, 이번 사건은 이러한 종류의 공격에 대한 최초의 “실질적인 증거”일 뿐이라고 덧붙였습니다. 구글은 보고서에서 위협 행위자들이 사이버 공격의 다양한 단계에서 AI를 사용해 왔지만 “AI는 방어자에게도 강력한 도구가 될 수 있다”고 밝혔습니다. Google과 마찬가지로 다른 회사들도 AI 모델을 사용하여 예방 조치를 강화하고 있습니다. 지난달 Anthropic은 Claude Mythos Preview를 사용하여 “심각도가 높은 취약점”을 찾아 방어하는 프로젝트인 Project Glasswing을 발표했습니다.
이 주제에 대해 더 알고 싶다면 아래를 참고하세요
