우리는 AI를 사용하여 앱과 웹 사이트의 결함을 찾는 방법을 살펴봤지만, 이제 연구원들은 이러한 취약점을 악용하기 위해 AI를 무기화할 수 있는 방법을 시연했습니다. 토론토 대학교 팀은 공개적으로 접근 가능한 AI 모델을 사용하여 알려진 모든 컴퓨터 결함을 악용할 수 있는 프로토타입 웜을 구동했습니다. 이러한 웜은 네트워크를 통해 확산되어 인터넷 전체에 혼란을 일으킬 수 있습니다.
일반적인 웜은 일반적으로 숙련된 프로그래머가 특정 네트워크 결함을 악용하도록 설계되었으며 해당 결함을 패치하여 중지할 수 있습니다. 그러나 T of T의 과학자들은 안전한 폐쇄 환경에서 작업하고 광범위한 예방 조치를 취하면서 개방형(오픈 소스) AI 모델을 사용하여 사람의 개입 없이 팀의 테스트 네트워크를 통해 확산되는 훨씬 더 정교한 프로토타입 웜을 만들었습니다.
이 새로운 유형의 웜은 Linux, Windows 및 IoT 장치를 포함한 여러 플랫폼에 걸쳐 다양한 유형의 결함에 맞게 공격을 조정합니다. 네트워크를 통해 이동하면서 데이터를 수집하고, 비밀번호를 빼내고, 다른 시스템을 장악하는 데 도움이 될 더 많은 취약점을 찾아냅니다. 컴퓨터에서 감염이 발견되어 패치되면 웜은 다른 결함을 이용하여 동일한 시스템을 공격할 수 있습니다.
더욱이, 웜은 향후 공격에 대한 추론과 전략을 강화하기 위해 감염된 시스템에서 처리 능력을 빨아들이는 방식으로 스스로를 “먹이”합니다. 수석 저자인 Nicolas Papernot은 “시간과 컴퓨팅 리소스가 제한되어 있기 때문에 해커는 일반적으로 가장 가치가 높은 대상을 우선적으로 처리해야 했습니다.”라고 말했습니다. “그러나 이제 일단 웜이 실행되면 비용은 거의 0으로 떨어질 것입니다.”
AI 기반 사이버 위협에 대한 아이디어는 최근 Anthropic이 이전에 알려지지 않은 사이버 보안 위험을 식별할 수 있는 모델인 Mythos를 출시하면서 매우 현실화되었습니다. Anthropic은 Mythos가 이미 10,000개 이상의 결함을 발견하여 파트너의 버그 발견률을 10배 이상 높였다고 말했습니다. 악의적 공격으로부터 기업을 보호하는 데 도움을 주는 Cloudflare는 높거나 심각한 것으로 간주되는 400개를 포함하여 2,000개의 이러한 취약점을 발견했습니다.
연구원들이 만든 프로토타입 웜은 알려진 결함만 이용할 수 있으며 Mythos와 같은 알려지지 않은 결함은 찾을 수 없습니다. 그러나 악의적인 행위자가 이를 어떻게 적용하여 새로운 취약점을 찾고 악용할 수 있는지 쉽게 알 수 있습니다. 즉, 이 취약점이 공개되면 거의 막을 수 없게 됩니다. Papernot은 “상호 연결된 세상에서는 어떤 시스템도 이 위협으로부터 면역되지 않습니다.”라고 말했습니다. “이러한 결과를 공유하는 것은 연구원, 업계 리더 및 정책 입안자가 신속하게 조치를 취하도록 자극하는 첫 번째 단계입니다.”
관련 정보는 아래 링크에서 확인하세요