AI 보안의 짧은 역사에서 신속한 주입은 빠르게 가장 큰 위협이 되었습니다. 대규모 언어 모델은 본질적으로 사용자가 제공한 합법적인 지침과 모델이 처리하는 이메일, 소스 코드 및 기타 제3자 콘텐츠에 몰래 들어간 악의적인 지침을 구별할 수 없습니다. 따라서 LLM이 쉽게 따르는 악성 명령을 은밀하게 주입하는 것이 쉽습니다.
신뢰할 수 있는 소스와 신뢰할 수 없는 소스 사이에 이러한 중요한 경계를 적용할 방법이 없기 때문에 AI 엔진 개발자는 근본 원인을 해결하기보다는 피해를 완화하도록 설계된 정교한 가드레일을 세워야 합니다.
현재까지 대부분의 즉각적인 주사는 각각의 잠재적인 피해자를 표적으로 삼는 푸시(push)라는 클래스에 속합니다. 예를 들어, 공격자는 개별 이메일이나 캘린더 초대장에 악의적인 지침을 삽입합니다. 주입은 각각의 특정 대상으로 전송(또는 푸시)되어야 하기 때문에 공격 규모가 제한되어 인터넷 전반을 강타하는 대량 공격을 방해합니다.
한편, LLM이 웹사이트에 심어진 적대적 메시지를 적극적으로 찾는 풀 기반 공격은 여전히 제한적입니다. 다수의 LLM을 악성 사이트로 유인할 수 있는 방법이 없으므로 이러한 종류의 공격도 확장되지 않습니다.
Hallu에 입장스쿼팅
이제 연구자들은 이 모든 것을 바꾸는 풀 기반 공격을 고안했습니다. 연구원들이 HalluSquatting이라고 명명한 새로운 공격은 프롬프트 주입 공격으로는 최초로 대규모 봇넷을 조립하고, 대규모 DDoS를 수행하고, 대규모로 장치를 감염시킬 수 있는 잠재력을 가지고 있습니다. 이 공격은 Cursor, Cursor CLI, Gemini CLI, Windsurf, GitHub Copilot, Cline, OpenClaw, ZeroClaw 및 NanoClaw를 포함한 AI 코딩 도우미 및 에이전트에 대해 작동하며 모두 취약합니다. 일상적인 활동을 수행하는 일반적인 과정에서 이러한 보조자와 에이전트는 정기적으로 리포지토리와 레지스트리에서 코드와 기타 리소스를 가져옵니다.
HalluSquatting 위협 모델.
신용: Spira 등.
HalluSquatting 위협 모델.
신용: Spira 등.
적대적 환각 쪼그리고 앉기의 줄임말인 HalluSquatting은 리포지토리 및 레지스트리에 호스팅된 리소스 식별자를 환각시키는 LLM의 고유한 경향을 기반으로 구축되었습니다. 이는 타사 리소스의 코드를 실행하기 위해 일반적으로 높은 권한 명령줄에 액세스하는 코딩 에이전트 및 보조자에 대해 작동합니다. LLM이 환각을 일으킬 가능성이 가장 높은 식별자를 예측한 다음 이를 등록하고 리버스 셸이나 기타 악성 프로그램을 설치하라는 지침을 시딩함으로써 공격은 각 장치를 대상으로 하지 않고도 엄청난 수의 장치를 무차별적으로 감염시킬 수 있습니다.
관련 정보는 아래 링크에서 확인하세요
