Google은 사람들이 새로운 제품을 만들고, 비즈니스를 성장시키고, 세상을 구하기 위해 생성 AI 제품을 사용하는 모든 방법을 알려주는 것을 좋아합니다. 아마도. 물론 사람들은 AI를 범죄에도 활용하고 있다. Google은 대규모 AI 기반 사기 캠페인을 주도한 것으로 알려진 Outsider Enterprise라는 중국 그룹을 겨냥한 새로운 법적 대응을 발표했습니다. 구글은 이에 맞서 싸우기 위해 법 집행 기관 및 이동통신사와 협력하고 있다고 밝혔습니다.
Google의 법적 서류에 따르면 Outsider Enterprise는 Telegram을 통해 운영됩니다. 이 그룹은 사기성 웹사이트와 텍스트 캠페인을 스스로 설정할 만큼 기술에 능숙하지 않은 개인에게 서비스형 피싱을 제공합니다. 아웃사이더 엔터프라이즈(Outsider Enterprise)는 텔레그램 채널에서 구글의 제미니(Gemini) AI를 사용해 구글, 유튜브, 뉴욕 E-ZPass 같은 정부 기관의 웹사이트를 모방한 웹사이트를 만드는 방법에 대한 지침을 제공한 것으로 알려졌다. 이 그룹은 거의 300개의 사기 템플릿을 제공했습니다.
Google은 Outsider Enterprise에 의한 사기로 인해 Android 사용자에게 250만 개 이상의 문자 메시지가 전송되었다고 밝혔습니다. 이러한 메시지 중 약 55,000개가 지난 달 2주 동안 발생했습니다. 전체적으로 Google은 사기 네트워크에 연결된 9,000개의 가짜 웹사이트와 100만 개의 URL을 추적했습니다.
문자 메시지는 종종 계정 문제나 패키지 배송 문제에 대해 주장했습니다. 사용자가 링크를 클릭하면 Gemini가 합법적인 것처럼 보이도록 설계한 사기성 웹사이트 중 하나에 접속하게 됩니다. 사이버 범죄자들은 이러한 사이트를 이용하여 개인 데이터와 은행 정보를 훔쳤습니다. Google의 서류는 Outsider Enterprise 사기를 통해 도난당한 금액을 추정하지 않지만 블로그 게시물에는 수백 명의 사람들이 일정 금액의 돈을 잃었다고 기록되어 있습니다.
Google은 AT&T, Verizon 및 T-Mobile과 협력하여 이러한 악성 문자 메시지 중 다수를 차단했으며 Google 메시지의 기기 내 사기 감지 기능이 성공적인 피싱 시도 횟수를 줄이는 데 도움이 되었다고 언급했습니다. 이 AI 기반 기능은 매달 100억 건의 사기 문자 메시지를 차단하므로 최소한 외부 기업 활동을 일부 포착할 것으로 예상하는 것이 타당합니다.
이 주제에 대해 더 알고 싶다면 아래를 참고하세요