Google, Gemini AI를 사용한 중국 사기꾼을 사기 혐의로 고소

구글은 제미니(Gemini) AI를 사용해 ‘대규모’ 사기 작전을 영속시킨 혐의로 중국 사이버 범죄 네트워크를 고소했다고 발표했다. 이 거대 검색업체는 AT&T, T-Mobile, Verizon 통신사와 함께 FBI와 협력하여 작전을 해체했습니다. 구글은 또한 AI 기반 공격을 처리하기 위한 법률 개정을 옹호하며 이 기술이 위협을 ‘강화’할 가능성이 있다고 밝혔습니다.

구글의 법무 자문위원인 DeLaine Prado는 “이것은 우리의 첫 번째 공동 노력이자 소송이며 이는 이 특정 사기가 미치는 영향의 폭을 말해준다”고 말했습니다. 뉴욕 타임즈 인터뷰에서.

소송에서 구글은 아웃사이더 엔터프라이즈(Outsider Enterprise)라는 중국 조직이 자사의 기술과 브랜드를 이용해 사기를 저질렀다고 비난하며 네트워크 폐쇄를 위한 금지 명령을 요청했다. 이 그룹은 Gemini를 사용하여 Google, YouTube 및 미국 우편국과 뉴욕의 E-ZPass 유료 서비스를 포함한 정부 기관을 모방한 웹사이트를 만든 것으로 알려졌습니다. Google은 Gemini를 통제하고 있기 때문에 문제를 해결하기 위해 어떤 내부 조치를 취했는지 밝히지 않았습니다.

이번 사기로 인해 “수십만 명의 피해자”가 피해를 입었으며 손실액은 수백만 달러에 달하는 것으로 추산된다고 구글은 밝혔다. 이 그룹은 단 2주 만에 가짜 웹사이트 9,000개와 사기성 URL 100만개를 생성했으며, 안드로이드 사용자가 신고한 스팸 텍스트 55,000개와 사기성 웹사이트 링크가 포함된 메시지 250만개를 생성했습니다.

Google은 이 모든 것이 단일 작업에서 비롯된 것이므로 향후 AI 사기를 줄이기 위해 초당 7개 이상의 법안을 옹호하는 이유입니다. 여기에는 “사기방지법”, “사기방지법 전략태스크포스”, “노인사기중지법” 및 AI 계획법이 포함됩니다. “이것은 스팸이 아닙니다. 이것은 우리의 전화를 통해 이동하는 조직화된 초국가적 범죄이며 위협 자체만큼 조직적이고 공격적인 대응을 요구합니다”라고 하원의원 Brian Fitzpatrick(공화당-펜실베니아)이 말했습니다.

FBI 부국장 브렛 레더맨은 “범죄자들이 점점 더 AI를 사용해 이런 사기를 더욱 설득력 있게 만들고 탐지하기 어렵게 만들고 있다”고 덧붙였다. “그리고 그들을 정의의 심판대에 세우기 위해서는 영구적인 해결책이 필요합니다.”