어제 펜실베니아 주 경찰의 한 상병은 동료의 속옷을 뒤지는 행위, 도난당한 총을 소지하는 행위, 하드 드라이브에 아동 성적 학대 자료를 저장하는 행위, AI 도구를 사용하여 3,000개 이상의 포르노 “딥페이크”를 만드는 등 놀라운 일련의 범죄에 대해 유죄를 인정했습니다.
딥페이크 중 하나에는 지방법원 판사가 관련되어 있었고, 나머지 대부분은 운전면허증 사진을 포함해 주 데이터베이스에서 불법적으로 다운로드한 사진을 기반으로 만들어졌습니다.
일부 이미지는 경찰 막사에서 국영 장치를 사용해 제작되기도 했습니다.
운전면허증의 딥페이크
39세의 스티븐 캄니크(Stephen Kamnik)는 작년에 체포되어 9건의 중범죄와 6건의 경범죄로 기소되었습니다. 펜실베니아 법무 장관에 따르면, “Kamnik은 수년간 펜실베니아의 수많은 여성 시민에 대한 AI 생성 음란물 제작을 포함하여 자신의 개인적인 성적 만족을 위해 영연방 컴퓨터 리소스를 오용한 것으로 알려졌습니다.”
필라델피아 인콰이어러(Philadelphia Inquirer)는 경찰이 “(Kamnik)에 할당된 컴퓨터가 비정상적으로 많은 양의 인터넷 대역폭을 사용하고 있으며 외장 하드 드라이브가 반복적으로 연결되어 있다는 사실을 경찰이 알아차린 후” 2024년에 조사가 시작되었다고 지적합니다.
이는 의심을 불러일으켰고 결국 Kamnik의 휴대폰, 컴퓨터, 외장 하드 드라이브를 검색하여 엄청난 양의 불법 자료를 공개했습니다. 이 자료에는 Kamnik이 AI 도구를 사용하여 생성한 수천 개의 포르노 딥페이크가 포함되어 있습니다.
법무장관은 어제 Kamnik이 “동료를 포함한 개인을 비밀리에 촬영하고 사진을 찍는 등 여러 방법을 통해 이 과정에 대한 자료를 얻었다”고 말했습니다. 수사관들은 심지어 “Kamnik이 명백히 외설적인 목적으로 편집한 법원 절차 중에 몽고메리 카운티 치안 지방 판사의 불법 녹화된 비디오”를 발견했습니다.
그러나 AI 딥페이크의 대부분은 국가 데이터베이스에서 가져온 여성의 얼굴을 사용하여 생성되었습니다. Kamnik의 장치는 그가 “JNET 사용 정책을 위반하여 수백 장의 여성 사진을 얻기 위해 보안 데이터베이스인 JNET을 사용했다는 사실을 보여주었다”고 법무장관이 말했습니다. JNET 사용자가 검색하기 전에 동의해야 하는 규칙 중 하나는 “JNET의 개인적인 사용은 엄격히 금지됩니다.”입니다.
