약 1년 전, MG는 애리조나 주 스코츠데일에서 비교적 평범한 20대의 삶을 살고 있었습니다. 그녀는 개인 비서로 일했고 주말에는 대기 테이블에서 수입을 보충했습니다. 그녀 또래의 대부분의 여성들처럼 그녀도 인스타그램 계정을 갖고 있었는데, 거기에 가끔 말차를 마시고 친구들과 수영장에서 놀거나 필라테스를 하는 자신의 이야기와 사진을 게시했습니다.
MG(자신의 신원을 보호하기 위해 소송에서 MG로만 언급됨)는 “저는 소셜 미디어에서 유명해지거나 인기를 얻고 싶은 마음이 전혀 없었습니다.”라고 말합니다. “처음 출시되었을 때 대부분의 사람들이 했던 방식대로 가장 가까운 사람들과 자신의 삶을 공유하기 위해 사용했을 뿐입니다.” 그녀의 팔로워 수는 9,000명이 조금 넘습니다. 강력한 팔로어이지만 대규모 플랫폼에는 미치지 못합니다.
지난 여름, 그녀는 팔로워 중 한 명으로부터 DM을 받았습니다. 그 사람은 그녀에게 MG와 똑같이 생긴 여성의 사진과 동영상이 인스타그램에 돌고 있다는 것을 알고 있었나요? MG는 링크를 클릭하고 자신의 얼굴과 똑같이 생긴 신체에 겹쳐진 것처럼 보이는 여러 릴을 보았습니다. 사진 속 여성은 옷을 거의 입지 않은 채 MG와 같은 곳에 문신을 새겼다.
MG는 겁에 질렸다. “나를 잘 알지 못했다면 그 사람들이 나의 이미지라고 생각할 수도 있었을 겁니다.”라고 그녀는 말했습니다. “내 자신의 이미지를 통제할 수 없다는 것은 일종의 현실 점검과 같았습니다.”
그녀는 최근 제출된 불만 사항에 설명된 것처럼 조작된 누드 또는 간신히 옷을 입은 사진이 인터넷에 유포되고 있다는 사실을 발견했을 때 더욱 경악했습니다. 이러한 사진은 남성에게 자신의 AI 영향력자를 생성하는 방법을 가르치는 플랫폼인 AI ModelForge를 광고하는 데에도 사용되었습니다. 일련의 온라인 수업과 튜토리얼에서 남성들은 구독자들에게 CreatorCore라는 소프트웨어를 사용하여 순진한 젊은 여성의 사진을 사용하여 AI 모델을 훈련시키고 결과 콘텐츠를 Instagram과 TikTok에 게시하도록 가르쳤다고 합니다.
관련 정보는 아래 링크에서 확인하세요
