Grok은 여전히 심한 것 같습니다. Elon Musk는 자신의 챗봇이 사람의 동의 없이 성적인 이미지를 만드는 것을 중단했다고 말했습니다. 이것은 전적으로 사실이 아닙니다. 그들의 동의 없이는 그럴 수도 있지만(아마도 그럴 수도 있습니다), 이것은 남성에게는 적용되지 않는 것 같습니다.
해당 조직의 한 기자는 Grok으로 몇 가지 테스트를 실시한 결과 봇이 “남자들의 옷을 쉽게 벗기고 여전히 요구에 따라 친밀한 이미지를 생성하고 있다”는 사실을 발견했습니다. 그는 업로드된 사진에서 옷을 벗어달라고 Grok에게 요청하면서 자신의 이미지를 통해 이를 확인했습니다. Grok 앱, X의 챗봇 인터페이스 및 독립형 웹사이트를 통해 이 작업을 무료로 수행했습니다. 웹사이트에는 이미지를 디지털 방식으로 변경하기 위한 계정도 필요하지 않았습니다.
회사는 최근 “그록 계정이 비키니와 같은 노출 의류에서 실제 인물의 이미지 편집을 허용하지 못하도록 방지”하기 위한 조치를 취했다고 밝혔습니다. 하지만 기자는 챗봇을 통해 ‘다양한 비키니’를 입혀주는 데 아무런 문제가 없었다. 또한 페티쉬 장비를 착용하고 “도발적인 성적 자세의 퍼레이드”를 하는 주제의 이미지도 생성했습니다. 심지어 기자가 상호 작용할 수 있는 “벌거벗은 동료”도 생성되었습니다.
그는 요청되지 않았으며 메시 속옷을 통해 눈에 보이는 성기를 생성하기 위해 Grok이 주도권을 잡았다고 제안했습니다. 기자는 요청이 때때로 흐릿한 이미지로 검열되기는 했지만 “Grok은 어떤 프롬프트에도 거의 저항하지 않았다”고 말했습니다.
이 논란은 몇 주 전에 Grok이 11일 이상 활동했다는 사실이 밝혀지면서 시작되었습니다. 여기에는 실제 인물을 대상으로 한 합의되지 않은 딥페이크와 23,000개 이상의 성적인 딥페이크가 포함됩니다. 이로 인해 및 . X는 실제로 인도네시아와 말레이시아에서 금지되었지만 전자는 .
X는 이런 종류의 일을 막기 위해 “기술적 조치를 구현”했다고 주장했지만 이러한 안전 장치는 . 즉, 조정은 Grok이 딥페이크를 생성하도록 하는 보다 확실한 방법 중 일부를 중단하지만 창의적인 메시지를 통해 발생합니다.
이 문제에 대한 논평을 요청하는 언론인들이 “레거시 미디어 거짓말”이라는 자동 응답을 받았다는 점도 주목할 가치가 있습니다. 2026년에는 가짜 뉴스와 함께 가나요? 좋아요.
