사람들은 xAI의 Grok 챗봇이 소셜 네트워크 X에 업로드된 이미지를 수정하지 못하도록 차단할 수 있습니다. Elon Musk가 소유한 기업인 X나 xAI 모두 이 기능에 대해 공개적으로 발표하지 않았습니다. 사용자는 지난 며칠 동안 iOS 앱의 이미지/비디오 업로드 메뉴에서 이 기능을 발견하기 시작했습니다.
이 옵션은 2026년 초 챗봇에 이미지 생성 도구를 추가하면서 약 300만 개의 성적 또는 누드 이미지가 생성된 Grok의 최근 스캔들에 대한 대응일 가능성이 높습니다. 디지털 증오 대응 센터(Centre for Countering Digital Hate)에 따르면, 11일 동안 제작된 이미지 중 약 23,000개에는 아동의 성적인 이미지가 포함되어 있었습니다. Grok은 현재 이 문제에 대해 EU 규제 당국으로부터 두 가지 별도의 조사를 받고 있습니다.
최근 기능 추가의 긍정적인 측면은 X와 xAI가 Grok의 부적절한 사용을 제한하는 방향으로 나아갔다는 것입니다. 이 블록은 간단한 토글이며 UI에 묻혀 있지 않습니다. 그럼 좋은데요.
그러나 부정적인 측면은 Grok의 작동 방식이나 사용 방식에 대한 심각한 개선에 해당하지 않는 이 토큰 제스처입니다. 챗봇이 한 사람이 업로드한 파일을 변경하지 않는다는 점은 훌륭하지만 더 버지이 블록은 이미지 편집을 생성하기 위해 답글에 Grok을 태그하는 것만 제한합니다. 동의나 지식 없이 사람들의 옷을 벗기기 위해 생성 AI를 사용할 수 있다고 주장하는 헌신적인 개인들을 위한 해결 방법은 많이 있습니다.
xAI가 더욱 강력한 보호 도구를 갖기를 바랍니다. X가 1월에 발표한 빈약한 옷을 실제 사람들에게 입힐 때 Grok이 제한한 것은 기껏해야 부분적인 성공을 거둔 것 같습니다. 이 추가적이고 좁은 사용 사례가 회사가 제공하는 전부라면 합의되지 않은 과도한 노출을 용납하지 않는 공간이라는 주장은 공허하게 들릴 것입니다. 특히 당시 언급했듯이 xAI는 문제가 적절하고 철저하게 해결될 때까지 이미지 생성을 전혀 허용하지 않을 수 있습니다.
