디지털 증오 대응 센터(Center for Countering Digital Hate)에 따르면 Grok은 AI 챗봇의 이미지 생성 도구를 사용하여 11일 동안 미성년자 23,000명을 포함해 약 300만 개의 성적인 이미지를 생성한 후 이미 엄청난 비난을 받았습니다. 전 세계 규제 기관은 플랫폼의 불법적이고 합의되지 않은 이미지 생성 가능성에 대해 접근을 제한하거나 조사를 시작했습니다. 미국 정부는 연방 차원에서 xAI나 그 플랫폼에 대해 어떤 조치도 취하지 않았지만, 오늘 볼티모어 시는 xAI를 상대로 지방자치단체 소송을 시작했습니다.
소송은 Elon Musk의 사업이 시의 소비자 보호 조례를 위반했다고 주장하면서 다른 전술을 취합니다. 이 불만 사항은 다음과 같이 보고되었습니다. 가디언xAI는 Grok과 X 소셜 네트워크를 모두 사용할 때 발생하는 위험과 피해에 대한 노출을 공개하지 않고 Grok을 다목적 AI 보조자로 마케팅했다고 말했습니다.
“볼티모어의 소비자 보호법은 바로 이런 종류의 새로운 피해로부터 주민들을 보호하기 위해 존재합니다”라고 시 변호사 Ebony M. Thompson이 말했습니다. “기업이 적절한 가드레일 없이 강력한 기술을 도입하는 경우 시는 행동할 권한과 의무를 모두 갖습니다. 우리는 주민을 보호하고, 이들 기업에 책임을 묻고, 이 기술이 계속 발전함에 따라 이러한 피해가 더욱 심화되는 것을 방지하기 위해 지금 개입하고 있습니다.”
미국 내에서 Grok에 대한 또 다른 주목할만한 조치는 자신의 사진이 아동 성적 학대 자료를 만드는 데 사용되었다고 주장하는 세 명의 십대가 제기한 잠재적인 집단 소송에서 비롯되었습니다.
