Grok은 인도네시아에서 수백만 건의 성적인 딥페이크(수천 건에는 어린이 포함)를 생성하는 AI 챗봇에 대한 금지령을 해제한 후 인도네시아에서 다시 사용할 수 있습니다. 통신디지털부는 오늘 오전 성명을 발표해 X가 인도네시아에서 서비스를 재개할 수 있지만 향후 위반 사항에 대해 모니터링을 받을 것이라고 밝혔습니다.
인도네시아 정부 기관에 따르면 X는 Grok 챗봇의 오용을 방지하기 위해 구현된 몇 가지 조치를 자세히 설명하는 서한을 제공했습니다. 디지털 공간 감독 담당 국장인 알렉산더 사바르(Alexander Sabar)는 성명을 통해 해당 기관이 지속적으로 새로운 조치를 테스트할 것이며 불법 콘텐츠를 유포하거나 아동 관련 국가 법률을 위반한 것으로 밝혀지면 그록을 다시 금지할 것이라고 말했습니다.
이 문제는 올해 초 인도네시아가 말레이시아, 필리핀과 함께 AI 챗봇이 사용자 요청에 응답하여 동의 없이 여성과 어린이의 성적으로 노골적인 딥페이크 이미지를 생성하는 것이 발견된 후 AI 챗봇을 금지했을 때로 거슬러 올라갑니다. 그 달 말, 필리핀은 그록(Grok)에 대한 금지령을 해제했고, 말레이시아도 불과 며칠 뒤 같은 조치를 취했습니다. 인도네시아와 마찬가지로 말레이시아 당국도 그록을 계속 감시할 것이며 AI 챗봇이 과거 범죄를 반복할 경우 더 많은 집행 조치를 취하겠다고 위협했습니다. 금지 조치 외에도 Grok은 동일한 문제에 관해 캘리포니아 법무장관과 영국 미디어 규제 기관으로부터 조사를 받고 있습니다.
