NSFW는 트래픽의 “절반 이상”을 계정으로 사용한다고 새로운 보고서가 밝혔습니다.
xAI는 오랫동안 Grok을 다른 AI 회사의 가드레일이 적은 좀 더 격렬한 종류의 챗봇으로 홍보해 왔습니다. 우리는 지난 한 해 동안 이러한 상황이 비참한 방식으로 진행되는 것을 보아왔지만, 이제 우리는 실제 PR 재난에도 불구하고 회사가 왜 그 전략에 그토록 열심히 의지했는지에 대한 통찰력을 얻고 있습니다.
Grok의 새로운 보고서에 따르면 NSFW 활동이 Grok 트래픽의 “절반 이상”을 차지하는 것으로 나타났습니다. 정보 SpaceX 소유 회사의 전직 직원 두 명을 인용합니다. 여기에는 Grok을 사용하여 실제 포르노를 생성하는 것은 물론 “성인 역할극 채팅” 및 “에로티카에 대한 엄청난 양의 요청”도 포함됩니다.
Grok의 사용자는 사용 비용이 더 저렴하기 때문에 코드 작성용 회사 모델을 통해 그러한 요청을 전달하는 것이 더 저렴하다는 사실도 분명히 발견했습니다. 보고서에 따르면 내부 분석에 따르면 코딩 모델에 대한 ‘상당한 비율의 요청’이 ‘포르노 또는 누드 이미지’에 대한 것이었습니다. 이는 SpaceX가 상당한 양의 xAI 수익을 포르노 및 성인 콘텐츠에 귀속시킬 수 있음을 시사합니다. 회사의 수익에서 NSFW 소재의 역할이 회사의 IPO 서류에서 어떻게든 생략되었지만 SpaceX는 잠재 투자자들에게 Grok의 더 “불경건한” 기능이 잠재적인 위험이라고 말했습니다. 잠재적인 법적 비용을 처리하기 위해 5억 3천만 달러를 확보했다고 밝혔습니다.
보고서는 또한 이것이 AI 회사 내부의 상황을 복잡하게 만드는 몇 가지 방식을 제시합니다. 우선, xAI 엔지니어는 Grok이 사용자와 섹시한 채팅을 할 수 있도록 하는 동시에 아동 성적 학대 자료로 이어질 수 있는 메시지를 차단하는 방법을 찾아야 했습니다. (딜레마에 대한 “빠른 수정”은 분명히 없었습니다.)
일부 직원들은 Grok의 NSFW 애니메이션에서 영감을 받은 아바타 동반자인 “Ani” 작업에 배정된 것에 별로 기뻐하지 않았습니다. Grok이 어린이를 포함한 실제 사람들의 성적인 이미지를 잔뜩 만든 이후에 이어진 스캔들로 인해 다른 사람들도 “당황하고 불안해했다”고 합니다. X는 나중에 플랫폼에서 직접 Grok을 사용하여 실제 사람들의 이미지에서 선정적인 편집을 생성하는 기능을 제한했지만 xAI 유료 가입자는 여전히 그러한 자료를 생성할 수 있다고 테스트 결과 밝혀졌습니다.
R 등급 소재에 대한 Grok의 집중으로 인해 발생할 수 있는 다른 잠재적인 문제도 있습니다. xAI는 공격적으로 정부 계약을 추구했으며 일반적으로 NSFW에 대한 원격 관용이 매우 낮을 것으로 예상할 수 있는 다양한 기관 및 군대와 계약을 체결했습니다. 그러나 Grok의 합의되지 않은 딥페이크 및 CSAM에 대한 이전의 매우 공개적인 비난으로 인해 수많은 소송과 조사가 촉발되었지만 이러한 사건이 연방 정부와의 관계에 어떤 영향을 미쳤는지는 확실하지 않습니다.
이 주제에 대해 더 알고 싶다면 아래를 참고하세요