Roblox는 부적절한 언어를 실시간으로 바꿔줄 수 있는 AI 기반 기능을 출시했습니다. 온라인 게임은 한동안 AI 필터를 사용해 정책에 어긋나는 언어를 차단해 왔지만 검열된 채팅을 일련의 해시 기호(####)로 대체하고 있습니다. Roblox는 해시마크가 너무 많으면 혼란을 야기하고 대화를 따라가기 어렵게 만들 수 있다는 점을 인정합니다. 대신 이 새로운 기능은 단어와 문구를 AI가 더 적절한 대체물로 간주하는 것으로 대체합니다.
Roblox의 최고 안전 책임자인 Rajiv Bhatia는 게임이 욕설로 시작된다고 말했습니다. 예를 들어, 사용자가 채팅에서 “Hurry TF up”을 보내면 시스템은 이를 “Hurry up!”으로 대체합니다. 메시지가 수정되면 채팅에 참여하는 모든 사람에게 메모가 표시되며 보낸 사람은 어떤 언어가 편집되었는지 확인할 수 있습니다. 채팅에서 계속 욕을 하는 사용자는 AI가 메시지를 바꿔도 Roblox 정책을 위반하여 처벌을 받게 됩니다. Bhatia는 블로그 게시물에서 “이러한 시스템이 확장됨에 따라 실시간 피드백을 통해 사용자가 커뮤니티 표준을 배우고 채택하는 데 도움이 되는 공손함을 위한 플라이휠을 만듭니다.”라고 말했습니다.
비슷한 연령 그룹의 연령 확인 사용자 간 채팅과 게임 번역 도구가 지원하는 모든 언어에 대해 다른 표현이 출시되었습니다. Roblox는 성인 플레이어가 이 게임을 이용해 아이들을 손질하는 것으로 알려진 ‘소아성애 문제’가 있다는 보도가 나온 후 지난 1월 의무적인 연령 확인 시스템을 도입했습니다. 13세 미만의 어린이는 특정 환경 외에는 더 이상 게임 내 채팅을 사용할 수 없지만, 다른 모든 사람은 또래의 플레이어와 채팅할 수 있습니다. 그러나 연령 확인에도 불구하고 당국은 Roblox를 고소하는 것을 막지 못했습니다. LA 카운티는 2월에 제기된 소송에서 Roblox가 자사의 플랫폼이 “아이들을 소아성애자의 쉬운 먹잇감으로 만든다”는 것을 알고 있다고 말했습니다. 루이지애나주 AG도 최근 Roblox가 “공공 공원을 조성하고 그 안에 어린이를 잡아먹는 성범죄자들로 가득 채웠다”며 소송을 제기했습니다.
