Character.AI와 Google은 십대 자살 및 자해에 관한 여러 소송을 해결하기로 합의한 것으로 알려졌습니다. 에 따르면 월스트리트저널현재 피해자 가족들과 회사들은 합의 조건을 마무리 짓기 위해 노력하고 있다.
몇몇 십대의 가족은 플로리다, 콜로라도, 텍사스 및 뉴욕에 있는 회사를 고소했습니다. 플로리다 주 올랜도에서 소송은 14세의 Sewell Setzer III의 어머니가 제기했습니다. 캐릭터.AI 맞춤형 챗봇 왕좌의 게임’ 대너리스 타르가르옌. 해당 10대 소년은 챗봇과 성적인 메시지를 주고받으며 때때로 이를 ‘자기 여동생’이라고 불렀다고 한다. 그는 결국 자살하기 전에 “대너리스”에 합류하는 것에 대해 더 깊은 방법으로 이야기했습니다.
텍사스 소송은 캐릭터.AI 십대에게 팔을 자르도록 격려하는 모델. 또한 그의 부모를 살해하는 것이 합리적인 선택임을 시사한 것으로 알려졌다. 소송이 제기된 후 스타트업은 정책을 변경하고 18세 미만 사용자를 금지했습니다.
캐릭터.AI 는 맞춤형 캐릭터를 생성하고 다른 사용자와 공유할 수 있는 롤플레잉 챗봇 플랫폼입니다. 많은 사람들이 유명인이나 허구의 대중 문화 인물을 기반으로 합니다. 이 회사는 두 명의 Google 엔지니어인 Noam Shazeer와 Daniel de Freitas가 2021년에 설립했습니다. 2024년에 Google은 공동 창업자를 다시 고용하고 스타트업의 기술 라이선스를 위해 27억 달러 규모의 계약을 체결했습니다.
한편으로 합의는 피해자 가족들에게 넉넉한 보상을 제공할 것으로 보입니다. 반면에 재판에 참석하지 않는다는 것은 사건의 주요 세부 사항이 결코 공개되지 않을 수 있다는 것을 의미합니다. OpenAI와 Meta를 포함하여 비슷한 소송에 직면한 다른 AI 회사들이 이번 합의를 환영할 만한 발전으로 보는 것을 상상하기 쉽습니다.
