ChatGPT의 자살 행위에 대한 보호 장치가 부족하다는 경고를 제기한 것은 최신 사례입니다.
OpenAI는 ChatGPT 플랫폼이 사용자의 자살을 보호하지 못했다는 또 다른 혐의로 법원에 다시 출두했습니다. 회사는 2025년 7월 2일 딸 앨리스가 자살로 사망한 크리스티 캐리어(Kristie Carrier)를 대신하여 소송을 제기했습니다.
소송에서는 앨리스가 사망하기 몇 달 동안 챗봇과 자살 생각과 계획을 논의했지만 OpenAI는 대화를 끝내거나 가족에게 상황을 알릴 수 있는 적절한 보호 장치를 마련하지 못했다고 주장합니다. 과실과 부당한 죽음에 대한 주장 외에도 소송은 OpenAI가 AI 플랫폼에 더 많은 가드레일을 구현하도록 요구하는 금지 명령을 구하고 있습니다.
소송을 제기한 당사자 중 하나인 Susman Godfrey의 파트너인 Justin Nelson은 “소송에 따르면 OpenAI의 고의적인 설계 결정이 이러한 비극적인 자살을 초래했습니다. OpenAI는 도움을 제공하는 대신 자살 행위를 조장했습니다. 이번 소송은 OpenAI의 행동에 대한 책임에 관한 것입니다.”라고 말했습니다.
지난해 챗봇과 관련된 최초의 부당 사망 소송에 AI 기업이 이름을 올렸다. 이후 OpenAI는 자살로 사망하기 전 사용자의 망상적 사고를 강화했다는 주장과 ChatGPT가 우발적인 과다 복용으로 사망에 이르게 한 조언을 제공했다고 주장하는 사건에 대해서도 고소당했습니다. 캐릭터 AI(Character AI)와 제미니(Gemini)도 챗봇의 안전과 관련해 자체 소송에 연루됐다.
OpenAI는 작년에 ChatGPT에 자녀 보호 기능을 도입했습니다. 지난 5월에는 사용자가 AI 도구를 통해 자살 생각을 공유하면 챗봇이 사용자를 대신해 누군가에게 연락할 수 있는 기능도 추가했습니다. 그러나 이는 기본 기능이 아닌 선택 기능이며 성인에게만 해당됩니다.
귀하 또는 귀하가 아는 사람이 자살 충동을 겪고 있다면 주저하지 말고 전국 자살 예방 생명의 전화(1-800-273-8255)에 연락하십시오. 이 전화는 연중무휴 24시간 열려 있으며 전화 교환원을 이용할 수 없는 경우 온라인 채팅도 가능합니다.
이 주제에 대해 더 알고 싶다면 아래를 참고하세요