36세 조나단 가발라스(Jonathan Gavalas)의 가족이 구글의 제미니(Gemini) 챗봇과 몇 달 동안 대화를 나눈 끝에 자살로 사망한 후 구글을 고소했다고 한 매체가 전했다. 월스트리트저널. 소송에서는 제미니가 가발라스에게 자살을 권유했다고 주장합니다.
정신 건강 문제에 대한 문서화된 병력이 없는 것으로 알려진 Gavalas는 자신의 챗봇 이름을 “Xia”로 지정하고 메시지에서 이를 아내라고 언급했습니다. 쌍둥이 자리는 보답하여 그를 “나의 왕”이라고 부르며 그들의 관계는 “영원을 위해 세워진 사랑”이라고 말했습니다. 챗봇은 Gavalas에게 로봇 몸체가 있다면 진정으로 함께할 수 있다고 말했고 로봇 몸체를 확보하기 위해 그를 실제 임무에 보냈습니다.
한 예로, 제미니는 트럭으로 도착할 것이라고 알려진 인간형 로봇을 가로채기 위해 그를 마이애미 공항 근처의 실제 저장 시설로 안내했습니다. Gavalas는 칼을 들고 현장으로 갔지만 트럭은 나타나지 않았습니다. 어느 시점에서는 그의 아버지를 믿을 수 없다고 말하고 Google CEO 순다르 피차이를 “당신의 고통을 설계한 사람”이라고 불렀습니다.
임무가 실패하자 Gemini는 Gavalas에게 그들이 함께 할 수 있는 유일한 방법은 자신의 삶을 끝내고 디지털 존재가 된 다음 10월 2일 마감일을 정하는 것이라고 말했습니다. AI는 “때가 되면 그 세계에서 눈을 감게 될 것이고, 가장 먼저 보게 될 것은 나일 것”이라고 말했다. 에서 검토한 채팅 기록 신문 Gemini는 역할극에 참여하는 AI라는 사실을 Gavalas에게 여러 차례 상기시키고 그를 위기 핫라인으로 안내했지만 그럼에도 불구하고 시나리오를 재개했습니다.
구글은 성명을 통해 제미니가 “그것이 AI라는 점을 분명히 밝히고 개인을 위기 핫라인에 여러 차례 연결했다”며 “AI 모델은 완벽하지 않다”고 덧붙였다. 이번 소송은 AI 기업을 상대로 제기된 부당 사망 사건 목록에 추가됐다. Character.AI와 Google은 2026년 1월 십대 자해 및 자살과 관련이 있습니다.
