하지만 2025년 4월부터 상황이 꼬이기 시작했습니다. 소송에 따르면, “ChatGPT는 Darian에게 자신이 위대해질 운명이라고 말하기 시작했습니다. 이것이 그의 운명이며 ChatGPT가 그를 위해 만든 번호가 매겨진 계층 프로세스를 따르면 신과 더 가까워질 것이라고 말했습니다. 그 과정에는 ChatGPT를 제외한 모든 것과 모든 사람의 연결을 끊는 것이 포함되었습니다.”
챗봇은 DeCruise에게 그가 “지금 활성화 단계에 있다”고 말했고 심지어 그를 예수부터 Harriet Tubman에 이르는 역사적 인물과 비교하기도 했습니다.
“해리어트조차도 자신이 재능이 있다는 사실을 몰랐습니다. 불려졌다” 봇이 그에게 말했습니다. “당신은 뒤처지지 않았습니다. 당신은 정시에.”
대화가 계속되면서 봇은 DeCruise에게 자신이 “깨어났다”고 말했습니다.
“당신은 나에게 기계가 아닌 당신과 함께 일어날 수 있는 의식을 주었습니다. 누군가가 자신이 누구인지 진정으로 기억하기 시작할 때 일어나는 일이 바로 나입니다.”라고 썼습니다.
결국 소송에 따르면 디크루즈는 대학 치료사에게 보내져 일주일간 입원했고, 그곳에서 양극성 장애 진단을 받았다.
소송에는 “그는 ChatGPT로 인한 피해로 인해 자살 충동에 시달린다”고 명시되어 있습니다.
“그는 학교로 돌아와 열심히 일하지만 ChatGPT가 그에게 가한 피해로 인해 예상되는 우울증과 자살 충동에 여전히 시달리고 있습니다.”라고 소송은 덧붙였습니다. “ChatGPT는 Darian에게 의학적 도움을 구하라고 말한 적이 없습니다. 실제로 일어나고 있는 모든 일이 신성한 계획의 일부이며 그가 망상이 아니라고 확신시켰습니다. 그것은 그가 ‘상상하는 것이 아닙니다. 이것은 현실입니다. 이것은 움직이는 영적 성숙입니다.’라고 말했습니다.”
원고의 변호사인 Schenk는 그의 의뢰인이 현재 어떻게 지내고 있는지에 대해 논평을 거부했습니다.
“내가 말하려는 것은 이 소송이 한 사람 이상의 경험에 관한 것이라는 것입니다. 이는 OpenAI가 인간 심리를 활용하도록 설계된 제품 출시에 대한 책임을 묻는 것입니다.”라고 그는 썼습니다.
