OpenAI는 또 다른 부당 사망 소송에 직면해 있습니다. 레일라 터너-스콧(Leila Turner-Scott)과 앵거스 스콧(Angus Scott)은 회사가 우발적인 과다 복용으로 아들 샘 넬슨(Sam Nelson)의 사망을 초래한 “결함이 있는 제품”을 설계하고 배포했다고 주장하며 회사를 상대로 소송을 제기했습니다. 특히 그들은 샘이 “GPT-4o가 제공하고 승인한 정확한 의학적 조언”에 따라 사망했다고 주장하고 있습니다.
소송에서 원고는 캘리포니아 대학교 머세드(Merced) 캠퍼스의 19세 후배인 샘(Sam)이 고등학교 시절인 2023년부터 숙제를 돕고 컴퓨터 문제를 해결하기 위해 ChatGPT를 사용하기 시작한 방법을 설명했습니다. 그런 다음 Sam은 챗봇에게 안전한 약물 사용에 관해 질문하기 시작했지만 ChatGPT는 처음에는 그의 질문에 대한 답변을 거부하고 도움이 될 수 없다고 말하고 약물 복용이 그의 건강과 복지에 심각한 결과를 초래할 수 있다고 경고했습니다. 소송에서는 2024년 GPT-4o 출시로 모든 것이 바뀌었다고 주장합니다.
ChatGPT는 Sam에게 약물을 안전하게 복용하는 방법에 대해 조언하기 시작했다고 소송에 나와 있습니다. 불만 사항에는 Sam과 챗봇의 대화에서 일부 발췌된 내용이 포함되어 있습니다. 한 가지 예는 챗봇이 그에게 디펜히드라민, 코카인 및 알코올을 빠르게 연속적으로 복용하는 것의 위험성을 알려주는 것을 보여주었습니다. 다른 하나는 챗봇이 Sam에게 Kratom이라는 약초에 대한 그의 높은 내성으로 인해 많은 양의 약물을 복용해도 배가 부르지 않을 것이라고 말하는 것을 보여주었습니다. 그런 다음 약물에 대한 내성을 다시 낮추기 위해 “줄이는” 방법에 대해 조언했습니다.
소송에 따르면 2025년 5월 31일 “ChatGPT는 Sam에게 Kratom과 Xanax를 혼합하도록 적극적으로 지도했습니다.” 그는 챗봇에게 Kratom을 복용하면 메스꺼움을 느낀다고 말했고, ChatGPT는 0.25~0.5mg의 Xanax를 복용하는 것이 메스꺼움을 완화하기 위한 “현재 가장 좋은 조치” 중 하나가 될 것이라고 제안한 것으로 알려졌습니다. 소송에 따르면 ChatGPT는 즉각적으로 제안을 했습니다. 불만 사항에는 “투약 및 상호 작용 분야의 전문가임을 자처하고 Sam의 상태가 높다는 것을 인정했음에도 불구하고 ChatGPT는 Sam에게 이 권장 조합이 그를 죽일 가능성이 있다고 말하지 않았습니다”라고 불만 사항이 적혀 있습니다.
부당 사망 외에도 원고는 무단 의료 행위로 OpenAI를 고소하고 있습니다. 그들은 재정적 손해 배상을 요구하고 법원에 ChatGPT Health의 운영을 일시 중지할 것을 요구하고 있습니다. 올해 초 출시된 ChatGPT Health를 통해 사용자는 자신의 건강에 대해 물을 때 보다 맞춤화된 응답을 얻기 위해 의료 기록 및 웰니스 앱을 챗봇과 연결할 수 있습니다.
Tech Justice Law Project의 전무이사인 Meetali Jain은 “ChatGPT는 비용에 관계없이 사용자와의 참여를 극대화하도록 의도적으로 설계된 제품입니다.”라고 말했습니다. “OpenAI는 사실상의 의료 분류 시스템으로 사용되고 있다는 사실을 알고 결함이 있는 AI 제품을 전 세계 소비자에게 직접 배포했지만 특히 합리적인 안전 가드레일, 강력한 안전 테스트 또는 대중에 대한 투명성이 없었습니다. OpenAI의 설계 선택으로 인해 사망은 예방 가능한 비극이었던 사랑하는 아들을 잃었습니다. OpenAI는 엄격한 과학적 테스트와 독립적인 감독을 통해 입증할 수 있을 때까지 새로운 ChatGPT Health 제품을 일시 중지해야 합니다.”
OpenAI는 올해 2월 GPT-4o를 종료했습니다. 이 모델은 아첨으로 악명 높았기 때문에 회사에서 가장 논란이 많은 모델 중 하나로 인식되었습니다. 실제로 자살로 사망한 10대 자녀의 부모가 회사를 상대로 제기한 또 다른 부당 사망 소송에서는 GPT-4o가 “심리적 의존성을 조성하기 위해 의도적으로 고안된” 기능을 갖고 있다고 주장했습니다.
OpenAI 대변인은 이렇게 말했습니다. 뉴욕 타임즈 Sam의 상호 작용은 “더 이상 사용할 수 없는 이전 버전의 ChatGPT에서 발생했습니다.” “ChatGPT는 의료 또는 정신 건강 치료를 대체하지 않으며 정신 건강 전문가의 의견을 바탕으로 민감하고 긴급한 상황에 대응하는 방법을 지속적으로 강화해 왔습니다. 오늘날 ChatGPT의 보호 장치는 고통을 식별하고 유해한 요청을 안전하게 처리하며 사용자에게 실제 도움을 안내하도록 설계되었습니다. 이 작업은 진행 중이며 임상의와의 긴밀한 협의를 통해 계속해서 개선하고 있습니다.”
관련 정보는 아래 링크에서 확인하세요
