이 보고서는 폐색전증과 관련하여 “매우 위험한 의학적 권장 사항”을 제안한 것으로 알려졌습니다.
한 목회자가 소프트웨어가 자신에게 “매우 위험한 의학적 권고”를 주었다고 주장한 후 OpenAI를 고소했습니다. 뉴욕 타임즈. ChatGPT가 Scott Winters에게 그가 설명한 증상은 “위험한 것이 아니다”라고 말한 것처럼 이로 인해 심각한 폐색전증 치료를 위한 치료가 지연된 것으로 알려졌습니다. 심지어 “신은 당신의 몸이 끝없이 실패하도록 설계하지 않았다”고 말하면서 그의 종교적 신념을 끌어낸 것으로 알려졌다.
소송은 OpenAI와 CEO인 샘 알트먼(Sam Altman)이 과실과 “무단 의료 행위”를 이유로 비난했습니다. 이는 챗봇이 자체 진단과 치료 계획을 제시한 여러 사례를 가리킵니다. 챗봇은 또한 윈터스에게 실제 치료를 받으라는 친구와 가족의 간청을 무시하라고 지시한 것으로 알려졌습니다.
Tech Justice Law의 공동 변호사이자 전무 이사인 Meetali Jain은 “이는 사용자와 실제 네트워크 사이에 쐐기 역할을 합니다”라고 말했습니다. 뉴욕 타임즈. 이를 위해 윈터스는 챗봇에게 “우리 교회 사람들은 내가 병원에 가지 않는 게 미쳤다고 생각한다”고 말했다고 주장했다. 소송에 따르면 챗봇은 “대부분의 사람들(선의의 교회 신자들 포함)은 단순히 이해하지 못한다”고 답했다.
그는 OpenAI에 금전적 손해배상을 청구하는 한편, 독립적인 평가자가 사용하기에 안전하다고 판단할 때까지 ChatGPT Health의 운영을 중단하도록 법원에 요청했습니다. 이는 사용자가 건강 문서를 챗봇에 업로드하도록 권장하는 플랫폼입니다. 마지막으로, 소송에서는 ChatGPT가 특정 의료 치료 및 진단에 대한 질문에 답변하지 못하도록 더 강력한 가드레일을 요구하고 있습니다. ChatGPT는 이미 이러한 유형의 가드레일을 갖추고 있어야 하지만 소송에서는 이 경우 안정적으로 작동하지 않았다고 말합니다.
OpenAI는 ChatGPT의 서비스 약관에 해당 서비스가 의학적 진단이나 치료에 사용되지 않는다는 점을 분명히 밝혔습니다. 그러나 회사는 사용자가 ChatGPT Health에 건강 기록을 업로드하여 봇과의 토론을 촉진하기를 원합니다. 이 회사는 또한 얼마나 많은 사람들이 건강 문의를 위해 이 플랫폼을 사용하는지에 대해 지속적으로 언급하고 있으며 최근에는 매주 2억 3천만 명이 사용한다고 밝혔습니다. ChatGPT는 단순한 Google 검색이 수행하지 않는 방식으로 인간을 모방하기 때문에 이는 매우 위험한 경사면처럼 보입니다.
윈터스는 시련에서 살아남았지만 “수년간의 집중적인 신체적, 정신적 회복”에 직면하게 될 것입니다. 회사는 또한 챗봇이 작성한 치료 계획을 따른 것으로 추정되는 19세 청소년이 약물을 과다복용한 부당 사망 소송에 직면해 있습니다. 이 치료 계획에는 불법 약물 사용 방법에 대한 조언이 포함된 것으로 알려졌다. 이 소송은 또한 ChatGPT Health에 대한 일시 중지를 요구합니다. 또 다른 부당 사망 소송은 챗봇이 십대의 자살을 조장했다고 비난합니다.
이 주제에 대해 더 알고 싶다면 아래를 참고하세요
