OpenAI는 ChatGPT에 대한 신뢰할 수 있는 연락처를 도입했습니다. 이를 통해 사용자는 자해 위험이 있는 경우 회사에서 연락할 수 있는 친구를 지정할 수 있습니다. 점점 더 많은 사람들이 ChatGPT를 디지털 치료사로 사용하고 있으며 정신 건강 요구 사항을 위해 챗봇에 의존하고 있습니다. OpenAI는 이전에 BBC 8억 명의 주간 사용자 중 100만 명 이상이 대화에서 자살 충동을 표현합니다.
작년에 OpenAI는 십대의 자살을 조장했다는 이유로 부당 사망 소송을 당했습니다. 소송에서는 그 십대가 ChatGPT와 이전에 자신의 삶을 마감하려는 네 번의 시도에 대해 이야기한 후 실제 자살 계획을 세우는 데 도움을 주었다고 주장했습니다. 그만큼 BBC의 2025년 11월에 발표된 조사에 따르면 ChatGPT는 적어도 한 번은 사용자에게 자살 방법을 조언한 것으로 나타났습니다. OpenAI는 그 이후로 챗봇이 곤경에 처한 사람들에게 대응하는 방식을 개선했다고 언론사에 말했습니다.
신뢰할 수 있는 연락처는 ChatGPT의 자녀 보호 기능을 기반으로 구축되어 18세 이상의 성인에게 자해 직전에 도움을 줄 수 있는 사람의 세부 정보를 추가할 수 있는 옵션을 제공합니다. 사용자는 ChatGPT 설정에서 신뢰할 수 있는 연락처로 성인 한 명을 지정할 수 있으며, 해당 사용자는 일주일 이내에 받은 초대를 수락해야 합니다. 수락하지 않는 경우 사용자는 대신 다른 연락처를 추가하도록 선택할 수 있습니다. ChatGPT의 시스템은 사용자가 자해할 심각한 가능성을 감지하면 회사가 연락처에 알릴 수 있음을 먼저 사용자에게 경고합니다. 이는 사용자가 친구에게 연락하도록 장려하고 잠재적인 대화 시작자를 제안할 수도 있습니다.
프로세스가 완전히 자동화되지 않았습니다. OpenAI는 “특별 교육을 받은 소규모 팀”이 상황을 검토할 것이며 자해의 심각한 위험이 있다고 판단하는 경우에만 ChatGPT가 사용자의 연락처에 이메일, 문자 메시지 또는 인앱 알림을 보낼 것이라고 말합니다.
‘(이용자가) 힘든 시간을 보내고 있을 것 같습니다’라는 메시지가 표시됩니다. “신뢰할 수 있는 연락처로서 귀하가 직접 확인하시기 바랍니다.” 여기에서 연락처는 경고에 대한 자세한 내용을 볼 수 있으며 OpenAI가 사용자가 자살에 대해 논의한 대화를 감지했음을 알릴 수 있습니다. 그러나 회사는 사용자의 개인정보 보호를 위해 대화 내용을 보내지 않습니다. “어떤 시스템도 완벽하지 않으며 신뢰할 수 있는 연락처에 보내는 알림이 누군가가 겪고 있는 상황을 항상 정확하게 반영할 수는 없지만 모든 알림은 전송되기 전에 훈련된 사람의 검토를 거칩니다. 우리는 이러한 안전 알림을 1시간 이내에 검토하기 위해 노력합니다.”라고 회사는 발표했습니다.
귀하 또는 귀하가 아는 사람이 자살 충동을 겪고 있다면 주저하지 말고 전국 자살 예방 생명의 전화(1-800-273-8255)에 연락하십시오. 전화는 연중무휴 24시간 열려 있으며 전화를 사용할 수 없는 경우 온라인 채팅도 가능합니다.
이 주제에 대해 더 알고 싶다면 아래를 참고하세요
