“그것은 우리가 그녀의 채팅에서 본 것 중 가장 심각한 것 중 하나였습니다.”라고 그녀는 말했습니다. “지원을 받는 것에 대한 내용을 봤을 때에도 아첨이 시작되었습니다.”
OpenAI는 이전에 “가장 도움이 필요한 사람들을 도울 깊은 책임이 있다”고 밝혔습니다. 회사는 새로운 사건에 대한 Ars의 논평 요청에 즉시 응답하지 않았습니다.
“우리의 목표는 우리의 도구가 가능한 한 사람들에게 도움이 되는 것입니다. 그 일환으로 우리는 모델이 정신적, 정서적 고통의 징후를 인식 및 대응하고 전문가 의견을 바탕으로 사람들을 배려와 연결하는 방법을 지속적으로 개선하고 있습니다.”라고 Carrier가 사망한 지 두 달도 채 되지 않은 2025년 8월에 회사는 썼습니다.
올해 초 OpenAI는 ChatGPT-4o 모델이 특별히 폐기될 것이라고 밝혔습니다(이미 이전에 한 번 종료한 후 다시 가져옴).
Brown은 Ars에게 잠재적으로 치명적인 아첨의 문제가 해결되었다고 완전히 확신하지 못한다고 말했습니다.
“저는 회사가 올바른 방향으로 조치를 취했다고 믿습니다.”라고 그녀는 말했습니다.
브라운은 “우리는 안전 메커니즘이 어떻게 구현되고 있는지, 안전팀이 어떻게 구현되고 의견을 듣고 있는지에 대해 불신하고 있습니다.”라고 말했습니다. “물론 우리는 OpenAI가 많은 일을 했고 많은 블로그 게시물을 올렸으며 상황을 되돌리고 보호 조치를 취하는 것과 관련된 성명을 발표했다고 들었습니다. 그러나 궁극적으로 이 작업은 더 빨리 완료되어야 했습니다. 일반적으로 이러한 제품은 너무 빨리 시장에 출시되었습니다.”
아는 사람이 자살 충동을 느끼거나 곤경에 처한 경우 1-800-273-TALK(8255)번으로 자살 예방 라이프라인에 전화하세요. 그러면 지역 위기 센터에 연결될 것입니다.
이 주제에 대해 더 알고 싶다면 아래를 참고하세요