반발에 따라 OpenAI는 조만간 ChatGPT의 에로틱 버전을 출시하지 않을 것입니다.
Financial Times에 따르면 OpenAI가 “핵심 제품”에 관심을 “다시 집중”함에 따라 논란의 여지가 있는 계획은 “무기한” 보류되었습니다.
내부자들은 OpenAI가 “성인 모드” 계획을 완전히 폐기하는 것을 고려하고 있다고 FT에 말했습니다. 자체 고문조차도 ChatGPT 사용자가 건강에 해로운 첨부 파일을 형성하여 정신 건강에 해를 끼칠 수 있다고 경고했습니다. 한 고문은 이 조정으로 인해 ChatGPT가 “섹시한 자살 코치”로 변할 위험이 있다고 냉담하게 제안했습니다.
보고서는 위험 신호를 본 사람은 고문들뿐만이 아니라고 말했습니다.
직원들은 섹시한 ChatGPT가 인류에게 이익이 되는 AI를 만들려는 OpenAI의 사명과 일치하는지 의문을 제기하기 시작했습니다. “성인 모드”를 개발하는 직원에게는 해당 기능에 대한 기술적인 문제를 극복하기 위한 노력이 가치가 없는 것 같습니다. 소식통은 FT에 “이전에는 안전상의 이유로 그러한 대화를 피했던 AI 모델을 훈련시켜 노골적인 콘텐츠를 생성하는 데 어려움을 겪었다”고 말했습니다. 성적 콘텐츠가 포함된 데이터 세트를 사용할 때 수간이나 근친상간과 같은 불법 행위를 출력에서 방지하는 것도 어려웠다고 소식통은 말했습니다.
섹시한 ChatGPT도 분명히 투자자들을 거절했습니다. 이 문제에 정통한 두 사람은 FT에 “OpenAI가 성인 모드를 유혹하는 것이 불안을 야기했다”고 말했습니다. 일부 투자자들은 OpenAI가 비즈니스에 “상대적으로 작은 상승 여력”이 있는 제품에 대한 평판을 위험에 빠뜨리는 이유에 대해 의문을 제기했습니다.
성적인 반응이 없더라도 ChatGPT는 OpenAI가 적절한 보호 장치 없이 무모하게 챗봇을 출시했다고 주장하는 소송을 통해 어린이와 성인 모두의 정신 건강에 해를 끼칠 수 있습니다.
