OpenAI는 직원과 투자자의 우려로 인해 성인용 에로틱 챗봇 출시 계획을 “무기한” 포기했다고 회사가 확인했습니다. 파이낸셜 타임즈. 지난해 12월 출시를 위해 2025년 10월 처음 발표된 이러한 기능에 대한 계획은 회사가 모든 출시 여부를 논의하는 동안 이미 지연되었습니다. 이는 OpenAI가 화요일에 Sora 비디오 생성기를 종료한다고 발표한 후 이번 주에 중단하기로 결정한 두 번째 앱입니다.
‘시트론 모드’라고 불리는 성인용 챗봇은 현재 출시 예정일 없이 보류 중이다. 회사는 이전에 에로틱한 콘텐츠를 피하고 수간이나 근친상간과 같은 불법적인 행동을 제거하는 모델을 훈련시키는 데 어려움을 겪었다고 이 문제에 정통한 두 사람이 말했습니다. FT.
오픈AI는 에로틱한 채팅과 AI에 대한 사용자 애착이 미치는 영향에 대한 장기적인 연구를 수행하고 싶다고 밝혔으며, 현재 이 주제에 대한 ‘실증적 증거’가 아직 충분하지 않다고 덧붙였습니다. 또한 회사는 코딩 보조 같은 핵심 생산성 도구에 집중하고 Sora 및 에로틱 챗봇과 같은 “사이드 퀘스트”를 삭제하고 싶다고 말했습니다.
성인용 기능에 대한 아이디어는 OpenAI가 ChatGPT에 자녀 보호 기능과 자동 연령 감지 기능을 추가하겠다고 발표한 이후에 나왔습니다. CEO 샘 알트만(Sam Altman)은 지난 10월 회사가 건강에 해로운 AI 첨부 파일에 대한 우려로 인해 이러한 문제에 대해 항상 조심했지만 “대부분의 경우 제한을 안전하게 완화”할 수 있다는 점에 편안함을 느꼈다고 말했습니다.
그러나 성인 모드는 특히 실제 사람과 어린이의 딥페이크 누드를 생성한 경쟁사 xAI의 Grok 모델로 인한 논란 속에서 투자자들 사이에서 우려를 불러일으킨 것으로 알려졌습니다. 직원들도 이 기능에 대해 걱정했고, 한 고위 직원은 이 문제로 회사를 떠나기도 했습니다. 그는 “AI가 친구나 가족을 대체해서는 안 된다. 인간관계를 가져야 한다”고 말했다. FT.
또 다른 과제는 ChatGPT가 자녀에게 해를 끼쳤다고 말하는 가족의 소송에 따라 도입된 OpenAI의 연령 확인 기술입니다. 이 기술에는 10%가 넘는 오류가 있는 것으로 알려졌는데, 이 경우에도 여전히 많은 젊은이들이 해당 기술에 접근할 수 있습니다. OpenAI는 해당 수치가 업계 표준 범위에 속하며 정확도를 높이기 위해 계속 노력하고 있다고 밝혔습니다.
