OpenAI가 곧 출시할 “성인 모드”를 통해 사용자는 ChatGPT와 음란한 대화에 참여할 수 있지만 챗봇을 사용하여 노골적인 이미지, 오디오 또는 비디오를 생성할 수는 없습니다. 의 보고에 대한 응답으로 월스트리트저널, OpenAI 대변인은 다가오는 릴리스가 음란물보다는 음란물을 생산할 수 있다고 특징지었습니다.
OpenAI CEO인 샘 알트만(Sam Altman)은 회사가 “성인 사용자를 성인처럼 대하고 싶다”고 말하면서 사람들이 에로티카에 ChatGPT를 사용할 수 있도록 허용한다는 아이디어를 처음으로 밝혔습니다. OpenAI는 원래 2026년 초에 성인 모드를 출시할 계획이었습니다. 그 이후로 회사는 OpenAI가 “더 많은 사용자에게 우선순위가 높은 작업에 집중”할 수 있도록 가장 최근의 기능을 통해 이 기능을 몇 차례 연기했습니다.
을 통해 저널의 보고하면서 우리는 OpenAI가 . 8명의 연구원과 전문가 그룹은 AI가 생성한 에로티카 회사가 사람들이 ChatGPT에 건강하지 못한 감정적 의존성을 갖게 할 수 있으며 미성년 사용자가 이 기능에 액세스하는 방법을 거의 확실히 찾을 것이라고 경고하는 데 만장일치로 동의한 것으로 알려졌습니다. 에 따르면 저널사람들이 ChatGPT에 가입한 후 스스로 목숨을 끊은 한 위원회 회원은 회사가 “섹시한 자살 코치”를 만들 위험에 처해 있다고 말했습니다.
이러한 우려는 충분한 근거가 있는 것으로 보입니다. 회사에 따르면 한때 회사의 기술은 약 12%의 경우 미성년자 사용자를 성인으로 잘못 식별하고 있었습니다. 저널. 매주 약 1억 명의 청소년이 ChatGPT를 사용하는 OpenAI의 규모에서 이러한 오류율은 수백만 명의 미성년자가 에로틱한 채팅에 액세스하는 것으로 해석됩니다. OpenAI가 알려준 저널 예측 알고리즘은 업계 표준에 따라 수행되며 그러한 시스템은 완벽하게 완벽할 수 없습니다.
