ChatGPT의 “성인용” 필터에 버그가 있었습니다.
소식통은 WSJ에 OpenAI의 도구가 금지된 콘텐츠로부터 어린이를 차단할 준비가 되어 있는지 의심스럽다고 말했습니다.
이들의 내부 고발은 OpenAI가 “성인 모드” 출시에 반대한 최고 안전 책임자를 해고한 이후에 나왔습니다. OpenAI는 해고와 관련이 있다는 사실을 부인했지만, 퇴임한 직원은 어린이의 콘텐츠를 차단하고 아동 착취를 조장하는 출력을 차단하는 AI 회사의 능력을 직접적으로 비판했습니다. 또한, 두 번째 전직 안전 직원도 지난 가을에 부모가 OpenAI의 “성인 모드” 주장을 신뢰해서는 안 된다고 경고했습니다.
이러한 이야기에 대응하기 위해 OpenAI의 대변인은 회사가 “성인 모드의 긍정적이고 부정적인 다양한 잠재적인 장기적 영향을 모니터링하기 위한 개발 계획을 가지고 있다”고 약속했습니다.
그러나 이 계획은 WSJ가 보도한 바로 그 전문가들이 출시를 강력히 반대하고 있기 때문에 부모들이 OpenAI가 청소년 웰빙 팀의 조언에 관심이 있는지 궁금해하는 가운데 개발되었을 가능성이 높습니다.
효과가 없는 연령 확인이나 연령 제한을 피하는 영리한 미성년자 외에도 OpenAI는 자체 시스템이 예기치 않게 실패할 경우 부모와 문제를 겪을 수 있습니다. 지난 4월 OpenAI가 더 위험한 출력을 다루기 시작했을 때 OpenAI는 TechCrunch 테스트에서 미성년자가 ChatGPT에서 그래픽 에로티카에 액세스할 수 있도록 허용하는 버그를 수정했습니다. “에로티카와 같은 민감한 콘텐츠를 과학적, 역사적, 뉴스 보도와 같은 좁은 맥락으로” 명확하게 제한해야 했던 OpenAI의 필터가 깨진 것 같습니다.
당시 OpenAI는 “이 경우 버그로 인해 해당 지침을 벗어나는 응답이 허용되었으며 이러한 세대를 제한하기 위한 수정 사항을 적극적으로 배포하고 있습니다”라고 말했습니다.
OpenAI는 Ars의 논평 요청에 응답하지 않았습니다.
귀하 또는 귀하가 아는 사람이 자살 충동을 느끼거나 고통을 겪고 있는 경우 988번으로 전화하여 자살 예방 라이프라인에 전화하십시오. 그러면 지역 위기 센터에 연결될 것입니다.
