연결된 청소년 계정이 있는 부모는 자녀가 폭력과 관련된 OpenAI의 정책을 위반했는지 여부를 알 수 있습니다.
OpenAI는 이제 자녀가 폭력적인 위협이나 온라인 폭력 행위에 대한 정책을 위반하여 ChatGPT에서 쫓겨난 경우 연결된 계정이 있는 부모와 보호자에게 알립니다. 이 회사는 작년에 ChatGPT에 대한 자녀 보호 기능을 출시하여 부모가 개인 계정을 십대 자녀의 계정과 연결할 수 있도록 했습니다. 이를 통해 ChatGPT를 사용할 수 없는 시간을 예약하고 민감한 콘텐츠를 줄일 수 있으며, 자녀가 자해를 시도할 수 있다는 징후를 챗봇이 감지하면 알려줍니다. 이제 OpenAI는 자녀가 다른 사람에게 위험할 수 있는지 부모에게 알릴 수 있도록 알림을 확장했습니다.
회사가 게시한 예에서 OpenAI는 부모에게 자녀 계정에 대한 “중요 업데이트”에 대한 경고를 보냈습니다. 여기에서 자세히 알아보기를 클릭하면 폭력 행위와 관련된 사용 정책을 위반하여 자녀의 계정이 비활성화되었음을 알리는 더 긴 메시지를 볼 수 있습니다.
회사는 이 기능을 개발하기 위해 온라인 폭력 모니터링 및 대응 전문 회사인 Moonshot과 협력했습니다. Moonshot 창립자 Vidhya Ramalingam은 “심각한 우려 사항이 발생할 때 더 많은 상황을 파악하여 부모에게 알리는 것이 가족에게 조기에 개입하여 도움을 구할 수 있는 기회를 제공하는 중요한 첫 번째 단계입니다.”라고 말했습니다. “이런 종류의 액세스는 ChatGPT를 사용하는 동안 젊은이들을 더욱 안전하게 보호하는 데 필요한 많은 조치 중 하나입니다.”
OpenAI는 2025년 브리티시 컬럼비아주 텀블러 리지에서 발생한 대량 총격 사건 용의자가 ChatGPT를 사용한 사실이 밝혀진 후 안전 프로토콜을 강화하겠다고 다짐했습니다. 캐나다 당국은 해당 회사가 총격범의 계정을 금지했을 때 당국에 알리지 않았다는 보도가 나온 후 해당 회사를 소환했습니다. OpenAI의 샘 알트만(Sam Altman) 대표는 이러한 감독에 대해 사과하기도 했습니다.
OpenAI는 새로운 알림을 출시하는 것 외에도 자녀 보호 기능에서 직접 학습 모드를 전환하는 기능도 도입했습니다. 이 모드를 사용하면 ChatGPT가 질문에 답하기 전에 힌트를 제공하여 학생들이 배우고 공부하는 데 도움이 됩니다. 또한 챗봇은 이제 ChatGPT에서 오랜 시간을 보내는 십대 사용자에게 더 자주 휴식 알림을 표시하여 건강한 기술 습관을 형성하는 데 도움을 줍니다.
이 주제에 대해 더 알고 싶다면 아래를 참고하세요
