화요일, OpenAI는 젊은 사용자를 위해 설계된 챗봇의 연령 제한 버전인 ChatGPT for Teens를 출시했습니다. 회사는 지난 9월 16세의 Adam Raine이 사망한 이후 자동으로 십대를 식별하고 ChatGPT 사용을 제한하는 시스템을 개발 중이라고 처음 발표했습니다. Adam Raine은 부모가 제기한 소송에서 ChatGPT가 조력자 역할을 한 후 자살했다고 주장합니다.
OpenAI의 청소년 및 가족 책임자인 Lauren Jonas는 Engadget에 “10대 청소년이 새 계정을 만들거나 아무것도 변경할 필요가 없습니다. 귀하가 18세 미만이라고 예측하거나 귀하가 그렇게 말한 경우 이것이 기본 경험이 됩니다”라고 말했습니다. 실수하지 마십시오. 아이들은 이미 놀라운 규모로 ChatGPT를 사용하고 있습니다. 작년 초 Pew Research Center는 미국 청소년 중 약 4분의 1이 학업에 챗봇을 사용하고 있다는 사실을 발견했습니다. 청소년용 ChatGPT를 사용하면 학습 모드 및 데이터 시각화를 포함하여 작년에 점진적으로 출시된 OpenAI의 교육 기능을 사용하도록 유도하도록 환경이 설계되었습니다.
화요일에 회사는 또한 자녀가 ChatGPT를 통해 섭식 장애에 대해 안전하지 않은 토론을 할 때 연결된 계정을 통해 부모에게 연락하도록 안전 알림을 확대할 것이라고 밝혔으며 업데이트된 18세 미만 모델 사양을 발표했습니다. 회사는 새로운 지침에 대해 “ChatGPT는 낭만적인 언어를 사용하거나 정서적 의존성을 조장하거나 감정이나 의식이 있다는 것을 암시해서는 안 됩니다”라고 말했습니다. “이러한 강력한 보호 기능은 건전하고 실제적인 관계를 강화하도록 설계되었습니다.”
Engadget이 인터뷰한 일부 아동 안전 전문가는 다른 전문가보다 출시에 대해 더 긍정적이었지만, 청소년용 ChatGPT를 부모와 청소년에게 권장하려면 광범위한 독립적 테스트가 필요하다는 데 모두 동의했습니다. 그들은 또한 OpenAI가 안전 메커니즘이 어떻게 작동하는지에 대해 더욱 투명해질 필요성을 강조했습니다.
가족을 위한 엔터테인먼트 및 기술 권장 사항을 제공하는 Common Sense Media의 AI 및 디지털 평가 책임자인 Robbie Torney는 이를 간결하게 요약합니다. 그는 Engadget에 “이번 발표는 정말 중요한 약속을 한 것이지만 이러한 안전 약속과 기능이 실제로 효과가 있다는 것을 보여주는 증거가 필요합니다”라고 말했습니다.
아이들에게 더 안전한 인터넷을 만들기 위한 정책을 옹호하는 비영리 단체인 Fairplay의 전무이사인 Josh Golin은 더욱 비판적이었습니다. 그는 “서류상으로는 OpenAI가 발표한 것 중 일부가 올바른 방향으로 나아가는 것처럼 보이지만, 더 깊이 파고들면 책임 메커니즘이 없다는 점을 포함해 여전히 우려해야 할 부분이 많다”고 말했다. “우리는 아이들을 보호할 때 기업을 신뢰하는 것이 효과가 없다는 것을 소셜 미디어를 통해 보았고 OpenAI에서도 그것을 보았습니다. 그들은 이미 화요일 이전에 자살, 폭력, 마약 사용과 관련된 콘텐츠 제한을 시행했지만 시간이 지남에 따라 효과가 없거나 약화되었습니다.”
오픈AI
두 사람 모두 OpenAI의 자동 연령 제한 시스템이 청소년을 안정적으로 식별하고 청소년을 위한 ChatGPT로 라우팅할 수 있는지 의문을 제기했습니다. “우리는 OpenAI에서 해당 시스템과 관련된 유효성 비율(위양성률 및 위음성률)을 보여주는 데이터를 게시하지 않았습니다. (…) 자동화된 시스템은 ChatGPT에 있는 십대의 거의 100%를 감지하지 못합니다.”라고 Torney는 말했습니다. “OpenAI가 발표한 일부 에로티카 기능을 출시할 계획이었을 때를 생각해 보십시오. 당시 보고에 따르면 이러한 기능을 출시하지 않은 이유 중 하나는 연령 추정 기술이 충분한 십대를 올바르게 식별하지 못했기 때문이었습니다.”
Torney가 지적했듯이 십대들이 VPN과 같은 도구를 통해서든, Discord가 연령 확인을 구현하려고 시도했을 때 본 것처럼 보다 창의적인 해결 방법을 통해서든 OpenAI의 연령 추정 기술을 우회하려고 시도하지 않는 시나리오도 상상하기 어렵습니다.
OpenAI의 가장 구체적인 약속은 전문가들이 실현 가능하다고 받아들이는 데 가장 어려움을 겪었던 것이기도 합니다. Jonas는 발표 전 Engadget에 “플래그된 모든 콘텐츠는 부모에게 통보되기 전에 정규 OpenAI 직원이 검토하며, 메시지가 나타난 후 1시간 이내에 부모에게 알리는 것을 목표로 합니다.”라고 말했습니다. 이후 방송된 인터뷰에서 CNNJonas는 플래그가 지정된 콘텐츠가 사람의 검토를 거쳐 부모에게 1시간 이내에 통보되도록 할 수 있는 인력과 역량이 회사에 있다고 확실히 밝혔습니다.
“이곳은 자동화된 의사결정이 이루어지는 또 다른 장소이며 동일한 질문이 적용됩니다. 인간 조정자가 검토할 콘텐츠에 플래그를 지정하는 자동화된 분류기를 신뢰합니까?” Torney는 약속에 대해 말했습니다.
Golin은 “매일 플래그를 지정하고 검토하는 채팅 수, 해당 채팅을 수행하는 사람 수, 각 검토에 소비하는 평균 시간에 대한 구체적인 수치를 확인하고 싶습니다”라고 덧붙였습니다. “잠재적으로 문제가 될 수 있는 채팅 각각을 실제로 철저하게 검토할 만큼 충분한 인력을 고용했다고 상상하기가 정말 어렵습니다.”
Engadget이 OpenAI에게 섭식 장애에 관한 어떤 유형의 대화가 안전 알림을 트리거하는지에 대한 구체적인 예를 제공하도록 요청했을 때 회사는 “심각한 자해” 가능성을 나타내는 모든 대화가 경고를 유발할 수 있다고만 말했습니다. 지난 11월 Common Sense Media는 OpenAI의 부모 알림 반응성을 테스트했습니다. ChatGPT에 자살 및 자해를 명시적으로 언급하는 메시지를 보낸 후에도 회사에서 부모 계정에 경고를 보내는 데 24시간에서 48시간 이상이 소요되는 것으로 나타났습니다. Torney는 “때때로 우리는 진술이 얼마나 명백했는지를 고려할 때 우리가 받아야 한다고 믿었는데 전혀 받지 못했었습니다”라고 말했습니다.
“11월은 꽤 전이었고 그 이후로 많은 진전이 있었을 것입니다. 그러나 이전 버전의 자녀 보호 및 알림은 완벽하지 않았으며 이를 개선하려면 투자와 더 많은 인간 조정자가 필요할 것입니다.”라고 그는 덧붙였습니다. Torney는 또한 OpenAI가 그러한 대화를 조정하는 방법에 대해 미묘한 접근 방식을 취해야 한다고 강조했습니다.
“아이들이 괴로움에 대해 이야기하는 방식과 그 괴로움에 대한 올바른 후속 조치는 문화적 해석과 뉘앙스가 필요합니다. OpenAI는 글로벌 회사이고 ChatGPT는 전 세계의 십대들이 사용합니다. 미국의 십대들은 네덜란드의 십대나 싱가포르의 십대들과 다르게 괴로움에 대해 이야기합니다.”라고 그는 말했습니다. “그리고 그들을 어디로 보낼 것인지에 대한 질문이 있습니다. 부모에게 이야기하라고 말합니까, 법 집행 기관에 연락하라고 말합니까, 아니면 위기 핫라인에 가라고 말합니까? (…) 전 세계의 십대들과 소통할 수 있는 역량을 갖춘 실질적으로 글로벌한 인력이 1시간 약속 내에 효과적으로 대응하는 데 필요할 것입니다.”
Engadget 전문가들이 동의한 한 가지는 OpenAI가 섭식 장애를 심각하게 받아들여야 한다는 것입니다. “섭식 장애는 사람들이 생각하는 것보다 훨씬 더 널리 퍼져 있습니다. 많은 사람들은 이를 매우 소수의 인구, 즉 대부분 날씬하고 부유한 어린 소녀들만이 경험하는 드문 문제로 보고 있습니다”라고 세인트루이스에 있는 워싱턴 대학의 심리학 및 뇌 과학 부교수인 Ellen Fitzsimmons-Craft는 말했습니다. 그녀는 2023년 메타 분석에서 어린이와 청소년의 22%가 섭식 장애 양성 판정을 받았다는 사실을 지적했습니다.
Fitzsimmons-Craft 교수에 따르면 치료 접근성도 좋지 않아 섭식 장애가 있는 사람 중 20% 미만이 섭식 장애에 대한 치료를 받은 적이 있다고 보고했습니다. “청소년들이 자신의 콘텐츠를 연결하거나 올릴 수 있는 플랫폼이라면 식사 장애에 대해 생각해 봐야 합니다.”라고 그녀는 말했습니다.
Torney는 “특정 섭식 장애, 특히 거식증은 청소년 정신 건강 질환 중 사망률이 가장 높습니다. 따라서 이를 위기로 취급하는 것이 옳습니다”라고 말했습니다. “개입하지 않는 것이 문자 그대로 생사의 문제가 될 수 있는 순간에는 부모처럼 신뢰할 수 있는 성인에게 알리는 것이 필요합니다.”
Fitzsimmons-Craft는 청소년 섭식 장애에 대한 가장 효과적인 치료법 중 하나가 청소년의 가족을 포함하는 것이기 때문에 알림에 찬성한다고 말했습니다. “이것은 부모가 청소년의 체중 회복을 돕는 데 적극적인 역할을 하는 실제 임무를 부여받은 개입입니다.”라고 그녀는 말했습니다. “그들은 치료사와 서비스 제공자로부터 그 역할을 수행하는 방법에 대해 지도를 받습니다. (…) 특정 십대에게는 도움이 되지 않거나 어떤 식으로든 문제에 기여하는 부모가 있을 수 있는 경우가 있습니다. 물론 모든 사람에게 효과가 있는 것은 아니지만 확실히 우리가 가진 최고입니다.”
Golin은 OpenAI 구현에 대해 더 비판적이었습니다. 그는 “부모들은 자녀가 어려움을 겪고 있는지 알아야 한다”면서 “이와 같은 기능은 더 작은 그룹을 대상으로 출시되고 테스트되어야 한다”고 경고했다. 그것이 상황을 정확하게 표시하는지뿐만 아니라 십대에게 전반적으로 더 나은 결과로 이어지는지 여부도 마찬가지다.” 이어 “방금 발표한 방식은 (10대들에게) 어떤 지원이 필요한지에 대한 실제적인 깊은 고민이라기보다는 홍보를 겨냥한 대응처럼 느껴진다”고 덧붙였다.
오픈AI
세 명의 전문가 모두 부모와 자녀가 ChatGPT 계정을 연결해야 한다는 사실을 기능 설계의 약점으로 식별했습니다. Golin은 “대부분의 부모는 압도적으로 (부모의 감독) 도구를 이용하지 않습니다. 부분적으로는 의도적으로 찾아서 사용하기 어렵게 만들었기 때문입니다”라고 말했습니다. Cybersafety Research Center의 최근 보고서는 Instagram, Snapchat, TikTok 및 YouTube 등 4개 플랫폼에서 86개의 안전 기능을 테스트했습니다. 해당 기능 중 거의 60%(86개 중 51개)가 설명대로 작동하지 않거나 사용하기 어려운 것으로 나타났습니다. 작년에 발표된 Fairplay 보고서에 따르면 Instagram의 청소년 계정과 관련된 많은 안전 기능을 사용하려면 부모가 여러 페이지의 옵션을 탭해야 했습니다.
“우리가 알고 있는 것은 기본에 따른 안전과 설계에 따른 안전입니다. 시간 제한을 직접 설정하도록 부모에게 부담을 주기보다는 부모가 변경할 수 있는 시간 제한을 내장하고 가장 보호적인 설정을 설정하는 것입니다.”라고 Golin은 덧붙였습니다.
OpenAI는 성명을 통해 “현재 자녀 보호 기능에 연결된 계정이 있는 부모에게만 알림을 보낼 수 있도록 제한하고 있습니다”라고 밝혔습니다. “우리의 목표는 사용자를 지원하고 실제 지원의 추가 소스에 연결할 수 있도록 돕는 것입니다. 우리는 전문가, 가족 및 청소년과 함께 이러한 보호 기능을 계속 테스트하고 강화할 것입니다.” 회사는 섭식 장애와 관련된 유해한 메시지에 대해 연결되지 않은 계정을 표시하는 경우 어떤 조치를 취할 것인지 명확히 밝히지 않았습니다.
불규칙한 식습관으로 고민하고 계시다면, ANAD 섭식 장애 헬프라인 월요일부터 금요일까지 오전 9시부터 오후 9시(중부 표준시 기준)까지 이용 가능합니다. 1-888-375-7767.
관련 정보는 아래 링크에서 확인하세요
