또한 회사는 사용자가 자해 위험이 급박한 경우 응급 서비스에 연락할 수 있는 기능을 구축하고 있습니다.
Meta는 부모와 규제 기관에 자사 플랫폼이 사용하기에 안전하다는 것을 보여주기 위해 십대 사용자를 위한 보호 장치를 확대하고 있습니다. 보호자에게 십대 자녀의 AI 대화 주제를 보여주기 시작한 지 몇 달 후 Meta는 자녀의 채팅이 자해나 자살을 고려하고 있음을 암시하는지 알려주는 새로운 안전 보호 기능을 도입했습니다.
미성년자 사용자가 자살이나 자해에 관해 이야기하면 Meta AI는 이미 사용자를 위기 상담 전화로 안내하고 도움을 줄 수 있는 성인에게 연락하도록 권장합니다. 오늘부터 회사는 청소년의 감독 부모나 보호자에게 위험에 처해 있음을 적극적으로 알릴 것입니다. 또한 자녀를 위해 무엇을 할 수 있는지에 대한 자료와 조언도 공유할 것입니다.
Meta는 이러한 대화를 식별하기 위해 전용 AI 시스템을 구축했지만 실제 원인이 없을 때 패닉을 일으키지 않기 위해 경고를 보내기 전에 AI가 표시한 모든 채팅을 수동으로 검토한다고 말합니다. 그러나 검토자가 보기에 십대 사용자의 의도가 모호해 보이는 경우에도 주의를 기울이는 실수를 저지르고 알림을 보냅니다. 이 기능은 이제 미국, 영국, 호주 및 캐나다에서 Instagram 부모 감독을 사용하는 부모를 위해 제공됩니다. 올해 말까지 전 세계에서 부모 감독을 사용하는 모든 사람이 사용할 수 있게 될 예정입니다.
회사는 또한 사용자가 Meta AI와의 대화를 통해 미성년자이든 성인이든 스스로 목숨을 잃을 위험이 임박했음을 암시하는 경우 응급 서비스에 연락할 수 있는 기능을 구축하기 위해 노력하고 있습니다. 지난 5월 OpenAI는 자해 문제를 해결하기 위한 기능도 출시했습니다. ChatGPT의 신뢰할 수 있는 연락처라고 불리는 이 기능을 통해 사용자는 자신이 해를 입을 위험이 있는 경우 회사에서 연락할 수 있는 친구를 지정할 수 있습니다.
마지막으로 Meta의 제한된 콘텐츠 설정은 이제 Meta AI 상호 작용에도 적용됩니다. 부모가 Instagram에서 성인용 이미지, 자해 등 민감한 주제의 콘텐츠를 필터링하는 제한된 콘텐츠를 켠 경우 자녀의 AI 상호 작용도 더욱 제한됩니다.
귀하 또는 귀하가 아는 사람이 자살 충동을 겪고 있다면 주저하지 말고 전국 자살 예방 생명의 전화(1-800-273-8255)에 연락하십시오. 전화는 연중무휴 24시간 열려 있으며 전화를 사용할 수 없는 경우 온라인 채팅도 가능합니다.
관련 정보는 아래 링크에서 확인하세요
