이 규정은 또한 ‘AI 챗봇 서비스’에 대한 새로운 안전 기대치를 부과합니다.
캐나다는 호주, 인도네시아, 말레이시아와 함께 청소년의 소셜 미디어 사용을 금지하고 있습니다. 캐나다 정체성 및 문화부 장관 Marc Miller가 도입한 안전한 소셜 미디어법은 16세 미만의 어린이가 소셜 미디어 계정을 갖는 것을 금지하고 소셜 미디어 서비스 및 AI 플랫폼에 대한 새로운 규제 기대치를 도입합니다.
이 법안에 따라 소셜 미디어 서비스는 어린이에게 더 안전한 제품을 설계해야 합니다. 플랫폼은 또한 “아동을 성적으로 희생시키거나 생존자를 다시 피해자로 만드는” 딥페이크와 콘텐츠를 제거할 것으로 예상됩니다. AI 콘텐츠에 대한 라벨링, 유해 콘텐츠에 대한 명확한 신고 방법, 사용자 차단 도구 등을 도입하는 것도 유해 콘텐츠에 대한 추가 노출을 방지할 수 있을 것으로 기대됩니다.
소셜 미디어에는 법안에 따라 연령 제한이 적용되지만 AI 챗봇 서비스는 그렇지 않습니다. Miller는 법안을 발표하는 기자 회견에서 “챗봇은 소셜 미디어 플랫폼으로 인한 피해만큼 잘 연구되지 않았습니다”라고 말했습니다. “그들은 동일한 사회적 역할을 가지고 있지 않습니다.” 이와 함께 안전한 소셜 미디어 법에는 OpenAI의 Tumbler Ridge 총격 사건 처리에 대응하여 ‘AI 챗봇 서비스’에 대한 언어도 포함되어 있습니다. 법안의 일환으로 AI 플랫폼은 챗봇이 ‘유해한 콘텐츠를 전달’하고 유해한 행동에 참여할 위험을 완화하는 동시에 위기 상황에 대처하기 위한 ‘긴급 조치’를 도입할 것으로 예상됩니다.
별도의 캐나다 디지털 안전 위원회법(Digital Safety Commission of Canada Act)에 의해 신설된 위원회인 Miller에 따르면 어떤 플랫폼이 16세 연령 요건을 넘어서 제공할 것으로 예상되는 세부 사항은 캐나다 디지털 안전 위원회(Digital Safety Commission of Canada)에서 정할 것이라고 합니다. 위원회는 규정을 시행하고 플랫폼이 아동을 위한 “충분한 보호 장치”를 유지한다고 믿는 경우 면제를 허용할 수도 있습니다.
관련 정보는 아래 링크에서 확인하세요