미성년자를 보호하는 것이 목표이지만 규칙이 보편적으로 지지되는 것은 아닙니다.
캘리포니아 주지사 개빈 뉴섬(Gavin Newsom)은 주의 청소년 보호를 목표로 하는 여러 법안에 서명했습니다. 이러한 새로운 법률에는 잠재적으로 중독성이 있는 소셜 미디어 기능에 대한 제한과 어린 사용자가 AI 챗봇과 상호 작용할 수 있는 방법에 대한 제한이 포함됩니다.
주에서는 시간 제한을 포함하여 십대들이 AI 회사의 챗봇과 상호 작용하는 방법에 대한 제한을 제정하고 있습니다. 챗봇 제작자는 정신 건강 자원, 미성년자가 자해에 대해 논의할 경우의 안전 프로토콜, 어린이가 안전 설정을 끄는 경우 부모에게 알림을 구현해야 합니다. 캘리포니아는 이제 AI 회사의 “독립적인 어린이 안전 감사 및 연간 위험 평가”를 요구합니다. AI 회사가 새로운 규칙을 충족하지 못할 경우 이러한 규칙에 따라 법적 책임을 질 수 있습니다. 오늘의 개발은 캘리포니아 법률 준수를 위해 AI 회사를 감사하기 위한 더 광범위한 프레임워크를 만든 Newsom이 어제 서명한 조치를 따릅니다.
Newsom이 통과시킨 더욱 분열적인 조치 중 하나는 십대의 소셜 미디어 사용에 관한 것입니다. 주정부는 이제 소셜 미디어 회사가 16세 미만 사용자가 잠재적으로 “중독성 기능”에 액세스하도록 허용하는 것을 금지하고 있습니다. 법안의 “중독성” 정의에는 비디오 자동 재생부터 알림, 개인화된 알고리즘 기반 콘텐츠 피드에 이르기까지 광범위한 기능이 포함됩니다.
전자 프런티어 재단(Electronic Frontier Foundation)과 같은 비평가들은 이 법안을 십대를 위한 소셜 미디어의 기능적 금지라고 불렀습니다. EFF 국무부 부국장 Rindala Alajaji는 “미성년자의 디지털 포럼 접근을 거부하거나 이를 탐색하는 데 필요한 기본 도구를 제거하는 것은 AI 시대에 젊은이들을 더 안전하고 건강하게 만드는 데 도움이 되지 않을 것”이라고 말했습니다. 조직은 이 정책을 시행하면 모든 소셜 미디어 사용자가 나이를 증명하기 위해 더 많은 개인 정보를 공개하게 되어 추가적인 개인 정보 보호 위험이 발생할 것이라고 덧붙였습니다. 이는 많은 당사자들이 다른 연령 확인법에 대해 오랫동안 주장해온 주장 중 하나입니다.
Newsom은 잠재적으로 위험한 기술 응용 프로그램으로부터 청소년을 보호한다는 유사한 목표로 추가 조치에 서명했습니다. 여기에는 생성적 AI가 만든 이미지 또는 디지털 방식으로 변경된 이미지를 포함하도록 아동 성적 착취에 대한 확장된 정의가 포함됩니다. 또 다른 법안은 표적 광고에 대한 새로운 보호를 제공하고 AI 시스템의 K-12 학생 데이터 사용을 규제합니다.
관련 정보는 아래 링크에서 확인하세요
