자살로 사망한 10대도 테스트에 참여한 것으로 알려졌다.
TikTok은 안전 기록과 알고리즘이 문제가 되는 “필터 버블”을 어떻게 촉진했는지에 대한 새로운 질문에 직면하고 있습니다. 상원의원인 마샤 블랙번(Marsha Blackburn)과 리처드 블루멘탈(Richard Blumenthal)은 회사 최고 경영진에게 앱이 어떻게 테스트되었는지, 어떤 경우에는 주요 안전 기능을 보류했는지에 대해 질문하는 날카로운 문구의 편지를 보냈습니다.
그 뒤에 문자가 온다 블룸버그 알고리즘 안전 기능과 관련하여 회사가 2021년에 시작한 실험에 대해 보고했습니다. 이러한 변경은 사용자가 “당신을 위한” 피드에서 “반복적인 패턴” 또는 “필터 버블”이라고도 하는 패턴을 피할 수 있도록 돕기 위한 것입니다. 회사는 당시 이 업데이트가 “단일 비디오로는 괜찮지만 클러스터로 볼 경우 문제가 될 수 있는 콘텐츠 카테고리를 너무 많이 보는 것”을 방지하기 위한 것이라고 밝혔습니다.
당시 회사가 공유하지 않은 것은 TikTok이 “통제 그룹”을 사용하여 참여에 미치는 영향을 테스트할 수 있도록 수백만 명의 사용자에 대한 기능을 보류할 계획이라는 것입니다. 미국의 한 10대 체이스 나스카(Chase Nasca)는 자신의 계정이 통제 그룹의 일부가 된 직후 자살로 사망했다고 합니다. 블룸버그. 이번 달 초 해당 매체가 보도한 내부 TikTok 문서에 따르면 이 십대는 “자살과 자해, 특히 자살 날짜까지 이어지는 우울한 주제를 둘러싼 반복적인 콘텐츠가 자신의 계정에 추천되는 필터 버블에 빠졌습니다.”
상원 의원은 편지에서 TikTok이 실험에 대한 세부 정보를 제공할 것을 요구하고 다른 사람들도 이를 좋아합니다. 회사는 또한 참여도나 광고 수익에 대한 잠재적인 영향 때문에 안전 기능 출시를 반대하기로 결정한 적이 있는지에 대한 압박을 받았습니다. 회사는 응답 기한을 9월 1일로 정했습니다. “이번 공개는 TikTok이 추천 시스템으로 인해 발생하는 위험에 대한 정보를 보유했을 뿐만 아니라 회사가 개입이 참여에 미치는 영향을 연구할 수 있도록 수백만 명의 사용자가 안전 개입에 대한 접근을 의도적으로 거부했음을 보여줍니다.”라고 편지는 말합니다.
두 국회의원 모두 십대를 위한 더 많은 보호 장치를 마련하기 위해 소셜 미디어 회사를 추진하는 데 긴밀하게 참여해 왔으며 어린이 온라인 안전법(KOSA)의 주요 옹호자였습니다. 2021년 실험은 TikTok 정책 관계자가 의회 청문회에 출석한 직후 Blumenthal과 Blackburn이 플랫폼에서 어린이를 보호하기 위해 더 많은 조치를 취할 것을 회사에 촉구한 직후 시작되었습니다. 상원의원들은 “이러한 폭로는 끔찍하지만 TikTok이 추천 알고리즘이 어린이에게 미치는 영향을 알고 있었기 때문에 더욱 불길한 일이 되었습니다”라고 썼습니다.
TikTok은 의견 요청에 즉시 응답하지 않았습니다.
이 주제에 대해 더 알고 싶다면 아래를 참고하세요
