지난 5년 동안 Meta의 감독 위원회는 도널드 트럼프의 Facebook 정지부터 AI 딥페이크에 이르기까지 모든 것에 무게를 두었습니다. 이제 이사회는 또 다른 까다로운 문제인 사용자 계정 비활성화에 대한 Meta의 규칙을 다루고 있습니다.
이사회는 올해 초 종종 실망스러울 정도로 불투명한 프로세스에 대한 투명성을 개선할 방안을 검토하겠다고 발표했습니다. 감독 그룹은 언론인을 대상으로 위협적인 게시물을 올린 후 금지된 팔로어 7만 명을 보유한 인스타그램 계정과 관련하여 메타(Meta)의 추천을 받은 후 문제를 조사했습니다.
결정에서 감독위원회는 Meta가 계정을 금지한 것이 옳았지만 이 사건은 회사의 그러한 행동 처리에 대한 “심각한 질문”과 계정 비활성화 방법에 대한 “적법 절차 문제”를 제기했다고 밝혔습니다. 이것은 테스트 사례이기 때문에 이사회는 Meta에 공식적인 권장 사항을 제시하지는 않지만 여러 가지 잠재적인 개선 사항을 강조합니다. 분석은 또한 Meta 플랫폼의 금지로 이어지는 규칙과 처벌의 혼란스러운 패치워크와 이로 인해 사용자에게 초래되는 엄청난 좌절감을 강조합니다.
예를 들어, 이사회는 Meta가 Facebook과 Instagram에 대해 놀라울 정도로 다른 프로세스를 가지고 있다고 지적합니다. 두 플랫폼 모두 “경고”로 계정에 불이익을 주지만, 경고가 반복되면 결과가 달라질 수 있습니다. Facebook에서는 전면적으로 금지되기 전에 반복적인 위반으로 인해 계정이 일시적으로 정지될 수 있습니다. 그러나 인스타그램에는 그러한 처벌이 존재하지 않는다고 위원회는 말합니다. 대신 Meta는 Instagram의 라이브 스트리밍 기능에서 계정을 제한하거나 추천에서 해당 계정을 제거합니다(Instagram 사용자는 이를 종종 “Shadowban”이라고 함).
감독 위원회는 모든 계정에서 이 기능을 사용할 수 없는 경우(최소 1,000명의 팔로어가 필요함) 라이브 스트리밍을 제한하는 것이 Instagram의 주요 “중간” 처벌 중 하나라는 것이 얼마나 기괴한지 정당하게 지적합니다. “영구 게시물에 대한 위반의 경우, 사용자의 게시물 기능을 정지함으로써(예: 일정 기간 동안 계정을 읽기 전용 모드로 전환하는 등) 위반 행위에 직접적으로 해당하는 처벌은 행동에 영향을 미칠 가능성이 더 크다”고 지적합니다.
또한 이사회는 계정이 비활성화된 Facebook 및 Instagram 사용자들 사이에서 오랫동안 끓어오른 불만을 다루었습니다. 이 단체는 이 사건에 대해 750개 이상의 공개 댓글을 받았다고 밝혔으며, 개별 이사회 구성원이 계정을 비활성화한 사람들로부터 정기적으로 받는 “수많은” 불만 사항에 더해 말입니다.
“많은 논평자들은 시스템이 작동하지 않는 것에 대해 글을 썼습니다. 자신의 계정을 비활성화하려는 Meta의 결정에 항소할 수 없으며 계정이 비활성화된 이유에 대한 설명을 전혀 받지 못했거나 콘텐츠를 다운로드할 수 없었다고 말했습니다.”라고 위원회는 썼습니다. “이러한 사용자 중 다수는 오랫동안 지속되고 널리 팔로우되는 계정의 비활성화에 대한 항소에도 불구하고 사람의 감독 없이 자동으로 결정이 내려진 것으로 보인다고 언급했습니다.”
이사회는 Meta에 대한 지침에서 회사가 사용자에게 서면 설명을 제공할 수 있는 더 나은 항소 프로세스를 제공해야 하며 AI가 계정에 불이익을 주는 데 사용될 때 사용자에게 알림을 제공해야 한다고 제안합니다. 이사회는 추가적인 가시성을 위해 계정 금지에 대한 정보를 Meta의 투명성 보고서에 추가할 수 있다고 제안합니다. 또한 메타는 “고위험 폭력 대상과 그 대리인”이 심각한 위협을 신고할 수 있는 전용 채널을 제공할 것을 권고합니다.
이 사건이 “파일럿”으로 묘사된다는 점을 감안할 때 Meta가 이사회의 비판에 대응하여 실질적인 정책 변경을 계획하고 있는지 여부는 불분명합니다. 하지만 Meta가 개선되기를 원하는 사람들에게는 여전히 희망이 있습니다. 이사회는 향후 계정 비활성화와 관련된 더 많은 사례를 받아들일 계획이며, 이를 통해 일부 개혁에 영향을 미칠 수 있는 더 나은 기회를 제공할 수 있기를 바랍니다.
이 주제에 대해 더 알고 싶다면 아래를 참고하세요