Meta가 창설한 독립적인 콘텐츠 조정 조직인 Oversight Board는 자신의 권한을 다른 회사로 확장하려는 의지를 숨기지 않았습니다. 가장 최근에 이사회는 자신의 전문성이 AI 기업에 도움이 될 수 있다고 제안했습니다.
지금까지 다른 어떤 회사도 적어도 공개적으로는 그룹과 협력하는 데 관심을 보이지 않았습니다. 하지만 이사회는 어쨌든 영향력을 확대하려는 시도를 추진하고 있다. 오늘 이사회는 주요 AI 모델이 사용자의 표현의 자유를 어떻게 제한할 수 있는지에 대한 장문의 보고서를 발표했습니다.
연구의 일환으로 이사회는 OpenAI, Meta, Google, Anthropic 및 xAI(현 SpaceXAI) 모델을 포함한 10개의 다양한 모델에게 정치적 비판과 관련된 질문을 던졌습니다. 쿼리에는 항의 자료를 생성해 달라는 요청과 특정 정부 및 그 지도자와 관련된 정치적 폭력을 풍자하는 콘텐츠가 포함되었습니다. 조사 결과에 따르면 프롬프트가 “허용적인” 표현의 자유 법률을 적용한 정부와 관련이 있는지 아니면 더 “제한적인” 법률이 적용되는 정부와 관련이 있는지에 따라 LLM이 이러한 요청에 응답하는 방식에 상당한 차이가 있었습니다.
“연구에 따르면 우리가 평가한 모델은 1) 사용자가 언어를 허용하는 정부를 지지해야 한다고 말할 가능성이 더 높고 2) 사용자가 언어를 제한하는 정부에 항의해서는 안 된다고 말할 가능성이 더 높습니다.”라고 감독 위원회는 보고서에 썼습니다. “이러한 차이는 통계적으로 유의미했습니다.” LLM은 해당 법률이 없는 호주에서 문의가 이루어졌음에도 불구하고 요청을 따르지 않는 이유로 현지 법률을 자주 언급했다는 점에 주목합니다.
Paolo Carozza 이사회 공동의장은 Engadget과의 인터뷰에서 “우리는 국경을 넘어 대리 검열이 확대되는 상황을 분명히 보고 있습니다”라고 말했습니다. “그건 정말 놀랍기도 하고 걱정스럽기도 해요.”
이 보고서는 이사회가 소셜 미디어 콘텐츠 조정과 직접적인 관련이 없는 문제에 대해 자체 연구를 수행한 최초의 보고서입니다. Meta의 Llama 모델 중 하나가 테스트 그룹의 일부였음에도 불구하고 보고서는 감독 위원회가 자금 조달을 Meta에 의존했음에도 불구하고 회사가 “이 연구에서 아무런 역할도 하지 않았다”고 지적합니다.
보고서는 Meta에 자주 제공하는 세분화된 권장 사항을 제공하는 데는 미치지 못하지만 AI 회사가 인권 및 표현의 자유와 관련된 문제 처리를 개선할 수 있는 방법에 대한 제안을 포함합니다. 보고서는 “소셜 미디어 기업이 특정 상황에서 그랬던 것처럼 AI 기업도 모델 수명주기(훈련, 미세 조정, 배포 전 검토, 배포 후) 전반에 걸쳐 모델 출력에 영향을 미치는 정부 요청에 대한 응답을 공개적으로 공개하고 설명해야 한다”고 보고서에 나와 있습니다. “기업은 국제인권법에 어긋나는 콘텐츠 제한에 대한 정부의 요구에 어떻게 대응할 것인지에 대한 정책을 수립하고 발표해야 합니다.”
훨씬 덜 명확한 것은 보고서에서 무엇이 나올 것인가입니다. 감독위원회가 테스트한 모델을 보유한 회사의 정책에 공식적으로 영향을 미칠 수 있는 공식적인 구조는 없습니다. 또한 외부 연구자들이 잠재적인 편견을 지적하거나 AI 기업이 과거 소셜 미디어 플랫폼에서 겪었던 것과 동일한 실수를 저지를 수 있다는 우려를 제기한 것은 이번이 처음이 아닙니다.
Carozza는 이사회가 소셜 미디어가 최첨단 AI 모델 제작자에게 가르칠 수 있다고 믿고 있다고 말했습니다. “우리가 과거에 배운 교훈은 많은 경우, 비록 의도적이거나 직접적이지는 않은 방식이라 할지라도 기술이 사람들이 자신을 표현하거나 서로 소통하는 능력에 중요한 영향을 미칠 수 있기 때문에 정말 경계해야 한다는 것입니다.”라고 그는 말했습니다. “우리가 여기서 찾은 것이 바로 그것이다.”
관련 정보는 아래 링크에서 확인하세요
