인공 지능 개발은 현재의 거버넌스 시스템이 따라잡을 수 없을 정도로 빠른 속도로 진행되고 있다고 UN의 인공 지능에 관한 독립 국제 과학 패널이 예비 보고서에서 밝혔습니다. 전 세계 회원으로 구성된 패널은 AI 거버넌스에 관한 UN 글로벌 대화를 진행하는 데 필요한 정보를 제공할 것입니다. 제네바에서 회원국들이 기술 관리 방법을 논의하는 회의가 7월 6일 시작될 예정이다.
보고서에서 패널은 지난 몇 년 동안 AI 기능이 얼마나 빠르게 발전했는지 논의합니다. 분명히 AI 모델이 수행할 수 있는 작업의 복잡성은 몇 달마다 두 배로 증가하고 있습니다. 보고서는 AI가 신약 발견과 백신 개발을 가속화하고 항생제 내성 연구에 크게 기여하는 등 인류에게 막대한 이점을 제공한다는 점을 인정합니다. 의사들은 유방암과 같은 질병의 조기 발견을 위해 AI 시스템을 사용할 수도 있고, 과학자들은 식량 불안에 대한 조기 경고 시스템으로 AI를 사용할 수도 있습니다.
그러나 보고서는 AI 시스템이 만들어냈고 만들어낼 수 있는 새로운 종류의 피해에 대해서도 설명합니다. 사람들은 AI를 사용해 실제 사람들의 아동 성적 학대 자료를 포함해 성적으로 노골적인 딥페이크를 생성하고 배포해 왔습니다. 예를 들어 캘리포니아는 지난 1월 합의되지 않은 딥페이크와 CSAM에 대해 Grok에 대한 조사를 시작했습니다. AI는 사실인 것처럼 보이는 허위 정보를 생성할 수도 있으며, 범죄자는 AI 시스템을 사용하여 사이버 공격을 지원할 수도 있습니다.
일부 AI 모델은 그러한 아첨꾼이 될 수 있습니다. 이는 사용자의 유해한 행동을 강화하며 심지어 자살로 이어질 수도 있다고 보고서는 밝혔습니다. 패널은 또한 AI 모델이 더욱 자율화되면서 이를 모니터링하고 제어하기가 더 어려워진다고 경고합니다. 그리고 AI 시스템을 강화하기 위한 대규모 데이터 센터 구축에 대한 우려가 커지고 있으며, 이는 인근 지역 사회에 해를 끼칠 수 있습니다.
UN 패널은 현재의 거버넌스 시스템이 그렇게 빠르게 발전하는 기술을 위해 설계되지 않았기 때문에 정책 입안자들이 AI 개발 속도를 맞추는 데 어려움을 겪고 있다고 설명합니다. 일반적으로 당국은 규제를 도입하기 전에 과학적 데이터가 필요하지만, 기술을 더 잘 이해할 수 있을 만큼 충분히 확보될 때쯤에는 AI 시스템이 이미 발전했을 수도 있습니다.
패널은 “이 보고서는 AI 시스템이 안전하고 투명하며 책임성을 유지하기 위해 더 강력한 독립적인 평가, 국제 협력 및 공통 표준이 필요하다는 사실을 발견했습니다”라고 썼습니다. 적절한 보호 장치가 없으면 AI 기술은 “불평등을 심화시키고, 잘못된 정보를 퍼뜨리고, 인권을 위협하고, 노동 시장을 혼란에 빠뜨릴 수 있으며” “소수의 정부와 기업”이 접근할 수 있는 강력한 도구가 될 수 있습니다.
보고서는 AI 시스템에 대한 접근이 선진국에 집중되어 있으며 대부분의 시스템이 미국과 중국에서 개발되었다고 지적합니다. 대부분의 개발도상국은 AI의 진정한 혜택을 누리는 데 필요한 인프라와 전문 지식이 부족합니다. 패널은 “과제는 AI의 엄청난 이점을 활용하는 동시에 증가하는 위험을 방지할 수 있는 방법을 찾는 것”이라고 말합니다. 규제보다는 과학적 역할을 맡은 UN 패널은 당국이 정책 개발에 사용할 수 있는 AI 기술을 계속 평가할 것입니다. 내년에는 보다 포괄적인 보고서를 발표할 것으로 예상된다.
관련 정보는 아래 링크에서 확인하세요
