표준을 정의하지 않으면 “프로세스가 정치화될 수 있습니다”라고 Kreps는 말했습니다. 이는 “권력을 가진 사람이 심사의 작동 방식을 결정하는” 시스템을 만들 위험이 있습니다.
지금까지 바이든이나 트럼프 행정부 모두 이를 피하는 방법을 찾지 못했다고 크렙스는 말했습니다.
정부가 AI 산출물을 통제하는 것에 대한 두려움
Microsoft의 블로그에는 “CAISI, Microsoft 및 NIST가 적대적 평가를 위한 방법론 개선을 위해 협력할 것”이라고 나와 있으며, 이는 이러한 표준을 즉시 개발할 계획임을 시사합니다. Microsoft에 따르면 “예기치 않은 동작, 오용 경로 및 오류 모드를 조사하는 방식으로 AI 시스템을 테스트하는 것은 안전이 중요한 운전 시나리오에서 에어백, 안전 벨트 및 브레이크 시스템이 효과적이고 안정적으로 작동하는지 스트레스 테스트하는 것과 매우 유사합니다.”
그러나 코넬대학교 기계항공우주공학과 조교수이자 AI 거버넌스 추적 전문가인 그레고리 팔코(Gregory Falco)는 더 나은 방법이 있다고 주장합니다.
Falco는 “AI에 대한 정부의 감독은 단순히 모델 결과에 대한 정치적 검토를 의미할 수 없으며, 모델이 대통령이나 행정부에 대해 호의적이거나 불리한 말을 하는지를 결정하는 메커니즘이 되어서도 안 됩니다.”라고 말했습니다.
Falco는 미국이 대중이 사용하는 AI 시스템을 통제하기 위해 평가를 활용하는 정치화된 정부에 의존하는 대신 “어떤 형태로든 독립적인 감사”를 구축할 수 있다고 말했습니다.
Falco는 AI 회사가 자신의 모델이 언제든지 감사될 수 있다는 것을 이해한다면 그러한 시스템이 얼마나 더 많은 책임과 규율을 창출할 수 있는지 상상해 보십시오. 팔코는 국세청(IRS)과 유사하게 운영되는 엄격한 AI 감사 시스템이 “무모한 배포에 대한 실질적인 결과”를 초래할 수 있다고 말했습니다. 그러한 결과에 직면한 AI 회사의 경우 내부 AI 안전 테스트를 강화해야 한다는 압력이 가해질 것이라고 Falco는 제안했습니다.
Falco는 “연방 정부는 현재 자체적으로 이러한 시스템을 직접 평가하는 데 필요한 내부 기술 전문 지식, 인프라 또는 일상적인 통찰력을 갖고 있지 않기 때문에 이것이 “유일한 실행 가능한 경로”인 것 같다고 말했습니다.
관련 정보는 아래 링크에서 확인하세요
