법안 본문에서 다루는 시나리오에는 AI가 시스템 개발자나 운영자가 의도한 목표가 아닌 목표를 추구하는 경우, 합법적인 종료 명령을 방해하거나 방해하는 경우, 모니터링 또는 종료 메커니즘에서 기능이나 조치를 숨기는 경우가 포함됩니다.
더 불길하게도 이 법은 “해당 기술의 개발자 또는 운영자가 의도하지 않은 기술 수행으로 인해 10명 이상의 개인이 사망하거나 $100,000,000 이상의 경제적 손해를 초래하는 행위”를 다루고 있습니다. 이는 극단적인 시나리오이기는 하지만, 법안에 설명된 다른 시나리오는 아마도 훨씬 덜 재앙적인 사건에서 호출될 수 있을 것입니다.
해당 법안은 “상무부 장관 및 국가정보국장과 협의하여 국토안보부 장관에게 치명적인 해를 끼칠 수 있는 AI 시스템의 속도를 늦추거나 종료하도록 명령할 수 있는 권한을 부여한다”고 국회의원들은 발표하면서 “사고 보고를 요구하고 법의학 기록을 보존하여 사후에 대해 듣는 것이 아니라 실패로부터 실제로 배울 수 있도록 할 것”이라고 덧붙였다.
국회의원의 제안은 AI 시스템에 대한 법적 제한을 옹호하는 여러 비영리 단체의 지지를 받고 있습니다.
미국 책임 혁신(Americans for Responsible Innovation)의 브래드 카슨(Brad Carson) 회장은 “고급 AI 모델은 안정적인 전원 끄기 없이 배포되어서는 안 됩니다.”라고 말했습니다. 민주당 의원인 카슨은 전직 하원의원이자 국방부 관리였습니다. “AI 킬 스위치법(AI Kill Switch Act)은 선도적인 AI 기업이 모델을 종료할 수 있는 능력을 유지하도록 요구하고 배포된 시스템이 치명적인 피해를 입힐 수 있는 위험이 있을 때 연방 정부가 조치를 취할 수 있도록 권한을 부여함으로써 상식적인 보호 장치를 확립합니다.”라고 그는 말했습니다.
관련 정보는 아래 링크에서 확인하세요
