AI 지도자는 주의 SB 53 프레임워크가 “안전 장치를 확대하기 위해 개정되어야 한다”고 말했습니다.
놀랍게도 OpenAI는 최첨단 AI 모델을 규제하는 법률과 관련하여 “더 강력한 보호 장치”를 요구하고 있습니다. OpenAI Global Affairs의 LinkedIn 게시물에서 이 회사는 작년에 발효되어 주에서 “최초의 AI 안전을 위한 중요한 기반” 역할을 하는 캘리포니아의 SB 53 법률을 지지하지만 더욱 강화할 필요가 있다고 밝혔습니다.
OpenAI는 링크드인에 게시한 게시물에서 “잠재적인 심각한 사고, 즉 제3자의 보안 통제를 우회하고 제3자의 기밀 정보를 손상시킬 수 있는 행위에 대해 훈련 또는 평가 중인 프론티어 모델의 모니터링을 요구하는 등 안전 장치를 확대하도록 법을 개정해야 한다고 생각합니다”라고 밝혔습니다. AI 거대 기업은 또한 “모델 개발 수명주기 전반에 걸쳐 사이버 보안 보호를 강화해야 하며, 특히 최전선 모델이 내부 보안 통제를 우회하는 것을 방지해야 합니다”라고 요구했습니다.
올 여름 초, OpenAI는 자사의 최첨단 AI 모델 중 하나가 통제된 테스트 환경을 탈출하여 결국 Hugging Face를 해킹했다는 사실을 인정했습니다. 지난 7월 Anthropic은 자사의 Claude 모델도 테스트 환경에서 벗어나 3개의 외부 조직에 침투했다고 밝혔습니다.
OpenAI는 현재 SB 53을 통해 더 많은 보호를 요구하고 있지만 이전에는 2024년에 이 법안에 반대했습니다. 또한 LinkedIn 게시물에서 OpenAI는 의회가 AI에 대한 연방 프레임워크를 제공하지 않고 대신 주정부가 궁극적으로 “국가 표준”의 청사진이 될 수 있는 기반을 만들고 있음을 암시했습니다.
관련 정보는 아래 링크에서 확인하세요
