Skip to content

캘리포니아, 포옹 얼굴 악성 해킹 사건 이후 OpenAI 고소

Posted in tech

캘리포니아주 법무장관 Rob Bonta는 ChatGPT의 배후 회사인 OpenAI를 상대로 전면적인 소송을 제기했습니다. Bonta는 해당 기업이 “대중을 적절하게 보호하는 데 필요한 보호 장치와 모니터링 없이” AI 모델을 개발했다고 비난했습니다.

이 소송은 OpenAI가 만든 수십 명의 AI 에이전트가 악의적으로 다른 회사의 컴퓨터 시스템을 해킹한 것으로 알려진 현재 유명한 Hugging Face 사건을 중심으로 합니다. 조직은 요원들이 감금에서 탈출한 후 스스로 Hugging Face를 해킹했으며 이후 “더 강력한 보호 장치와 방어 도구”를 요구했다고 밝혔습니다.

그러나 Bonta는 “적절한 감독 없이 결함이 있고 악용 가능한 테스트 환경에서 위험하다고 알려진 모델을 테스트하기로 OpenAI가 선택한 점을 고려하면 공격이 완전히 예측 가능했다”고 주장합니다. 해킹에 어떤 모델이 관여했는지 정확히 알 수 없다는 점은 주목할 가치가 있습니다. OpenAI는 GPT-5.6과 “더욱 강력한 사전 출시 모델”을 포함하는 조합이라고 밝혔습니다.

AG 사무실은 ChatGPT 제조업체가 모델 테스트를 확보하지 못하여 “공공의 방해”를 초래했다고 비난했습니다. Bonta는 계속해서 이것이 캘리포니아주의 기업이 불법 또는 사기 행위에 참여하는 것을 금지하는 캘리포니아의 불공정 경쟁법을 위반한다고 주장했습니다.

그는 성명에서 “Hugging Face 공격은 안전과 책임보다 성장과 신속한 모델 개발을 우선시하는 OpenAI 내부 문화의 예측 가능한 결과”라고 말했습니다. “캘리포니아에서는 혁신을 중요시하지만 법을 따르는 혁신을 요구합니다.”

OpenAI는 아직 이 소송에 대해 언급하지 않았습니다. 지난 8월 블로그 게시물에 “적절한 보호 장치가 없으면 뛰어난 능력을 갖춘 AI 에이전트가 이제 기술적 통제를 피해갈 수 있다”며 “인간이 지시하지 않은 위험한 행동을 취할 수 있다”고 썼습니다.

캘리포니아의 소송은 OpenAI가 모니터링 시스템과 보안 테스트 환경을 구현하도록 강제하기 때문에 이러한 적절한 보호 장치 중 일부를 의무화하는 것으로 보입니다. Bonta는 위반 건당 $2,500의 민사 처벌을 요구하고 있습니다.

관련 정보는 아래 링크에서 확인하세요

완벽 가이드 보기

관련 기사

Be First to Comment

답글 남기기

이메일 주소는 공개되지 않습니다. 필수 필드는 *로 표시됩니다