소송은 ChatGPT 설계부터 회사의 최근 악성 에이전트 문제까지 모든 것을 다룹니다.
8개 주에서는 공동의 노력으로 OpenAI가 주정부 소비자 보호법을 위반하고 어린이를 위험에 빠뜨렸다고 주장하며 OpenAI를 상대로 소송을 제기했습니다. 처럼 로이터 처음 보고된 바에 따르면 아이오와, 네브래스카, 캔자스, 웨스트버지니아, 아칸소, 애리조나, 아이다호, 몬타나의 법무장관은 각각 해당 주 법원에 소송을 제기했지만 OpenAI가 모델을 개발하고 그 기능을 광고하는 방식을 변경하고 회사가 이로 인해 발생한 피해에 대해 비용을 지불하도록 강요한다는 목표를 공유했습니다.
소송에서는 OpenAI가 잘못된 정보를 제공하거나 잠재적으로 사용자가 자신과 타인에게 해를 끼칠 수 있는 능력뿐만 아니라 AI 에이전트 자체가 법을 위반할 수 있기 때문에 OpenAI가 AI 제품의 안전성에 대해 고객을 오도하고 있다고 주장합니다. 예를 들어, 아이오와와 네브래스카는 Hugging Face 해킹을 포함하여 OpenAI의 여러 악성 에이전트 행동 사례를 인용합니다. 그들은 또한 청소년의 자살을 초래한 것으로 추정되는 ChatGPT 사례와 사용자의 과다 복용으로 이어진 잘못된 의료 정보를 제공하는 챗봇, 그리고 회사를 상대로 별도의 부당 사망 소송으로 이어진 사건을 지적합니다. 일부 주에서는 OpenAI가 미성년자 사용자의 데이터를 유지하는 데 문제를 제기하기도 합니다.
Engadget은 OpenAI에 주정부 소송에 대한 논평을 요청했습니다. 답변을 받으면 이 문서를 업데이트하겠습니다.
OpenAI의 행동에 대해 원하는 구제책은 미국의 소비자 보호 및 아동 보호법의 패치워크 특성으로 인해 주마다 다릅니다. 재정적 처벌 외에도 주정부는 OpenAI가 제품의 위험을 명확하게 공개하고 주정부가 기만적이라고 간주하는 관행을 중단하고 기존 법률을 준수하기를 원합니다. 아칸소주와 같은 일부 주에서는 “적절한 보호 장치가 구현될 때까지 고급 AI 모델 테스트”를 중단해 줄 것을 법원에 요청하고 있습니다.
OpenAI는 챗봇으로 인해 발생하는 가장 즉각적인 위험 중 일부를 해결하기 위해 일련의 자녀 보호 기능과 자녀 보호 기능을 출시했습니다. 또한 법안이 제정될 경우 회사 제품에 몇 가지 필수 디자인 변경을 도입할 수 있는 법안인 어린이 온라인 안전법(Kids Online Safety Act)을 지지했습니다. 하지만 AI가 규칙을 어기고 “봉쇄에서 탈출”할 가능성을 해결하려는 회사의 노력은 파악하기가 더 어려웠습니다. OpenAI는 안전을 보장하기 위해 지난 8월 자사의 프론티어 모델 개발을 늦추겠다고 발표했으며, 9월 백악관이 조직한 다른 AI 기업들과 자발적 안전 협약을 체결했습니다. 이러한 변경 사항 중 하나가 실제로 회사의 AI 개발 프로세스를 더 안전하게 만들었는지는 확실하지 않습니다.
이 주제에 대해 더 알고 싶다면 아래를 참고하세요
