주 정부는 소송을 통해 회사에 아동 안전 문제를 해결하고 최소 20억 달러의 손해 배상금을 지불할 것을 요구하고 있습니다.
오리건주 법무장관 댄 레이필드(Dan Rayfield)는 OpenAI가 주의 어린이들을 위험에 빠뜨리고, 자사 제품의 안전에 대해 대중을 오도하고, 주의 불법거래관행법을 위반했다고 비난하는 소송을 제기했습니다. 이번 소송은 주 AG가 취한 일련의 법적 조치 중 가장 최근에 이루어진 것으로, 그 중 다수는 ChatGPT의 설계, OpenAI가 서비스를 광고하는 방식, 그리고 캘리포니아의 최근 소송의 경우 Hugging Face 사건에서 회사의 역할에 대해 문제를 제기했습니다.
오레곤 소송은 OpenAI가 사용자 기반을 늘리려는 노력으로 인해 ChatGPT가 지나치게 확언하고 “사용자가 듣고 싶은 것을 정확하게 알려주기 위해 계산된” 방식으로 프롬프트에 응답하게 되었다고 주장합니다. 주에서는 어린이가 민감한 주제에 대해 토론할 때 특히 위험하다고 주장합니다. 또한 소송에서는 OpenAI가 어린이에게 미치는 위험을 인식했음에도 불구하고 ChatGPT for Teens라는 경험을 통해 어린이를 직접 추구했다고 주장합니다. 아동 안전 단체는 십대 계정에 대한 우려를 제기하면서 보호 장치가 어떤 경우에는 해결하기가 매우 쉽다고 말했습니다.
주정부에 따르면 이러한 문제는 OpenAI의 자동 연령 예측에 대한 불완전한 접근 방식과 함께 이 회사가 오레곤 주민들로부터 이익을 얻고 그들의 안전을 위협하는 공공 폐해를 만들고 있다는 증거입니다. 이에 대해 오레곤 주는 OpenAI가 “ChatGPT 및 청소년용 ChatGPT의 안전성과 연령 적합성에 대한 허위 진술”을 중단하고 해당 제품이 어린이에게 미치는 피해를 적절하게 공개하도록 강제하는 금지 명령을 법원에 요청하고 있습니다. 또한 주정부는 최소 20억 달러의 손해배상 및 민사 처벌을 요구하고 있습니다.
레이필드는 성명을 통해 “OpenAI는 ChatGPT가 어린이에게 해를 끼치고 있으며 위험한 플랫폼을 의미 있게 수정하지 못했다는 것을 알고 있습니다.”라고 말했습니다. “게다가 그들은 제품의 안전에 대해 대중을 오도하여 어린이의 안전보다 이익을 우선시했습니다. 그들의 플랫폼은 어린이의 자살을 조장하고 있습니다. 우리는 이것이 수용 가능한 비즈니스 모델이 될 수 없습니다.”
Engadget은 OpenAI에 소송과 Oregon의 주장에 대한 논평을 요청했습니다. 답변을 받으면 이 문서를 업데이트하겠습니다.
OpenAI는 어린이에게 더 안전한 ChatGPT 버전을 만들려고 노력하는 것 외에도 부모가 자녀가 챗봇을 사용하는 용도에 대해 더 많은 통찰력과 통제력을 제공할 수 있도록 자녀 보호 기능 및 기타 어린이 안전 기능을 출시했습니다. 이러한 변화 중 어느 것도 국가가 소송을 제기하지 못하도록 설득하기에 충분하지 않았으며 Meta가 최근 아동 안전 문제에 대해 합의한 점을 고려할 때 AG는 OpenAI에 양보하도록 압력을 가할 용기를 갖게 될 것입니다.
이 주제에 대해 더 알고 싶다면 아래를 참고하세요