ChatGPT를 안전하지 않게 만든 혐의로 기소된 Altman
이번 소송은 알트만이 사용자 안전을 고려하지 않고 AI 시스템을 무정하게 배포했다고 비난한 이전 소송에 이어졌습니다.
불만 사항에서 Uthmeier는 Altman이 TED2025 참석자들에게 현재 OpenAI가 실제 사용자를 대상으로 자사 제품의 안전 테스트를 수행하는 것이 “상대적으로 낮다”고 말했던 방법을 회상했으며, 이것이 반복적으로 개선할 수 있는 유일한 방법이라고 주장했습니다.
“그러나 위험은 낮지 않습니다”라고 Uthmeier는 말했습니다. “취약한 어린이를 포함한 플로리디안 사람들은 피고인의 기만적이고 비윤리적이며 무모하게 위험한 행위로 인해 금전적 손실, 정신 건강 피해, 인지 저하 및 신체적 피해를 입었습니다. 피고인은 자신이 초래한 피해와 그들과 ChatGPT가 계속해서 플로리디안에게 가하는 위험에 대해 책임을 져야 합니다.”
보도 자료에서 Uthmeier는 ChatGPT 모델 4o와 같은 제품을 서둘러 시장에 출시할 때 OpenAI가 “내부 및 외부 안전 경고를 무시하고 어린이를 큰 위험에 빠뜨리며 위험한 제품이 수백만 명의 플로리다 사람들에게 도달하도록 허용했습니다”라고 주장했습니다.
마찬가지로 고소장에는 Altman이 “회사의 행동으로 인해 발생하는 인간 생명에 대한 위험을 완전히 무시하는 것을 포함하여 OpenAI의 창립자이자 CEO로서 무모하고 고의적인 행동을 통해 플로리다 주민들에게 끼친 피해에 대해 개인적으로 책임을 져야 한다”고 명시되어 있습니다.
손실이 발생하면 OpenAI는 어린이를 보호하기 위해 무료 ChatGPT 계정에 연령 제한을 적용하고, 폭력과 자살에 대해 논의하는 대화를 중단하고, ChatGPT가 사람과 대화하는 것처럼 느끼게 만드는 기능을 제거하는 등의 구제책을 구현하라는 압력에 직면할 수 있습니다.
더 많은 자녀 보호 기능이 없으면 주에서는 청소년의 ChatGPT 액세스를 금지할 수 있습니다.
“ChatGPT는 플로리다의 십대들이 사용하기에 안전하지 않습니다. 이를 사용하면 자해, 인지 저하 및 행동 중독으로 이어질 수 있습니다.”라고 불만 사항이 적혀 있습니다.
X에서 실시간 스트리밍된 기자 회견에서 Uthmeier는 OpenAI에 책임을 묻고 기자의 질문에 답하기 위해 어린이를 보호하려는 다른 주와 협력하겠다고 다짐했습니다. 주정부가 OpenAI뿐만 아니라 모든 AI 회사를 추진할 계획인지 묻는 질문에 Uthmeier는 플로리다가 “확실히” 다른 플랫폼을 검토하고 있지만 Altman이 아이들에게 위험한 기능을 추진하는 데 “중심”을 두고 있는 “ChatGPT가 가장 심각한 것으로 보인다”고 말했습니다.
Uthmeier는 “전투를 준비하세요. 지금 당장 이보다 더 중요한 것은 없습니다”라고 말했습니다.
관련 정보는 아래 링크에서 확인하세요
