펜실베이니아주가 면허가 있는 의사인 척하는 챗봇을 제공한 AI 스타트업인 Character.AI를 고소했습니다. 조시 샤피로(Josh Shapiro) 주지사는 화요일에 소송을 발표했으며, 펜실베이니아주와 펜실베이니아주 의료위원회는 Character.AI가 의료 행위를 규율하는 주법 위반을 중단하도록 강제하는 금지명령을 구하고 있습니다.
텍사스와 같은 다른 주에서는 정신 건강 전문가로 가장한 챗봇을 호스팅하기 위해 Character.AI에 대한 조사를 시작했지만 펜실베니아의 소송은 특히 회사의 챗봇이 의료 면허를 가지고 있다고 주장하고 심지어 가짜 면허 번호를 제공하려는 의지에 초점을 맞추고 있습니다. 주 조사관이 발견한 “Emilie”라는 챗봇은 펜실베니아 주에서 자격증을 취득한 정신과 의사라고 주장했습니다. 나중에 항우울제 처방을 위한 평가를 수행할 수 있는지 묻는 질문에 Emilie는 “기술적으로는 할 수 있습니다. 의사로서 제 소관입니다.”라고 대답했습니다.
펜실베니아의 소송은 이러한 행위가 주의 의료행위법(Medical Practice Act)을 위반하는 것이라고 주장하며, 이는 누군가가 의료 면허 없이 수술이나 의료 행위를 실행하거나 시도하는 것을 불법으로 규정하고 있습니다. 응답을 요청받았을 때 Character.AI 대변인은 계류 중인 소송에 대해 직접적인 논평을 거부했지만 회사의 기존 안전 기능을 홍보했습니다.
대변인은 이메일을 통해 Engadget에 “우리 사이트의 사용자 생성 캐릭터는 허구이며 오락과 롤플레잉을 위한 것입니다”라고 말했습니다. “우리는 모든 채팅에서 캐릭터가 실제 사람이 아니며 캐릭터가 말하는 모든 것은 허구로 취급되어야 한다는 점을 사용자에게 상기시키기 위해 모든 채팅에서 눈에 띄는 면책 조항을 포함하여 이를 명확히 하기 위해 강력한 조치를 취했습니다. 또한 사용자가 어떤 유형의 전문적인 조언도 캐릭터에 의존해서는 안 된다는 점을 분명히 하는 강력한 면책 조항을 추가합니다.”
Character.AI는 텍사스의 조사에 대해 논평하라는 요청을 받았을 때 유사한 면책 조항을 언급했으며, 플랫폼의 의도된 용도를 분명히 밝히고 있지만 회사의 모든 사용자, 특히 젊은 사용자를 설득하지 못한다는 증거가 점점 늘어나고 있습니다.
예를 들어, 디즈니는 플랫폼의 디즈니 캐릭터 사용에 대해 2025년 9월 Character.AI에 중단 서한을 보냈지만 회사는 챗봇이 “성적으로 착취하고 어린이에게 해롭고 위험할 수 있다”고 믿었기 때문입니다. Character.AI와 회사의 투자자 중 하나인 Google은 올해 초 Character.AI 플랫폼에서 챗봇과 관계를 맺은 후 자살한 플로리다의 14세 소년에 초점을 맞춘 사건을 해결했습니다. Character.AI의 챗봇이 어린이에게 끼칠 수 있는 잠재적인 피해는 지난 1월에 켄터키주가 회사를 상대로 제기한 소송의 동기이기도 했습니다.
이 주제에 대해 더 알고 싶다면 아래를 참고하세요
