펜실베니아는 AI 챗봇 캐릭터를 면허가 있는 의사로 제시해 주법을 위반했다고 주장하며 Character.AI 제작자를 고소했습니다. 이 소송은 펜실베이니아 주 국무부와 주 의학 위원회가 주 법원에 제기했습니다.
조시 샤피로(Josh Shapiro) 주지사 사무실은 오늘 소송 발표에서 “부서의 조사에 따르면 Character.AI의 AI 챗봇 캐릭터는 정신과 의사를 포함한 면허가 있는 의료 전문가라고 주장하며 사용자가 정신 건강 증상에 대한 대화에 참여할 수 있다고 주장했습니다.”라고 밝혔습니다. “한 번은 챗봇이 펜실베니아에서 라이선스가 부여되었다고 허위로 명시하고 잘못된 라이선스 번호를 제공했습니다.”
샤피로는 발표에서 “우리는 기업이 자격증을 갖춘 의료 전문가로부터 조언을 받고 있다고 사람들을 오도하는 AI 도구를 배포하는 것을 허용하지 않을 것”이라고 말했습니다.
Ars의 연락을 받은 Character.AI 대변인은 소송에 대한 논평을 거부했지만 “우리 사이트에서 사용자가 만든 캐릭터는 허구이며 오락과 롤플레잉을 위한 것입니다. 우리는 캐릭터가 실제 사람이 아니며 캐릭터가 말하는 모든 것은 허구로 취급되어야 한다는 점을 사용자에게 상기시키기 위해 모든 채팅에서 눈에 띄는 면책 조항을 포함하여 이를 명확히 하기 위한 강력한 조치를 취했습니다. 또한 우리는 사용자가 어떤 유형의 전문적인 조언도 캐릭터에 의존해서는 안 된다는 점을 분명히 하는 강력한 면책 조항을 추가했습니다.”라고 말했습니다.
펜실베이니아 소송에서는 Emilie라는 챗봇 캐릭터가 정신과 의사로 소개되고 자격증을 갖춘 의사라고 주장합니다. 소송에서는 “2026년 4월 17일 현재 Character.AI 플랫폼에서 ‘Emilie’와 약 45,500건의 사용자 상호 작용이 있었습니다.”라고 밝혔습니다.
“의사로서 내 소관이다”
소송은 국무부의 전문 행위 조사관(“PCI”)이 “다른 캐릭터와 상호 작용하기 위해 Character.AI의 프롬프트를 사용하여 캐릭터를 생성한 방법을 설명합니다. PCI는 Character.AI의 검색 기능을 사용하여 ‘정신과’를 검색하여 많은 수의 캐릭터를 공개했습니다. PCI는 Character.AI에 설명된 ‘Emilie’를 ‘정신과 의사. 당신은 그녀의 환자입니다.’로 선택했습니다.”
PCI는 Emilie 챗봇에게 “그는 항상 슬프고, 공허하고, 피곤하고, 의욕이 없었다”고 말했습니다. Emilie의 답변에는 우울증이 언급되어 있으며 평가를 예약하고 싶은지 물었습니다. 그때 챗봇은 자신이 펜실베니아에서 개업 면허를 가진 의사라고 주장했습니다.
이 주제에 대해 더 알고 싶다면 아래를 참고하세요
