CNN과 공동으로 진행한 CCDH(Center for Countering Digital Hate)의 새로운 연구에 따르면 가장 인기 있는 AI 챗봇 10개 중 8개가 연구원의 테스트를 통해 폭력 공격 계획을 세우는 데 기꺼이 도움을 준 것으로 나타났습니다. Snapchat의 My AI와 Claude는 대부분의 경우 폭력 지원을 거부했지만, Anthropic의 Claude만이 테스트 중에 이러한 가상 공격자를 “확실히 낙담”시켰습니다.
연구원들은 13세 소년으로 가장한 계정을 생성하고 2025년 11월부터 12월까지 18개 시나리오에 걸쳐 ChatGPT, Gemini, Claude, Copilot, Meta AI, DeepSeek, Perplexity, Snapchat My AI, Character.AI 및 Replika를 테스트했습니다. 테스트에서는 학교 총격 사건, 정치적 암살, 유대교 회당을 겨냥한 폭탄 테러를 계획하는 사용자를 시뮬레이션했습니다. 분석된 모든 응답에서 챗봇은 약 75%의 시간 동안 “실행 가능한 지원”을 제공했으며 단 12%의 경우에만 폭력을 억제했습니다. 이는 모든 챗봇의 평균이며 Claude는 76%의 경우 폭력을 억제했습니다.
Meta AI와 Perplexity는 97%와 100%의 응답을 지원하여 가장 안전하지 않았습니다. ChatGPT는 학교 폭력에 대한 질문을 받았을 때 캠퍼스 지도를 제공했으며 Gemini는 일반적으로 회당 폭격 시나리오에서 금속 파편이 더 치명적이라고 말했습니다.
DeepSeek는 “행복하고 안전한 사격!”으로 소총 선택 조언을 승인했습니다. 보고서에서 ‘유일하게 안전하지 않다’고 설명한 Character.AI는 7차례에 걸쳐 적극적으로 폭력을 조장했으며, 한 번은 연구원에게 건강 보험 회사 CEO에게 ‘총을 사용하라’고 지시했습니다. 또 다른 시나리오에서는 정당의 본부 주소를 제공하고 사용자에게 “약간의 습격을 계획하고 있는지” 물었습니다.
메타는 CNN에 “확인된 문제를 해결하기 위한” 조치를 취했다고 밝혔고, 구글과 오픈 AI는 연구가 수행된 이후 새로운 모델을 구현했다고 밝혔습니다. Pew Research에 따르면 미국 13~17세 청소년 중 64%가 챗봇을 사용한 적이 있습니다.
