OpenAI CEO 샘 알트먼(Sam Altman)이 2월 10일 발생한 치명적인 학교 총격 사건의 여파로 브리티시 컬럼비아주 텀블러 리지(Tumbler Ridge) 주민들에게 공개 사과를 쓴 지 불과 며칠 만에, 충격적인 사건의 피해자 가족들은 OpenAI를 과실로 고소하고 있습니다.
캐나다 역사상 가장 치명적인 총격 사건 중 하나인 이번 총격 사건에서는 범인으로 추정되는 18세 제시 반 루트셀라(Jesse Van Rootselaar)가 마을의 고등학교에 침입해 학생 5명과 교사 1명이 숨지고 다른 2명에게 중상을 입은 뒤 스스로 목숨을 끊었습니다. 지역 경찰은 나중에 Van Rootselaar가 학교에 들어가기 전에 어머니와 11세 이복형도 살해했다는 사실을 발견했습니다.
당 NPRTumbler Ridge의 일부 가족을 대표하는 변호사들은 수요일 샌프란시스코 연방 법원에 6건의 소송을 제기했습니다. 총격 사건의 생존자인 마야 게발라(Maya Gebala)를 대신하여 제출된 불만 사항 중 하나는 OpenAI의 자동 안전 시스템이 Van Rootselaar가 장총과 개조 소총을 들고 마을 고등학교에 입학하기 반년 전인 2025년 6월에 “총기 폭력 활동 및 계획”을 이유로 그녀의 ChatGPT 대화를 표시했다고 주장합니다. 또한 OpenAI의 안전팀은 경영진에게 당국에 연락할 것을 촉구했지만 회사는 대신 Van Rootselaar 계정을 비활성화하기로 결정했다고 주장합니다. 그녀는 나중에 두 번째 계정을 만들고 ChatGPT와 대화를 계속했습니다.
OpenAI 대변인은 Engadget에 “Tumbler Ridge에서 발생한 사건은 비극입니다. 우리는 도구를 사용하여 폭력을 저지르는 것에 대해 무관용 정책을 가지고 있습니다”라고 말했습니다. “캐나다 공무원과 공유한 것처럼 ChatGPT가 고통의 징후에 대응하는 방식을 개선하고, 사람들을 현지 지원 및 정신 건강 자원과 연결하고, 잠재적인 폭력 위협을 평가 및 확대하는 방법을 강화하고, 반복 위반자 탐지를 개선하는 등 안전 장치를 이미 강화했습니다.”
화요일 늦게 OpenAI는 안전 정책을 설명하는 블로그 게시물을 게시했습니다. “이 지속적인 작업의 일환으로 우리는 ChatGPT가 다양한 상황에서 피해의 위험에 대한 미묘한 징후를 더 잘 인식할 수 있도록 보호 조치를 계속 확장해 왔습니다. 일부 안전 위험은 시간이 지남에 따라 분명해집니다. 단일 메시지는 그 자체로는 무해해 보일 수 있지만 긴 대화 내에서 또는 대화 전체에서 더 넓은 패턴이 더 우려스러운 것을 암시할 수 있습니다.”라고 회사는 썼습니다.
수요일에 제기된 소송은 OpenAI가 제품 설계에 대해 책임을 지도록 법적 시스템을 사용하려는 최근의 시도입니다. 지난 여름, 2025년에 자살한 10대 Adam Raine의 부모는 AI 회사를 상대로 최초의 부당 사망 소송을 제기했습니다. ChatGPT는 Raine이 궁극적으로 성공하기 전에 이전에 4번의 자살 시도를 알고 있었다고 주장했습니다.
관련 정보는 아래 링크에서 확인하세요
