OpenAI는 캐나다 당국에 보낸 서한에서 안전 프로토콜을 강화하고 신뢰할 수 있는 위협이 있을 경우 법 집행 기관에 더 빨리 알리겠다고 다짐했습니다. 폴리티코 그리고 워싱턴 포스트. 기억하시겠지만, 캐나다 정치인들은 2025년 브리티시컬럼비아주 대량 총격 사건 용의자인 텀블러 리지(Tumbler Ridge)가 소유한 계정을 금지했을 때 당국에 알리지 않았다는 보고가 나온 후 회사 경영진을 소환했습니다. OpenAI 경영진 중 일부는 이미 Candian 관리들과 만났고, 브리티시컬럼비아주 총리 David Eby는 Sam Altman도 그와 만나기로 동의했다고 말했습니다.
OpenAI는 아직 규칙 변경 사항을 발표하지 않았지만 글로벌 정책 담당 부사장인 Ann O’Leary는 편지에서 금지된 사용자가 플랫폼으로 돌아오는 것을 더 잘 방지할 수 있도록 탐지 시스템을 조정할 것이라고 밝혔습니다. 분명히 OpenAI가 “실제 폭력을 저지르는 것에 대한 잠재적인 경고” 때문에 범인의 원래 계정을 금지한 후, 가해자는 다른 계정을 만들 수 있었습니다. 회사는 범인의 이름이 공개된 후에야 두 번째 계정을 발견했으며 이후 당국에 통보했습니다.
또한 OpenAI는 이제 사용자가 “계획된 폭력의 대상, 수단 및 시기”를 공개하지 않더라도 ChatGPT 대화에서 “임박하고 신뢰할 수 있는” 위협을 감지하면 당국에 알릴 것입니다. O’Leary는 범인의 계정이 2025년에 금지되었을 때 새로운 규칙이 시행되었다면 회사가 경찰에 통보했을 것이라고 설명했습니다. OpenAI는 또한 필요할 때 당국과 신속하게 정보를 공유할 수 있도록 캐나다 법 집행 기관과의 연락 창구를 마련할 것입니다.
캐나다 정부는 총격범의 원래 계정을 보고하지 않기로 한 OpenAI의 결정을 실패로 보고 있습니다. AI 챗봇 제작자가 사용자를 보호하기 위한 적절한 보호 장치가 있음을 입증하지 못하면 국내에서 AI 챗봇을 규제하겠다고 위협했습니다. OpenAI가 미국과 세계 다른 지역에서도 동일한 변경 사항을 출시할 계획인지는 현재로서는 불분명합니다.
