2025년 1월 테네시주 내슈빌 고등학교 총격 사건에서 부상당한 10대 생존자는 최근 범인을 포함해 두 명을 죽인 권총을 탐지하지 못하는 ‘AI 총 탐지’ 시스템 제조업체를 고소했습니다.
지난달 데이비슨 카운티 법원에 제출된 소송에 따르면, 보안 회사인 Omnilert는 “카메라 배치, 카메라 센서에 대한 무기의 근접성, 카메라 각도, 조명 및 무기 가시성에 따른 제한을 포함하여 실제 긴급 상황에서 탐지 실패를 초래할 수 있는 총기 탐지 시스템의 상당한 운영 제한”이 있음을 알았거나 알았어야 했습니다.
Omnilert의 공동 창업자인 Ara Bagdasarian은 소송에 대한 질문에 답변하라는 Ars의 초대를 거절했습니다. Omnilert 시스템을 재판매한 사건의 또 다른 피고인 System Integrations 역시 Ars의 논평 요청에 응답하지 않았습니다.
2023년 MNPS(Metropolitan Nashville Public Schools) 이사회는 학군 전체의 카메라 네트워크 및 관련 보안 인프라 위에 AI 탐지 레이어를 설치하기 위한 100만 달러 이상의 계약을 승인했습니다.
MNPS 대변인 Sean Braisted는 2025년 1월 총격 사건 이후 기자 회견에서 범인이 카메라와 관련된 위치로 인해 “정확한 판독을 얻고 경보를 활성화할 만큼 이미지가 충분히 가깝지 않았습니다”라고 말했습니다.
소송에서는 Omnilert의 자체 웹사이트에 있는 마케팅 카피(총격 사건 며칠 전 인터넷 아카이브에 보존되어 있음)를 자주 인용하여 회사가 자사의 기능을 과대평가했다고 주장합니다.
Omnilert는 또한 AI 기반 시각적 총기 감지 기능이 위협을 조기에 식별함으로써 “Marjory Stoneman Douglas 고등학교의 비극을 완화하거나 예방할 수 있었다”고 밝혔습니다. 미국에서 가장 파괴적인 학교 총격 사건 중 하나를 언급하여 해당 제품이 유사한 비극을 예방할 수 있다는 점을 전달했습니다.
Omnilert는 사전 촬영 상업 웹사이트에서 허위 경보, 허위 긍정 또는 모든 종류의 감지 제한에 대해 언급하지 않았습니다.
원고의 변호사 중 한 명인 Chris Smith는 탐지 시스템이 효과적인 특정 상황 조건을 사용하는 것이 의심스럽다고 Ars에 말했습니다.
관련 정보는 아래 링크에서 확인하세요