Omnilert AI가 캠퍼스에서 총기를 감지하더라도, 경찰이 출동하기 전에 사람의 확인 절차가 있어야 합니다.
AI 총기 감지 시스템의 오작동으로 인해 학생이 자신의 도리토스 간식 습관을 이유로 경찰 출동 요청을 받게 되면서 트라우마를 겪었습니다.
WBAL-TV 11 News에 따르면, 타키 앨런(Taki Allen)은 지난 월요일 밤(10월 20일), 볼티모어 켄우드 고등학교(Kenwood High School)에서 귀가할 때까지 과자 봉지를 먹고 있었습니다. 축구 연습이 끝난 후, 학생은 친구들과 학교 밖에 앉아 있었습니다. 그런데 그의 바삭한 간식 섭취가 학교 보안 카메라 'Omnilert' AI 시스템을 작동시킨 것입니다.
앨런이 그 고소한 옥수수 기반 간식을 먹기 시작한 지 20분이 지나자, 그의 간식 습관에 대응하여 경찰차 8대가 출동했습니다. 그는 무장한 경찰들에게 즉시 무릎을 꿇으라는 지시를 받았고, 손은 등 뒤로 수갑이 채워졌습니다. 앨런은 WBAL-TV 인터뷰에서 "끔찍한 상황이었다"고 설명했습니다.
AI 오인식의 최신 희생양: 테네시 할머니가 오인식으로 6개월 구금되다
신경외과 수술 시스템에 AI를 추가한 후, 오작동 사례가 8건에서 100건으로 폭증했다는 새로운 조사 결과
AI 오류가 관련자 모두에게 분명해지기까지는 오랜 시간이 걸리지 않았습니다. 다만, 경찰 측이 이 AI 오류 상황에 대해 투명하게 설명하지는 않았습니다. 현지 뉴스에 출연한 학생에 따르면, 그는 대규모 경찰 대응을 설명하는 이미지를 보여주었습니다. 그러나 그 사진은 그를 혼란스럽게 했습니다. 앨런은 WBAL-TV 11 News에게 "저는 그저 도리토스 봉지를 들고 있었을 뿐입니다. 두 손으로 들고 손가락 하나를 내밀었는데, 그들이 그것이 총처럼 보였다고 했습니다"라고 말했습니다.
안타깝게도 TV 뉴스 카메라가 그가 수갑을 채우게 된 자세를 몸짓으로 설명하는 앨런의 행동에는 주목하지 않았습니다. 또한, 당일 AI 오작동 현장 영상도 확보되지 않았습니다. 결국, 도리토스 봉지를 안전하게 다루는 방법에 대한 명확한 지침 없이 단순한 경고 사례만 남게 된 셈입니다.
[광고/정보성 섹션 시작]
오므닐럿(Omnilert)의 AI 총기 감지 시스템이 '2025 캠퍼스 안전 베스트 어워드(2025 Campus Safety BEST Award)'를 수상했다는 기쁜 소식을 전합니다!
오므닐럿 AI의 책임 여부:
오므닐럿은 이번 고조된 총기 환각 사건의 배경이 된 AI 총기 감지 소프트웨어 기업입니다. 이 회사는 긴급 대응 출동 오류에 대해 WBAL-TV 11 News에 어떠한 논평도 거부했습니다. 오므닐럿 측은 "내부 학교 절차에 대해서는 언급하지 않는다"고 밝혔습니다 (WBAL-TV 인용).
우리가 오므닐럿의 웹사이트에 게시된 '학교 보안 시스템(School Security Systems)' 제품 페이지를 확인한 결과, 제품 작동 방식에 대한 추가 정보를 얻을 수 있었습니다. 오므닐럿의 큰 특징 중 하나는 이미 설치된 보안 카메라 네트워크에 추가 기능을 구현할 수 있다는 점입니다. 이 회사의 홍보 자료에는 유발데(Uvalde), 샌디 훅(Sandy Hook), 파크랜드(Parkland) 등 학교 총기 난사 비극이 언급되며, 오므닐럿 시스템이 이러한 비극을 막았을 수도 있다는 암시를 던집니다.
오므닐럿의 능동 사격자 및 총기 감지 시스템은 구두로 전해진 바에 따르면 3단계 프로세스를 거칩니다. 즉, 긍정적인 AI 총기 감지 → 인간의 현장 검증 단계 → 자동 알림 및 긴급 대응 순서입니다.
그러나 경찰관들조차 손에 든 도리토스 사진을 대응팀 8대를 출동시킬 만큼 '총기처럼' 충분하다고 판단했다는 사실을 고려할 때, 해당 프로세스의 어느 단계가 오류였는지 지적하기 어렵습니다. WBAL-TV 보도에 따르면, 경찰관들은 놀란 앨런에게 AI 오작동 현장 영상을 보여주기 위해 영상을 가지고 있었다고 합니다. 다만, 이 영상 공개 시점의 구체적인 전개 과정은 100% 명확하지 않습니다.
오므닐럿과 해당 학교 측은 이번 사건에 연루된 학생들에게 상담 지원을 제공할 것을 제안했습니다.
[광고/정보성 섹션 끝]
저희의 최신 뉴스, 분석, 및 리뷰를 받아보시려면, 구글 뉴스에서 Tom's Hardware를 팔로우하거나, 저희를 선호 출처로 등록해 주십시오.