2024년 5월 12일, 스톡홀름 감라스탄(Gamla stan) 지하철역에서 한 남성이 선로에 떨어졌으나, AI 기반의 영상 감시 시스템이 이를 감지하지 못하는 사건이 발생했습니다. 남성은 약 11분 동안 선로에 누워 있었으며, 열차에 치이는 사고를 겪었지만, 다행히 생명에는 지장이 없는 것으로 알려졌습니다.
사건 개요
사건은 일요일 오전 4시 54분경에 발생했습니다. 남성은 지하철 플랫폼에서 발을 헛디뎌 선로로 추락했고, 이후 열차가 그를 덮쳤습니다. 다행히 남성은 생존했으며, 경찰은 그의 믿을 수 없는 생존력에 놀라움을 표했습니다. 경찰의 다니엘 비크달(Daniel Wikdahl) 공보관은 "그가 다치지 않고 살아남았다는 것은 정말 믿기 어려운 일"이라고 말했습니다.
AI 시스템의 실패
사고 당시, AI 기반의 영상 분석 시스템은 남성이 선로에 떨어진 것을 감지하지 못했습니다. SL(스톡홀름 교통 당국)의 나탈리 노르덴스반(Natalie Nordenswan) 홍보 담당자는 "남성이 흰색 선로에 충분히 오래 있지 않았고, 누워있는 자세 때문에 영상 분석 시스템이 그를 인식하지 못했다"고 설명했습니다. SL은 이와 같은 상황의 재발을 막기 위해 영상 분석 시스템의 설정을 검토할 예정이라고 밝혔습니다.
AI 시스템의 역할과 한계
SL은 AI 기반의 영상 분석 시스템을 안전 관리의 보조 도구로 사용하고 있으며, 2022년 이후 39건의 자살 시도를 막는 데 기여했습니다. 이 시스템은 15개의 지하철역에 설치되어 있으며, 자살 징후를 보이는 행동을 감지하여 경고를 울립니다. 시스템이 경고를 감지하면, SL의 안전 관리 센터에서 직원이 출동하여 상황에 대처합니다. 그러나 노르덴스반은 "모든 AI 모델과 마찬가지로, 분석이 놓치는 상황이 항상 발생할 수 있다"고 덧붙였습니다.
자살 시도 감소 효과
AI 시스템 도입 이후, 스톡홀름 지하철에서의 자살 시도 건수는 감소했습니다. 2022년에는 15건, 2017년에는 20건의 자살 시도가 있었지만, 2024년에는 8건으로 줄었습니다. 노르덴스반은 이러한 감소가 새로운 기술의 결과일 수 있다고 언급하며, "이전에 놓쳤던 사건들에 대한 AI 분석 경고가 증가하고 있다"고 말했습니다.
AI 시스템이 설치된 지하철역
AI 기반 영상 분석 시스템은 다음과 같은 15개 지하철역에 설치되어 있습니다:
- 바가르모센(Bagarmossen)
- 브롬마플란(Brommaplan)
- 단데뤼드 시(Danderyds sjukhus)
- 감라스탄(Gamla stan)
- 글로벤(Globen)
- 굴마르스플란(Gullmarsplan)
- 호그달렌(Högdalen)
- 릴리에홀멘(Liljeholmen)
- 메드보르가르플라첸(Medborgarplatsen)
- 스칸스툴(Skanstull)
- 슬루센(Slussen)
- 스타드스하겐(Stadshagen)
- T-센트랄렌(T-Centralen)
- 밸링뷔(Vällingby)
- 외스테르말름스토르(Östermalmstorg)
