뉴욕의 AI 무기 탐지기 Evolv가 문제를 해결할 것인가, 아니면 새로운 문제를 만들 것인가?

뉴욕 시는 최근 승객을 검열하기 위해 지하철에서 Evolv라는 AI 무기 탐지기를 사용하기 시작할 것이라고 발표했습니다 .

에릭 아담스 시장은 화요일 주간 언론 발표회에서 "나는 그것이 좋은 기술이라고 생각하기 때문에 진화 하고 그것을 내놓아야 한다고 말하고 있습니다"라고 말했습니다. "저는 이것에 대해 정말 기대하고 있습니다. 누군가가 시스템에 들어오기 전에 총을 들고 있는 사람을 식별할 수 있다는 가능성이 바로 그것입니다."

하지만 도시 주민들은 여전히 안전하다고 느끼지 못한다고 말했습니다.

NBC 보고서 에 설명된 대로 약 6피트 높이의 스캐너에는 시 경찰서 로고와 여러 색상의 조명 디스플레이가 특징입니다. 무기가 감지되면 두 명의 NYPD 경찰관이 모니터링하는 태블릿으로 경고가 전송됩니다. 이 시스템은 전화기나 노트북과 같은 일상적인 품목에 경고를 보내도록 되어 있지 않습니다. 하지만 금요일에 기자의 아이패드 케이스 때문에 경고가 시작되었습니다.

시민 자유 옹호자들도 스캐너에 항의했습니다. 뉴욕시민자유연맹(New York Civil Liberties Union)과 법률구조협회(Legal Aid Society)는 이 기술이 대규모로 출시되면 시를 고소할 것이라고 밝혔다.

NYCLU는 이 기술이 지하철 탑승자들을 경찰의 위헌 수색 대상으로 만들 것이라고 믿습니다.

시스템은 지금까지 여러 위치에만 설치되었습니다.

그러나 뉴욕시 전역에 472개의 지하철 역이 있으며 이는 전 세계 시스템 중 가장 많은 수입니다. 모든 역에 Evolv AI 감지기가 부족하다는 것은 지하철이 실제로 안전하게 유지되지 않는다는 것을 의미합니다.

2022년 브루클린 열차 총격 사건 으로 10명이 부상당하는 등 세간의 이목을 끄는 사건이 있었지만 최근 몇 년간 뉴욕시 지하철 시스템의 범죄율은 감소했습니다 .

이것이 의미하는 바는 뉴욕의 지하철 시스템이 일반적으로 다른 공공 장소만큼 안전하다는 점에서 시스템 내에서 전반적인 폭력 범죄가 드물다는 것입니다.

경찰 자료에 따르면 7월 21일 기준 지하철 범죄는 2023년 같은 기간에 비해 8% 감소했다. 경찰에 따르면 지난해 지하철에서 발생한 살인 사건은 5건으로 2022년 10건보다 줄었다.

AI 무기 탐지기는 인간보다 더 빠르고 정확하게 잠재적인 위협을 식별할 수 있다는 점에서 유용하다. 인간 경비원과 달리 AI 시스템은 피로, 산만함 또는 편견을 겪지 않아 일관된 성능과 경계를 보장합니다.

반면, 동일한 탐지기가 무해한 물체를 무기로 오인하거나(오탐) 실제 위협을 탐지하지 못하여(오탐) 잠재적으로 보안 실패나 불필요한 패닉을 유발할 수 있습니다.

비평가들은 Evolv가 법적 관점에서 문제가 있다고 말합니다 .

Evolv에는 해킹 및 기타 사이버 공격에 취약하여 시스템 효율성을 저하시킬 수 있는 다른 단점도 있을 수 있습니다.

또한 감지기의 초기 설치 및 배치에는 비용이 많이 들고 기술 및 인프라에 상당한 투자가 필요할 수 있습니다. 물론 이 모든 것은 납세자가 원하든 원하지 않든 납세자가 지불하는 시 예산에서 나옵니다.

NYCLU가 지적한 바와 같이, 보안 설정에서 AI를 사용하면 책임에 대한 윤리적, 법적 질문이 제기됩니다. 특히 시스템에서 오류가 발생하거나 피해를 초래하는 사고에 연루된 경우에는 더욱 그렇습니다.

AI 무기 탐지기에 대한 대중의 수용은 엇갈릴 것이 분명하며 일부 개인은 안전 및 보안 결정을 위해 기계에 의존하는 것에 대해 불안감을 느낍니다.

Evolv의 유무에 관계없이 범죄율이 낮게 유지되고 보안 수준이 높게 유지되기를 바랍니다.