ニューヨークの AI 武器探知機 Evolv は問題を解決するのか、それとも新たな問題を生み出すのか?

ニューヨーク市は最近、乗客の検査のために、市内の地下鉄に「Evolv」と名付けられたAI兵器探知機を導入し始めると発表した。

「私は彼らに、これを進化させて取り除く必要があると伝えています。これは良い技術だと思うからです」と、エリック・アダムス市長は火曜日の週例記者会見で述べた。「システムに入る前に銃を所持している人を特定できる可能性だけでも、私はこれにとても興奮しています。」

しかし、市の住民は依然として安全だと感じていないと話している。

NBCの報道によると、高さ約6フィートのスキャナーには、ニューヨーク市警のロゴと多色のライトディスプレイが付いている。武器が検出されると、ニューヨーク市警の警官2人が監視するタブレットに警告が送信される。このシステムは、携帯電話やノートパソコンなどの日常的なアイテムには警告を発しないようになっているが、金曜日に記者のiPadケースがそれを作動させた。

市民の自由を擁護する人々もスキャナーに抗議した。ニューヨーク市民自由連合と法律扶助協会は、この技術が大規模に導入されれば市を訴えると述べた。

NYCLU は、この技術により地下鉄の乗客が警察による違憲的な捜索を受けることになると考えている。

このシステムは今のところ数か所にしか設置されていない。

しかし、ニューヨーク市内には世界最大の472の地下鉄駅があり、すべての駅にEvolv AI検出器が設置されていないということは、地下鉄が実際には安全に保たれていないことを意味します。

2022年にブルックリンの電車内で銃撃事件が発生し10人が負傷するなど、注目を集めた事件もあったが、 近年ニューヨーク市の地下鉄での犯罪は減少している。

これが意味するのは、ニューヨークの地下鉄システム全体では暴力犯罪はまれであり、一般的に他の公共の場所と同じくらい安全だということです。

警察のデータによると、7月21日現在、地下鉄での犯罪は2023年の同時期と比べて8％減少している。警察によると、昨年の地下鉄での殺人事件は5件で、2022年の10件から減少している。

AI 武器探知機は、人間の警備員よりも迅速かつ正確に潜在的な脅威を特定できるため便利です。人間の警備員とは異なり、AI システムは疲労、注意散漫、偏見の影響を受けないため、一貫したパフォーマンスと警戒が保証されます。

その一方で、同じ検出器が無害な物体を武器と誤認したり（誤検知）、実際の脅威を検出できなかったり（誤検知）、セキュリティの不備や不必要なパニックを引き起こす可能性があります。

批評家は、Evolv は法的な観点から問題があると述べている。

Evolv には、ハッキングやその他のサイバー攻撃の影響を受けやすく、システムの有効性が損なわれる可能性があるなど、他の欠点もある可能性があります。

さらに、検出器の初期設定と展開には多額の費用がかかる可能性があり、テクノロジーとインフラへの多額の投資が必要になる。もちろん、その費用はすべて、好むと好まざるとにかかわらず、納税者が支払う市の予算から支出される。

NYCLU が指摘しているように、セキュリティ設定での AI の使用は、特にシステムがエラーを起こしたり、危害をもたらすインシデントに巻き込まれたりした場合に、説明責任に関する倫理的および法的疑問を引き起こします。

AI 兵器探知機に対する一般の受容はまちまちであり、安全とセキュリティの判断を機械に頼ることに不安を感じる人もいることは明らかです。

願わくば、Evolv の有無にかかわらず、犯罪率は低く、セキュリティ レベルは高いままです。