Le détecteur d’armes IA de New York va-t-il résoudre les problèmes ou en créer de nouveaux ?

La ville de New York a récemment annoncé qu'elle commencerait à utiliser des détecteurs d'armes IA, nommés Evolv, dans les métros de la ville pour contrôler les passagers.

"Je leur dis qu'ils doivent évoluer et le diffuser, parce que je pense que c'est une bonne technologie", a déclaré le maire Eric Adams lors de son point de presse hebdomadaire mardi. "Je suis vraiment enthousiasmé par cela, juste par la possibilité que nous puissions identifier quelqu'un portant une arme à feu avant qu'il n'entre dans le système."

Mais les habitants de la ville affirment qu'ils ne se sentent toujours pas en sécurité.

Comme décrit par un rapport de NBC , les scanners, mesurant environ 6 pieds de haut, comportent le logo du service de police de la ville et un écran lumineux multicolore. Lorsqu'une arme est détectée, une alerte est envoyée à une tablette surveillée par deux agents du NYPD. Le système n'est pas censé alerter les objets du quotidien, tels que les téléphones et les ordinateurs portables, bien que l'étui iPad d'un journaliste l'ait déclenché vendredi.

Les défenseurs des libertés civiles ont également protesté contre les scanners. L'Union des Libertés Civiles de New York et la Legal Aid Society ont déclaré qu'elles poursuivraient la ville en justice si la technologie était déployée à grande échelle.

Le NYCLU estime que cette technologie soumettra les usagers du métro à des fouilles inconstitutionnelles de la part de la police.

Jusqu’à présent, le système n’a été installé qu’à plusieurs endroits.

Mais avec 472 stations de métro à travers la ville de New York, soit le plus grand nombre de systèmes au monde, ce manque de détecteurs Evolv AI dans chaque station signifie que les métros ne sont pas réellement sécurisés.

Bien qu'il y ait eu des incidents très médiatisés, comme une fusillade en 2022 dans un train de Brooklyn qui a fait 10 blessés, la criminalité dans le métro de New York a diminué ces dernières années .

Cela signifie que dans l'ensemble, les crimes violents sont rares dans le système, le métro de New York étant généralement aussi sûr que n'importe quel autre lieu public.

Au 21 juillet, la criminalité dans le métro était en baisse de 8 % par rapport à la même période en 2023, selon les données de la police. L'année dernière, il y a eu cinq meurtres dans le métro, contre 10 en 2022, selon la police.

Les détecteurs d’armes IA sont utiles car ils peuvent identifier les menaces potentielles plus rapidement et plus précisément que le personnel humain. Contrairement aux gardes humains, les systèmes d’IA ne souffrent pas de fatigue, de distraction ou de partialité, garantissant ainsi des performances et une vigilance constantes.

D’un autre côté, les mêmes détecteurs peuvent identifier à tort des objets inoffensifs comme des armes (faux positifs) ou ne pas détecter les menaces réelles (faux négatifs), provoquant potentiellement des failles de sécurité ou une panique inutile.

Les critiques disent qu'Evolv est problématique d'un point de vue juridique.

Evolv peut également présenter d'autres défauts, comme être vulnérable au piratage et à d'autres cyberattaques, ce qui pourrait compromettre l'efficacité du système.

En outre, la configuration et le déploiement initiaux des détecteurs seront probablement coûteux, nécessitant des investissements importants en technologie et en infrastructure – qui bien sûr proviennent du budget de la ville payé par les contribuables, qu'ils le veuillent ou non.

Comme le note NYCLU, l’utilisation de l’IA dans des contextes de sécurité soulève des questions éthiques et juridiques en matière de responsabilité, en particulier dans les cas où le système commet des erreurs ou est impliqué dans des incidents entraînant des préjudices.

Il est clair que l’acceptation par le public des détecteurs d’armes IA sera mitigée, certaines personnes se sentant mal à l’aise à l’idée de s’appuyer sur des machines pour prendre des décisions en matière de sûreté et de sécurité.

Espérons que les taux de criminalité restent faibles et les niveaux de sécurité restent élevés – avec ou sans Evolv.