¿La evolución del detector de armas con IA de Nueva York resolverá problemas o creará otros nuevos?

La ciudad de Nueva York anunció recientemente que comenzaría a implementar el uso de detectores de armas de inteligencia artificial, llamados Evolv, en el metro de la ciudad para controlar a los pasajeros.

"Les digo que necesitan evolucionar y sacarlo a la luz, porque creo que es una buena tecnología", dijo el alcalde Eric Adams en su conferencia de prensa semanal el martes. "Estoy muy entusiasmado con esto, simplemente con la posibilidad de que podamos identificar a alguien que porta un arma antes de que ingrese al sistema".

Pero los residentes de la ciudad dicen que todavía no se sienten seguros.

Como lo describe un informe de NBC , los escáneres, de aproximadamente 6 pies de altura, presentan el logotipo del departamento de policía de la ciudad y una pantalla de luces multicolor. Cuando se detecta un arma, se envía una alerta a una tableta monitoreada por un par de agentes de policía de Nueva York. Se supone que el sistema no debe alertar a elementos cotidianos, como teléfonos y computadoras portátiles, aunque el estuche del iPad de un periodista lo activó el viernes.

Los defensores de las libertades civiles también protestaron contra los escáneres. La Unión de Libertades Civiles de Nueva York y la Sociedad de Ayuda Legal dijeron que demandarían a la ciudad si la tecnología se implementa a gran escala.

La NYCLU cree que la tecnología hará que los usuarios del metro sean objeto de registros inconstitucionales por parte de la policía.

Hasta el momento, el sistema sólo se ha instalado en varios lugares.

Pero con 472 estaciones de metro en toda la ciudad de Nueva York, la mayor cantidad de cualquier sistema en el mundo, esta falta de detectores Evolv AI en cada estación significa que los metros en realidad no se mantienen seguros.

Aunque ha habido incidentes de alto perfil, como un tiroteo en 2022 en un tren de Brooklyn que dejó 10 personas heridas, la delincuencia en el sistema de metro de la ciudad de Nueva York ha disminuido en los últimos años .

Lo que esto significa es que, en general, los delitos violentos en el sistema son raros, siendo el sistema de metro de Nueva York generalmente tan seguro como cualquier otro lugar público.

Al 21 de julio, la delincuencia en el metro había disminuido un 8% en comparación con el mismo período de 2023, según datos de la policía. El año pasado, hubo cinco asesinatos en el metro, frente a los 10 de 2022, según la policía.

Los detectores de armas de IA son útiles porque pueden identificar amenazas potenciales con mayor rapidez y precisión que el personal humano. A diferencia de los guardias humanos, los sistemas de IA no sufren fatiga, distracción ni prejuicios, lo que garantiza un rendimiento y una vigilancia constantes.

Por otro lado, los mismos detectores pueden identificar erróneamente objetos inofensivos como armas (falsos positivos) o no detectar amenazas reales (falsos negativos), lo que podría provocar fallos de seguridad o pánico innecesario.

Los críticos dicen que Evolv es problemático desde el punto de vista legal.

Evolv también puede tener otras deficiencias, como ser susceptible a piratería informática y otros ataques cibernéticos, que podrían comprometer la eficacia del sistema.

Además, la configuración inicial y el despliegue de los detectores probablemente serán costosos y requerirán una inversión significativa en tecnología e infraestructura, todo lo cual, por supuesto, proviene del presupuesto de la ciudad pagado por los contribuyentes, les guste o no.

Como señala NYCLU, el uso de IA en entornos de seguridad plantea cuestiones éticas y legales sobre la responsabilidad, especialmente en los casos en que el sistema comete errores o participa en incidentes que resultan en daños.

Está claro que la aceptación pública de los detectores de armas de IA será mixta, y algunas personas se sentirán incómodas al depender de las máquinas para tomar decisiones de seguridad.

Es de esperar que las tasas de criminalidad se mantengan bajas y los niveles de seguridad altos, con o sin Evolv.