O detector de armas AI de Nova York evoluirá resolverá problemas ou criará novos?

A cidade de Nova York anunciou recentemente que começaria a implementar o uso de detectores de armas de IA, chamados Evolv, nos metrôs da cidade para rastrear passageiros.

“Estou dizendo a eles que precisam evoluir e divulgá-la, porque acho que é uma boa tecnologia”, disse o prefeito Eric Adams em sua disponibilidade semanal para a imprensa na terça-feira. “Estou muito animado com isso, apenas com a possibilidade de podermos identificar alguém carregando uma arma antes de entrar no sistema.”

Mas os moradores da cidade dizem que ainda não se sentem seguros.

Conforme descrito por uma reportagem da NBC , os scanners, com cerca de 1,80 metro de altura, apresentam o logotipo do departamento de polícia da cidade e um display luminoso multicolorido. Quando uma arma é detectada, um alerta é enviado para um tablet monitorado por dois policiais da NYPD. O sistema não deveria alertar itens de uso diário, como telefones e laptops – embora o caso do iPad de um repórter tenha disparado na sexta-feira.

Os defensores das liberdades civis também protestaram contra os scanners. A União das Liberdades Civis de Nova Iorque e a Sociedade de Assistência Jurídica disseram que processariam a cidade se a tecnologia fosse implementada em larga escala.

A NYCLU acredita que a tecnologia fará com que os passageiros do metrô sejam submetidos a revistas inconstitucionais pela polícia.

O sistema só foi instalado em vários locais até agora.

Mas com 472 estações de metro em toda a cidade de Nova Iorque, o maior número de qualquer sistema no mundo, esta falta de detectores Evolv AI em todas as estações significa que os metropolitanos não estão realmente a ser mantidos seguros.

Embora tenha havido incidentes de grande repercussão, como um tiroteio em 2022 num trem do Brooklyn que deixou 10 feridos, a criminalidade no sistema de metrô da cidade de Nova York diminuiu nos últimos anos .

O que isto significa é que, em geral, os crimes violentos no sistema são raros, sendo o sistema de metro de Nova Iorque geralmente tão seguro como qualquer outro local público.

Em 21 de julho, a criminalidade no metrô caiu 8%, em comparação com o mesmo período de 2023, segundo dados da polícia. No ano passado, ocorreram cinco assassinatos no metrô, ante 10 em 2022, segundo a polícia.

Os detectores de armas de IA são úteis porque podem identificar ameaças potenciais com mais rapidez e precisão do que o pessoal humano. Ao contrário dos guardas humanos, os sistemas de IA não sofrem fadiga, distração ou preconceito, garantindo desempenho e vigilância consistentes.

Por outro lado, os mesmos detectores podem identificar erroneamente objetos inofensivos como armas (falsos positivos) ou não detectar ameaças reais (falsos negativos), causando potencialmente falhas de segurança ou pânico desnecessário.

Os críticos dizem que o Evolv é problemático do ponto de vista jurídico.

O Evolv também pode ter outras deficiências, como ser suscetível a hackers e outros ataques cibernéticos, o que pode comprometer a eficácia do sistema.

Além disso, a configuração inicial e a implementação dos detectores serão provavelmente dispendiosas, exigindo investimentos significativos em tecnologia e infra-estruturas – tudo isto, claro, proveniente do orçamento da cidade pago pelos contribuintes, quer eles gostem ou não.

Como observa a NYCLU, a utilização de IA em ambientes de segurança levanta questões éticas e legais sobre a responsabilização, especialmente nos casos em que o sistema comete erros ou está envolvido em incidentes que resultam em danos.

É claro que a aceitação pública dos detectores de armas de IA será mista, com alguns indivíduos a sentirem-se desconfortáveis em confiar nas máquinas para decisões de segurança e protecção.

Esperamos que as taxas de criminalidade permaneçam baixas e os níveis de segurança elevados – com ou sem Evolv.