New York'un Yapay Zeka Silah Dedektörü Gelişerek Sorunları Çözecek mi, Yoksa Yeni Sorunlar Yaratacak mı?

New York şehri kısa süre önce, yolcuları taramak için şehrin metrolarında Evolv adlı AI silah dedektörlerinin kullanımına başlayacağını duyurdu .

Belediye Başkanı Eric Adams Salı günü haftalık basın toplantısında, "Onlara gelişmeye ve bunu ortaya çıkarmaya ihtiyaçları olduğunu söylüyorum çünkü bunun iyi bir teknoloji olduğunu düşünüyorum" dedi. "Bu konuda gerçekten heyecanlıyım, sadece silah taşıyan birini sisteme girmeden önce tespit edebilme potansiyeli."

Ancak kent sakinleri kendilerini hâlâ güvende hissetmediklerini söylüyor.

Bir NBC raporunda açıklandığı gibi, yaklaşık 1,8 metre yüksekliğindeki tarayıcılar, şehrin polis teşkilatının logosunu ve çok renkli bir ışık göstergesini içeriyor. Bir silah tespit edildiğinde, iki NYPD memuru tarafından izlenen bir tablete bir uyarı gönderiliyor. Sistemin, telefonlar ve dizüstü bilgisayarlar gibi günlük eşyaları uyarmaması gerekiyor; ancak Cuma günü bir muhabirin iPad kılıfı bunu tetikledi.

Sivil özgürlükler savunucuları da tarayıcıları protesto etti. New York Sivil Özgürlükler Birliği ve Hukuki Yardım Derneği, teknolojinin geniş çapta kullanıma sunulması halinde şehri dava edeceklerini söyledi.

NYCLU, teknolojinin metro yolcularını polis tarafından anayasaya aykırı aramalara maruz bırakacağına inanıyor.

Sistem şu ana kadar yalnızca birkaç yere kuruldu.

Ancak New York City'deki 472 metro istasyonuyla (dünyadaki en fazla sayıda sistem), her istasyonda Evolv AI dedektörlerinin bulunmaması, metroların aslında güvende tutulmadığı anlamına geliyor.

2022'de Brooklyn treninde 10 kişinin yaralanmasına neden olan silahlı saldırı gibi yüksek profilli olaylar yaşanmış olsa da, New York City metro sistemindeki suçlar son yıllarda azaldı .

Bunun anlamı, genel olarak sistemde şiddet içeren suçların nadir olduğu ve New York'un metro sisteminin genel olarak diğer halka açık yerler kadar güvenli olduğu anlamına geliyor.

Polis verilerine göre 21 Temmuz itibarıyla metro suçları 2023'ün aynı dönemine göre %8 azaldı. Polise göre, geçen yıl metroda 10 cinayet işlendi; 2022'de bu sayı 10'a düştü.

Yapay zeka silah dedektörleri, potansiyel tehditleri insan personele göre daha hızlı ve doğru bir şekilde tespit edebildiklerinden faydalıdır. İnsan korumaların aksine, yapay zeka sistemleri yorgunluk, dikkat dağınıklığı veya önyargılardan etkilenmez ve tutarlı performans ve dikkat sağlar.

Öte yandan, aynı dedektörler zararsız nesneleri silah olarak yanlış tanımlayabilir (yanlış pozitifler) veya gerçek tehditleri tespit edemeyebilir (yanlış negatifler), bu da potansiyel olarak güvenlik açıklarına veya gereksiz paniğe neden olabilir.

Eleştirmenler Evolv'un hukuki açıdan sorunlu olduğunu söylüyor .

Evolv'un ayrıca bilgisayar korsanlığına ve diğer siber saldırılara açık olması gibi sistemin etkinliğini tehlikeye atabilecek başka eksiklikleri de olabilir.

Buna ek olarak, dedektörlerin ilk kurulumu ve konuşlandırılması muhtemelen pahalı olacak ve teknoloji ve altyapıya önemli yatırımlar gerektirecektir; bunların hepsi elbette vergi mükelleflerinin isteseler de istemeseler de ödedikleri şehir bütçesinden karşılanacaktır.

NYCLU'nun belirttiği gibi, yapay zekanın güvenlik ortamlarında kullanılması, özellikle sistemin hata yaptığı veya zararla sonuçlanan olaylara karıştığı durumlarda hesap verebilirlik konusunda etik ve yasal soruları gündeme getiriyor.

Yapay zekalı silah dedektörlerinin kamuoyu tarafından kabul edilmesinin karışık olacağı ve bazı kişilerin emniyet ve güvenlik kararları için makinelere güvenme konusunda tedirgin olacağı açıktır.

Evolv olsa da olmasa da suç oranlarının düşük ve güvenlik seviyelerinin yüksek kalmasını umuyoruz.