Yüz Tanıma Teknolojisi, Renkli İnsanlarda Endişe Verici Derecede Yüksek Başarısızlık Oranına Sahip

Louisiana'da yakın zamanda yüz tanıma sistemlerinin kullanılması, Gürcistanlı siyah bir adam olan Randall Reid'in yanlışlıkla kimlikle tutuklanmasıyla sonuçlandı. Yerel yetkililer onu New Orleans banliyösündeki bir mağazadan (Reid'in iddiasına göre tamamen ayrı bir eyalette) çanta çaldığı için yüz tanıma teknolojisini kullanarak suçladı. Asla bir kez gittim.

Reid yine bir başkası devam eden trend Geçtiğimiz birkaç yıl içinde yüz tanıma teknolojisi (FRT) tarafından farklı etnik kökenlerden gelen benzer büyük yanlış tanımlamalar yaşandı.

Woodbridge, New Jersey'deki polisin, 2019'un başlarında FRT'ler tarafından değerlendirilen şüpheli bir hırsıza ait sahte bir kimliğe sahip olmasının ardından, 30 mil uzakta Paterson, NJ'de çalışan ve yaşayan Nijeer Parks görev yaptı. 10 gün hapiste kaldı ve binlerce dolar harcadı Kendisini bir suça karşı savunurken, karışmamıştı. Olay sırasında Western Union'a para gönderdiğinin kanıtı, onu paçavradan kurtarmaya yardımcı oldu.

Michael Oliver haksız yere suçlandı Öğretmenin telefonunu yok etmeye çalışmak Mayıs 2019'da kamera karşısında. Öğretmen tarafından kaydedilen video kanıtlarına göre, Detroit Polisi FRT'leri kullandı Michael Oliver'ı suçla ilişkilendirmek için avukatı tarafından fark edilen bariz fiziksel farklılıklar (önkol dövmeleri ve daha açık ten rengi gibi) sonuçta onu herhangi bir suçtan temize çıkardı.

Ocak 2020'de Robert Williams, Detroit'teki bir Shinola mağazasından yaklaşık 4.000 dolar değerinde lüks saat çalarken yakalandığı iddiasıyla tüm gününü hapiste geçirdi. Suç işlendiği sırada 50 mil uzakta Instagram Live'da şarkı söylediğini ortaya çıkaran yeni delillerden iki ay sonra suçlamalar düştü.

Bu vakalar, Amerika Birleşik Devletleri'nde son beş yıl içinde farklı etnik kökene sahip insanlara yönelik en önemli yanlış tanımlamalardan bazılarıdır. Yüz tanıma teknolojilerinin durumunun ve farklı ırklardan insanları etkili bir şekilde ayırt etme ve ayırt etme yeteneklerinin doğrudan bir yansıması olarak hizmet ediyorlar.

Sorunları Tanıma

Yüz tanıma teknolojisi, değerlendirilmesi için verilen hayati önem taşıyan biyometrik veriler (çeşitli yüzlerin fotoğrafları ve diğer fiziksel özellikler) üzerinde gelişiyor veya zayıflıyor. Sistemin aldığı veri seti, sonuçta sistemin bir bütün olarak genel etkinliğini belirleyen şeydir.

Bununla birlikte, bu sistemleri desteklemek ve eğitmek için kullanılan veri kümeleri söz konusu ırka ilişkin minimum düzeyde veri içeriyorsa, bu sistemler belirli bir ırka ait olan yüzleri tanıyamaz.

Yaşar Behzadi, CEO ve Kurucu Sentez yapay zekası , şöyle diyor: "Belirli demografik özellikler, ister internetteki görüntülerden ister diğer geleneksel yollardan toplanmış olsun, bu veri kümelerinde genellikle yeterince temsil edilmiyor. Sonuç olarak, yapay zekayı güçlendirmek için kullanılan eğitim verileri dengesiz hale geliyor ve bu da model yanlılığına neden oluyor."

Başka bir deyişle, farklı ırklardan insanlar hakkında ne kadar az biyometrik veri varsa, yüz tanıma teknolojisinin farklı ırklardan insanları başarılı bir şekilde tanımlama olasılığı da o kadar düşük olur.

İçerik Pazarlamacısı Tatevik Baghdasaryan'a göre, yakın zamana kadar FRT'ler "öncelikle açık tenli bireylerin çoğunlukta olduğu veri kümeleri üzerinde geliştirildi ve test edildi". Süper Açıklama Ekle . Bu, analiz kapsamını büyük ölçüde sınırlıyor ve beyaz olmayan insanları tanımlamaya çalışırken, iyi kayıtlara sahip, daha açık tenli meslektaşlarına kıyasla çok daha fazla hataya neden oluyor.

Baghdasaryan, "Sonuç olarak, yüz tanıma teknolojisinde kullanılan algoritmalar, daha koyu ten rengine sahip ve daha geniş burun ve daha dolgun dudaklar gibi belirli yüz özelliklerine sahip kişilerde daha kötü performans gösteriyor" diyor. "Bu, daha yüksek oranda yanlış pozitif ve yanlış negatiflere yol açıyor."

Örneğin, Joy Buolamwini ve Timnit Gebru tarafından 2018'de yapılan dönüm noktası niteliğindeki bir çalışma, FRT'lerdeki önemli yüz özelliklerini analiz etmekten sorumlu birçok algoritmanın siyah kadınları yanlış tanımladığının bilindiğini ortaya çıkardı. %33'ten fazla zamanın.

Dünyadaki FRT'ler

Yüz tanıma teknolojisi, teknoloji dünyasında oldukça yaygın hale geldi ve şu anda dünya çapında 100'e yakın ülke tarafından kullanılıyor.

Singapur, ünlü Akıllı Ulus Girişim, gelişen teknolojilere yabancı değil ve son birkaç on yılda sürekli olarak teknolojik yeniliklerin en ileri noktasında yer aldı.

Smart Nation, 2020'nin sonlarında bir ekleme ekledi: yüz tanıma özelliği Kullanıcıların çeşitli devlet hizmetlerine çevrimiçi olarak erişebildiği, ülkenin birincil kişisel kimlik doğrulama sistemi olan SingPass'e. O zamandan bu yana Singapur, kamu hizmetlerine erişimi olabildiğince rahat ve kusursuz hale getirmek amacıyla ülke genelinde FRT'leri kullanan self-servis kiosklar kurdu.

Ancak yüz tanıma teknolojilerinin kullanımı geniş çapta kabul görmüş olsa da, bunların kullanımını sınırlayan veya bazı durumlarda bunları tamamen reddeden bir avuç ülke hâlâ mevcut. Belçika ve Lüksemburg gibi ülkeler FRT'leri tamamen yasaklamayı tercih ederek ikinci kategoriye girmektedir. diğer Avrupa ülkeleri takip etmeye başlıyor.

Arjantin eşsiz bir örnek teşkil ediyor; teknolojiyi ilk başta kollarını açarak benimseyen ve daha sonra duruşunu değiştirdi Birkaç kişinin haksız yere gözaltına alınmasına yol açan bir dizi yanlış tanımlamaya yanıt olarak tartışmalı teknoloji hakkında.

Ne yapılabilir?

Şu anda yüz tanıma teknolojisindeki en büyük sorunların, sistemlerin aldığı verilerin kalitesinden ve türünden kaynaklandığı açıkça ortaya çıktı.

Sistemin verileri çok çeşitli demografik özellikleri temsil etmiyorsa (örneğin yalnızca açık tenlilere yönelik veriler dahil) veya sistem tarafından değerlendirilen görüntülerin kalitesi düşükse (bulanık, loş ışıklı, uygun olmayan açılardan alınmış vb.) – beyaz olmayan insanlarda yanlış pozitifler gibi hataların meydana gelme olasılığı çok daha artıyor.

Bu nedenle, FRT'lerle ilgili uzun süredir devam eden bu sorunun en basit çözümü, çeşitli cilt tonları ve yüz özelliklerine sahip olanları temsil eden daha yüksek hacimli verileri dahil etmektir.

Eğer bir halk olarak eşit ve adil bir şekilde dağıtılan adalet konularında bize yardımcı olması için bu teknolojiye güvenmek ve dayanmak zorundaysak, en azından yüz tanımanın temel sorunları ve bunların, yüz tanımanın insanları doğru bir şekilde tanımlama yeteneğini nasıl etkilediği hakkında daha fazla şey öğrenebiliriz. renk.