面部识别技术在有色人种中的失败率高得令人担忧

最近在路易斯安那州使用面部识别系统导致来自佐治亚州的黑人兰德尔里德被错误识别逮捕。地方当局使用面部识别技术将他锁定为从新奥尔良郊区的一家商店偷钱包 - 里德声称拥有一个完全独立的州绝不去过一次。

里德是另一个持续趋势在过去几年中，通过面部识别技术 (FRT) 对有色人种进行类似的重大错误识别。

2019 年初，FRT 评估了新泽西州伍德布里奇的警察持有属于疑似商店扒手的假身份证后，在 30 英里外的新泽西州帕特森工作和居住的 Nijeer Parks 服务入狱10天，花费数千美元为自己辩护免受犯罪，他没有参与。事件发生时他在西联汇款汇款的证据帮助他摆脱了困境。

迈克尔奥利弗被错误地指控试图破坏老师的手机摄于 2019 年 5 月。根据老师拍摄的视频证据， 底特律警方使用 FRT将迈克尔奥利弗与犯罪联系起来，尽管他的律师注意到明显的身体差异——例如他的前臂纹身和较浅的肤色——最终免除了他的任何不法行为。

2020 年 1 月，罗伯特·威廉姆斯 (Robert Williams) 在底特律的一家 Shinola 商店偷了价值近 4,000 美元的奢侈手表的视频被抓获后，被关进监狱一整天。在新证据显示案发时他在 50 英里外的 Instagram Live 上唱歌两个月后，他的指控被撤销。

这些案例是美国在过去五年中对有色人种的一些最重大的重大误判。它们直接反映了面部识别技术的状态及其有效辨别和区分有色人种的能力。

认识问题

面部识别技术在重要的生物识别数据（各种面孔和其他身体特征的照片）上蓬勃发展或步履蹒跚，它被用来评估。系统接收的数据集最终决定了整个系统的整体有效性。

也就是说，如果用于支持和训练这些系统的数据集包含有关种族的最少数据，则这些系统无法识别属于特定种族的面孔。

Yashar Behzadi，首席执行官兼创始人合成人工智能，说，“某些人口统计数据在这些数据集中往往没有得到充分体现，无论它们是从互联网上的图像还是其他传统方式收集的。结果是用于为人工智能提供动力的训练数据变得不平衡，导致模型偏差。”

换句话说，有色人种的生物识别数据越少，面部识别技术成功识别有色人种的可能性就越小。

直到最近，FRT 一直“主要在具有大多数白皮肤个体的数据集上开发和测试”，内容营销人员 Tatevik Baghdasaryan 表示超级注释.这极大地限制了他们的分析范围，在试图识别有色人种时，与记录良好、皮肤更白皙的人相比，会产生更多的错误。

Baghdasaryan 说：“因此，面部识别技术中使用的算法在肤色较深和具有特定面部特征（例如更宽的鼻子和更丰满的嘴唇）的人身上表现更差。” “这会导致更高的误报率和漏报率。”

例如，Joy Buolamwini 和 Timnit Gebru 在 2018 年进行的一项具有里程碑意义的研究发现，众所周知，许多负责分析 FRT 中关键面部特征的算法会错误识别黑人女性超过 33%的时间。

世界各地的 FRT

面部识别技术在科技界已经变得无处不在，现在全球近 100 个国家/地区都在使用。

新加坡以其著名的智慧国倡议，对新兴技术并不陌生，并且在过去几十年中一直处于技术创新的前沿。

2020 年底，Smart Nation 增加了一个面部识别功能SingPass，该国主要的个人身份验证系统，用户可以在线访问各种政府服务。从那时起，新加坡还在全国各地安装了自助服务亭，这些自助服务亭采用 FRT，以尽可能方便和无缝地获取公共服务。

然而，尽管面部识别技术的使用已被广泛接受，但仍有少数国家限制其使用，或者在某些情况下完全拒绝使用。比利时和卢森堡等国家属于后一类，选择完全禁止 FRT， 其他欧洲国家开始效仿。

阿根廷是一个独特的例子；一个国家，一开始，张开双臂采用了这项技术，后来改变立场关于有争议的技术，以应对导致数人被错误拘留的一系列错误识别。

可以做什么？

目前，很明显面部识别技术的最大问题源于其系统接收的数据的质量和类型。

如果系统的数据不能代表不同的人口统计数据——例如，只包括那些肤色较浅的人的数据——或者系统评估的图像质量很差——模糊、光线昏暗、从非最佳角度拍摄等. – 有色人种出现误报等错误的可能性要大得多。

因此，解决 FRT 这个长期存在的问题的最简单方法是合并更多代表具有各种肤色和面部特征的数据。

如果我们作为一个民族，必须信任并依赖这项技术来帮助我们处理平等和公平分配的司法问题，我们至少可以做的是更多地了解面部识别的核心问题以及它们如何影响其正确识别人的能力颜色。