안면 인식 기술은 유색인종의 실패율이 걱정스러울 정도로 높습니다

최근 루이지애나에서 안면 인식 시스템을 사용하여 조지아 출신 흑인 랜달 리드(Randall Reid)가 신원을 잘못 체포하는 결과가 나왔습니다. 지방 당국은 뉴올리언스 교외의 한 상점에서 지갑을 훔친 혐의로 그를 체포하기 위해 안면 인식 기술을 사용했습니다. 리드는 완전히 다른 주에 있는 한 상점에서 절대 한 번 가본 적이 있어요.

리드는 또 다른 지속적인 추세 지난 몇 년 동안 얼굴 인식 기술(FRT)을 통해 유색인종에 대한 유사한 주요 오인이 발생했습니다.

2019년 초 뉴저지주 우드브리지 경찰이 FRT의 평가를 받은 좀도둑 용의자의 가짜 신분증을 가지고 난 후, 뉴저지주 패터슨에서 30마일 떨어진 곳에서 일하고 살았던 Nijeer Parks가 복무했습니다. 10일 동안 감옥에 갇히고 수천 달러를 썼습니다 그는 범죄로부터 자신을 변호했기 때문에 사건에 연루되지 않았습니다. 사건 당시 그가 웨스턴 유니온에 돈을 보냈다는 증거가 그를 구출하는 데 도움이 되었습니다.

마이클 올리버는 부당한 혐의로 기소되었습니다. 선생님의 휴대폰을 파괴하려다 2019년 5월 카메라에 담았습니다. 선생님이 촬영한 영상 증거를 바탕으로, 디트로이트 경찰은 FRT를 사용했습니다. Michael Oliver를 범죄와 연관시키기 위해 그의 변호사가 지적한 팔뚝 문신과 밝은 피부색과 같은 명백한 신체적 차이로 인해 궁극적으로 그의 모든 잘못이 면제되었습니다.

2020년 1월, 로버트 윌리엄스는 디트로이트의 시놀라 매장에서 약 4,000달러 상당의 명품 시계를 훔치는 영상을 촬영한 혐의로 하루 종일 감옥에 갇혔습니다. 그의 혐의는 범행 당시 50마일 떨어진 곳에서 인스타그램 라이브로 노래를 부르고 있었다는 새로운 증거가 나온 지 두 달 만에 기각됐다.

이러한 사례는 지난 5년 동안 미국에서 발생한 유색인종에 대한 가장 심각한 오인 중 일부입니다. 이는 얼굴 인식 기술의 상태와 유색인종을 효과적으로 식별하고 구별하는 능력을 직접적으로 반영하는 역할을 합니다.

문제 인식

얼굴 인식 기술은 평가를 위해 제공되는 중요한 생체 인식 데이터(다양한 얼굴 사진 및 기타 신체적 특징)를 바탕으로 성공하거나 실패합니다. 시스템이 수신하는 데이터 세트는 궁극적으로 시스템 전체의 전반적인 효율성을 결정합니다.

즉, 이러한 시스템을 지원하고 훈련하는 데 사용되는 데이터 세트에 해당 인종에 대한 최소한의 데이터가 포함되어 있는 경우 이러한 시스템은 특정 인종에 속한 얼굴을 인식할 수 없습니다.

Yashar Behzadi, CEO 겸 창립자 합성 AI , "특정 인구통계는 인터넷의 이미지에서 수집되었거나 기타 기존 수단에서 수집되었는지 여부에 관계없이 이러한 데이터 세트에서 종종 과소 대표됩니다. 그 결과 AI를 구동하는 데 사용되는 교육 데이터가 불균형해져 모델 편향이 발생합니다."

즉, 유색인종에 대한 생체 데이터가 적을수록 얼굴 인식 기술이 유색인종을 성공적으로 식별할 가능성은 낮아집니다.

최근까지 FRT는 "주로 흰 피부를 가진 개인이 다수 포함된 데이터 세트에서 개발 및 테스트되었습니다"라고 컨텐츠 마케팅 담당자인 Tatevik Baghdasaryan은 말합니다. SuperAnnotate . 이로 인해 분석 범위가 크게 제한되어 잘 기록된 밝은 피부색의 사람에 비해 유색인종을 식별하려고 할 때 훨씬 더 많은 오류가 발생합니다.

Baghdasaryan은 “결과적으로 얼굴 인식 기술에 사용되는 알고리즘은 피부색이 더 어둡고 코가 넓거나 입술이 더 넓은 특정 얼굴 특징을 가진 사람들에게는 성능이 더 나쁩니다.”라고 말합니다. "이로 인해 오탐지율과 오탐지율이 높아집니다."

예를 들어 Joy Buolamwini와 Timnit Gebru의 2018년 획기적인 연구에 따르면 FRT의 주요 얼굴 특징을 분석하는 많은 알고리즘이 흑인 여성을 오인하는 것으로 알려져 있습니다. 33% 이상 그 시간의.

전 세계의 FRT

얼굴 인식 기술은 기술 세계에서 매우 보편화되었으며 현재 전 세계 거의 100개국에서 사용되고 있습니다.

싱가포르로 유명한 스마트네이션 이니셔티브는 신흥 기술에 대해 낯선 사람이 아니며 지난 수십 년 동안 지속적으로 기술 혁신의 최첨단에 있었습니다.

2020년 말에 Smart Nation은 다음을 추가했습니다. 얼굴인식 기능 다양한 정부 서비스를 온라인으로 이용할 수 있는 국내 최초의 개인 인증 시스템인 SingPass까지. 그 이후로 싱가포르는 공공 서비스에 최대한 편리하고 원활하게 접근할 수 있도록 FRT를 채용하는 셀프 서비스 키오스크를 전국에 설치했습니다.

그러나 안면 인식 기술의 사용이 널리 받아들여지고 있음에도 불구하고 여전히 사용을 제한하거나 어떤 경우에는 이를 전면적으로 거부하는 소수의 국가가 남아 있습니다. 벨기에와 룩셈부르크와 같은 국가는 FRT를 완전히 금지하는 후자 범주에 속합니다. 다른 유럽 국가 따라하기 시작합니다.

아르헨티나가 독특한 예입니다. 처음에는 두 팔을 벌려 기술을 채택하고 나중에는 채택한 국가 입장을 바꿨다 여러 사람을 부당하게 구금한 일련의 오인에 대한 대응으로 논란이 되고 있는 기술에 대해 설명합니다.

무엇을 할 수 있나요?

현재 얼굴 인식 기술의 가장 큰 문제는 시스템이 수신하는 데이터의 품질과 유형에서 비롯된다는 것이 분명해졌습니다.

시스템의 데이터가 다양한 인구통계를 대표하지 않는 경우(예를 들어 밝은 피부를 가진 사람에 대한 데이터만 포함) 또는 시스템에서 평가한 이미지의 품질이 좋지 않은 경우(흐리거나, 조명이 어둡거나, 최적이 아닌 각도에서 촬영한 경우 등) . – 유색인종의 경우 오탐지와 같은 오류가 발생할 가능성이 훨씬 더 높아집니다.

따라서 FRT의 오랜 문제에 대한 가장 간단한 해결책은 다양한 피부색과 얼굴 특징을 나타내는 더 많은 양의 데이터를 통합하는 것입니다.

우리가 국민으로서 평등하고 공평하게 분배된 정의 문제에서 우리를 돕기 위해 이 기술을 신뢰하고 의존해야 한다면, 우리가 할 수 있는 최소한의 일은 얼굴 인식의 핵심 문제와 그것이 사람들을 적절하게 식별하는 능력에 어떤 영향을 미치는지에 대해 더 많이 배우는 것입니다. 색상.