391 판독값

AI의 다양성과 포용성 정의

~에 의해 The Tech Reckoning is Upon Us!3m2024/07/03

너무 오래; 읽다

이 기사에서는 AI의 다양성과 포용성(D&I)을 정의하여 AI의 다면적인 특성을 강조하고 이러한 원칙이 기술, 커뮤니티 및 사용자 측면에 초점을 맞춰 AI 개발에 통합되도록 하는 지침을 제안합니다.

‘a diverse group of people’ Image created by HackerNoon AI Image Generator

저자:

(1) 무네라 바노;

(2) 디다르 조우기;

(3) 빈첸초 게르바시;

(4) 리파트 샴스.

링크 표

II. AI의 다양성과 포용성 정의

다양성과 포용성의 중요성이 인정됨에도 불구하고 이러한 원칙이 AI 시스템에서 실제로 어떻게 구현될 수 있는지에 대한 문헌에는 격차가 있습니다. FoschVillaronga와 Poulsen[15]은 AI의 D&I를 AI의 기술적 측면과 사회문화적 측면을 모두 다루는 다각적인 개념으로 정의합니다. 그들은 성별, 인종과 같은 사회 정치적 권력 차이에 관한 개인의 표현으로서 다양성을 강조합니다. 그들은 포함이란 일련의 인스턴스 내에서 개별 사용자를 표현하는 것이며 사용자와 관련 옵션 간의 정렬이 향상되어 더 큰 포함을 의미한다고 제안합니다. 이 개념은 기술, 커뮤니티, 사용자의 세 가지 수준에서 추가로 분석됩니다. 기술 수준에서는 알고리즘이 필요한 모든 변수를 설명하는지 여부와 사용자를 차별적인 방식으로 분류하는지 여부를 고려합니다. 커뮤니티 수준에서는 성별 표현과 배경의 다양성을 살펴보며 AI 개발팀의 다양성과 포용성을 조사합니다. 마지막으로, 사용자 수준은 시스템의 의도된 사용자와 연구 및 구현 프로세스에서 이해관계자와 피드백을 고려하는 방법에 중점을 두고 책임 있는 연구 및 혁신의 원칙을 강조합니다.

기존 문헌 내에서 AI의 D&I에 대한 포괄적인 정의가 부족하기 때문에 우리는 이러한 원칙이 AI 개발 프로세스에 통합되도록 보장하기 위한 규범적인 정의와 일련의 지침을 제안하게 되었습니다. 우리는 Responsible AI 및 D&I 전문가로부터 정의와 지침에 대해 반복적으로 피드백을 구하고 받았습니다[16]. 우리는 편견과 불공정을 해결하려면 문화적 역동성과 규범을 고려하고 최종 사용자와 기타 이해관계자를 포함하는 전체적인 접근 방식이 필요하다는 점을 인식하여 사회 기술적 관점에 중점을 두었습니다. 우리는 AI의 D&I를 AI 생태계의 데이터, 프로세스, 시스템 및 거버넌스에 '다양한' 속성과 관점을 가진 인간을 '포함'하는 것으로 정의했습니다. 다양성은 집단이나 사회에서 인간의 속성 차이를 표현하는 것을 의미합니다. 속성은 시민적 및 정치적 권리에 관한 국제 규약(ICCPR) 제26조의 보호되는 속성과 인종, 피부색, 성별, 언어, 종교, 국가 또는 사회적 출신을 포함하되 이에 국한되지 않는 알려진 다양성의 측면입니다. , 재산, 출생 또는 기타 상태 및 이러한 속성의 교차점. 포용은 다양한 특성을 지닌 가장 관련성이 높은 인간을 적극적으로 참여시키고 대표하는 프로세스입니다. AI 생태계 맥락에 영향을 받고 영향을 미치는 사람들입니다.

우리는 AI의 다양성과 포용성이 인간, 데이터, 프로세스, 시스템, 거버넌스라는 5가지 기둥을 포함하여 구조화되고 개념화될 수 있다고 제안했습니다. 인간 기둥은 AI 개발의 모든 단계에서 다양한 특성을 가진 개인을 포함하는 것의 중요성에 중점을 둡니다. 데이터 기둥은 데이터 수집 및 사용에 있어 잠재적인 편향을 염두에 두어야 할 필요성을 강조합니다. 프로세스 원칙은 AI 시스템의 개발, 배포 및 발전 과정에서 다양성과 포용성을 고려해야 한다는 점을 강조합니다. 시스템 원칙은 AI 시스템이 비포괄적 행동을 조장하지 않도록 테스트하고 모니터링해야 한다는 점을 인식합니다. 거버넌스 원칙은 AI 개발이 윤리적 원칙, 법률 및 규정을 준수하도록 보장하는 구조와 프로세스의 중요성을 강조합니다. AI 생태계는 AI 시스템이 배포되고 사용되는 5가지 기둥(인간, 데이터, 프로세스, 시스템 및 거버넌스)과 환경(예: 애플리케이션 도메인)을 의미합니다.