Xác định tính đa dạng và hòa nhập trong AI

Bảng liên kết

Tóm tắt, Tuyên bố tác động và Giới thiệu

Xác định tính đa dạng và hòa nhập trong AI

Động lực nghiên cứu

Phương pháp nghiên cứu

Kết quả

Cuộc thảo luận

Kết luận và công việc trong tương lai và tài liệu tham khảo

II. XÁC ĐỊNH SỰ ĐA DẠNG VÀ HỘI NHẬP TRONG AI

Bất chấp tầm quan trọng được thừa nhận của tính đa dạng và hòa nhập, vẫn còn khoảng trống trong tài liệu về cách áp dụng những nguyên tắc này trên thực tế trong các hệ thống AI. FoschVillaronga và Poulsen [15], định nghĩa D&I trong AI là một khái niệm nhiều mặt nhằm giải quyết cả khía cạnh kỹ thuật và văn hóa xã hội của AI. Họ nhấn mạnh sự đa dạng như sự đại diện của các cá nhân liên quan đến sự khác biệt về quyền lực chính trị xã hội như giới tính và chủng tộc. Họ đề xuất, sự bao gồm là sự thể hiện của một người dùng cá nhân trong một tập hợp các trường hợp, với sự liên kết tốt hơn giữa người dùng và các tùy chọn liên quan đến họ, cho thấy sự bao gồm nhiều hơn. Khái niệm này được phân tích sâu hơn ở ba cấp độ: kỹ thuật, cộng đồng và người dùng. Cấp độ kỹ thuật xem xét liệu các thuật toán có tính đến tất cả các biến cần thiết hay không và liệu chúng có phân loại người dùng theo cách phân biệt đối xử hay không. Cấp độ cộng đồng kiểm tra tính đa dạng và hòa nhập trong các nhóm phát triển AI, xem xét sự đại diện về giới và sự đa dạng về nguồn gốc. Cuối cùng, cấp độ người dùng tập trung vào những người dùng dự định của hệ thống và cách quá trình nghiên cứu và triển khai có tính đến các bên liên quan cũng như phản hồi của họ, nhấn mạnh các nguyên tắc Nghiên cứu và Đổi mới có trách nhiệm.

Sự thiếu hụt một định nghĩa toàn diện về D&I trong AI trong tài liệu hiện có đã thúc đẩy chúng tôi đề xuất một định nghĩa quy phạm và một bộ hướng dẫn để đảm bảo các nguyên tắc này được đưa vào quá trình phát triển AI. Chúng tôi đã nhiều lần tìm kiếm và nhận được phản hồi về định nghĩa và hướng dẫn từ các chuyên gia AI và D&I có trách nhiệm [16]. Chúng tôi tập trung vào góc độ công nghệ xã hội, nhận thấy rằng việc giải quyết thành kiến và bất công đòi hỏi một cách tiếp cận toàn diện có tính đến động lực và chuẩn mực văn hóa, đồng thời có sự tham gia của người dùng cuối và các bên liên quan khác. Chúng tôi đã định nghĩa D&I trong AI là: 'bao gồm' con người với các thuộc tính và quan điểm 'đa dạng' trong dữ liệu, quy trình, hệ thống và quản trị hệ sinh thái AI. Sự đa dạng đề cập đến sự thể hiện sự khác biệt về thuộc tính của con người trong một nhóm hoặc xã hội. Các thuộc tính là các khía cạnh đa dạng được biết đến, bao gồm (nhưng không giới hạn) các thuộc tính được bảo vệ trong Điều 26 của Công ước Quốc tế về các Quyền Dân sự và Chính trị (ICCPR), cũng như chủng tộc, màu da, giới tính, ngôn ngữ, tôn giáo, nguồn gốc quốc gia hoặc xã hội , tài sản, ngày sinh hoặc tình trạng khác và các phần giao nhau của các thuộc tính này. Hòa nhập là quá trình chủ động lôi kéo và đại diện cho những người phù hợp nhất với những đặc điểm đa dạng; những người bị ảnh hưởng và có tác động đến bối cảnh hệ sinh thái AI.

Chúng tôi đề xuất rằng sự đa dạng và hòa nhập trong AI có thể được cấu trúc và khái niệm hóa liên quan đến năm trụ cột: con người, dữ liệu, quy trình, hệ thống và quản trị. Trụ cột con người tập trung vào tầm quan trọng của việc bao gồm những cá nhân có thuộc tính đa dạng trong tất cả các giai đoạn phát triển AI. Trụ cột dữ liệu nhấn mạnh sự cần thiết phải lưu ý đến những thành kiến có thể xảy ra trong việc thu thập và sử dụng dữ liệu. Trụ cột quy trình nhấn mạnh sự cần thiết phải cân nhắc về tính đa dạng và hòa nhập trong quá trình phát triển, triển khai và phát triển các hệ thống AI. Trụ cột hệ thống nhận thấy sự cần thiết phải kiểm tra và giám sát hệ thống AI để đảm bảo hệ thống không thúc đẩy các hành vi không hòa nhập. Trụ cột quản trị nhấn mạnh tầm quan trọng của các cấu trúc và quy trình nhằm đảm bảo việc phát triển AI tuân thủ các nguyên tắc, luật pháp và quy định đạo đức. Hệ sinh thái AI đề cập đến 5 trụ cột (con người, dữ liệu, quy trình, hệ thống và quản trị), cộng với môi trường (tức là miền ứng dụng), trong đó hệ thống AI được triển khai và sử dụng.