Yapay Zekada Çeşitliliğin ve Katılımın Tanımlanması

Bağlantı Tablosu

Özet, Etki Beyanı ve Giriş

Yapay Zekada Çeşitliliğin ve Katılımın Tanımlanması

Araştırma Motivasyonu

Araştırma Metodolojisi

Sonuçlar

Tartışma

Sonuç ve Gelecek Çalışmalar ve Referanslar

II. Yapay Zekada Çeşitliliği ve Kapsayıcılığı Tanımlamak

Çeşitlilik ve katılımın kabul edilen önemine rağmen, bu ilkelerin yapay zeka sistemlerinde pratik olarak nasıl uygulanabileceği konusunda literatürde bir boşluk vardır. FoschVillaronga ve Poulsen [15], yapay zekada D&I'yi, yapay zekanın hem teknik hem de sosyokültürel yönlerini ele alan çok yönlü bir kavram olarak tanımlamaktadır. Çeşitliliği, cinsiyet ve ırk gibi sosyo-politik güç farklılıklarına ilişkin bireylerin temsili olarak vurguluyorlar. Onlara göre dahil etme, bireysel bir kullanıcının bir dizi örnek içerisinde temsil edilmesidir; bir kullanıcı ile onunla ilgili seçenekler arasında daha iyi bir uyum sağlanır ve bu da daha fazla katılımın göstergesidir. Bu kavram ayrıca üç düzeyde analiz edilir: teknik, topluluk ve kullanıcı. Teknik düzey, algoritmaların gerekli tüm değişkenleri hesaba katıp hesaba katmadığını ve kullanıcıları ayrımcı bir şekilde sınıflandırıp sınıflandırmadığını dikkate alır. Topluluk düzeyinde, cinsiyet temsiline ve geçmiş çeşitliliğine bakarak yapay zeka geliştirme ekiplerindeki çeşitlilik ve kapsayıcılık incelenir. Son olarak kullanıcı seviyesi, Sorumlu Araştırma ve Yenilik ilkelerini vurgulayarak sistemin hedeflenen kullanıcılarına ve araştırma ve uygulama sürecinin paydaşları ve onların geri bildirimlerini nasıl dikkate aldığına odaklanır.

Mevcut literatürde yapay zekada D&I için kapsamlı bir tanımın bulunmaması, bizi bu ilkelerin yapay zeka geliştirme sürecine dahil edilmesini sağlamak için normatif bir tanım ve bir dizi kılavuz önermeye motive etti. Sorumlu AI ve D&I uzmanlarından tanım ve yönergeler hakkında tekrar tekrar geri bildirim aldık ve aldık [16]. Önyargı ve adaletsizliği ele almanın, kültürel dinamikleri ve normları dikkate alan, son kullanıcıları ve diğer paydaşları içeren bütünsel bir yaklaşım gerektirdiğinin bilincinde olarak sosyo-teknolojik bir bakış açısına odaklandık. Yapay zekada D&I'yi şöyle tanımladık: 'farklı' niteliklere ve bakış açılarına sahip insanların yapay zeka ekosisteminin verilerine, sürecine, sistemine ve yönetimine 'dahil edilmesi'. Çeşitlilik, bir grup veya toplumdaki insanların niteliklerindeki farklılıkların temsilini ifade eder. Nitelikler, Uluslararası Medeni ve Siyasi Haklar Sözleşmesi'nin (ICCPR) 26. Maddesinde korunan niteliklerin yanı sıra ırk, renk, cinsiyet, dil, din, ulusal veya sosyal köken dahil (ancak bunlarla sınırlı olmamak üzere) çeşitliliğin bilinen yönleridir. , mülkiyet, doğum veya diğer statüler ve bu niteliklerin kesişimleri. Katılım, farklı niteliklere sahip en ilgili kişilerin proaktif olarak dahil edilmesi ve temsil edilmesi sürecidir; Yapay zeka ekosistemi bağlamından etkilenen ve üzerinde etkisi olan kişiler.

Yapay zekadaki çeşitlilik ve katılımın beş sütunu içerecek şekilde yapılandırılabileceğini ve kavramsallaştırılabileceğini önerdik: insanlar, veriler, süreç, sistem ve yönetişim. İnsan ayağı, yapay zeka gelişiminin tüm aşamalarına farklı niteliklere sahip bireylerin dahil edilmesinin önemine odaklanıyor. Veri sütunu, veri toplama ve kullanmadaki olası önyargılara karşı dikkatli olunması gerektiğinin altını çiziyor. Süreç ayağı, yapay zeka sistemlerinin geliştirilmesi, devreye alınması ve evrimi sırasında çeşitlilik ve katılım hususlarına olan ihtiyacı vurgulamaktadır. Sistem ayağı, yapay zeka sisteminin kapsayıcı olmayan davranışları teşvik etmediğinden emin olmak için test edilmesi ve izlenmesi gerekliliğini kabul ediyor. Yönetişim sütunu, yapay zeka gelişiminin etik ilkeler, yasalar ve düzenlemelerle uyumlu olmasını sağlayan yapı ve süreçlerin öneminin altını çiziyor. Yapay zeka ekosistemi, 5 sütunu (insanlar, veriler, süreç, sistem ve yönetişim) ve ayrıca yapay zeka sisteminin dağıtıldığı ve kullanıldığı ortamı (yani uygulama alanı) ifade eder.