Definition von Diversität und Inklusion in der KI

Linktabelle

Zusammenfassung, Wirkungserklärung und Einleitung

Definition von Diversität und Inklusion in der KI

Forschungsmotivation

Forschungsmethodik

Ergebnisse

Diskussion

Schlussfolgerung und zukünftige Arbeiten und Referenzen

II. DEFINITION VON VIELFALT UND INKLUSION IN DER KI

Trotz der anerkannten Bedeutung von Diversität und Inklusion gibt es in der Literatur eine Lücke hinsichtlich der praktischen Umsetzung dieser Prinzipien in KI-Systemen. FoschVillaronga und Poulsen [15] definieren D&I in der KI als ein vielschichtiges Konzept, das sowohl die technischen als auch die soziokulturellen Aspekte der KI berücksichtigt. Sie betonen Diversität als die Repräsentation von Individuen in Bezug auf soziopolitische Machtunterschiede wie Geschlecht und Rasse. Inklusion, so schlagen sie vor, ist die Repräsentation eines einzelnen Benutzers innerhalb einer Reihe von Instanzen, wobei eine bessere Übereinstimmung zwischen einem Benutzer und den für ihn relevanten Optionen besteht, was auf eine größere Inklusion hinweist. Dieses Konzept wird auf drei Ebenen weiter analysiert: der technischen, der Community- und der Benutzerebene. Die technische Ebene untersucht, ob Algorithmen alle erforderlichen Variablen berücksichtigen und ob sie Benutzer diskriminierend klassifizieren. Die Community-Ebene untersucht Diversität und Inklusion in KI-Entwicklungsteams und betrachtet dabei die Geschlechterrepräsentation und die Vielfalt der Hintergründe. Schließlich konzentriert sich die Benutzerebene auf die beabsichtigten Benutzer des Systems und darauf, wie der Forschungs- und Implementierungsprozess die Interessengruppen und ihr Feedback berücksichtigt, wobei die Grundsätze der verantwortungsvollen Forschung und Innovation hervorgehoben werden.

Der Mangel an einer umfassenden Definition für D&I in der KI in der bestehenden Literatur hat uns motiviert, eine normative Definition und eine Reihe von Richtlinien vorzuschlagen, um sicherzustellen, dass diese Prinzipien in den KI-Entwicklungsprozess integriert werden. Wir haben iterativ Feedback zu der Definition und den Richtlinien von Experten für verantwortungsvolle KI und D&I eingeholt und erhalten [16]. Wir haben uns auf eine soziotechnologische Perspektive konzentriert und erkannt, dass die Bekämpfung von Voreingenommenheit und Ungerechtigkeit einen ganzheitlichen Ansatz erfordert, der kulturelle Dynamiken und Normen berücksichtigt und Endbenutzer und andere Interessengruppen einbezieht. Wir haben D&I in der KI wie folgt definiert: „Einbeziehung“ von Menschen mit „vielfältigen“ Eigenschaften und Perspektiven in die Daten, Prozesse, Systeme und Governance des KI-Ökosystems. Vielfalt bezieht sich auf die Darstellung der Unterschiede in den Eigenschaften von Menschen in einer Gruppe oder Gesellschaft. Eigenschaften sind bekannte Facetten der Vielfalt, einschließlich (aber nicht beschränkt auf) die geschützten Eigenschaften in Artikel 26 des Internationalen Pakts über bürgerliche und politische Rechte (IPBPR) sowie Rasse, Hautfarbe, Geschlecht, Sprache, Religion, nationale oder soziale Herkunft, Eigentum, Geburt oder anderer Status und Schnittpunkte dieser Eigenschaften. Inklusion ist der Prozess der proaktiven Einbeziehung und Vertretung der wichtigsten Menschen mit unterschiedlichen Eigenschaften; derjenigen, die vom Kontext des KI-Ökosystems betroffen sind und darauf Einfluss haben.

Wir haben vorgeschlagen, dass Vielfalt und Inklusion in der KI anhand von fünf Säulen strukturiert und konzeptualisiert werden können: Menschen, Daten, Prozesse, Systeme und Governance. Die Säule „Menschen“ konzentriert sich auf die Bedeutung der Einbeziehung von Personen mit unterschiedlichen Eigenschaften in alle Phasen der KI-Entwicklung. Die Säule „Daten“ betont die Notwendigkeit, potenzielle Verzerrungen bei der Datenerfassung und -verwendung zu berücksichtigen. Die Säule „Prozess“ betont die Notwendigkeit, Vielfalt und Inklusion während der Entwicklung, Bereitstellung und Weiterentwicklung von KI-Systemen zu berücksichtigen. Die Säule „System“ erkennt die Notwendigkeit an, das KI-System zu testen und zu überwachen, um sicherzustellen, dass es kein nicht-inklusives Verhalten fördert. Die Säule „Governance“ unterstreicht die Bedeutung von Strukturen und Prozessen, die sicherstellen, dass die KI-Entwicklung ethischen Grundsätzen, Gesetzen und Vorschriften entspricht. Das KI-Ökosystem bezieht sich auf die fünf Säulen (Menschen, Daten, Prozesse, Systeme und Governance) sowie die Umgebung (d. h. den Anwendungsbereich), in der das KI-System bereitgestellt und verwendet wird.