AIにおける多様性と包括性の定義

リンク一覧

概要、影響評価、および序論

AIにおける多様性と包括性の定義

研究の動機

研究方法

結果

議論

結論と今後の研究と参考文献

II. AIにおける多様性と包摂性の定義

多様性と包括性の重要性は認められているものの、これらの原則をAIシステムに実際に実装する方法については文献にギャップがあります。FoschVillarongaとPoulsen[15]は、AIにおけるD&Iを、AIの技術的側面と社会文化的側面の両方に対処する多面的な概念と定義しています。彼らは、多様性を、性別や人種などの社会政治的な力関係の差異に関する個人の表現として強調しています。彼らが示唆するところによると、包括性とは、一連のインスタンス内での個々のユーザーの表現であり、ユーザーとユーザーに関連するオプションとの整合性が向上し、包括性が高まることを示しています。この概念は、技術、コミュニティ、ユーザーの3つのレベルでさらに分析されます。技術レベルでは、アルゴリズムが必要な変数をすべて考慮しているかどうか、ユーザーを差別的に分類していないかどうかが検討されます。コミュニティレベルでは、AI開発チームにおける多様性と包括性を検討し、性別の表現と背景の多様性に注目します。最後に、ユーザー レベルでは、システムの対象ユーザーと、研究および実装プロセスで利害関係者とそのフィードバックをどのように考慮するかに焦点を当て、責任ある研究とイノベーションの原則を強調します。

既存の文献にはAIにおけるD&Iの包括的な定義が不足していることから、私たちは規範的な定義と、これらの原則がAI開発プロセスに組み込まれるようにするためのガイドラインを提案することにしました。私たちは、責任あるAIとD&Iの専門家[16]に定義とガイドラインについて繰り返しフィードバックを求め、受け取りました。私たちは社会技術的な観点に焦点を当て、偏見や不公平に対処するには、文化的なダイナミクスと規範を考慮し、エンドユーザーやその他の利害関係者を巻き込んだ総合的なアプローチが必要であることを認識しました。私たちは、AIにおけるD&Iを次のように定義しました。AIエコシステムのデータ、プロセス、システム、ガバナンスに「多様な」属性と視点を持つ人間を「含める」こと。多様性とは、グループまたは社会における人間の属性の違いの表現を指します。属性は多様性の既知の側面であり、市民的及び政治的権利に関する国際規約 (ICCPR) の第 26 条で保護されている属性 (ただしこれに限定されません) のほか、人種、肌の色、性別、言語、宗教、国籍または社会的出身、財産、出生またはその他の地位、およびこれらの属性の交差点が含まれます。インクルージョンとは、多様な属性を持つ最も関連性の高い人々、つまり AI エコシステムのコンテキストの影響を受け、それに影響を与える人々を積極的に関与させ、代表するプロセスです。

私たちは、AI における多様性と包括性は、人間、データ、プロセス、システム、ガバナンスの 5 つの柱で構造化および概念化できると提案しました。人間の柱は、AI 開発のすべての段階で多様な属性を持つ個人を含めることの重要性に焦点を当てています。データの柱は、データの収集と使用における潜在的なバイアスに注意する必要性を強調しています。プロセスの柱は、AI システムの開発、展開、進化の過程で多様性と包括性を考慮する必要性を強調しています。システムの柱は、AI システムが非包括的な行動を促進しないようにするために、AI システムをテストおよび監視する必要性を認識しています。ガバナンスの柱は、AI 開発が倫理原則、法律、規制に準拠していることを保証する構造とプロセスの重要性を強調しています。AI エコシステムとは、5 つの柱 (人間、データ、プロセス、システム、ガバナンス) と、AI システムが展開および使用される環境 (アプリケーション ドメインなど) を指します。