作者：  （1）穆内拉·巴诺；  （2） 迪达尔·佐吉；  （3）文森佐·杰瓦西；  （4）里法特·沙姆斯。 链接表 摘要、影响陈述和介绍 定义人工智能的多样性和包容性 研究动机 研究方法论 结果 讨论 结论以及未来工作和参考文献 II. 定义人工智能的多样性和包容性 尽管多样性和包容性的重要性已被公认，但文献中关于如何在人工智能系统中实际实施这些原则的文献仍存在空白。FoschVillaronga 和 Poulsen [15] 将人工智能中的 D&I 定义为一个多方面的概念，它涉及人工智能的技术和社会文化方面。他们强调多样性是个人在性别和种族等社会政治权力差异方面的代表性。他们认为，包容性是单个用户在一组实例中的代表性，用户和与他们相关的选项之间的一致性越高，表明包容性就越强。这一概念在三个层面进一步分析：技术、社区和用户。技术层面考虑算法是否考虑了所有必要的变量，以及它们是否以歧视性的方式对用户进行分类。社区层面考察人工智能开发团队的多样性和包容性，着眼于性别代表性和背景多样性。最后，用户层面关注系统的预期用户以及研究和实施过程如何考虑利益相关者及其反馈，强调负责任的研究和创新原则。 现有文献中缺乏对人工智能中 D&I 的全面定义，这促使我们提出一个规范性定义和一套指导方针，以确保将这些原则纳入人工智能开发过程。我们反复寻求并收到了负责任的人工智能和 D&I 专家对定义和指导方针的反馈 [16]。我们专注于社会技术视角，认识到解决偏见和不公平问题需要采取一种整体方法，考虑文化动态和规范，并让最终用户和其他利益相关者参与其中。我们将人工智能中的 D&I 定义为：将具有“多样化”属性和观点的人类“纳入”人工智能生态系统的数据、流程、系统和治理中。多样性是指人类属性差异在群体或社会中的体现。属性是多样性的已知方面，包括（但不限于）《公民权利和政治权利国际公约》第 26 条中受保护的属性，以及种族、肤色、性别、语言、宗教、国籍或社会出身、财产、出生或其他身份，以及这些属性的交叉点。包容性是积极参与和代表具有各种属性的最相关人类的过程；那些受到人工智能生态系统环境影响并对人工智能生态系统环境产生影响的人。 我们提出，人工智能的多样性和包容性可以通过五大支柱来构建和概念化：人、数据、流程、系统和治理。人支柱关注在人工智能发展的各个阶段纳入具有多样化属性的个体的重要性。数据支柱强调需要注意数据收集和使用中的潜在偏见。流程支柱强调在人工智能系统的开发、部署和演进过程中需要考虑多样性和包容性。系统支柱认识到对人工智能系统进行测试和监控的必要性，以确保它不会促进非包容性行为。治理支柱强调确保人工智能发展符合道德原则、法律和法规的结构和流程的重要性。人工智能生态系统是指五大支柱（人、数据、流程、系统和治理）加上部署和使用人工智能系统的环境（即应用领域）。 该论文 。 可在 arxiv 上根据 CC 4.0 许可获取

Part of HackerNoon's growing list of open-source research papers, promoting free access to academic material.

Read My Stories

No technological innovation comes without sacrifice. The pendulum will swing back to the people! Wanna' be 501c3.

Reckoning's Blog

該音頻是用故事的原始語言製作的！

定义人工智能的多样性和包容性

About Author

註釋

標籤

这篇文章刊登在

Related Stories

释放人工智能的力量。前沿技术的系统评价：摘要与介绍

扬帆起航：利用数据湖开发生产级 RAG 应用程序

架构师指南：构建 AI/ML 数据湖参考架构

HackerNoon Decoded: The Top 10 Countries Where HackerNoon Is the Most Active

释放人工智能的力量。前沿技术的系统评价：摘要与介绍

扬帆起航：利用数据湖开发生产级 RAG 应用程序

架构师指南：构建 AI/ML 数据湖参考架构

HackerNoon Decoded: The Top 10 Countries Where HackerNoon Is the Most Active

Light-Mode

Classic

Newspaper

Minty

Dark-Mode

Neon Noir

Minty

HN StartUps