Авторы:  (1) Мунира Бано;  (2) Дидар Зуги;  (3) Винченцо Джервази;  (4) Рифат Шамс.  Таблица ссылок   Аннотация, заявление о воздействии и введение   Определение разнообразия и инклюзивности в ИИ   Исследовательская мотивация   Методология исследования   Полученные результаты   Обсуждение   Заключение, будущая работа и ссылки  II. ОПРЕДЕЛЕНИЕ РАЗНООБРАЗИЯ И ВКЛЮЧЕНИЯ В ИИ  Несмотря на общепризнанную важность разнообразия и инклюзивности, в литературе существует пробел относительно того, как эти принципы могут быть практически реализованы в системах ИИ. Фош Вилларонга и Поулсен [15] определяют D&I в ИИ как многогранную концепцию, которая затрагивает как технические, так и социокультурные аспекты ИИ. Они подчеркивают разнообразие как представление людей относительно различий в социально-политических силах, таких как пол и раса. Инклюзия, по их мнению, — это представление отдельного пользователя в наборе экземпляров с лучшим соответствием между пользователем и соответствующими ему опциями, что указывает на большую инклюзивность. Эта концепция далее анализируется на трех уровнях: техническом, общественном и пользовательском. На техническом уровне рассматривается, учитывают ли алгоритмы все необходимые переменные и классифицируют ли они пользователей дискриминационным образом. На уровне сообщества изучается разнообразие и инклюзивность в командах разработчиков ИИ, учитывая гендерное представительство и разнообразие происхождения. Наконец, уровень пользователя фокусируется на предполагаемых пользователях системы и на том, как процесс исследования и внедрения учитывает заинтересованные стороны и их отзывы, подчеркивая принципы ответственных исследований и инноваций.  Недостаток комплексного определения D&I в ИИ в существующей литературе побудил нас предложить нормативное определение и набор руководящих принципов для обеспечения включения этих принципов в процесс разработки ИИ. Мы неоднократно запрашивали и получали отзывы по определению и рекомендациям от экспертов по ответственному ИИ и D&I [16]. Мы сосредоточились на социально-технологической перспективе, признавая, что борьба с предвзятостью и несправедливостью требует целостного подхода, учитывающего культурную динамику и нормы и вовлекающего конечных пользователей и другие заинтересованные стороны. Мы определили D&I в ИИ как «включение» людей с «разнообразными» качествами и взглядами в данные, процессы, системы и управление экосистемой ИИ. Разнообразие относится к представлению различий в качествах людей в группе или обществе. Атрибуты — это известные аспекты разнообразия, включая (но не ограничиваясь ими) атрибуты, охраняемые статьей 26 Международного пакта о гражданских и политических правах (МПГПП), а также расу, цвет кожи, пол, язык, религию, национальное или социальное происхождение. , имущество, рождение или другой статус, а также пересечения этих атрибутов. Инклюзия – это процесс активного вовлечения и представления наиболее важных людей с различными качествами; те, на кого влияет контекст экосистемы ИИ и кто оказывает на него влияние.  Мы предположили, что разнообразие и инклюзивность в ИИ можно структурировать и концептуализировать, используя пять столпов: люди, данные, процессы, системы и управление. В основе человеческого подхода основное внимание уделяется важности включения людей с различными характеристиками на всех этапах развития ИИ. Основа данных подчеркивает необходимость учитывать потенциальные предвзятости при сборе и использовании данных. Основа процесса подчеркивает необходимость учета разнообразия и инклюзивности при разработке, развертывании и развитии систем ИИ. Основа системы признает необходимость тестирования и мониторинга системы ИИ, чтобы гарантировать, что она не способствует неинклюзивному поведению. Компонент управления подчеркивает важность структур и процессов, которые обеспечивают соответствие разработки ИИ этическим принципам, законам и нормам. Экосистема ИИ включает в себя 5 столпов (люди, данные, процессы, системы и управление), а также среду (т. е. область приложений), в которой развертывается и используется система ИИ.  Этот документ   под лицензией CC 4.0. доступен на arxiv

Part of HackerNoon's growing list of open-source research papers, promoting free access to academic material.

Read My Stories

No technological innovation comes without sacrifice. The pendulum will swing back to the people! Wanna' be 501c3.

Reckoning's Blog

Этот звук создан на языке оригинала истории!

Слишком долго; Читать

Make resilience your competitive advantage

Определение разнообразия и инклюзивности в ИИ

About Author

КОММЕНТАРИИ

БИРКИ

ЭТА СТАТЬЯ БЫЛА ПРЕДСТАВЛЕНА В

Related Stories

Утечка информации о системе Claude Sonnet 3.5: судебно-медицинский анализ

Хотите выиграть конкурс HackerNoon? Вот что рекомендуют победители конкурса #crypto-api

Краткое введение в теорию мозга Больцмана

Valhalla Флоки станет ассоциированным спонсором индийского тура по Шри-Ланке

Утечка информации о системе Claude Sonnet 3.5: судебно-медицинский анализ

Хотите выиграть конкурс HackerNoon? Вот что рекомендуют победители конкурса #crypto-api

Краткое введение в теорию мозга Больцмана

Valhalla Флоки станет ассоциированным спонсором индийского тура по Шри-Ланке

Light-Mode

Classic

Newspaper

Dark-Mode

Neon Noir

Minty

HN StartUps