Определение разнообразия и инклюзивности в ИИ

Таблица ссылок

Аннотация, заявление о воздействии и введение

Определение разнообразия и инклюзивности в ИИ

Исследовательская мотивация

Методология исследования

Полученные результаты

Обсуждение

Заключение, будущая работа и ссылки

II. ОПРЕДЕЛЕНИЕ РАЗНООБРАЗИЯ И ВКЛЮЧЕНИЯ В ИИ

Несмотря на общепризнанную важность разнообразия и инклюзивности, в литературе существует пробел относительно того, как эти принципы могут быть практически реализованы в системах ИИ. Фош Вилларонга и Поулсен [15] определяют D&I в ИИ как многогранную концепцию, которая затрагивает как технические, так и социокультурные аспекты ИИ. Они подчеркивают разнообразие как представление людей относительно различий в социально-политических силах, таких как пол и раса. Инклюзия, по их мнению, — это представление отдельного пользователя в наборе экземпляров с лучшим соответствием между пользователем и соответствующими ему опциями, что указывает на большую инклюзивность. Эта концепция далее анализируется на трех уровнях: техническом, общественном и пользовательском. На техническом уровне рассматривается, учитывают ли алгоритмы все необходимые переменные и классифицируют ли они пользователей дискриминационным образом. На уровне сообщества изучается разнообразие и инклюзивность в командах разработчиков ИИ, учитывая гендерное представительство и разнообразие происхождения. Наконец, уровень пользователя фокусируется на предполагаемых пользователях системы и на том, как процесс исследования и внедрения учитывает заинтересованные стороны и их отзывы, подчеркивая принципы ответственных исследований и инноваций.

Недостаток комплексного определения D&I в ИИ в существующей литературе побудил нас предложить нормативное определение и набор руководящих принципов для обеспечения включения этих принципов в процесс разработки ИИ. Мы неоднократно запрашивали и получали отзывы по определению и рекомендациям от экспертов по ответственному ИИ и D&I [16]. Мы сосредоточились на социально-технологической перспективе, признавая, что борьба с предвзятостью и несправедливостью требует целостного подхода, учитывающего культурную динамику и нормы и вовлекающего конечных пользователей и другие заинтересованные стороны. Мы определили D&I в ИИ как «включение» людей с «разнообразными» качествами и взглядами в данные, процессы, системы и управление экосистемой ИИ. Разнообразие относится к представлению различий в качествах людей в группе или обществе. Атрибуты — это известные аспекты разнообразия, включая (но не ограничиваясь ими) атрибуты, охраняемые статьей 26 Международного пакта о гражданских и политических правах (МПГПП), а также расу, цвет кожи, пол, язык, религию, национальное или социальное происхождение. , имущество, рождение или другой статус, а также пересечения этих атрибутов. Инклюзия – это процесс активного вовлечения и представления наиболее важных людей с различными качествами; те, на кого влияет контекст экосистемы ИИ и кто оказывает на него влияние.

Мы предположили, что разнообразие и инклюзивность в ИИ можно структурировать и концептуализировать, используя пять столпов: люди, данные, процессы, системы и управление. В основе человеческого подхода основное внимание уделяется важности включения людей с различными характеристиками на всех этапах развития ИИ. Основа данных подчеркивает необходимость учитывать потенциальные предвзятости при сборе и использовании данных. Основа процесса подчеркивает необходимость учета разнообразия и инклюзивности при разработке, развертывании и развитии систем ИИ. Основа системы признает необходимость тестирования и мониторинга системы ИИ, чтобы гарантировать, что она не способствует неинклюзивному поведению. Компонент управления подчеркивает важность структур и процессов, которые обеспечивают соответствие разработки ИИ этическим принципам, законам и нормам. Экосистема ИИ включает в себя 5 столпов (люди, данные, процессы, системы и управление), а также среду (т. е. область приложений), в которой развертывается и используется система ИИ.