Как проблема предвзятости ИИ может повлиять на ваше следующее заявление о приеме на работу

Соискателей технических вакансий блокируют из-за предвзятости ИИ, когда подача заявок на роли . Хотя для HR-специалистов поколение ИИ имеет большой потенциал, когда дело доходит до автоматизации утомительных задач, его склонность к предвзятости остается причиной для беспокойства.

Предвзятость ИИ при наборе персонала возникает, когда системы и инструменты, используемые для проверки и отбора кандидатов, непреднамеренно закрепляют или даже усиливают существующие предрассудки.

Эти предубеждения часто возникают из-за данных, на которых обучаются эти системы, которые могут отражать социальные предрассудки или исторические модели найма, которые отдают предпочтение определенным демографическим группам перед другими.

Иногда предвзятость ИИ связана с самим дизайном и отражает неосознанные предубеждения его разработчиков, тогда как петли обратной связи означают, что, если система последовательно выбирает кандидатов с одинаковым опытом, она будет продолжать делать это, пока не будет исправлено.

Встроенная предвзятость может повлиять на ваше поиск работы существенно. Хотя широко распространены сообщения о предвзятости в системах отслеживания кандидатов (ATS), которые сканируют резюме на предмет ключевых слов в описании вакансии и ключевых слов, которые соответствуют предыдущим успешным кандидатам, недавний эксперимент показывает, насколько явными могут быть предубеждения в отношении ИИ.

Предвзятость в действии

Применяя вымышленные, но «демографически различающиеся» имена к резюме с одинаковой квалификацией, ChatGPT 3.5 попросили сопоставить кандидатов с реальными требованиями к должности финансового аналитика в реальной компании.

Имена, отличающиеся от имен чернокожих американцев, имели меньшую вероятность попасть в список лучших кандидатов; имена, связанные с азиатскими женщинами и белыми мужчинами, обычно работали лучше.

Учитывая головокружительную скорость развития ИИ, некоторые говорят, что этот эксперимент уже устарел. К сожалению, это не так.

Хотя ChatGPT-4o сейчас развертывается, и OpenAI утверждает, что протестировала его с участием сторонних специалистов, компания также заявляет, что будет продолжать решать такие проблемы, как предвзятость, справедливость и дезинформация, по мере их выявления. Смысловые предубеждения все еще существуют.

Что могут сделать соискатели, чтобы избежать предвзятости ИИ?

Для соискателей работы небольшое изучение приверженности компании DE&I покажет, будет ли она сосредоточена на устранении предвзятости в своих инструментах искусственного интеллекта.

Благодаря возможности сканирования тысяч резюме за секунды маловероятно, что компании вернутся к проверке резюме только вручную, но многие организации добавляют уровень человеческого контроля в процессы проверки, чтобы помочь смягчить предвзятость результатов ИИ. Конечно, у людей тоже есть предубеждения, поэтому ни один метод не является надежным.

Другие команды по найму используют ATS, которые скрывают имена кандидатов и уровень образования.

Кроме того, посмотрите, ориентирована ли ваша желаемая компания на определенный уровень образования; если это так, вероятность предвзятости ИИ выше.

Конечно, в некоторых отраслях, таких как медицина и здравоохранение, профессиональная квалификация очень важна, но в других, например, в разработке программного обеспечения, организации могут использовать подход к найму, основанный на навыках.

Инженеры и разработчики часто являются STAR (обученными альтернативными путями), поэтому в объявлениях о вакансиях обращайте внимание на требования, основанные на опыте, а не на минимум образования.

Инженер DevOps, SAP, Bellevue

Сап ищет DevOps-инженер нести ответственность за эффективную и действенную доставку клиентских сред в облаке соответствующих линеек продуктов и обеспечивать доставку в соответствии с определенными соглашениями об уровне обслуживания.

Вы также будете участвовать в разработке автоматизированных решений для обнаружения аномалий и автоматического устранения инцидентов, мониторинга и измерения систем производительности, планирования нагрузки и мощности, а также обеспечения бесперебойной работы и максимального увеличения времени безотказной работы.

Чтобы вас рассмотрели, вам понадобится как минимум двухлетний опыт работы в Docker, Kubernetes, Jenkins, Ansible, Python и BASH, а также других. Узнайте больше здесь .

Старший инженер-программист — DevOps, Roku, Сан-Хосе, Калифорния

Предлагая значительную зарплату, хотя и только для Калифорнии, Roku нанимает Старший инженер-программист с исключительными навыками DevOps. В обязанности входит автоматизация и масштабирование технологических стеков больших данных и аналитики в облачной инфраструктуре, построение конвейеров CI/CD, настройка мониторинга и оповещений для производственной инфраструктуры, а также поддержание технологических стеков в актуальном состоянии.

Для получения права на медицинскую страховку, долевые вознаграждения, страхование жизни, пособия по инвалидности, отпуск по уходу за ребенком, оздоровительные льготы и оплачиваемый отпуск, эта должность требует четырехлетнего опыта работы в DevOps и/или проектировании надежности. Подробнее здесь .

Старший инженер DevOps, FanDuel, Атланта

Играйте ключевую роль в автоматизации облачной инфраструктуры и приложений FanDuel Group, сотрудничая с разработчиками программного обеспечения, инженерами по выпуску и другими межфункциональными командами. Старший инженер DevOps . Успешный кандидат будет продвигать ключевые инициативы путем разработки, планирования и реализации стратегий в различных межфункциональных областях, которые соответствуют его бизнес-целям.

Хотя основное внимание уделяется AWS, могут потребоваться и другие облачные платформы, поэтому важно продемонстрировать приверженность профессиональному развитию в области облачных технологий. Постепенно не перечисляются никакие образовательные требования, но указывается список желаемого опыта и навыков. Посмотреть требования здесь .

Аманда Кавана