AI の偏見問題が次の就職活動に及ぼす影響

テクノロジー分野の求職者はAIの偏見によって阻まれている役職に応募するHR プロフェッショナルにとって、単調なタスクの自動化に関しては gen AI が大きな可能性を秘めているものの、偏見を生む傾向が依然として懸念材料となっています。

採用におけるAI による偏見は、候補者の選考や選定に使用されるシステムやツールが、既存の偏見を不注意に永続させたり、増幅させたりした場合に発生します。

こうした偏見は、多くの場合、これらのシステムがトレーニングされるデータから生じており、特定の人口統計を他の人口統計よりも優遇する社会的偏見や過去の採用パターンを反映している可能性があります。

AI の偏りは設計自体に起因し、開発者の無意識の偏りを反映している場合もありますが、フィードバック ループとは、システムが一貫して同様の背景を持つ候補者を選択する場合、修正されない限りその選択を続けることを意味します。

内在する偏見は、 仕事探し大幅に。履歴書をスキャンして職務内容のキーワードや過去の採用候補者と一致するキーワードを探す応募者追跡システム（ATS）の偏りに関する報告は広まっているが、 最近の実験AI に対する偏見がいかに露骨であるかを示しています。

偏見の実践

同等の資格を持つ履歴書に架空だが「人口統計的に異なる」名前を適用することにより、ChatGPT 3.5 は、実際の企業の財務アナリスト職の実際の求人要件に対して応募者をランク付けするように求められました。

黒人アメリカ人に特有の名前は、最優秀応募者としてリストされる可能性が低く、アジア人女性や白人男性に関連する名前は、一般的に優れた成績を収めました。

AI 開発のめまぐるしいスピードを考えると、この実験はすでに時代遅れだという人もいます。残念ながら、そうではありません。

ChatGPT-4o は現在展開中で、OpenAI は外部の専門家とテストしたと主張しているが、偏見、公平性、偽情報などの懸念が明らかになれば、それらに対処し続けるとも述べている。つまり、偏見は依然として存在するということだ。

求職者は AI の偏見を回避するために何ができるでしょうか?

求職者にとって、企業の DE&I への取り組みを少し調べれば、その企業が AI ツールの偏見の排除に注力する可能性が高いかどうかがわかります。

数千の履歴書を数秒でスキャンできるため、企業が履歴書を手動で確認するだけに戻る可能性は低いですが、多くの組織は、AI の結果の偏りを軽減するために、スクリーニング プロセスに人間による監視の層を追加しています。もちろん、人間にも偏りがあるため、完璧な方法はありません。

他の採用チームは、応募者の名前と学歴を隠す ATS を使用しています。

また、希望する企業が特定の教育レベルにこだわっているかどうかも確認してください。そうであれば、AI による偏見が生じる可能性が高くなります。

もちろん、医療やヘルスケアなどの特定の業界では、専門的な資格は非常に重要ですが、ソフトウェア エンジニアリングなどの他の業界では、組織はよりスキルに基づいた採用アプローチを取ることができます。

エンジニアや開発者は STAR（代替ルートでスキルを習得した人）であることが多いため、求人広告では最低限の学歴よりも経験に基づく要件に注意してください。

DevOps エンジニア、SAP、ベルビュー

サップはDevOpsエンジニア各製品ラインのクラウドにおける顧客環境の効果的かつ効率的な提供に責任を持ち、定義されたサービス レベル契約に従って提供されるようにします。

また、異常検出やインシデントの自動修復のための自動化ソリューションの開発、パフォーマンス、負荷、容量計画のためのシステムの監視と測定、スムーズな運用の確保と稼働時間の最大化にも貢献します。

応募するには、Docker、Kubernetes、Jenkins、Ansible、Python、BASH などの分野で少なくとも 2 年間の経験が必要です。 詳細はこちら。

シニア ソフトウェア エンジニア - DevOps、Roku、カリフォルニア州サンノゼ

かなりの給与を提示しているが、カリフォルニア州限定で、Rokuはシニアソフトウェアエンジニア卓越した DevOps スキルを備えています。職務には、クラウド インフラストラクチャ上のビッグ データと分析技術スタックの自動化とスケーリング、CI/CD パイプラインの構築、運用インフラストラクチャの監視とアラートの設定、技術スタックの最新状態の維持などが含まれます。

健康保険、株式報酬、生命保険、障害給付、育児休暇、健康給付、有給休暇の対象となるこの役職には、DevOps および/または信頼性エンジニアリングでの 4 年間の経験が必要です。 詳細はこちら。

シニアスタッフ DevOps エンジニア、FanDuel、アトランタ

ソフトウェアエンジニア、リリースエンジニア、その他の部門横断的なチームと協力して、FanDuel Groupのクラウドインフラストラクチャとアプリケーションの自動化において重要な役割を果たします。 シニアスタッフDevOpsエンジニア採用された応募者は、ビジネス目標に沿った複数の機能横断的な領域にわたる戦略を策定、計画、実装することで、主要な取り組みを推進します。

主な焦点は AWS ですが、他のクラウド プラットフォームも必要になる可能性があるため、クラウド テクノロジーの専門能力開発への取り組みを示すことが重要です。段階的に、教育要件は記載されなくなりますが、望ましい経験とスキルのリストは記載されます。 要件はこちらをご覧ください。

アマンダ・カヴァナ