Wie sich das Voreingenommenheitsproblem der KI auf Ihre nächste Bewerbung auswirken kann

Stellensuchende im Technologiebereich werden durch KI-Vorurteile blockiert, wenn Bewerbung für Rollen Obwohl die KI für HR-Experten viel Potenzial bietet, wenn es um die Automatisierung mühsamer Aufgaben geht, gibt ihre Tendenz zur Voreingenommenheit weiterhin Anlass zur Sorge.

Eine KI-Voreingenommenheit bei der Personalbeschaffung entsteht, wenn Systeme und Tools, die zur Prüfung und Auswahl von Kandidaten eingesetzt werden, unbeabsichtigt bestehende Vorurteile aufrechterhalten oder sogar verstärken.

Diese Verzerrungen sind oft auf die Daten zurückzuführen, mit denen diese Systeme trainiert werden. Diese können gesellschaftliche Vorurteile oder historische Einstellungsmuster widerspiegeln, die bestimmte Bevölkerungsgruppen gegenüber anderen bevorzugen.

Manchmal ist die Voreingenommenheit der KI auf das Design selbst zurückzuführen und spiegelt unbewusste Vorurteile der Entwickler wider, während Rückkopplungsschleifen dazu führen, dass ein System, das konsequent Kandidaten mit ähnlichem Hintergrund auswählt, dies auch weiterhin tut, sofern es nicht korrigiert wird.

Eine eingebaute Voreingenommenheit kann sich auf Ihre Arbeitssuche deutlich. Während es viele Berichte über Voreingenommenheit bei Bewerbermanagementsystemen (ATS) gibt, die Lebensläufe nach Schlüsselwörtern in der Stellenbeschreibung und nach Schlüsselwörtern durchsuchen, die mit früheren erfolgreichen Kandidaten übereinstimmen, jüngstes Experiment zeigt, wie dreist Vorurteile gegenüber KI sein können.

Voreingenommenheit in Aktion

Durch die Zuweisung fiktiver, aber „demografisch unterschiedlicher“ Namen zu gleichwertigen Lebensläufen sollte ChatGPT 3.5 die Bewerber anhand einer echten Stellenbeschreibung für die Position eines Finanzanalysten bei einem echten Unternehmen bewerten.

Namen, die eindeutig auf schwarze Amerikaner verweisen, hatten eine geringere Wahrscheinlichkeit, als bester Bewerber aufgeführt zu werden; Namen, die mit asiatischen Frauen und weißen Männern in Verbindung stehen, schnitten im Allgemeinen besser ab.

Angesichts der schwindelerregenden Geschwindigkeit, mit der sich KI-Technologien entwickeln, behaupten manche, dieses Experiment sei überholt. Leider ist das nicht der Fall.

Obwohl ChatGPT-4o jetzt eingeführt wird und OpenAI behauptet, es mit externen Spezialisten getestet zu haben, heißt es auch, dass es weiterhin auf Bedenken wie Voreingenommenheit, Fairness und Desinformation eingehen wird, wenn diese ans Licht kommen. Das heißt, Voreingenommenheit besteht immer noch.

Was können Arbeitssuchende tun, um KI-Voreingenommenheit zu umgehen?

Für Arbeitssuchende zeigt ein wenig Recherche zum Engagement eines Unternehmens für DE&I, ob das Unternehmen wahrscheinlich daran interessiert ist, seine KI-Tools von Voreingenommenheit zu befreien.

Angesichts der Möglichkeit, Tausende von Lebensläufen in Sekundenschnelle zu scannen, ist es unwahrscheinlich, dass Unternehmen wieder zur manuellen Überprüfung von Lebensläufen zurückkehren werden. Viele Organisationen fügen jedoch eine Ebene menschlicher Aufsicht in die Screening-Prozesse ein, um voreingenommenen KI-Ergebnissen vorzubeugen. Natürlich sind auch Menschen voreingenommen, daher ist keine Methode narrensicher.

Andere Personalteams verwenden ATS, die die Namen und Bildungsabschlüsse der Bewerber verbergen.

Überprüfen Sie auch, ob Ihr Wunschunternehmen Wert auf ein bestimmtes Bildungsniveau legt. In diesem Fall besteht ein höheres Risiko einer Voreingenommenheit seitens der KI.

Natürlich sind berufliche Qualifikationen in bestimmten Branchen wie der Medizin und dem Gesundheitswesen sehr wichtig, doch in anderen, wie etwa der Softwareentwicklung, können Unternehmen einen eher kompetenzbasierten Einstellungsansatz verfolgen.

Ingenieure und Entwickler sind häufig STARs (Skilled Through Alternative Routes – auf alternativen Wegen erworbene Qualifikationen). Achten Sie in Stellenanzeigen also eher auf erfahrungsbasierte Anforderungen als auf Mindestausbildungsanforderungen.

DevOps-Ingenieur, SAP, Bellevue

Sap sucht einen DevOps Ingenieur Sie sind für die effektive und effiziente Bereitstellung von Kundenumgebungen in der Cloud der jeweiligen Produktlinien verantwortlich und stellen sicher, dass die Bereitstellung den definierten Service Level Agreements entspricht.

Sie tragen außerdem zur Entwicklung automatisierter Lösungen zur Anomalieerkennung und automatischen Behebung von Vorfällen bei, überwachen und messen Systeme zur Leistungs-, Last- und Kapazitätsplanung und sorgen für einen reibungslosen Betrieb und maximale Betriebszeit.

Um berücksichtigt zu werden, benötigen Sie mindestens zwei Jahre Erfahrung unter anderem mit Docker, Kubernetes, Jenkins, Ansible, Python und BASH. Hier erfahren Sie mehr .

Leitender Softwareentwickler – DevOps, Roku, San Jose, CA

Roku bietet ein beachtliches Gehalt, allerdings nur für Kalifornien, und stellt ein für Senior-Software-Entwickler mit außergewöhnlichen DevOps-Fähigkeiten. Zu den Aufgaben gehören die Automatisierung und Skalierung von Big Data- und Analytics-Technologie-Stacks auf Cloud-Infrastrukturen, der Aufbau von CI/CD-Pipelines, die Einrichtung von Überwachung und Alarmierung für die Produktionsinfrastruktur sowie die Aktualisierung der Technologie-Stacks.

Für diese Rolle sind vier Jahre Erfahrung in DevOps und/oder Zuverlässigkeitstechnik erforderlich. Sie haben Anspruch auf Krankenversicherung, Aktienprämien, Lebensversicherung, Invaliditätsleistungen, Elternzeit, Wellnessleistungen und bezahlten Urlaub. Lesen Sie hier mehr .

Leitender DevOps-Ingenieur, FanDuel, Atlanta

Spielen Sie eine zentrale Rolle bei der Automatisierung der Cloud-Infrastruktur und -Anwendungen der FanDuel Group, indem Sie mit Softwareentwicklern, Release-Ingenieuren und anderen funktionsübergreifenden Teams zusammenarbeiten als Leitender DevOps-Ingenieur Der erfolgreiche Bewerber wird wichtige Initiativen vorantreiben, indem er in mehreren funktionsübergreifenden Bereichen Strategien entwickelt, plant und implementiert, die mit den Geschäftszielen übereinstimmen.

Während der Hauptfokus auf AWS liegt, können auch andere Cloud-Plattformen erforderlich sein. Daher ist es wichtig, Engagement für die berufliche Weiterentwicklung in der Cloud-Technologie zu zeigen. Nach und nach werden keine Bildungsanforderungen aufgeführt, sondern eine Liste der gewünschten Erfahrungen und Fähigkeiten. Siehe Anforderungen hier .

Von Amanda Kavanagh