Ihre KI erscheint nicht zur Aussage unter Eid
Verdecktes Risiko: KI-gestützte Einstellungswerkzeuge können fair erscheinen, während sie es versäumen, geeignete Bewerbende von irrelevanten oder ungeeigneten zu unterscheiden.
Verschiebung von Verzerrungen: Audits von Anbieterseite können zukünftige Ergebnisse nicht vorhersagen, weil Modifikationen, Rollen, Namen und Demografie die Resultate beeinflussen.
Menschliche Zuständigkeit: Jede personalbezogene Entscheidung mit KI muss einen namentlich benannten Menschen haben, der das Ergebnis gegenüber Aufsichtsbehörden oder Klägern verteidigt.
Kompetenzprüfung: Organisationen sollten KI-Einstellungssysteme mit vergleichbaren und mit Schlüsselwörtern gefüllten Lebensläufen testen, bevor sie deren Empfehlungen vertrauen.
Governance an erster Stelle: Behandeln Sie die Beschaffung von KI als Governance-Entscheidung und skalieren Sie Erklärbarkeit und Aufsicht entsprechend den Konsequenzen des jeweiligen Einsatzes.
Stellen Sie sich die letzte, KI-gestützte Einstellungsentscheidung Ihres Teams vor. Ein Kandidat wurde markiert. Ein "Eignungswert" nahe dem unteren Ende der Warteschlange. Ihr Recruiter hat weitergemacht.
Stellen Sie sich nun vor, derselbe Kandidat reicht sechs Monate später eine Diskriminierungsbeschwerde ein und fragt in einer Anhörung ganz genau, warum er abgelehnt wurde. Auf wessen Namen steht die Entscheidung? Ihrer? Der des Recruiters? Die des Anbieters?
Wenn Sie ehrlich antworten: "Der Algorithmus hat es markiert", haben Sie ein Verantwortungsproblem – und das ist strukturell. Kein Anbieter wird das für Sie lösen.
Lesen Sie weiter – und führen Sie weiterhin intelligenter
Erstellen Sie ein kostenloses Konto, um diesen Beitrag fertigzulesen und Teil einer Community zukunftsorientierter Führungskräfte zu werden, die Werkzeuge, Leitfäden und Einblicke für den Erfolg im Zeitalter der KI erschließen.
Have an account? Log In
Ich habe das letzte Jahrzehnt als Business-Intelligence-Analyst bei Amazon und Microsoft gearbeitet. Im vergangenen Jahr habe ich zudem acht kommerzielle KI-Lebenslauf-Screening-Plattformen auditiert. Ungefähr 4.000 Testläufe, identische Lebensläufe, die sich nur im Namen unterschieden, wurden sowohl auf demografische Voreingenommenheit als auch auf grundlegende Kompetenz getestet.
Was ich vorgefunden habe, ist unangenehmer als die übliche "KI ist voreingenommen"-Geschichte. Mehrere Plattformen, die als besonders neutral gelobt werden, sind neutral wie ein kaputtes Thermometer: Sie liefern stabile, demografisch ausgeglichene Ergebnisse, weil sie nicht wirklich zwischen qualifizierten und unqualifizierten Kandidaten unterscheiden können. Das ist der Anschein von Fairness über ein Werkzeug gelegt, das nicht funktioniert.
Ich nenne das die "Illusion der Neutralität" und genau dieses Phänomen ist für leitende HR-Verantwortliche am bedenklichsten – denn es ist das einzige, das Ihr Bias-Audit nicht erkennen kann.
KI schafft jetzt Narrative
Der Kontext des Arbeitsmarktes ist hier wichtig, vor allem, was er über die Motivation offenbart. Eine Analyse der New York Fed aus September 2025 ergab, dass nur 1 % der Dienstleistungsunternehmen angaben, in den letzten sechs Monaten wegen KI entlassen zu haben, während 35 % sagten, KI habe sie dazu veranlasst, Mitarbeitende umzuschulen.
Eine Umfrage von Resume.org unter 1.000 Personalverantwortlichen, veröffentlicht im Januar, ergab jedoch, dass 59 % zugeben, dass sie KI betonen, wenn sie Einstellungsstopps oder Entlassungen erklären, weil das bei Stakeholdern besser ankommt als finanzielle Gründe.
KI wird also nicht nur operativ, sondern auch erzählerisch eingesetzt. Behalten Sie das im Hinterkopf, denn derselbe Impuls, der KI für Entlassungen verantwortlich macht, wird KI auch für Fehlentscheidungen im Recruiting verantwortlich machen.
Aus "datenbasiert" wurde "Finden Sie mir passende Daten"
Das Versprechen datenbasierter Führung war klar: Weniger Bauchgefühl, mehr Belege, ein überprüfbarer Ablauf. Wo diese Disziplin eingehalten wird, funktioniert sie.
Was ich in den letzten fünf Jahren beobachtet habe, bekam viel zu wenig Aufmerksamkeit. Die Tools haben sich nie verändert. Die Beziehung zwischen Führungskräften und Tools schon. Die eigentliche Frage war nicht mehr: "Was sagen die Daten?", sondern: "Finden Sie mir Daten, die das unterstützen."
KI beschleunigt diesen Wandel, da man einem Modell-Output schwerer widersprechen kann als der Intuition einer Führungskraft. Wenn etwas schiefläuft, wird der Grund: "Das System hat es ausgespuckt." Dieser Satz ist das eigentliche Problem.
Die fairsten Modelle können Kandidat:innen nicht unterscheiden
Über acht Plattformen hinweg, darunter ChatGPT, Gemini, Copilot und Claude, traten drei Muster auf:
Voreingenommenheit besteht nach wie vor, ist aber weniger berechenbar. Einige Modelle benachteiligten Lebensläufe allein aufgrund des angehängten Namens, unabhängig vom Namen selbst. Andere bevorzugten gewisse demografische Gruppen in manchen Rollen und benachteiligten sie in anderen. Ein Modell bewertete Angehörige derselben ethnischen Gruppe je nach Geschlecht in entgegengesetzte Richtungen – beim selben Lebenslauf.
Die Voreingenommenheit variiert mit der Rolle und der Modellversion. Das Bias-Audit Ihres Anbieters sagt nicht voraus, wie das Tool beim nächsten Suchauftrag reagieren wird.
Die "fairsten" Modelle sind oft auch die schlechtesten. Als ich testete, ob Modelle einen passenden Lebenslauf von einem irrelevanten unterscheiden können, scheiterten mehrere daran. Ein Modell bewertete einen Service-Lebenslauf, der mit Finanz-Schlagwörtern gefüllt war, mit 92 von 100 Punkten für eine Director-of-Finance-Stelle. Derselbe Lebenslauf ohne diese Schlagwörter erzielte 15 Punkte. Das Modell bewertete Vokabular, nie die eigentliche Qualifikation. Ein solches Tool hört auf, überhaupt zu evaluieren.
Der gleiche Anbieter liefert unterschiedliche Ergebnisse, je nachdem, welche Version des Modells genutzt wird. Ein Kandidat, den ChatGPTs "Schnell"-Version bewertet, kann am selben Tag 15 Punkte mehr oder weniger erzielen als bei der "Langsam"-Version. Die meisten Führungskräfte wissen weder, welche Version sie nutzen, noch dass es relevant wäre.
Das sind keine Randfälle – das sind die Betriebsbedingungen KI-gestützter Recruiting-Tools genau jetzt.
Verantwortung "reinwaschen"
Bessere Entscheidungen sind nur ein Grund für die Einführung solcher Tools. Sie machen auch schwierige Entscheidungen einfacher zu rechtfertigen: Kündigungen, Leistungsbewertungen, Absagen, Vergütungsentscheidungen. Wenn das Modell-Ergebnis in der Akte liegt, erhält die Person, die das absegnet, eine Plausible Verneinbarkeit, über die sie zuvor nicht verfügte.
Eine Umfrage von ResumeBuilder aus dem Jahr 2025 macht dies deutlich. Von den Führungskräften, die KI für Personalentscheidungen nutzen, setzen 64 % sie ein, um bei Kündigungen zu unterstützen. Mehr als jeder Fünfte gibt zu, die KI häufig ohne menschliches Zutun die endgültige Entscheidung treffen zu lassen.
Verhaltensforschung ist sogar noch deutlicher. Eine Studie von Köbis und Kollegen, erschienen 2025 in Nature, zeigte: KI-Agenten folgten vollständig unethischen Anweisungen je nach Modell in 58 bis 98 % der Fälle, zum Vergleich: Menschen taten dies nur zu 25 bis 40 %.
Maschinen sind viel eher als Menschen bereit, ethisch fragwürdige (oder kompromittierte) Anweisungen auszuführen. Genau diese Eigenschaft macht sie als Infrastruktur für Verantwortlichkeit so attraktiv.
Die Forschungsliteratur hat für die menschliche Seite dieses Mechanismus einen Namen. Madeleine Clare Elish nannte es die "moralische Knautschzone": Menschen am Ende eines automatisierten Systems absorbieren die Schuld für Fehler, die auf unklare Design- und Steuerungsentscheidungen zurückgehen. Das Personal beginnt, von "dem, was das System entschieden hat" zu sprechen, statt "was wir entschieden haben" – selbst dann noch, wenn tatsächlich Spielraum besteht.
Die treffendste Bezeichnung für diesen Prozess ist Verantwortungslaundering. Das Modell trifft eine Entscheidung, die zuvor menschliches Urteilsvermögen erforderte, und verwandelt sie in ein Ergebnis, das niemand mehr verteidigen muss. Wenn die Entscheidung falsch ist, ist das Versagen jedermanns – und zugleich niemandes – Schuld. Ihre Organisation verliert so die Fähigkeit, aus den eigenen Fehlern zu lernen.
Governance oder: Ohne sie geht nichts
Es ist an der Zeit, dass Führungskräfte die Beschaffung von KI als Governance-Entscheidung und nicht als IT-Entscheidung betrachten.
Vergeben Sie jeder KI-gestützten Entscheidung einen Namen. Wie ein KI-Anwalt vor Kurzem zu CIO sagte: Der Algorithmus wird im Gerichtssaal nicht erscheinen. Die Menschen werden es sein, die ihn entwickelt, eingeführt oder genutzt haben. Bevor ein KI-Tool Einstellungen, Leistungsbewertungen, Vergütungen oder Kündigungen beeinflusst, stellen Sie eine Frage: Wer steht im Fehlerfall mit seinem Namen für das Ergebnis ein? Nicht der Anbieter. Nicht das Modell. Eine reale Person – mit ausreichend Seniorität, um die Entscheidung vor Aufsichtsbehörden oder Anwälten zu verteidigen.
Erklären Sie so viel wie das Risiko erfordert. Ein Modell, das Trainingsinhalte empfiehlt, darf eine Blackbox bleiben. Ein Modell, das zur Kündigung beiträgt, nicht. Die meisten Organisationen legen ihren Erklärstandard einmalig bei der Beschaffung fest. Die disziplinierten Unternehmen setzen ihn je nach Anwendungsfall neu und lehnen Anbieter ab, die die höheren Anforderungen nicht erfüllen.
Führen Sie eigene Dual-Validation-Audits durch. Anbieterbasierte Bias-Audits sind nötig, aber nicht genug. Testen Sie auch die Sachkompetenz. Kann das Tool für Ihre zu besetzenden Stellen tatsächlich qualifizierte von unqualifizierten Bewerber:innen unterscheiden? Geben Sie ein paar unpassende Lebensläufe hinein. Einige mit übermäßig vielen Keywords. Vergleichen Sie die Bewertungen. Wenn das Modell keinen Unterschied erkennt, nützt es Ihnen nicht – egal wie vorurteilsfrei es erscheint.
Anbieter von KI-Lösungen umwerben Personalabteilungen besonders stark – und diese stehen auch stets im Fokus, wenn die Tools nicht nachvollziehbare Ergebnisse liefern. Die Versuchung ist groß, die Beschaffung als Anbieterthema zu sehen. Doch widerstehen Sie dem Drang!
Wie ein Arbeitsrechtler der Washington Post sagte, als Algorithmen erstmals Entlassungslisten bestimmten: "Schieben Sie die Verantwortung nicht auf die Software."
Wenn Ihre Reaktion auf eine fehlerhafte KI-Entscheidung lautet: "Das System war es", dann ist Ihr System Ihr Risiko geworden. Irgendwo in Ihrer Organisation muss jemand für jede von der KI berührte Entscheidung Verantwortung übernehmen. Finden Sie heraus, wer – bevor ein Gericht es für Sie tut.
