Die KI-Bewerberauswahl verdient Überprüfung
Compliance-Thema: Das KI-Gesetz von Colorado verlangt von Arbeitgebern Transparenz und Verantwortlichkeit beim Einsatz von KI in der Personalauswahl.
KI-Transparenz: Viele Bewerber wissen gar nicht, dass KI-Systeme ihre Bewerbungen oder Bewertungen beeinflusst haben.
Interpretationslücke: Personlabteilungen haben häufig Schwierigkeiten, KI-Scoringmodelle und deren Auswirkungen auf die Einstellung zu erklären.
Anbieterhaftung: Nach aktuellen Regulierungen haften Arbeitgeber, nicht Anbieter, für negative Folgen durch KI-Tools.
Governance-Wandel: Organisationen müssen Nachvollziehbarkeit und Dokumentation in KI-gestützten Einstellungsprozessen in den Vordergrund stellen, um die Compliance sicherzustellen.
Irgendwo in Ihrem Einstellungsverfahren wurde ein:e Kandidat:in von einem System aussortiert, das Ihr Team nicht vollständig erklären kann. Vielleicht gibt es eine Vereinbarung mit einem Anbieter, ein Dashboard und eine Bewertung. Was den meisten Organisationen aber fehlt, ist eine klare Antwort auf eine Frage, wie sie von neuen KI-Regulierungen mittlerweile effektiv verlangt wird: warum.
Diese Lücke zwischen dem, was KI im Unternehmenseinstellungsprozess tatsächlich macht und dem, was Bewerber:innen und Behörden tatsächlich sehen können, ist inzwischen ein Compliance-Problem. Das Colorado-KI-Gesetz, eines der ersten seiner Art in den USA, ist im Februar in Kraft getreten. Es verpflichtet Arbeitgeber:innen, die Hochrisiko-KI-Systeme bei Personalentscheidungen einsetzen, Bewerber:innen zu informieren und ihnen einen Mechanismus zur Korrektur von Daten oder zur Anfechtung eines negativen Ergebnisses anzubieten.
Für viele Personalabteilungen bedeutet die Erfüllung dieser Anforderung, Systeme erklären zu müssen, die sie selbst nicht vollständig verstehen.
Lesen Sie weiter – und führen Sie weiterhin intelligenter
Erstellen Sie ein kostenloses Konto, um diesen Beitrag fertigzulesen und Teil einer Community zukunftsorientierter Führungskräfte zu werden, die Werkzeuge, Leitfäden und Einblicke für den Erfolg im Zeitalter der KI erschließen.
Have an account? Log In
Der Markt für KI-gestützte Recruiting-Tools ist in den letzten Jahren erheblich gewachsen. Anbieter bieten Screening-Plattformen, automatisierte Interviewbewertungen und prädiktive Eignungsmodelle für Unternehmen an, die ein hohes Bewerbungsaufkommen managen müssen.
Das Versprechen lautet Effizienz, aber die Realität ist komplizierter. Die Bewerbungen auf LinkedIn stiegen im Jahr 2025 um mehr als 45 % im Jahresvergleich, mit ungefähr 11.000 neuen Bewerbungen pro Minute auf der Plattform. Gleichzeitig berichteten 64 % der Recruiter von einer Zunahme an KI-generierten, gleichartigen Bewerbungen im gleichen Zeitraum — was ihre Arbeit beim Aussortieren eher erhöhte als verringerte. Die Tools, die das Bewerbungsvolumen filtern sollen, erzeugen es teilweise sogar selbst.
Tatiana Teppoeva, ehemalige Datenwissenschaftlerin bei Microsoft und Boeing, die Organisationen zu Risiken beim KI-unterstützten Recruiting berät, sieht diese Dynamik regelmäßig bei ihren Firmenkund:innen.
Viele HR-Teams verstehen die Versprechen der Anbieter, haben aber nur begrenzte Einblicke darin, wie die Ergebnisse der Auswahl wirklich erzeugt werden oder welche Kandidatensignale gewichtet werden. Wenn Bewerber:innen fragen, warum sie abgelehnt wurden, fällt es Organisationen oft schwer, eine Anbieter-Bewertung in eine klare, jobrelevante Erklärung zu übersetzen.
Ihrer Erfahrung nach ist die Lücke spezifisch: Organisationen können das Ergebnis (den Score), das ein Tool liefert, eher beschreiben als erklären, was es in Bezug auf berufsrelevante Fähigkeiten tatsächlich bedeutet.
Diese Intransparenz hat für Bewerber:innen einen nachweisbaren Preis. Eine Umfrage unter 1.066 US-Jobkandidat:innen, die Enhancv im April 2026 durchgeführt hat, ergab, dass 68,5 % nie erfahren haben, dass KI bei ihrer Bewertung eine Rolle gespielt hat — und nur 9,7 % sagten, dass Arbeitgeber das klar offengelegt hätten.
Fast ein Drittel gab an, lieber auf eine Stelle verzichtet zu haben, als an einem einseitigen KI-Screening teilzunehmen – und dieses Muster war nicht gleichmäßig verteilt. Fast 80 % der abgebrochenen Bewerbungen betrafen Stellen mit einem Gehalt von unter $100.000. Besonders Kandidat:innen mit den wenigsten Alternativen sind am häufigsten Systemen ausgesetzt, die sie nicht verstehen und denen sie nicht zugestimmt haben.
Eine Black Box mit Anbietervertrag
Das Verantwortungsproblem ist nicht nur eines der Intransparenz, obwohl diese eine Rolle spielt. Viele Screening-Plattformen funktionieren tatsächlich als Black-Box- oder Fast-Black-Box-Systeme, bei denen das Gewichtungsmodell für Arbeitgeber:innen – geschweige denn für Bewerber:innen – nicht einsehbar ist.
Selbst wenn Anbieter Erklärungsfunktionen bereitstellen, ist die Erklärung für Recruiter:innen oft nur eine vereinfachte Repräsentation eines weitaus komplexeren Prozesses im Hintergrund. Eine Führungskraft im HR-Bereich kann das Ergebnis lesen. Sie kann aber oft nicht nachvollziehen, wie es zustande gekommen ist.
Gerade im großen Maßstab wird das relevant. Ein Unternehmen, das jährlich zehntausende Bewerbungen bearbeitet, trifft eine große Anzahl folgenreicher Entscheidungen über ein System, das das eigene Team vielleicht gar nicht prüfen kann. Die Informations- und Einspruchspflichten des Colorado-Gesetzes holen diese Frage ans Licht. Wenn ein:e Kandidat:in nachfragt, warum sie abgelehnt wurde, wer antwortet – und mit welchem Wissen?
Teppoevas Arbeit konzentriert sich besonders auf das, was sie als „Interpretationsschicht“ beschreibt – den Raum zwischen dem von der KI erzeugten Signal und der menschlichen Entscheidung. Die erste Frage, die sie Organisationen mit bereits eingeführten KI-Screening-Tools stellt, ist: Warum? „Warum hat diese:r Kandidat:in trotz positivem Eindruck beim Team einen niedrigen Score erhalten? Warum hat ein:e andere:r Kandidat:in einen hohen Score bekommen, ist aber später im Performance-Verbesserungsplan gelandet?“
Die meisten Organisationen, sagt sie, können darauf keine Antwort geben. Sie kennen die Zahl, aber nicht das zugrundeliegende Urteil.
Organisationen verlassen sich häufig auf die von Anbietern gelieferten Ergebnisse, ohne eine klare interne Struktur zu haben, wie diese Auswertungen eingeordnet oder dokumentiert werden", sagt sie. „Das erschwert es, zu erklären, wie menschliches Ermessen einfloss oder wie die endgültige Entscheidung getroffen wurde."
Wird eine Entscheidung angefochten, wird diese Lücke zum Risiko.
Haftung liegt beim Arbeitgeber
Auch das regulatorische Timing deckt ein Problem bei der bisherigen Beschaffung von KI-basierten Einstellungstools auf. Die Entscheidung, welche Plattform genutzt wird, wurde oft von Personalgewinnungsteams getroffen, die auf Effizienz bedacht waren – mit geringerer Einbindung von Rechtsabteilung, Compliance oder manchmal auch der HR-Leitung, wenn es um die tatsächliche Funktionsweise der Tools geht.
Colorados Gesetz verändert diese Ausgangslage. Nach SB 205 liegt die Haftung für nachteilige Folgen von Hochrisiko-KI im Beschäftigungskontext beim Arbeitgeber, nicht beim Anbieter. Das Unternehmen, das das Tool einsetzt, ist für dessen Ergebnisse verantwortlich.
Jimmy Hurff, COO und Mitgründer des Anbieters Brightmove, einer Bewerbermanagement-Software, sagt, dass die Beschaffungsgespräche, die er beobachtet, dieses Problem exakt widerspiegeln.
Arbeitgeber konzentrieren sich anscheinend hauptsächlich auf die Integration von Funktionen und das Kandidatenvolumen. Unsere potenziellen Kunden prüfen überwiegend Integrationsfunktionen, aber legen selten Fokus auf die Qualität der Kandidatenpipeline sowie auf die Automatisierung von Bewertung und Auswahl.
Die entscheidenden Fragen unter Colorados Rahmenbedingungen – Nachvollziehbarkeit, Prüfbarkeit, Widerspruchsverfahren – werden am Verhandlungstisch meist nicht gestellt.
Brightmove hat als unmittelbare Reaktion auf SB 205 eine Responsible AI Policy veröffentlicht, und Hurff sagt, das Gesetz habe zu einem grundsätzlichen Umdenken in der Anbieterlandschaft geführt. Er hebt zudem hervor, wohin sich die regulatorische Diskussion seiner Meinung nach entwickeln sollte: zu einem einheitlichen Bundesstandard statt einem Flickenteppich aus Einzelstaatenregelungen, was Anbietern einen klareren Handlungsrahmen geben würde.
Besonders gravierend wird das Dokumentationsproblem, wenn Kandidat:innen aufgrund von Behinderung, Neurodiversität oder Sprachhintergrund Kommunikationsmuster aufweisen, die außerhalb des Trainingsdatensatzes des Systems liegen und dadurch von Tools bewertet werden, die den Kontext nicht berücksichtigen können. Teppoeva beschreibt das Kernproblem.
„Ein Signal kann korrekt gemessen, aber dennoch falsch interpretiert werden“, sagt sie.
Wenn ein:e Kandidat:in ein Ergebnis anfechtet, können die meisten Organisationen das Output reproduzieren. Sie können jedoch die Entscheidung nicht erklären und haben selten Dokumente, die belegen, dass das Gemessene tatsächlich für die Rolle relevant war.
Die US-Bundesbehörde EEOC beschäftigt sich seit mindestens 2021 mit diesem Thema, als sie ihre Initiative zu KI und algorithmischer Fairness bei Einstellungen startete. In ihren Leitlinien von 2023 stellte sie klar, dass Arbeitgeber die Haftung für diskriminierende Auswahlverfahren nicht an Drittanbieter auslagern dürfen.
Colorados Gesetz geht noch weiter und ergänzt Transparenz- und Widerspruchspflichten, die die meisten Recruiting-Abteilungen bislang organisatorisch nicht abdecken konnten.
Was HR-Führungskräfte wissen müssen
In der Praxis entsteht damit eine Compliance-Fläche, die viele HR-Verantwortliche noch nicht vollständig überblickt haben. Es gibt vielleicht einen Anbietervertrag. Es besteht ein grobes Verständnis der Tool-Funktionalität. Doch die Dokumentation, wie das Modell trainiert wurde, auf welche Ziele es optimiert, und wie Entscheidungen protokolliert und für Überprüfungen abrufbar sind, ist oft deutlich dürftiger als es die aktuelle Regulierung verlangt.
Teppoeva beschreibt den Wandel mit Begriffen, die HR-Führungskräften aus anderen Compliance-Diskussionen vertraut sind.
Neue Regulierungen verlagern die Diskussion von „Funktioniert das Tool?“ hin zu „Können wir erklären und verteidigen, wie es eingesetzt wurde?“
Wer KI-Auswahllösungen als reine Beschaffungsfrage und nicht als kontinuierliche Steuerungsaufgabe betrachtet, ist besonders dann exponiert, wenn ein:e Kandidat:in oder eine Behörde eine Frage stellt, die das Tool nicht beantworten kann.
Ein Teil wird sich womöglich durch Druck von Kundenseite regeln: Wenn Unternehmenskunden Nachvollziehbarkeit und Prüfprotokolle als Beschaffungskriterium verlangen, werden Anbieter diese Funktionen entwickeln. Doch dieser Prozess verläuft langsam, und derweil werden Kandidat:innen in Colorado und anderswo durch Systeme gefiltert, deren Funktionslogik die einsetzenden Arbeitgeber nicht voll erklären können.
Die zu führende Debatte in der HR betrifft deshalb nicht nur, ob KI-Screening-Tools funktionieren. Es geht vielmehr darum, ob die Organisationen, die sie einsetzen, auch nachvollziehbar darlegen können, was die Tools tun.
