Die KI-Bewerberauswahl gehört auf den Prüfstand
Compliance-Thema: Das KI-Gesetz in Colorado verpflichtet Arbeitgeber, bei der Nutzung von KI im Einstellungsprozess Transparenz und Rechenschaft zu gewährleisten.
KI-Transparenz: Viele Bewerber wissen nicht, dass KI-Systeme ihre Bewerbungen oder Bewertungen beeinflusst haben.
Erklärungslücke: Personalabteilungen haben oft Schwierigkeiten, KI-Bewertungsmodelle und deren Auswirkungen auf Einstellungen zu erklären.
Anbieterhaftung: Nach aktuellen Vorschriften haften Arbeitgeber für nachteilige Folgen durch KI-Tools – nicht die Anbieter.
Governance-Wandel: Organisationen müssen Nachvollziehbarkeit und Dokumentation in KI-Einstellungsprozessen priorisieren, um die Einhaltung gesetzlicher Vorgaben zu sichern.
Irgendwo in Ihrem Einstellungsprozess wurde ein Kandidat von einem System herausgefiltert, das Ihr Team nicht vollständig erklären kann. Möglicherweise haben Sie einen Lieferantenvertrag, ein Dashboard und einen Score. Was den meisten Organisationen jedoch fehlt, ist eine klare Antwort auf die Frage, deren Beantwortung neue KI-Verordnungen de facto von Ihnen verlangen: warum.
Dieser Unterschied zwischen dem, was KI tatsächlich im Unternehmenseinstellungsprozess macht und dem, was Kandidaten wie auch Regulierungsbehörden tatsächlich sehen können, ist nun ein Compliance-Problem. Das Colorado-KI-Gesetz, eines der ersten seiner Art in den Vereinigten Staaten, trat im Februar in Kraft und verpflichtet Arbeitgeber, die Hochrisiko-KI-Systeme bei Einstellungsentscheidungen einsetzen, Bewerber zu informieren und ihnen eine Möglichkeit zur Korrektur ihrer Daten oder zum Einspruch gegen ein negatives Ergebnis zu bieten.
Für viele Personalabteilungen bedeutet es, um dieser Anforderung zu genügen, Systeme zu erklären, die sie selbst nicht wirklich verstehen.
Keep Reading—and Keep Leading Smarter
Create a free account to finish this piece and join a community of forward-thinking leaders unlocking tools, playbooks, and insights for thriving in the age of AI.
Have an account? Log In
Der Markt für KI-gestützte Einstellungswerkzeuge ist in den letzten Jahren deutlich gewachsen. Anbieter bieten Screening-Plattformen, automatisierte Interviewbewertungen und prädiktive Eignungsmodelle für Arbeitgeber, die ein hohes Bewerbungsaufkommen verwalten müssen, an.
Das Versprechen ist Effizienz, doch die Praxis zeigt eine vielschichtigere Realität. 2025 ist die Zahl der Bewerbungen auf LinkedIn im Jahresvergleich um über 45 % gestiegen, mit etwa 11.000 Bewerbungen pro Minute. Gleichzeitig verzeichneten 64 % der Recruiter einen Zuwachs an ähnlichen, KI-generierten Bewerbungen im selben Zeitraum, was ihre Screening-Arbeit eher erhöhte als verringerte. Die Tools, die das Volumen filtern sollen, erzeugen es zum Teil mit.
Tatiana Teppoeva, ehemalige Datenwissenschaftlerin bei Microsoft und Boeing, berät heute Organisationen zu Risiken beim KI-gestützten Recruiting und beobachtet diese Dynamik durchgehend bei Unternehmenskunden.
Viele HR-Teams verstehen zwar die Angaben des Anbieters, haben aber nur begrenzte Einblicke darin, wie die Screening-Ergebnisse entstehen oder welche Kandidatensignale gewichtet werden. Wenn Bewerber nach dem Grund für ihre Ablehnung fragen, fällt es Organisationen oft schwer, einen Lieferanten-Score in eine klare, jobrelevante Erklärung zu übersetzen.
Nach ihrer Erfahrung ist die Lücke genau dies: Organisationen können den Score eines Tools leichter beschreiben als das, was er in Bezug auf stellenrelevante Fähigkeiten aussagt.
Diese Intransparenz verursacht messbare Kosten auf Bewerberseite. In einer Umfrage unter 1.066 US-weit Suchenden, durchgeführt von Enhancv im April 2026, gaben 68,5 % an, nie erfahren zu haben, dass KI überhaupt eine Rolle bei ihrer Beurteilung gespielt hatte – nur 9,7 % sagten, ein Arbeitgeber habe es klar offengelegt.
Fast ein Drittel gab an, sich gegen eine Stelle entschieden zu haben, statt ein einseitiges KI-Screening zu absolvieren – und dieses Muster war ungleich verteilt. Fast 80 % der abgelehnten Jobs lagen unter 100.000 $. Gerade Kandidaten mit den wenigsten Alternativen tragen die größte Last durch Systeme, die sie nicht durchblicken und denen sie nie zugestimmt haben.
Eine Black Box mit Lieferantenvertrag
Das Thema der Verantwortlichkeit ist nicht ausschließlich auf Intransparenz zurückzuführen, sondern diese ist ein Teil davon. Viele Screening-Plattformen agieren als Black-Box- oder fast Black-Box-Systeme, bei denen die Gewichtungslogik des Modells weder für den Arbeitgeber sichtbar ist – geschweige denn für den Bewerber.
Selbst wenn Anbieter "Erklärbarkeitsfunktionen" bereitstellen, ist die Erklärung, die ein Recruiter sieht, oft ein vereinfachter Stellvertreterprozess für einen viel komplexeren Ablauf im Hintergrund. Eine HR-Führungskraft kann das Ergebnis lesen. Sie kann aber oft nicht hinterfragen, wie es zustande kam.
Gerade im großen Maßstab ist das entscheidend. Ein Unternehmen, das Zehntausende Bewerbungen pro Jahr bearbeitet, trifft eine hohe Anzahl weitreichender Entscheidungen durch ein System, das das eigene Team möglicherweise gar nicht auditieren kann. Die Informations- und Widerspruchspflicht nach dem Colorado-Gesetz zwingt diese Frage ans Licht: Wenn ein Kandidat nach dem Grund für seine Ablehnung fragt – wer antwortet dann, und mit welchen Informationen?
Teppoevas Arbeit konzentriert sich speziell auf das, was sie die „Interpretationsschicht“ nennt – also den Raum zwischen einem KI-generierten Hinweis im Recruiting und einer menschlichen Entscheidung. Die erste Frage, die sie Organisationen stellt, die bereits ein Screening-Tool im Einsatz haben, ist: Warum? „Warum erhielt dieser Kandidat trotz starker Bewerbung laut Team einen niedrigen Score? Warum erzielte ein anderer Bewerber eine hohe Punktzahl, musste später aber in ein Performance-Improvement-Programm?“
Die meisten Organisationen, sagt sie, können darauf keine Antwort geben. Sie haben einen Score, aber nicht die dazugehörige Begründung.
Organisationen verlassen sich oft auf vom Anbieter generierte Auswertungen, ohne eine klare interne Struktur zur Interpretation oder Dokumentation dieser Ergebnisse zu haben", sagt sie. "Das macht es schwer, zu erklären, wie menschliches Urteilsvermögen eingeflossen ist oder wie die finale Entscheidung genau getroffen wurde.
Wird eine Entscheidung angefochten, wird diese Lücke schnell zum Risiko.
Die Haftung liegt beim Arbeitgeber
Auch der Zeitpunkt der Regulierung macht ein Problem bei der bisherigen Beschaffung von KI-Einstellungstools deutlich. Die Entscheidung, welche Plattform genutzt wird, wurde oft von den Teams für Talentakquise unter dem Gesichtspunkt des Durchsatzes getroffen, während Rechtsabteilung, Compliance und manchmal auch die HR-Leitung weniger daran beteiligt waren zu beurteilen, was das Tool tatsächlich macht.
Das Gesetz von Colorado verändert diese Kalkulation. Nach SB 205 liegt die Haftung für unerwünschte Auswirkungen von Hochrisiko-KI im Beschäftigungsverhältnis beim Arbeitgeber, nicht beim Anbieter. Das Unternehmen, das das Tool nutzt, ist für die Ergebnisse verantwortlich.
Jimmy Hurff, COO und Mitbegründer von Brightmove, einem Anbieter für Bewerbermanagementsysteme, sagt, dass die Beschaffungsgespräche, die er miterlebt, genau dieses Problem widerspiegeln.
Arbeitgeber scheinen sich am meisten auf die Integration von Funktionen und auf das Volumen der Bewerber zu konzentrieren. Unsere potenziellen Kunden prüfen hauptsächlich die Integrationsfunktionen, legen aber selten den Fokus auf die Qualität der Bewerberpipeline und die Automatisierung von Bewertung und Beurteilung.
Die unter dem Rahmen von Colorado wichtigsten Fragen – Nachvollziehbarkeit, Prüfbarkeit, Einspruchsprozesse – sind nicht die, die in der Regel beim Auswahlprozess gestellt werden.
Brightmove hat als direkte Reaktion auf SB 205 eine Policy für verantwortungsvolle KI veröffentlicht, und Hurff sagt, das Gesetz habe einen Paradigmenwechsel in der Anbieterlanschaft bewirkt. Er betont zudem, wohin die regulatorische Diskussion seiner Ansicht nach gehen muss: zu einem einzigen bundesweiten Standard statt einem Flickenteppich aus Einzelregelungen auf Bundesstaatsebene, was den Anbietern eindeutige Vorgaben liefern würde.
Das Dokumentationsproblem wird besonders gravierend, wenn Kandidat:innen, deren Kommunikationsstil aufgrund von Behinderungen, Neurodivergenz oder sprachlichem Hintergrund außerhalb des Trainingsdatensatzes liegt, von Tools beurteilt werden, die keinen Kontext erkennen können. Teppoeva beschreibt das Kernproblem.
„Ein Signal kann exakt gemessen und dennoch falsch interpretiert werden“, sagt sie.
Fordert ein Bewerber ein Ergebnis heraus, können die meisten Organisationen das Ergebnis reproduzieren. Sie können die Entscheidung aber nicht erklären und haben selten Dokumentationen, die belegen, dass das Bewertete für die jeweilige Rolle wirklich relevant war.
Die EEOC beobachtet diesen Bereich spätestens seit 2021, als sie ihre Initiative zu KI und algorithmischer Fairness im Recruiting startete. Die Leitlinien von 2023 machten klar, dass Arbeitgeber die Haftung für diskriminierende Vorauswahl nicht an Dritte auslagern können.
Das Gesetz in Colorado greift noch weiter und ergänzt Transparenz- und Einspruchspflichten, die die meisten Einstellungsprozesse bislang nicht erfüllen können.
Was HR-Leitungen wissen müssen
In der Praxis entsteht dadurch eine Compliance-Fläche, die viele HR-Leitungen noch nicht überwachen. Sie verfügen vielleicht über einen Vertrag mit dem Anbieter. Sie haben vielleicht ein grundsätzliches Verständnis davon, was das Tool macht. Aber die Dokumentation darüber, wie das Modell trainiert wurde, worauf es optimiert ist und wie Entscheidungen aufgezeichnet und für Einspruchsverfahren nachvollziehbar sind, ist häufig lückenhafter, als es der regulatorische Rahmen mittlerweile verlangt.
Teppoeva beschreibt diesen Wandel mit Begriffen, die HR-Verantwortlichen aus anderen Compliance-Themen bekannt sind.
Neue Vorschriften verschieben das Gespräch von ‚Funktioniert das Tool?‘ hin zu ‚Können wir erklären und begründen, wie es eingesetzt wurde?‘
Wer KI-Vorauswahl als reine Beschaffungsentscheidung und nicht als kontinuierliche Governance betrachtet, ist besonders exponiert, wenn ein Bewerber oder eine Behörde eine Frage stellt, die das Tool nicht beantworten kann.
Ein Teil dieses Problems wird sich durch Druck seitens der Kunden erledigen. Wenn Unternehmenskunden beim Kauf von Anbietern Erklärbarkeit und Nachweisbarkeit verlangen, werden Anbieter diese Funktionen einbauen. Das wird allerdings langsam geschehen – und bis dahin werden Kandidat:innen in Colorado und anderswo von Systemen gefiltert, deren Funktionslogik die Arbeitgeber nicht vollständig nachvollziehen können.
Das Gespräch, das HR-Leitungen führen müssen, dreht sich nicht nur darum, ob KI-Vorauswahltools funktionieren. Es geht vielmehr darum, ob die Organisationen, die sie nutzen, für deren Wirkung einstehen können.
