Ehemaliger Hollywood-CHRO warnt vor den rechtlichen und ethischen Risiken für HR-Teams bei der Implementierung von KI — und praktische Lösungen zur Risikominderung
Paul Falcone ist der ehemalige CHRO der Nickelodeon Animation Studios und Leiter des internationalen Personalwesens bei Paramount Pictures. Er ist Autor von 17 Bestsellerbüchern über Führung und Management und führt seine eigene Beratung.
In diesem Gespräch reflektiert Paul darüber, wie KI das Personalwesen, die Führung und den Arbeitsplatz verändert — und welche rechtlichen Implikationen dabei zu berücksichtigen sind.
Paul Falcones Weg vom Hollywood-Personalwesen zur globalen Führung
Ich war CHRO der Nickelodeon Animation Studios sowie Leiter des internationalen Personalwesens bei Paramount Pictures. Außerdem habe ich im Personalwesen von Gesundheitswesen, Biotechnologie und Finanzdienstleistungen gearbeitet — und das in unterschiedlichsten Umgebungen: von Gewerkschaften über gemeinnützige Organisationen bis hin zu internationalen Bereichen.
Über zwei Jahrzehnte hinweg war ich Kolumnist für das HR Magazine und den HR Daily Newsletter von SHRM und habe an der UCLA Extension School of Business & Management gelehrt. Heute bin ich Mitglied des Board of Directors der American Management Association.
Keep Reading—and Keep Leading Smarter
Create a free account to finish this piece and join a community of forward-thinking leaders unlocking tools, playbooks, and insights for thriving in the age of AI.
Have an account? Log In
Als Autor habe ich 17 Bücher bei HarperCollins Leadership veröffentlicht, die über 750.000 Mal verkauft und unter anderem ins Chinesische, Hindi und Russische übersetzt wurden.
Im Jahr 2022 habe ich meine eigene Leadership-Beratung gegründet, Paul Falcone Workplace Leadership Consulting, LLC, mit Spezialisierung auf internationale Keynote-Vorträge, Management-Trainings und Executive Coaching.
Wie HR die Verantwortung trägt, Organisationen im Zeitalter der KI zu führen
KI verändert die Unternehmenswelt dramatisch. Personalaufgaben, die früher Wochen oder Monate dauerten, können dank Tools wie ChatGPT, Google Gemini und Microsoft Copilot heute in Stunden erledigt werden.
Personalaufgaben, die früher Wochen oder Monate dauerten, können jetzt dank ChatGPT, Google Gemini und Microsoft Copilot in wenigen Stunden erledigt werden.
Es ist eine faszinierende Zeit, die aggregierende Kraft von KI-Software und -Tools zu erleben, doch das wirft auch schwierige Fragen zur Zukunft qualifizierter Fachkräfte und professioneller Autoren auf. Technologiekonzerne prognostizieren bereits einen Abbau von 10–30 % der Büroarbeitsplätze, und es wird sogar über das erste Ein-Personen-Milliarden-Dollar-Unternehmen gesprochen.
Das bedeutet, dass HR nicht nur auf den Aufstieg der KI reagiert — es wird zur Abteilung, die Organisationen durch die von ihr ausgelösten Umwälzungen in der Belegschaft führt.
HR reagiert nicht nur auf den Aufstieg von KI — es führt Unternehmen aktiv durch die von ihr verursachten Umwälzungen in der Arbeitswelt.
Wie KI zur Weiterentwicklung des Leistungsmanagements genutzt werden kann
Einer der Bereiche, in denen sich der Einfluss der KI am deutlichsten zeigt, ist das Leistungsmanagement.
Die Entwicklung eines Managementprogramms aus dem Nichts war einst ein natürlicher Schritt, wenn ein Unternehmen eine bestimmte Größenordnung erreicht hatte — entweder nach Mitarbeiterzahl oder Umsatz. Doch inzwischen ermöglicht KI die Erstellung von Stellenbeschreibungen, Gehaltsspannen, Onboarding-Modellen und Vorlagen für Leistungsbeurteilungen — ja sogar das Formulieren von Leitbild, Vision und Werten —, die nicht nur die Datenmenge, sondern auch Ton und Geist der Unternehmenskultur widerspiegeln.
Individuell anpassbare Lern- und Entwicklungs-Apps unterstützen heute dabei, maßgeschneiderte Trainingspläne zu erstellen und das Mitarbeitererlebnis zu verbessern. Coaching-Apps werden derzeit eingeführt, die Führungskräften und einzelnen Mitarbeitern in Echtzeit Feedback geben, wie sie mit situationsspezifischen Herausforderungen im Arbeitsalltag umgehen können. Datenanalysen und numerisch basierte Personalmodelle werden in der datengetriebenen KI-Welt sicherlich neue Höhen erreichen.
Und einen Katalog an relevanten Interviewfragen, Referenzprüfungen und Onboarding-Programmen zu entwickeln, ist nicht länger ausschließlich großen Unternehmen mit umfangreichen HR-Teams vorbehalten.
Die Ergebnisse müssen zwar noch sorgfältig geprüft und für die eigene Organisation oder Abteilung angepasst werden, aber die Vorarbeit dank KI ist bereits geleistet. Sobald die notwendigen Änderungen und Freigaben durch den Fachbereich oder die Abteilung erfolgt sind, können Sie sich der nächsten Aufgabe im Unternehmen widmen. Ein vollständiges Verzeichnis von Rollen, Aufgaben und Klassifizierungen kann so von einer einzigen Person in relativ kurzer Zeit erstellt werden.
Und auch wenn die von großen KI-Sprachmodellen abgerufenen Daten immer noch geprüft und ethisch korrekt beschafft werden müssen, ist das Niveau der Datenqualität in vielen der genannten Beispiele des Leistungsmanagements bereits ziemlich gut kuratiert und bedarf nur geringfügiger Anpassung.
Warum die rechtlichen und ethischen Implikationen beim Einsatz von KI ebenso wichtig sind wie die operativen Folgen
Trotzdem geht diese neue Effizienz mit Verantwortung einher. Die rechtlichen und ethischen Implikationen der Einführung von KI werden genauso bedeutend wie die operativen Aspekte.
Risiken von Diskriminierung aufgrund ungleicher Auswirkungen und Behauptungen über algorithmische Voreingenommenheit werden sicherlich künftig Futter für Klägeranwälte und Fallstudien der Rechtsprechung bieten. Unternehmen und HR-Teams sind gut beraten, sich nicht blind auf KI bei Einstellungs-, Auswahl- oder Beförderungsentscheidungen zu verlassen, ohne die KI-basierten Empfehlungen regelmäßig zu prüfen und die Ergebnisse auf Verzerrungen zu überwachen.
Risiken von Diskriminierung aufgrund ungleicher Auswirkungen und Behauptungen über algorithmische Voreingenommenheit werden sicherlich künftig Futter für Klägeranwälte und Fallstudien der Rechtsprechung bieten. Unternehmen und HR-Teams sind gut beraten, sich nicht blind auf KI bei Einstellungs-, Auswahl- oder Beförderungsentscheidungen zu verlassen, ohne die KI-basierten Empfehlungen regelmäßig zu prüfen und die Ergebnisse auf Verzerrungen zu überwachen.
Das Arbeitsrechtsfeld ist bereits mit neuen Begriffen und Was-wäre-wenn-Szenarien beschäftigt. "Algorithmische Voreingenommenheit" wird künftig eine rechtliche Anklage darstellen, gegen die sich Unternehmen nur schwer verteidigen können, da HR-Fachkräfte auf diesem Gebiet nicht geschult sind. Sie werden Schwierigkeiten haben, zu erklären, wie algorithmische Entscheidungen Einfluss auf Lebenslaufprüfung, Einstellungen, Beförderungen und Entlassungen nehmen. Obwohl es auf Bundesebene (was meiner Meinung nach dringend erforderlich wäre) keine Regulierung gibt, hat Kalifornien die Führung übernommen. Seit dem 1. Oktober verlangt das California Civil Rights Department von großen Unternehmen mit einem Umsatz von über 500 Millionen Dollar verpflichtende "Bias Audits" (Überprüfungen auf Voreingenommenheit).
Als Nächstes stellt sich die Frage nach dem Datenschutz. Offene KI-Systeme werden Mitarbeiterdaten nicht vertraulich behandeln, sodass die Frage aufkommt, ob geschlossene KI-Systeme sinnvoller wären — was allerdings nur für größere Arbeitgeber infrage kommt, die sich solche Programme leisten können.
Darüber hinaus gibt es Fragen zu Lohn und Arbeitszeit im Hinblick auf den Befreiungsstatus. Wenn KI den Großteil der "unabhängigen Entscheidungen" und "Ermessensleistungen" übernimmt, könnten Angestellte, die derzeit als "befreit" eingestuft sind, argumentieren, dass sie umklassifiziert und für Überstunden bezahlt werden sollten?
Und noch provokanter: Werden Arbeitgeber in Zukunft für sexuelle Belästigung durch Roboter haftbar gemacht?
Ich denke also, dass ein ganz neues Feld des Arbeitsrechts entstehen wird, das auf Anfechtungen der KI-Ergebnisse und -Empfehlungen der Arbeitgeber in Einstellungs- und Beförderungsprozessen und weiteren Bereichen basiert.
HR-Führungskräfte werden ihre Fähigkeiten zur Überprüfung von KI-Ergebnissen schärfen müssen, um sicherzustellen, dass die richtigen Analysen durchgeführt und angemessen validiert werden.
HR-Führungskräfte werden ihre Fähigkeiten zur Überprüfung von KI-Anwendungen verfeinern müssen, um sicherzustellen, dass Analysen der KI-Ergebnisse durchgeführt und korrekt validiert werden.
Wie HR-Führungskräfte ihre KI-Prüfverfahren stärken und Risiken minimieren können
Die generelle Empfehlung – insbesondere in Kalifornien – bei der Einführung von KI lautet:
- KI nutzen, um Beschäftigungsentscheidungen zu unterstützen, nicht sie zu ersetzen.
- Überwachungs- und Berichtssysteme etablieren, damit problematische Trends oder Muster in den Ergebnissen rasch erkannt und behoben werden können – beispielsweise, wenn der Algorithmus nur weiße Männer oder weiße Männer unter 40 für bestimmte Funktionen empfiehlt.
- Ein Protokoll zur Überprüfung auf Voreingenommenheit entwickeln.
Das Gesetz in Kalifornien ist das erste seiner Art, aber sicher nicht das letzte, und die Umsatzgrenze von derzeit 500 Millionen Dollar wird sich mit der Zeit vermutlich nach unten verschieben.
Einsatz von KI für Schreiben, Recherche und Storytelling
Ich habe meine Beratungstätigkeit im April 2022 gestartet – etwa sechs Monate bevor ChatGPT veröffentlicht wurde. Deshalb habe ich bislang noch nicht mit den neuen, speziell auf HR ausgerichteten KI-Tools gearbeitet. Hauptsächlich habe ich KI als unabhängiger Berater in meinem Ein-Personen-Unternehmen zur Unterstützung von Recherche, Analyse und Schreiben eingesetzt.
In meiner Beratungs- und Schreibarbeit sticht vor allem die Benutzerfreundlichkeit hervor. Ich mag es, in meinem KI-Prompt „eine ganze Geschichte zu erzählen“, um einen bestimmten Ton oder ein bestimmtes Gefühl in den Ergebnissen zu erzeugen. Zum Beispiel beeinflussen Anweisungen wie „verwende einen freundlichen und informellen Ton“ das Ergebnis maßgeblich.
Ich liebe es auch, KI für Buchrezensionen zu nutzen – sie zu bitten, die wichtigsten Konzepte und Lektionen aus einem Buch oder Artikel zusammenzufassen und herauszufiltern. Innerhalb von Sekunden erhalte ich einen Gesamtüberblick über das Thema und die Kernaussagen eines Buches, selbst wenn ich keine Zeit habe, es vollständig zu lesen.
Es ist bemerkenswert, wie schnell KI solch relevante und aktuelle Informationen bereitstellen kann.
Warum eine KI-Zertifizierung zur Voraussetzung wird
Da KI in jeder Branche eine zentrale Rolle einnimmt, wird die Frage der Zertifizierung immer wichtiger.
Welche Rolle wird eine KI-Zertifizierung für die berufliche Entwicklung von Fachkräften spielen? Wer wird die erforderlichen Qualifikationen ausstellen? Werden diese direkt von Google, Microsoft und OpenAI kommen, oder werden Massive Open Online Courses (MOOCs) wie Coursera, FutureLearn und andere diese Lücke schließen?
Die nächste Generation von Führungskräften wird KI-Kenntnisse nicht als Vorteil, sondern als Voraussetzung betrachten.
Wie Automatisierung die Arbeitswelt umgestalten wird
Über den HR-Bereich hinaus werden die Auswirkungen von KI ganze Branchen neu definieren.
Mit steigender Veränderungsgeschwindigkeit werden die größten Auswirkungen der KI vor allem auf drei Ebenen spürbar sein:
- Strengere Überprüfung von KI-Modellen sowie verpflichtende Validierungsstudien und Bias-Prüfungen, um Fairness zu gewährleisten und sich gegen Klagen wegen unerwünschter Ungleichbehandlung zu schützen.
- Deutlicher Personalabbau bei Angestellten mit Hochschulabschluss in Bereichen wie HR, Marketing, Vertrieb, Kundenservice, Finanzen und IT.
- Der Aufstieg kleinerer Unternehmen und der Rückgang großer „Mega-Cap“-Organisationen, die vermutlich weiterhin profitabel bleiben, aber sich deutlich verkleinern. Parallel dazu wird es mehr Projektarbeit („Portfolio Work“) geben, bei der selbstständige Berater Unternehmen zeitnah mit ihrem Spezialwissen unterstützen – gerade in Situationen, in denen Unternehmen keine neuen Mitarbeiter einstellen möchten.
Diese Veränderungen werden die Definition von Arbeit, Führung und Wachstum neu gestalten – und die Organisationen, die sich am schnellsten anpassen, werden einen klaren Vorteil haben.
Gleichzeitig ist es realistisch, dass neue Berufe entstehen werden, die es heute noch nicht gibt. Zum Beispiel hatten im Jahr 1950 43 Millionen Amerikaner einen Arbeitsplatz. 2020 waren es bereits über 152 Millionen Erwerbstätige. Das bedeutet, dass in einer Zeit tiefgreifender technologischer Veränderungen mehr als 100 Millionen neue Jobs geschaffen wurden, viele davon in Berufsfeldern, die vorher nicht existierten.
Die Entwicklung der KI wird vermutlich ähnlich verlaufen, auch wenn neue Stellen nicht unbedingt zeitgleich oder im gleichen Maße entstehen, wie bestehende Arbeitsplätze ersetzt werden. Wir können daher von erheblichen Umbrüchen und anhaltender Unbeständigkeit im nächsten Jahrzehnt ausgehen.
Konkrete Empfehlungen für Führungskräfte im KI-Zeitalter
Mit Blick auf die Zukunft ist mein Rat an Fach- und Führungskräfte simpel:
- Bleiben Sie neugierig, nutzen Sie KI jedoch nur als Unterstützung für menschliche Entscheidungen und nicht als Ersatz.
- Etablieren Sie Kontroll- und Berichtmechanismen und entwickeln Sie ein Protokoll zur Überprüfung von Vorurteilen (Bias Testing).
- Seien Sie dem KI-Expresszug immer einen Schritt voraus und blicken Sie nicht zurück.
Wer KI nicht proaktiv einsetzt und deren Möglichkeiten für die Arbeitswelt erkennt, wird unweigerlich den Anschluss verlieren.
Bleiben Sie dran
Sie können Pauls Arbeit auf LinkedIn verfolgen und seinen Blog auf PaulFalconeHR.com abonnieren. Dort berät er weiterhin Führungskräfte zur ethischen und praxisnahen Einführung von KI am Arbeitsplatz. Entdecken Sie außerdem seine 17 erfolgreichen Leadership-Bücher.
Weitere Experteninterviews folgen auf People Managing People.
