Wie man einen organisationsweiten ethischen Ansatz für KI entwickelt

KI verändert die Arbeitswelt – aber wie können wir echte, praktische Anwendungsfälle von übertriebenen Trends unterscheiden, die keine Ergebnisse bringen? Und auf welche ethischen Risiken sollten wir achten?

Moderator David Rice spricht mit Jonathan Conradt – ehemaliger Principal AI Scientist bei Amazon und Vorstandsberater bei Synerise – über den tatsächlichen Einfluss von KI auf Personalwesen und Führung. Sie beleuchten, wie KI die Personalbeschaffung, das Wohlbefinden der Mitarbeitenden und Entscheidungsprozesse gestaltet sowie die entscheidende Rolle verantwortungsvoller KI. Jonathan erklärt zudem, warum Unternehmen oft falsch in KI investieren – und wie Führungskräfte klügere Entscheidungen treffen können.

Interview-Highlights

  • Jonathan Conradt kennenlernen [00:52]
    • Jonathan hat einen langen Hintergrund in der Technologiebranche.
    • Er arbeitete im ursprünglichen Chrome-Team bei Google, mit Schwerpunkt auf den Mac- und Linux-Versionen.
    • Er leitete das Marketing und integrierte KI/ML bei eBay.
    • Er verbrachte 12 Jahre bei Amazon, wo ihm auffiel, dass KI-Projekte oft falsch eingeschätzt wurden.
    • Die Führungsebene bei Amazon hatte Schwierigkeiten, KI-Investitionen einzuschätzen, da das Verständnis fehlte.
    • In seinem letzten Jahr bei Amazon bildete er VPs und Direktoren in KI/ML weiter.
    • Er verließ Amazon, um Unternehmen dabei zu helfen, KI-Chancen und Risiken besser zu verstehen.
  • KI im HR-Bereich: Praktische Anwendungen [02:37]
    • Generative KI ist beliebt, aber klassisches maschinelles Lernen hat sich ebenfalls weiterentwickelt.
    • Ein großer Fortschritt ist automatisiertes maschinelles Lernen (AutoML).
    • AutoML automatisiert sich wiederholende Aufgaben bei der Modellerstellung.
    • Das Open-Source-Paket AutoGluon macht KI für Personen mit grundlegenden SQL- und Python-Kenntnissen zugänglich.
    • AutoML ermöglicht die schnelle Erstellung hochwertiger Modelle, die früher Monate in Anspruch nahmen.
    • KI ist im HR-Bereich nützlich für Aufgaben wie Mitarbeitereinstufung, Vorhersage von Abwanderung und Identifikation von Führungstrainingsbedarf.
    • Hilft bei numerischen Vorhersagen, z.B. Personalbedarfsplanung.
    • Unterstützt Zeitreihenanalysen zur Erkennung saisonaler Trends.
    • Mit nur drei Codezeilen kann ein erstklassiges Modell erstellt werden.
  • Ethik in der KI: Wichtige Überlegungen [05:03]
    • HR spielt eine entscheidende Rolle bei der Entwicklung von KI und sorgt für rechtliche und ethische Konformität.
    • Wissenschaftler*innen fehlt häufig die Expertise in HR-relevanten Gesetzen und Vorurteilen.
    • KI-Modelle können unbeabsichtigt historische Vorurteile verstärken (z.B. Bevorzugung von Bewerbern, die Lacrosse gespielt haben).
    • Verantwortungsbewusste KI legt Wert auf Fairness, Transparenz und ethischen Umgang mit Daten.
    • HR-Fachleute sind besonders geeignet, die Fairness von KI zu steuern, insbesondere bei Einstellungs- und Beförderungsmodellen.
    • Voreingenommenheit in KI-Vorhersagen für Beförderungen (z.B. Bevorzugung von Ivy-League-Absolventen oder Männern) muss verhindert werden.
    • Regelungen zur KI-Ethik entstehen derzeit, wobei die EU vorangeht und die USA Gesetze erwägen.
    • HR kann Wissenschaftler*innen helfen, verantwortungsvolle KI-Praktiken zu verstehen und umzusetzen.
    • KI-Modelle wie ChatGPT nutzen Benutzereingaben nicht direkt für das Training, um wertvolle Daten nicht zu verfälschen.
    • Sie lernen aus Interaktionen, z.B. deuten umformulierte Fragen auf Unzufriedenheit mit einer Antwort hin.
    • Voreingenommenheit kann entstehen, wenn Interaktionen gesellschaftliche Vorurteile widerspiegeln (z.B. Geschlecht, Einkommen, geografische Präferenzen).
    • Ein angebliches Beispiel besagt, dass OpenAIs Modelle Sprachmuster übernahmen, die denen kenianischer Auftragnehmer in Reinforcement Learning ähneln.
    • Voreingenommenheiten im menschlichen Feedback, wie die Präferenz für längere Antworten, beeinflussten das Modellverhalten.
    • KI kann unbeabsichtigt Sprechweisen, Themen oder Vorlieben der dominierenden Nutzergruppen bevorzugen.
    • Voreingenommenheiten in KI können auf unerwartete Weise entstehen und Muster der engagiertesten Nutzergruppen verstärken.

Um das Richtige im Sinne verantwortungsvoller KI zu tun, müssen Sie die Faktoren entfernen, die nicht berücksichtigt werden sollten. Lassen Sie das Modell nichts sehen oder darauf schließen, was Sie bei einer tatsächlichen Beförderung nicht berücksichtigen würden.

Jonathan Conradt
  • Leitplanken und Executive Education [12:36]
    • KI-Systeme verwenden Schutzmodelle, um schädliche oder unethische Anfragen vor der Verarbeitung herauszufiltern.
    • Mitarbeitende werden Wege finden, KI-Tools zu nutzen, wenn Unternehmen keinen sicheren, offiziell genehmigten Zugang bieten.
    • Das Hochladen sensibler Unternehmensdaten in öffentliche KI-Modelle birgt ernste Sicherheitsrisiken.
    • Unternehmenseigene KI-Konten können kontrollierte Umgebungen schaffen, um Risiken zu minimieren.
    • Führungskräfte, trotz ihrer Expertise, haben Schwierigkeiten, sichere von unsicheren KI-Tools zu unterscheiden.
    • Schulungen und offizielle KI-Tools helfen, Sicherheitsverletzungen vorzubeugen.
    • Strategien zur Einführung von KI variieren:
      • Frühzeitige Anwender: Investierten massiv, gingen hohe Risiken ein und hatten oft Schwierigkeiten.
      • Verweigerer: Skeptisch und widerständig, riskieren die eigene Überalterung.
      • Schnelle Nachzügler: Lernen von den frühen Anwendern, führen KI kostengünstiger ein und haben größere Erfolgschancen.
    • KI wird einen Leistungshöhepunkt erreichen, der es schnellen Nachfolgern erlaubt, zu den frühen Anwendern aufzuschließen.
  • Verständnis von KI-Training & -Einführung [20:03]
    • Viele Menschen, auch technisch versierte, haben kein tiefes Verständnis von maschinellem Lernen.
    • KI ist im Grunde eine mathematische Funktion, die Eingaben verarbeitet und Ausgaben erzeugt.
    • KI „denkt“ oder „erinnert“ sich nicht zwischen den Anwendungen – sie existiert nur, wenn sie aufgerufen wird.
    • Die beeindruckenden Fähigkeiten der KI entstehen durch zusätzlichen Code und Datenorganisation.
    • Schulungen sollten auf verschiedene Rollen in Organisationen abgestimmt sein (Anwender, Techniker, Führungskräfte usw.).
    • Ein Einheitstraining funktioniert nicht für alle.
    • HR muss passende KI-Trainingsstrategien für unterschiedliche Mitarbeitergruppen festlegen.
    • Mitarbeitende, auch nicht-technische, benötigen KI-Schulungen zur Angstreduzierung und für die Einführung.
    • Führungskräfte brauchen ein anderes KI-Training als Mitarbeitende an der Basis.
  • Mitarbeiterwohlbefinden und KI [23:20]
    • Jonathan arbeitet mit Forschern an KI-gestützter Messung und Verbesserung des Mitarbeiter-Wohlbefindens.
    • KI ist geduldig und kann Mitarbeitenden umsetzbares Feedback geben.
    • Seine frühere Arbeit mit Gallups StrengthsFinder zielte darauf ab, Beziehungen zwischen Vorgesetzten und Mitarbeitenden für mehr Wohlbefinden zu stärken.
    • Traditionelle Befragungen stützen sich auf vorgegebene Antwortmöglichkeiten, die das Mitarbeiterempfinden nicht umfassend abbilden.
    • Der neue Ansatz lässt Mitarbeitende sich offen äußern, was wertvolle qualitative Daten liefert.
    • KI kann Text in mathematische Vektoren umwandeln und so bessere Analysen ermöglichen.
    • Ein früheres Experiment, bei dem KI Forschungsarbeiten analysierte, steigerte die Prognosegenauigkeit um 14%.
    • Wenn ähnliche KI-Technologien auf Mitarbeiterbefragungen angewandt werden, kann das Verständnis erheblich gesteigert werden.
  • Zukunft der KI am Arbeitsplatz [26:35]
    • KI-Agenten werden vermutlich von Personalabteilungen genutzt, um komplexe Aufgaben zu bewältigen, Informationen zu sammeln und Prozesse zu vereinfachen.
    • KI kann als persönliche Assistenz dienen: Aufgaben organisieren, E-Mails lesen und Vorschläge machen, während die Entscheidungsgewalt beim Menschen bleibt.
    • KIs sind besonders gut im Zusammenfassen von Informationen und eignen sich daher für Rollen wie Vizepräsidenten, die einen umfassenden Überblick benötigen.
    • KI-gestützte Assistenten (z.B. Microsofts Co-Pilots) sparen Zeit und verbessern das Geschäftsverständnis.
    • Unternehmen können KI nutzen, um die Produktivität zu steigern, sollten jedoch Personalabbau vermeiden; stattdessen gilt es, den Output mit derselben Belegschaft zu erhöhen.
    • Unternehmen, die KI zur Effizienzsteigerung einsetzen, werden schneller voranschreiten als solche, die Personal reduzieren, aber die gleiche Leistung erbringen.

Die Unternehmen, die Personal abbauen und mit weniger Mitarbeitenden bei gleichbleibendem Arbeitsvolumen auskommen wollen, werden von jenen Unternehmen übertroffen, die das Personal halten und die Menge sowie den Wert der geleisteten Arbeit für die Kunden deutlich steigern können.

Jonathan Conradt

Lernen Sie unseren Gast kennen

Jonathan Conradt ist ein erfahrener Experte für künstliche Intelligenz und maschinelles Lernen und derzeit als Management Board Advisor bei Synerise tätig, einem Unternehmen, das sich auf KI- und Big-Data-Lösungen spezialisiert hat. Zuvor war er Principal AI and Machine Learning Scientist bei Amazon, wo er Lehrpläne für die Machine Learning University von Amazon entwickelte und unterrichtete. Seine umfassende Erfahrung umfasst Positionen bei eBay als Director of Internet and Email Engineering Product Management, bei Google als Engineering Product Manager für den Chrome-Webbrowser und bei Microsoft als Produktmanager für ein Fernsehen-über-IP-Produkt. Jonathan hält acht Patente im Bereich maschinelles Lernen und Marketing und war einer der Entwickler des beliebten Management-Tools StrengthsFinder. Außerdem ist er für seine Beiträge zur automatisierten maschinellen Intelligenz bekannt, insbesondere mit Tools wie AutoGluon.

Einer der großen Vorteile von KI ist ihre Geduld. Sie kann eine wertvolle Informationsquelle sein, weil man ihr präzise und umsetzbare Daten zur Verfügung stellen kann und die KI anschließend auf Menschen reagieren und ihnen solche Einblicke vermitteln kann.

Jonathan Conradt

You may also like