Warum traditionelle KI-Risikorahmenwerke versagen

David Rice: Eine leitende Juristin in einem Fortune-500-Unternehmen hat es so ausgedrückt: Ihr Unternehmen steht nicht in Flammen, aber es fühlt sich an, als würde jeder einen Flammenwerfer halten. Genau das beschreibt, wo sich die meisten Unternehmen gerade befinden: Sie sind sich des Risikos bewusst, wissen aber nicht, wo sie den Wasserschlauch ansetzen sollen — und die Gefahr kommt nicht von außen. Es ist die interne Dynamik, die niemand bremsen kann.

In der heutigen Sendung spreche ich mit Reid Blackman, Autor von „The Ethical Nightmare Challenge“, darüber, warum traditionelle Governance-Rahmenwerke für das aktuelle Geschehen nicht ausreichen. Ihre Mitarbeitenden nutzen KI bereits auf Arten, die Sie nicht vorhergesehen haben. Sie können nicht vorhersehen, wie KI-Agenten eingesetzt werden, und der einzige Hebel, den Führungskräfte meist kennen, ist der Zugangsbeschränkung — und das ist keine echte Lösung.

Reid bringt es auf den Punkt und durchschaut viel Lärm um das Thema. Schnell voranzuschreiten und KI-Ethik ernst zu nehmen, ist kein Widerspruch. Unternehmen, die dies als Entweder-oder behandeln, schaffen genau die katastrophalen Vertrauensverluste, die sie vermeiden wollten. Und Sie müssen kein umfassendes KI-Ethik-Programm über Nacht etablieren.

Sie können auf Projektebene beginnen: mit zwei oder drei Teams, einem zehnwöchigen Pilotprojekt oder auch nur einem offenen Gespräch darüber, wo die Albträume entstehen könnten. Also: Was ist die erste Frage, die sich Ihre Organisation stellen sollte? Wie wäre es mit: Haben wir innegehalten, um zu identifizieren, welche ethischen, rufschädigenden und rechtlichen Albträume aus unserer KI-Einführung resultieren können?

Die meisten Organisationen werden ehrlich antworten: Nein. Und genau da beginnt man. Heute sprechen wir also darüber, warum traditionelle Risikogovernance für generative KI oder Agenten nicht ausreicht, was agentische KI zu einer grundlegend anderen Governance-Herausforderung macht, warum Geschwindigkeit und Ethik kein Widerspruch sind und was „Schnell voran und Dinge kaputt machen“ tatsächlich kostet. Und schließlich, wie Sie die Ethical Nightmare Challenge auf Projektebene starten können.

Ich bin David Rice und dies ist „People Managing People“. Und falls Ihr Unternehmen noch nicht gefragt hat, was schiefgehen könnte und wer davon betroffen sein könnte, zeigt dieses Gespräch, warum diese Frage nicht länger warten kann. Legen wir los.

Also, Reid, willkommen in der Sendung. Schön, dich hier zu haben.

Reid Blackman: Danke, dass ich da sein darf.

David Rice: Ja, ich habe das Buch hier. Mir gefällt es. Ich finde, es ist eine gute Lektüre für jeden, der über die ethischen Herausforderungen rund um KI nachdenkt.

Reid Blackman: Nicht ganz mein Fall, aber freut mich, dass es dir gefällt.

David Rice: Im Buch beschreibst du eine Juristin und sprichst über ein Fortune-500-Unternehmen, sie sagte: Ihre Firma steht nicht in Flammen, aber es fühlt sich an, als würde jeder einen Flammenwerfer halten – das gefällt mir.

Reid Blackman: Ja, das ist ein direktes Zitat.

David Rice: Ein starkes Bild, oder? Es beschreibt exakt das Gefühl vieler Führungskräfte jetzt gerade. Sie sind sich zwar des Risikos bewusst, wissen aber nicht, wo sie den Schlauch bei diesem ganzen KI-Thema ansetzen sollen. Also interessiert mich, was deiner Meinung nach der strukturelle Grund ist, warum die meisten Organisationen in dieser Situation sind?

Und warum schließt traditionelle Risikogovernance diese Lücke nicht?

Reid Blackman: Das ist eine große Frage. Nun, sie fühlen sich so aus vielen Gründen. Einer der wichtigsten ist, dass sie nicht wissen, was ihre Mitarbeiter so alles anstellen könnten. Bei Dingen wie generativer KI und KI-Agenten kann die Technologie von sehr vielen Menschen für sehr viele verschiedene Zwecke auf sehr unterschiedliche Weise genutzt werden – das kann man gar nicht alles vorhersehen.

Sie können einfach nicht vorhersagen, wie das Tool eingesetzt wird. Und Sie wissen zudem, dass diese Dinger bestimmte Arten von Datenschutzverletzungen begehen können, dass sie voreingenommen oder diskriminierend sein können, dass sie halluzinieren oder Informationen einfach erfinden. Es gab beispielsweise Anwaltskanzleien und die „Big Four“-Wirtschaftsprüfungsgesellschaften, die in den Schlagzeilen waren, weil sie mit KI-„halluzinierten“ Inhalten Kundenunterlagen übergeben haben.

Wenn man das zusammennimmt – dass es so viele Möglichkeiten gibt, wie KI schiefgehen kann, und dazu die Tatsache, dass man nicht vorhersehen kann, wie Mitarbeitende sie nutzen: Natürlich fühlt es sich dann so an, als würden alle den Flammenwerfer halten. Wenn es eine Antwort auf dein „Warum funktioniert der Standardansatz nicht?“ gibt, würde ich da mal kurz innehalten.

David Rice: Beeindruckend finde ich dabei, dass das Bild die Gefahr in die Hände der Menschen gibt, die eigentlich steuern sollen, richtig? Es ist keine äußere Bedrohung. Es ist die interne Dynamik, die gerade niemand mehr stoppen kann. Das ist eigentlich ein Führungs- und Kulturthema, über das wir oft sprechen, so sehr wie ein Governance-Problem.

Reid Blackman: Das Einzige, wie sie wissen, wie man das abkühlen könnte, ist, den Zugang zu beschränken und das Zeug einfach nicht zu benutzen. Also können sie es verbieten-

David Rice: Was aber keine richtige Lösung ist.

Reid Blackman: Nein. Im besten Fall ist das eine Notmaßnahme. Und mit agentischer KI verschärft sich das Problem sogar noch. Wenn Sie Mitarbeitende auffordern, „Hey, benutzt diese neuen agentischen Systeme, nutzt 'Claude Code' oder Ähnliches und baut euren eigenen Agenten, euren persönlichen Assistenten, euer eigenes Dashboard“ – dann wird wirklich alles unübersichtlich, denn niemand weiß, was sie alles bauen und wie sie es verwenden werden, oder wie sie es in ihre Arbeitsprozesse integrieren.

Und werden sie die richtigen Kontrollen einbauen? Kennen sie die Risiken? Wie üben sie ihr professionelles Urteil in so einem Graubereich überhaupt aus?

David Rice: Das ist richtig schwierig, oder? Agentisch ist vielleicht noch mal anders, weil es ganz anders gebaut werden muss. Aber was ich am Flammenwerfer-Bild zusätzlich spannend finde: HR kommt in den Raum und das Ding ist schon losgegangen – und alle sprühen damit herum.

Denn alle passen sich schon an, nutzen KI und bauen sie in ihre Prozesse ein auf Weisen, von denen Sie noch nichts wissen oder nicht mal angedacht haben. Da dann die Kontrolle zu behalten, ist eine eigene Herausforderung. Und jetzt kommt noch ein neues Tool: „Wir bauen jetzt was Eigenes?“

Spannende Zeiten. Ich glaube, viel davon ist eine bewusste Entscheidung, oder? Wir implementieren es verschieden, aber wer darf im Vorstand auf die Bremse treten? Wer sagt: Der Beschleunigungsdruck kommt nicht von uns, der kommt von überall: Board, Investoren, C-Suite, Konkurrenz... Wer übernimmt die Verantwortung, zu sagen: „Halt, Stopp! Wir müssen hier mal ethische Fragen stellen“?

Reid Blackman: Ja, genau.

David Rice: Es könnte sich etwas karrierehemmend anfühlen, aber wir wollen es verantwortlich angehen.

Reid Blackman: Lass mich KI-Agenten schnell für das Publikum definieren, damit wir wissen, worüber wir sprechen.

Ein KI-Agent hat für mich – und damit bin ich sicher nicht allein – typischerweise im Kern ein LLM (Large Language Model), also einen Chatbot, mit dem man interagiert. Dann sind zwei Bedingungen zu erfüllen: Erstens muss es an andere Tools angeschlossen sein. Sie verbinden Ihr LLM mit dem Internet, Ihren Firmendatenbanken, CRM usw. Vielleicht auch mit anderen KIs. Also Bedingung eins: das LLM bekommt Zugang zu verschiedensten externen Quellen und Software. Zweitens: Es zeigt ein Maß an Autonomie. Das heißt, Sie geben nur Ihr Ziel vor. Sie sagen nicht: „Geh in diese Datenbank, hol dir dies, dann nutze Narrow AI Nummer zwei, dann suche im Internet...“ — das ist umständlich. Sie wollen sagen können: „Schick meinen fünf wichtigsten Kunden eine E-Mail zu Thema XY, nach dieser Vorlage, mit diesen Informationen.“ Der Agent „findet selbst heraus“, auf welche Tools, Datenbanken, weiteren KIs oder Programme er zugreifen muss.

Weil der Agent eigenständig entscheidet, wie er Ihre Ziele verfolgt, ist er mit Blick auf die Mittel autonom. Sind diese beiden Bedingungen erfüllt (Verbindung zu Tools + Autonomie bei der Umsetzung der Aufgabe), haben Sie einen KI-Agenten.

Es wird direkt klar, wie kontext-spezifisch die Komplexität ist. Wer nutzt den Agenten? Welche Tools sind angeschlossen? Auf welche Daten hat er Zugriff? Welche Entscheidungen darf der Agent treffen? Usw. Diese hohe Komplexität macht die Nutzung noch unvorhersehbarer als bei klassisch generativer KI (nur LLM selbst).

David Rice: Der zweite Teil war ja: Warum schließt traditionelle Risikogovernance diese Lücke nicht? Die Komplexität ist offensichtlich höher...

Reid Blackman: Genau...

David Rice: Wir schreiben ja nicht mal klare Aufgabenbeschreibungen für die Agenten. Sie entwickeln sich in Bereiche, die wir nie wollten. Technisch und organisatorisch müssen wir noch viel lernen, oder?

Reid Blackman: Es ist alles das. Klassische KI-Governance bedeutet: Von oben nach unten, policy-getrieben. Sie wissen selbst, wie lange es dauert, im Großkonzern eine Policy durchzusetzen. Im Board dauert das mindestens ein Jahr, oft zwei. Rekord waren neun Monate – das war schon schnell. Aber die Technologie entwickelt sich viel schneller. Die Firma mit dem Flammenwerfer-Bild, das war ein Fortune-500-CPG-Unternehmen: Sie haben gerade ihre Policy für generative KI erstellt, extrem robust, aber während wir implementierten, kam agentische KI und plötzlich galt die Policy nicht mehr, das Board muss neu abstimmen ... Ein endloses Rennen. Und das ist nur KI. Mit Quantum Computing, Blockchain etc. wird es noch komplexer. Das top-down-Policy-Modell ist viel zu langsam. Und zur Komplexität der KI-Agenten kommt: Eine Policy fordert zig Compliance-Prozeduren. Mit KI-Agenten sind vielleicht zehn davon relevant – zehn völlig irrelevant – und zehn wichtige fehlen komplett! Das Modell „Wir wissen alles vorher und kontrollieren so die Einhaltung“ funktioniert bei agentischer KI schlicht nicht mehr.

David Rice: Interessant: Wir tun immer so, als wüssten wir alle Risiken, Rollen, Komplexitäten. Aber das wissen wir eben nicht, oder? ...

Reid Blackman: 100 %.

David Rice: Laut MIT risk repository haben sich gemeldete KI-Vorfälle zwischen 2021 und 2025 verdreifacht, und das ist nur, was gemeldet wurde. Vieles bleibt unbemerkt. Board-Mitglieder begegnen KI-Ethik wie einem Compliance-Checkbox. Viele sehen es als IT-Thema. Ab wann ist die Haltung einer Organisation – „Ethik ist Compliance“ – eine treuhänderische Pflichtverletzung? Wie sieht Verantwortlichkeit aus, wenn KI echten Schaden verursacht?

Reid Blackman: Ich glaube, meine Antwort hat sich verändert. Manche Leute behaupten immer: „Governance verlangsamt euch nicht, sondern lässt euch schneller agieren, wie Bremsen am Auto ...“ Früher fand ich das Quatsch. Aber mit agentischer KI stimmt es allmählich, weil das Risiko, dass Agenten „ausbrechen“, so offensichtlich ist. Sie treffen exponentiell mehr Entscheidungen viel schneller und im großen Umfang. Die Risiken sind klar sichtbar, auch für Laien. Es geht weniger um „Bremsen“ als um das „Lenkrad“. Kann ich nicht richtig lenken, geht es schief. So kommen jetzt auch mehr Nicht-Techniker der C-Suite wie CHROs, COOs und CMOs ins Gespräch und erkennen: So wie es läuft, ist es zu riskant.

David Rice: Es ist kein juristisches Thema allein. Aus HR- oder Kulturperspektive hängt enorm viel Vertrauen daran. Die Frage: Wer trägt Haftung, wenn man Standard-HR-Tools wie Workday oder Eightfold nutzt? Wie holen wir Board-Mitglieder ins Boot, die oft keine Digitalkompetenz haben?

Reid Blackman: Sie haben keine Ahnung. Boards von Fortune-500-Unternehmen sind, salopp gesagt, nicht digital sozialisiert. Meist ältere Generationen, oft eingeschüchtert von der Technologie, daher halten sie KI für einen IT-Job. Das ist fatal, denn KI demokratisiert sich – alle nutzen es. Wir brauchen niedrigschwellige, nicht einschüchternde Debatten und müssen über Risiken konstruktiv sprechen.

David Rice: In HR ist das Thema erst seit sechs bis zwölf Monaten „angekommen“, vorher fühlten sich viele nicht kompetent. Jetzt werden sie mutiger und sehen den Wert. Bei Boards ist es noch weiter entfernt.

Reid Blackman: Ja, stimmt. Ich habe Vorträge gehalten, z.B. bei Fortune 500, Biotech, über Risiken und Bias, und sobald ich ein HR-KI-Beispiel gab, schrieb sofort jemand im Chat: „Policy: KEINE KI im Recruiting!“ Es ist ein striktes Tabu. Das Problem am klassischen Ansatz ist, dass immer die Tech-Leute in der C-Suite führen. HR ist bei der Policy-Einführung zwar oft betroffen (wegen sensibler Daten), aber nie Treiber. Was wir brauchen: einen schnell einsetzbaren, skalierbaren Ansatz, mit dem jede Abteilung für sich Governance betreibt. Nicht warten, bis alles zentral geregelt ist.

David Rice: Der „Responsible AI“-Ansatz ist für vorhersehbare, schmale Anwendungsfälle konzipiert - also eigentlich schon überholt, wie du schreibst. Wo Ursache der Verlangsamung? Organisationale Lähmung, fehlendes Verständnis?

Reid Blackman: Unterschiedlich. Beispiel: Wir beraten Finanzdienstleister, bauen responsible AI auf. Aber plötzlich interveniert Model Risk Management („Das ist unser Bereich!“), es gibt politischen Streit. Oder: Policy ist verabschiedet, Abteilung blockt mit dem Hinweis, „machen wir nicht so!“. Oft fehlt Erfahrung in Organisationsveränderung bei Tech-Führungskräften. Sie sind gut im Tech-Team-Management, aber nicht im Change Management. Daher das langsame Vorankommen. Meine erste Reaktion: Wir müssen Kunden darin schulen, Orga-Veränderungen anzugehen. Aber dann merkte ich: Das Problem ist, dass der politische Kraftakt zu groß ist. Lösung: Wir brauchen ein Modell, das ohne riesige Abstimmung beginnt, sondern klein und pragmatisch startet und dann expandiert. Der klassische Ansatz ist einfach zu langsam und aufwendig für heutige Anforderungen.

David Rice: Wie bei allen großen Technologiesprüngen. Bestehende Rahmenwerke suggerieren Sicherheit, sind aber oft nicht mehr zeitgemäß. Und: Wer die alten Systeme gebaut hat, hängt auch emotional daran – Ego und Identität verhindern oft nötige Veränderungen. Für alle Chief People Officers und COOs: Wenn Euer Governance-System vor Auftauchen agentischer Systeme entstanden ist, ist es jetzt veraltet. Es schützt euch nicht mehr, das ist keine Kritik – die Entwicklung ist einfach zu schnell.

Reid Blackman: Genau. Ich war selbst Praktiker und Berater für den Standardansatz, habe ihn in meinem ersten Buch verteidigt, aber rückblickend: Wir lagen nicht völlig falsch, aber eben nicht ausreichend „zukunftssicher“. Niemand hatte ChatGPT oder agentische KI auf dem Schirm. Für schmale KI war die alte Methode okay, jetzt nicht mehr.

David Rice: Noch 2022 dachte ich, man muss Datenwissenschaftler sein, um KI zu durchschauen. Jetzt nutzen es alle und wir können kaum absehen, was als Nächstes kommt.

Reid Blackman: Richtig. Wir müssen die Kommunikation verbessern. Gerade jetzt versuchen alle, KI zu verstehen und nutzen sie. Aber Data Scientists sprechen nicht mit HR, HR nicht mit Produkt. Wir brauchen eine gemeinsame Sprache, um Komplexität zu meistern und funktionsübergreifend zusammenzuarbeiten. Deshalb nenne ich das Buch „The Ethical Nightmare Challenge“: Jeder versteht „Albtraum“. Es ist kein Tech-Slang. HR weiß z.B.: Ein Alptraum wäre, wenn wir systematisch Frauen über 40 nicht mehr einladen. Sobald HR dem Data Scientist die Sorgen klar machen kann („Das ist unser Nightmare!“) – dann reden sie über konkrete Outcomes.

David Rice: Die Nightmare-Szenarien in deinem Buch fordern Führungskräfte auf, sich die schlimmstmöglichen Ergebnisse vorzustellen. Was passiert bei solchen Sitzungen, das Führungskräfte überrascht? Was zeigt sich im Review, wie gut sie ihre KI-Landschaft wirklich kennen?

Reid Blackman: Sie kennen sie nicht. Die Albtraum-Methode öffnet vielen die Augen. Ethiker diskutieren meistens das Gute, nicht das Schlechte. Im Risikomanagement sind Prozesse im Fokus, nicht Worst-Case-Szenarien – dabei ist das etwa im Ingenieurwesen Standard. Mit der Ethical Nightmare Challenge frage ich: Was sind für euch die schlimmsten Szenarien? Es ist leichter, sich auf das Schlechte zu einigen als auf Hochglanzwerte. Dadurch gibt es viel schneller Alignment.

David Rice: Es stiftet auch die richtige Dringlichkeit. Kaum jemand sagt: „Her mit den Prozessen, ich freue mich auf Fairness.“ Aber bei Albtraum-Szenarien bleiben die Leute wach – im positiven Sinn.

David Rice: Das Coole am Albtraum-Ansatz ist, dass er Intellektuelle Ehrlichkeit fördert. Denn, wie du sagst: Über Werte zu diskutieren, ist oft zu vage und unkonkret, keiner mag es ansprechen – über Albträume schon.

Reid Blackman: Ja, der Ansatz fördert Ehrlichkeit und den Aufbau einer Ethikkultur. Die Ethical Nightmare Challenge besteht aus drei Fragen: Was sind die KI-Albträume Ihrer Organisation? Welche Mittel haben Sie, sie zu vermeiden? Und wie bilden Sie Ihre Leute, diese Mittel effektiv zu nutzen? Diese Fragen sind auf jeder Ebene einsetzbar – für einzelne Lösungen, Abteilungen oder unternehmensweit. Wir schulen alle darauf, sensibilisieren sie, geben ihnen die drei Fragen an die Hand. Speziell für Beschaffung oder Eigenentwicklung: Wir bilden Ethical Nightmare Challenge (ENC)-Teams – cross-funktional, etwa aus HR, Data Science, Recht, Risk, idealerweise auch ein Vendor-Vertreter. Diese Teams beantworten die drei Fragen, füllen einen Worksheet aus, priorisieren die Risiken (Punktevergabe), entwickeln und teilen Maßnahmen. ENC-Teams kann man flexibel einsetzen, wie benötigt. So entsteht Organisationsfähigkeit zur Albtraum-Vermeidung, die sich in die Kultur durchsetzt.

David Rice: Von der People-Operations-Seite sollte das alles vor dem Go-live passieren, nicht erst nach einem Vorfall. Viele HR führen jedoch nur reaktiv. Welche Tipps hast du, um antizipativ zu werden?

Reid Blackman: Projektbezogene ENC-Teams sind per se proaktiv: Sie suchen vorab nach Risiken und richten Monitoring ein, sobald die Lösung live geht. Die Abteilungs-ENC-Teams wiederum denken auf Teamebene: Wie ermögliche ich meinen Projekt-ENCs präventiven Schutz? Rolling-Enablement statt Regelweitergabe: Es kann auch bedeuten, ein Inventar an Albträumen zu führen, Trainings bereitzustellen oder Strategie-Roundtables zu organisieren – alles proaktiv und problemlösungsorientiert.

David Rice: Agentische KI verändert die Verantwortlichkeit radikal. Systeme agieren autonom in unserer Welt. Wer haftet, wenn etwas schiefgeht? Wer ist verantwortlich?

Reid Blackman: ENC-Teams sind die erste Linie. Aber wie beim Hubschrauberabsturz – war es Design, Produktion, Maintenance, Pilot, Air Traffic Control? Auch bei KI: Liegt es am angebundenen Tool? Hat der Vendor schuld? War‘s die Modellbasis (Google, MS, OpenAI)? Wurde das Modell intern verändert? Die Verantwortlichkeit ist nicht generell festzulegen.

David Rice: Der agentische Wechsel ist beunruhigend, weil es klar abgrenzbare menschliche Entscheidungen nicht mehr gibt. Aber dort lebt normalerweise die Verantwortlichkeit, oder?

Reid Blackman: Natürlich bleibt Verantwortung beimjenigen, der das „Go“ gibt. Aber: Eine KI ist per Definition unvorhersehbar. Unvorhersehbare und unausweichliche Fehler kann man nicht immer jemandem anlasten.

David Rice: Oft wissen Mitarbeitende nicht einmal, dass sie nebeneinander mit oder durch KI bewertet werden. Transparenz und Einwilligung gehen übers Compliance hinaus – das ist Vertrauenssache!

Reid Blackman: Richtig. Viele Führungskräfte haben Sorge vor offenen Gesprächen über Risiken. Aber Kopf-in-den-Sand hilft nicht. Die Probleme werden so nicht gelöst. Außerdem: Die Leute sind eh verunsichert. Transparenz und klarer Umgang schaffen mehr Akzeptanz als Verharmlosung.

David Rice: Sprache zu beschönigen hilft weder Diskurs noch Bewusstseinsbildung. Es verschleiert nur. Sag, wie es ist! Sollen wir statt „Albtraum“ lieber „Katastrophe“ sagen? Es ist wie es ist.

Reid Blackman: In der Philosophie erklären wir Dinge geradeheraus. Klartext für Mitarbeiter, keine Infantilisierung, bitte.

David Rice: Mitarbeitende kommen auch von selbst klar – geben wir ihnen Handlungssicherheit. Sonst finden sie eigene (riskante) Wege.

Reid Blackman: Ja, ich vergleiche die KI-Regulierungsdiskussion manchmal mit Abstinenz-Aufklärung: „Striktes generatives-KI-Verbot!“ Funktioniert das? Nein. Die Angestellten nutzen es trotzdem.

David Rice: Sie haben sofort ChatGPT ausprobiert. War klar.

Reid Blackman: Genau. Seien Sie vorbereitet...

David Rice: Ethische Albträume entstehen selten aus böser Absicht, sondern meist durch gutmeinende Leute, die in Systemen zu schnell agieren. Wie überzeugst du CEOs, die glauben, das größte Risiko sei, zurückzufallen — und alle zum schnellen Arbeiten drängen?

Reid Blackman: Es ist kein Widerspruch! Ich hielt den „Bremsen-am-Auto“-Spruch immer für Quatsch, aber angesichts agentischer KI stimmt er mehr denn je. Wer alle nur fürs Tempo schult und Risiken ignoriert, handelt fahrlässig. Ohne Risiko-Kompetenz fallen Teams früher oder später auf die Nase. Nur, wer versteht, wie KI schiefgehen kann, kann wirklich schnell und sicher werden.

David Rice: Wichtig für alle Entscheidungsträger: Der Glaube, Ethikversagen treffe nur Nachzügler oder Desinteressierte, ist falsch. Es passiert denen, die schneller unterwegs sind als guter Menschenverstand erlaubt.

Reid Blackman: Schön auf den Punkt gebracht: Schneller unterwegs als der menschliche Urteilsfähigkeit folgen kann.

David Rice: Die Intervention muss sich ändern: Es geht nicht um Ethik als Regelwerk, sondern darum, die Fähigkeit im Unternehmen zu stärken, an den richtigen Stellen bewusst zu bremsen.

Reid Blackman: Genau. Wer wie Meta nur auf Tempo setzt und dann mit Geld alles zudeckt, kann so weitermachen. Wer das aber nicht kann, sollte nicht leichtfertig vorgehen. Der Gegensatz „Geschwindigkeit oder Ethik“ ist eine Scheinalternative.

David Rice: Bin da bei dir. Für mich ist „schnell kaputt machen“ das eigentlich größte Vertrauensrisiko überhaupt. Lieber „normal schnell – und Dinge besser machen“.

Reid Blackman: Das sollte der neue Ansatz sein. Natürlich gibt es nicht das eine Totschlag-Argument, das alle überzeugt. Für Facebook/Meta gelten andere Maßstäbe; für alle anderen ist klar: Wer verantwortungslos agiert, ruiniert seine Marke. Ethik ist ohnehin Pflicht.

David Rice: Wenn jetzt ein C-Level diesen Podcast hört und weiß, seine Organisation ist nicht ausreichend geschützt: Wie sieht das allererste ernsthafte Gespräch dazu aus, wer gehört in den Raum?

Reid Blackman: Es braucht nicht sofort alle am Tisch. Die Ethical Nightmare Challenge kann auf Projekt-, Bereichs- oder Abteilungsebene starten. Eine einzige Frage genügt: Haben wir bereits explizit identifiziert, was unsere ethischen, reputationsbezogenen und rechtlichen Albträume beim KI-Einsatz sein könnten? Wenn die Antwort nein ist: Jetzt anfangen. Sonst bewegt sich nichts.

David Rice: Praktisch betrachten: Du hast von Pilotprojekten gesprochen. Toll, es muss nicht der große Wurf sein. Ein ehrliches Gespräch in einem Team reicht zum Start.

Reid Blackman: Wir machen das inzwischen so mit Kunden: Die Ethical Nightmare Challenge als 10-wöchiges Pilotprojekt mit zwei, drei Projektteams. Echte Nightmare-Vermeidung in überschaubarem Rahmen. Wenn es klappt, kann man skalieren. Es ist niedrigschwellig und effizient, ganz anders als klassische Großprojekte. Unbedingt klein anfangen!

David Rice: Reid, danke für das Gespräch! Es war inspirierend.

Reid Blackman: Danke, gleichfalls.

David Rice: Hört euch Reid Blackman und sein Buch „The Ethical Nightmare Challenge“ an. Viele wichtige Fragen, die jede:r von uns stellen sollte. Besucht peoplemanagingpeople.com/subscribe für den Newsletter – so verpasst ihr nichts. Und bis zum nächsten Mal: Stellen wir die Frage „Was könnte schiefgehen und wen trifft es?“ anstatt nur „Wie schnell können wir liefern?“. Bis bald.