Die drei Veränderungen für den Weg von KI-Unterstützung zu Eigenverantwortung
Organisatorische Lücke: Das Haupthindernis für den KI-Einsatz ist nicht technischer, sondern organisatorischer Natur – es fehlt an der nötigen Infrastruktur.
Wandel im Urteilsvermögen: Organisationen müssen von individueller zu kollektiver Urteilsfindung wechseln, um die Entscheidungsfindung von KI-Systemen zu verbessern.
Bedeutung von Governance: Klare Zuständigkeiten und Überprüfungen sorgen für Verantwortungsbewusstsein von KI-Systemen und für die Korrektur von Fehlern.
Werteneudefinition: Wertmetriken sollten von Geschwindigkeit hin zu Genauigkeit und Qualität der Entscheidungen verschoben werden, um KI erfolgreicher zu integrieren.
Erfolgsfaktoren für Pilotprojekte: Klare Ziele, definierte Zuständigkeiten und abgestimmte IT-Geschäftsziele sind entscheidend für den Erfolg von KI-Pilotprojekten.
Laut der Deloitte-Studie zu Technologietrends 2025 erkunden 30% der Organisationen agentische KI und 38% testen entsprechende Lösungen. Aber nur 11% nutzen diese Systeme produktiv.
Die Lücke liegt nicht an der technischen Bereitschaft. Modelle funktionieren. Daten existieren. Werkzeuge sind zugänglich. Was fehlt, ist die organisatorische Infrastruktur – die Governance, Zuständigkeiten und Anreizsysteme, die es sicher machen, KI Entscheidungen anzuvertrauen.
Teams, die vom Piloten zur Produktion übergehen, vollziehen drei spezifische Änderungen. Keine davon ist vorrangig technischer Natur.
Lesen Sie weiter – und führen Sie weiterhin intelligenter
Erstellen Sie ein kostenloses Konto, um diesen Beitrag fertigzulesen und Teil einer Community zukunftsorientierter Führungskräfte zu werden, die Werkzeuge, Leitfäden und Einblicke für den Erfolg im Zeitalter der KI erschließen.
Have an account? Log In
Erster Wandel: Urteilskraft als organisatorische Fähigkeit neu definieren
Die meisten Unternehmen behandeln Urteilskraft als eine persönliche Fähigkeit, die in den Köpfen erfahrener Mitarbeitender steckt. Zwei Personen könnten denselben Fall unterschiedlich behandeln, und niemand kann erklären warum. Es gibt keine Möglichkeit, den Prozess systematisch zu verbessern, weil die Verantwortung für KI-Entscheidungen unklar bleibt.
Ahmed Zaidi, CEO von Accelirate, stieß auf dieses Muster bei der Arbeit mit einem großen Krankenhaussystem. Das Team aus 15 Pflegekräften, das für die Erstellung von Einspruchsschreiben gegen Ablehnungen durch Versicherungen verantwortlich war, arbeitete scheinbar nach einem einfachen Prozess. Auf den ersten Blick schien die Arbeit leicht zu verschriftlichen.
Was schnell zu Diskussionen führte, war, dass es eigentlich keinen 'einen' Prozess gab", sagt Zaidi. "Jede Pflegekraft hatte im Laufe der Jahre ihre eigene Strategie entwickelt.
Als Zaidis Team versuchte, aufzuschreiben, „wie wir das eigentlich machen“, waren sich die Pflegekräfte bei grundlegenden Fragen uneinig:
- Was stellt eine starke medizinische Begründung dar?
- Auf welche Dokumentation soll der Fokus gelegt werden?
- Welche Tonalität oder Sprache zeigte bei bestimmten Versicherern Wirkung?
- Wann sollte man eskalieren und wann den Widerspruch neu formulieren?
Die versteckten Abhängigkeiten gingen noch tiefer. Entscheidungen basierten nicht nur auf dem Ablehnungscode. Sie hingen von ärztlichen Notizen in einem System ab, von Vorabgenehmigungsdaten in einem anderen und von subtilen klinischen Formulierungen, die in freien Textdokumenten zu finden waren. Manche Strategien bauten auf Dokumentationsgewohnheiten bestimmter Ärzte, die nicht standardisiert waren.
„Was einfach schien – 'Einsprüche automatisieren' – wurde zu einer organisatorischen Übung, implizites Urteil explizit zu machen", sagt Zaidi.
Der Durchbruch gelang, als das Team aufhörte, die „richtige“ Pflegekraft-Herangehensweise zu suchen, und stattdessen die gesammelte Erfahrung aller 15 Pflegekräfte zusammenführte. Sie organisierten strukturierte Sitzungen, in denen Pflegekräfte Strategien diskutierten, Spezialfälle herausarbeiteten und sich darauf einigten, was historisch zu erfolgreichen Einsprüchen geführt hatte. Dann überlagerten sie tatsächliche Ergebnisdaten – welche Vorlagen mehr Einsprüche gewannen, welche Dokumentations-Kombinationen die Rückbuchungsrate verbesserten.
Statt Meinungen zu kodifizieren, kodifizierten sie überprüfte Muster.
Diese Externalisierung schafft etwas, das Unternehmen selten haben: die Fähigkeit, Urteilskraft im großen Maßstab zu beobachten und zu verbessern. Jede Aktion wird protokolliert. Jede Ausnahme wird sichtbar. Jede Übersteuerung zeigt, wo Regeln nicht zur Realität passen. Teams können Muster erkennen, Schwellenwerte anpassen, Leistung im Laufe der Zeit verbessern.
Das Ergebnis war messbar: bessere Einspruchsgenauigkeit, kürzere Bearbeitungszeiten, höhere Rückführungsquoten und reduziertem Compliance-Risiko, weil Entscheidungen nun standardisiert, dokumentiert und prüfbar waren.
Governance hat das System nicht ausgebremst, sondern dem Unternehmen die Möglichkeit gegeben, systematisch aus eigenen Entscheidungen zu lernen.
Zweiter Wandel: Klare Verantwortung für das Verhalten von Agenten festlegen
Der entscheidende Engpass beim Übergang zur Produktion ist das Organisationsvertrauen, dass KI-Aktionen begrenzt, prüfbar, umkehrbar und beaufsichtigt sind.
Teams, die vorangehen, benennen eine operative Person als explizit Verantwortliche für das Verhalten des Agenten – einschließlich seiner Fehler. Der erste schwerwiegende Fehler stellt auf die Probe, ob diese Infrastruktur tatsächlich funktioniert.
Beim Einsatz für Krankenhauseinsprüche hatte Zaidi einen Agenten im Einsatz, der die Erstellung und Priorisierung von Widersprüchen unterstützte und darauf ausgelegt war, Fälle zu sortieren und eine Eskalation zu empfehlen, wenn gewisse Risikoschwellenwerte überschritten wurden.
Der erste bedeutende Fehler trat auf, als der Agent einen hochdotierten, zeitkritischen Widerspruch als Routinefall einstufte und nicht eskalierte. Die Logik hatte zwar korrekt den Ablehnungscode interpretiert, aber einen sekundären Kontextfaktor – das ablaufende Einspruchsfenster des betreffenden Versicherungsvertrags – nicht beachtet.
Der Fehler wurde begrenzt, war aber finanziell relevant. Er wurde durch eine tägliche Ausnahmeprüfung entdeckt, die das Team in den Workflow eingebaut hatte – eine menschliche Kontrollinstanz, die hochwertige Fälle stichprobenartig prüfte.
Was dieser Moment offenbarte, war nicht, dass der Agent fahrlässig war, sondern dass unsere Eskalationskriterien unvollständig waren", sagt Zaidi. „Wir hatten klinische und Ablehnungslogik kodifiziert, aber Vertrags-Metadaten noch nicht vollständig in den Priorisierungsrahmen integriert.
Die Governance-Struktur half in zweierlei Hinsicht:
- Protokollierung und Nachvollziehbarkeit zeigten genau, warum der Agent die Entscheidung getroffen hat, und die Überprüfung durch den Menschen im Prozess entdeckte risikoreiche Fälle.
- Dadurch wurde eine Lücke aufgedeckt. Die Definition von "Risiko" war zu eng gefasst.
Das Team reagierte, indem es die Eskalationsregeln erweiterte, um finanzielle und zeitliche Risikofaktoren einzubeziehen, dynamische vertragsbasierte Schwellenwerte implementierte, die Überwachung auslaufender Widersprüche verstärkte und klarere Wege zur Aufhebung der Entscheidungen schuf.
In agentischen Systemen resultieren Fehler selten aus einer einzigen Fehlentscheidung, sondern häufig aus unvollständiger Kontextmodellierung. Verantwortung in der Führung von KI bedeutet, auf frühzeitige Erkennung zu setzen – nicht auf Perfektion zu vertrauen.
Wie Führungskräfte mit dem ersten Fehler umgehen, entscheidet über alles. Sehen sie ihn als Lernchance und passen das System an, gewinnen die Teams Vertrauen. Werden Schuldzuweisungen oder ein Rückzug veranlasst, ist das Projekt zum Scheitern verurteilt.
Erfolgreiche Organisationen vermeiden Fehler nicht. Sie bauen Systeme, die Fehler schnell aufdecken, sie als Daten behandeln und daraus lernen.
Der Governance-Blindspot
Eines der häufigsten Versäumnisse in der Governance, die Zaidi beobachtet, nennt er passive KI-Governance – also die Annahme, dass Protokollierung gleichbedeutend mit Kontrolle ist.
„Organisationen sagen voller Überzeugung: ‚Jede Entscheidung, die der Agent trifft, wird protokolliert. Wir haben vollständige Nachvollziehbarkeit‘“, erklärt Zaidi. „Das klingt beruhigend, insbesondere in regulierten Umgebungen. Aber Protokollierung allein reduziert kein Risiko. Sie hält es lediglich fest.“
Im Gesundheitswesen beinhalten Agentenentscheidungen und KI-Anwendungen häufig Vertragsmanagement sowie sprachliche Feinheiten, klinische Terminologie, die Interpretation der Kostenträger und zeitliche Einschränkungen. Selbst wenn jeder Output technisch nachvollziehbar ist, sammeln sich Risiken in Randfällen an, die knapp außerhalb der festgelegten Schwellen liegen, durch Veränderungen in Dokumentationsmustern oder im Antwortverhalten der Kostenträger – oder bei Eskalationen, die eigentlich hätten stattfinden sollen, aber formal keine Regelverletzung darstellten.
Viele Organisationen gehen davon aus, dass ein System konform ist, solange nichts offensichtlich schiefgeht. Doch das Ausbleiben eines sofortigen Fehlers ist kein Beweis für Sicherheit. Es kann schlicht bedeuten, dass niemand genau hinsieht.
Reife KI-Governance umfasst klar definierte Prüfintervalle für Entscheidungsstichproben, quantitative Risikoschwellen, die automatisch menschliche Überprüfungen auslösen, eine eindeutige Verantwortung für die operative Überwachung sowie Feedbackschleifen, in denen wiederkehrende Ausnahmefälle zur Regelanpassung führen.
Ich stelle Führungskräften oft eine einfache Frage: „Wer wacht morgens auf und ist verantwortlich für das, was der Agent am Vortag entschieden hat?“ sagt Zaidi. „Gibt es darauf keine klare Antwort, ist das Governance-Modell nicht fertig.“
Dritter Wandel: Was zählt, muss sich ändern
In den meisten Organisationen ist Fachwissen eng mit Status, Arbeitsplatzsicherheit und informeller Macht verbunden. "Die wissende Person" zu sein, ist der Weg, Einfluss zu gewinnen und zu verteidigen. Die eigene Urteilsfähigkeit offenzulegen, fühlt sich oft an, als würde man das einzige Druckmittel aufgeben, das das System vermittelt hat.
Im Krankenhaus wurde das Pflegeteam traditionell an der Anzahl der verfassten Widerspruchsschreiben pro Tag gemessen.
Nach der Einführung der KI-gestützten Texterstellung wurde diese Kennzahl kontraproduktiv. Wenn die KI den ersten Entwurf erzeugt, ist das Volumen allein kein geeigneter Wertmaßstab mehr.
Die Leistungsbewertung verlagerte sich hin zur Genauigkeit der fachlichen Überprüfung, zur Wirksamkeit von Überarbeitungen der KI-generierten Schreiben, zum Beitrag zur Rückgewinnung von Erlösen und zur Mitwirkung an der Optimierung von Vorlagen und Eskalationslogik.
Eine bestimmte Pflegekraft wurde dabei zur Führungspersönlichkeit: Sie konnte außergewöhnlich gut argumentieren, warum bestimmte Formulierungen bei einzelnen Versicherern besser ankamen. Anstatt an der Geschwindigkeit des Outputs gemessen zu werden, spielte sie eine zentrale Rolle, ihr Know-how in wiederverwendbare Systemregeln und Vorlagen zu überführen.
Ihr Einfluss wuchs, weil sie Intuition in strukturierte Logik übersetzen konnte", sagt Zaidi. "Das ist eine ganz neue Kompetenz, die in agentischen Systemen sehr wertvoll ist.
Der Wandel war kulturell: Weg von „Wie schnell kannst du produzieren?“ hin zu „Wie gut kannst du Entscheidungssysteme gestalten?“
Organisationen, die Heldentum, Tempo oder Intuition belohnen, nicht aber Dokumentation, Kontrolle oder Systemverbesserung, halten Fachwissen in Einzelpersonen gefangen. Wer erfolgreich umschaltet, fördert Mitarbeiter, die ihr Urteilsvermögen ins System bringen, es aktiv verbessern und damit das gesamte Team stärken.
Sobald Fachwissen als etwas verstanden wird, das die organisatorische Leistungsfähigkeit steigert statt persönliche Unentbehrlichkeit zu fördern, verschwindet der Widerstand gegen KI. Die Übergabe an Agenten wird dann zum Zeichen von Seniorität, nicht zu einer Bedrohung derselben.
Frühe Warnsignale für ein Scheitern
In den ersten 30 bis 60 Tagen eines Pilotprojekts ist ein Scheitern fast immer vorhersehbar.
Das größte Warnzeichen ist das Fehlen eines klar definierten Ergebnisses. Wenn ein Team nicht operativ beschreiben kann, wie Erfolg aussieht – beispielsweise durch geringere Durchlaufzeiten, höhere Rückgewinnung oder weniger Fehler – ist der Pilot vermutlich keine zielgerichtete Umsetzung, sondern bloßes Experimentieren.
Weitere Warnsignale sind: Kein klar benannter operativer Verantwortlicher, eine unterschiedliche Einschätzung von Zeitaufwand und Komplexität zwischen Business und IT, die Unfähigkeit, den eigentlichen Automatisierungsprozess der Entscheidungsfindung zu beschreiben, sowie die Behandlung der Initiative als „KI-Exploration“ statt als operative Neugestaltung.
Piloten geraten ins Stocken, wenn Business-Stakeholder den Aufwand unterschätzen, Urteilsvermögen in strukturierte Logik zu übertragen, während die IT die Variabilität und Sonderfälle der Geschäftsprozesse unterschätzt.
Erfolgreiche Pilotprojekte tun in den ersten 30 Tagen drei Dinge:
- Definieren engen Projektumfang mit messbaren Ergebnissen
- Benennen einen dedizierten Geschäftsverantwortlichen und verpflichtete Fachexperten
- Stellen Rückendeckung aus der Geschäftsleitung sicher, um Experimente zu ermöglichen und prozedurale Hürden zu beseitigen.
„Agentische KI ist kein technologisches Einführungsproblem – es geht um Entscheidungsarchitektur“, sagt Zaidi. „Wird das nicht frühzeitig adressiert, verwandelt es sich in einen Kostenbeweis.“
Wie Bereitschaft aussieht
Wenn eine Organisation behauptet, sie sei bereit, eine agentische Lösung zu skalieren, achtet Zaidi auf strukturelle Reife über Menschen, Prozesse und Technologie. Das bedeutet:
- Ein benannter Geschäftsverantwortlicher, der für Ergebnisse haftet
- Ein klar definierter Ausnahme- und Eskalationsprozess
- Transparenz über Entscheidungen und Ergebnisse
- Stückkosten, die den Ausbau rechtfertigen
- Ein bereits etabliertes Rahmenwerk für Governance.
Die meisten Teams unterschätzen zwei Dinge: Die Kosten der Analyse und die Zeit, die benötigt wird, um Entscheidungslogik richtig auszulagern.
Ein Reifezeichen, auf das Zaidi vertraut:
Wenn ich frage: 'Wie entscheidet der Agent, wenn er unsicher ist?' und sie können dies klar beantworten – einschließlich Eskalationsschwellen und Verantwortlichkeiten – sind sie wahrscheinlich bereit. Ist die Antwort vage oder verlässt man sich auf 'das Modell wird es herausfinden', herrscht noch Optimismus, keine Vorbereitung.
Die entscheidende Fähigkeit liegt jetzt an der Schnittstelle zwischen Urteilsvermögen und Systemen. Menschen, die erklären können, warum eine Entscheidung getroffen wurde, nicht nur was entschieden wurde. Die ihre Intuition in Signale, Schwellenwerte und Ausnahmen zerlegen können. Die neugierig darauf sind, wo ihr eigenes Urteilsvermögen versagt.
Im Alltag verbringen sie weniger Zeit damit, Arbeit auszuführen, sondern mehr damit, zu überwachen, zu korrigieren und zu verfeinern, wie Arbeit erledigt wird – sei es durch Menschen oder Agenten.
Organisationen, die diesen Wandel meistern, gewinnen etwas, was Wettbewerber im Dauertestbetrieb nicht haben: die Fähigkeit, Urteilsvermögen in großem Maßstab zu verbessern. Sie können Annahmen testen, Ergebnisse messen und die Qualität von Entscheidungen iterativ verbessern – auf eine Weise, die früher unmöglich war, als Fachwissen nur in den Köpfen der Mitarbeitenden steckte.
Der Wettbewerbsvorteil besteht nicht in „besserer KI“. Er liegt in einer Organisationsstruktur, die KI-Eigentum ermöglicht. Diese Struktur – eine Governance, die Geschwindigkeit erlaubt, Verantwortlichkeiten, die Rechenschaft schaffen, und Anreize, die übertragbares Fachwissen belohnen – trennt die 11% in der Produktion von den 38%, die in Pilotprojekten feststecken.
