Werden KI-Entwickler die Governance schaffen, die HR braucht?
Governance-Wandel: KI-Governance entwickelt sich von reiner Compliance zu einem Wettbewerbsvorteil und beeinflusst Beschaffung sowie Entwicklung.
Agentische Nachfrage: Bis 2026 werden 40 % der Unternehmensanwendungen aufgabenspezifische KI-Agenten integrieren, was neue Governance-Rahmen erfordert.
Marktdiskrepanz: Trotz prognostiziertem Wachstum bleibt der KI-Governance-Markt klein und Unternehmen müssen Infrastruktur-Lücken eigenständig schließen.
Milliarden fließen in KI-Infrastruktur und -Algorithmen. Aber der Teil der Transformation, der über den Erfolg von Organisationen entscheidet – Menschen, Prozesse, Governance – bleibt kaum beachtet.
Die Frage auf mehreren Sessions der HumanX letzte Woche in San Francisco war nicht, ob künstliche Intelligenz die Arbeitsweise von Unternehmen verändern wird. Das sehen wir bereits. Stattdessen stand im Mittelpunkt, wo der nächste Einsatz erfolgen sollte.
In einer Session zum Thema Frühphasen-Investitionen nannten die Panel-Teilnehmenden die Unternehmen, für die sie sich am meisten begeistern: eine Video-Intelligenz-Plattform, ein Hersteller autonomer Verteidigungsboote, eine Wellness-App für Konsumenten. Keine einzige davon berührte den Bereich, in dem die meisten KI-Transformationen tatsächlich scheitern.
Keep Reading—and Keep Leading Smarter
Create a free account to finish this piece and join a community of forward-thinking leaders unlocking tools, playbooks, and insights for thriving in the age of AI.
Have an account? Log In
Das ist für sich genommen bereits ein Marktsignal.
Laut Menlo Ventures Bericht „2025 State of Generative AI in the Enterprise“ gaben US-Unternehmen im vergangenen Jahr 37 Milliarden US-Dollar für generative KI aus, eine 3,2-fache Steigerung im Vergleich zu 11,5 Milliarden US-Dollar 2024. Der größte Anteil, etwa 19 Milliarden US-Dollar, floss in die Anwendungsschicht – also in Software und Produkte, die auf zugrunde liegenden Modellen aufbauen.
Die restlichen Investitionen flossen in die Infrastruktur. Rodrigo Liang, Mitgründer und CEO von SambaNova Systems, beschrieb die Nachfrage nach Inferenz als einen Markt, dessen Wachstum "erst noch richtig kommt". Micron Technology allein hat mehr als 25 Milliarden US-Dollar Investitionsausgaben zugesagt, um den durch den KI-Ausbau verursachten Speichermangel zu beheben.
Unterdessen wurde der globale Markt für KI-Governance – also Tools, die Unternehmen beim Management und beim Einsatz von KI in ihrer Belegschaft unterstützen – laut Grand View Research im Jahr 2025 mit 308,3 Millionen US-Dollar bewertet. Weniger als 1 % dessen, was Unternehmen insgesamt für generative KI ausgegeben haben.
Eine 308-Millionen-Dollar-Antwort auf ein 37-Milliarden-Dollar-Problem
Die Untersuchungen von Boston Consulting Group zur KI-Adoption zeigen, dass 74 % der Unternehmen Schwierigkeiten haben, mit KI einen messbaren oder skalierbaren Mehrwert zu erzielen – trotz jahrelanger Investitionen. Der wichtigste Grund: Etwa 70 % der Umsetzungsprobleme sind auf menschliche und prozessbezogene Herausforderungen zurückzuführen. Technologische Hürden machen 20 % aus. Algorithmen – die Schicht, in die am meisten Kapital fließt – haben nur einen Anteil von 10 %.
Das Muster bei Unternehmen, die tatsächlich Ergebnisse im großen Maßstab erzielen, folgt der gleichen Logik wie das 70-20-10-Modell: Führende Unternehmen investieren 70 % in Menschen und Prozesse, 20 % in Technologie und Daten, 10 % in Algorithmen.
Dieses Framework, das in der Organisationsforschung des Center for Creative Leadership entwickelt und von BCG auf KI-Transformationen übertragen wurde, dient inzwischen als zuverlässige Diagnose dafür, warum Unternehmensprogramme ins Stocken geraten. Die meisten Organisationen investieren in die 10 % und 20 % – und wundern sich, warum beim Anteil von 70 % keine Fortschritte zu sehen sind.
Der Wagniskapitalmarkt spiegelt die gleiche Verzerrung wider. Die Investor:innen im HumanX-Panel ignorierten den organisatorischen Teil von KI nicht – sie finanzierten ihn schlichtweg nicht.
Change-Management-Infrastruktur, Unterstützung beim Übergangsmanagement sowie Governance-Tools lassen sich schwer als Produkt abbilden. Organisatorischer Wandel braucht Spezifik. Er widersetzt sich dem Modell von Abonnements.
Was sich auf dem Konferenzboden zeigte
Eine gesonderte HumanX-Session zu KI-Governance machte die Folgen greifbar. Navrina Singh, Gründerin und CEO von Credo AI, beobachtet dieses Muster schon so lange, dass sie ihm einen Namen geben kann.
Viele Unternehmen, wenn wir mit ihnen sprechen, sind so: ‘Lass uns abwarten, bis ein Vorfall passiert, und dann investieren wir, wenn nötig, in KI-Governance.’ Und wissen Sie was? Bis dahin sind sie bedeutungslos.
Singh, die über zehn Sektoren hinweg mit Fortune-500-Kunden arbeitet, sieht, dass Governance längst von einer Compliance-Frage zu einem Wettbewerbsfaktor wird.
Saahil Jain, CTO von You.com, drückte es noch deutlicher aus.
Beide beschrieben eine Beschaffungslandschaft, in der Fortune-500-Käufer, die in den letzten zwei Jahren KI-Anbieter getestet haben, jetzt genau prüfen, ob diese Anbieter mit Unternehmensdaten und -systemen vertrauenswürdig umgehen können.
Singh bemerkte, dass die Governance-Funktion selbst einen Wandel durchläuft: Sie verlagert sich von zentralisierten Compliance-Teams hin zu einer eingebetteten Praxis, bei der Entwickelnde Schutzmechanismen schon bei der Entwicklung integrieren – anstatt dass Governance-Teams im Nachhinein Aufsicht hinzufügen.
Dieser Wandel ist bedeutsam, weil damit die Nachfrage nach Governance-Tools zunimmt und nun auch Ingenieur- und Produktbereiche erreicht, die zuvor nicht Teil der Diskussion waren.
Das Agenten-Problem
Die Dringlichkeit steigt mit agentischer KI. Gartner prognostiziert, dass bis Ende 2026 40 % der Unternehmensanwendungen mit auf Aufgaben spezialisierte KI-Agenten integriert sein werden, verglichen mit weniger als 5 % heute.
Liang, dessen Unternehmen genau für diese Umgebung Inferenz-Infrastruktur baut, beschrieb, was dieser Wandel erfordert. Während Agenten Aufgaben eigenständig über verschiedene Systeme mit KI für Unternehmen koordinieren, werden Organisationen komplette Ökosysteme benötigen, um Ergebnisse zu zertifizieren.
Branchen wie Banken, Versicherungen, Regierungen – Sie müssen zertifizierbare Ergebnisse liefern. Sie müssen es nachvollziehen können.
Solche Infrastrukturen existieren derzeit kaum als kommerzielles Produkt.
Grand View Research prognostiziert, dass der Governance-Markt bis 2033 etwa 3,6 Milliarden $ erreichen wird – eine jährliche Wachstumsrate von 36 %, die auf eine echte Nachfrage hindeutet. Doch der Ausgangspunkt ist so klein und die agentische Implementierungskurve so steil, dass das Marktwachstum allein nicht das liefern wird, was Organisationen in der tatsächlich benötigten Zeit erreichen müssen.
Vor diesem Hintergrund ist BCGs 74 % kein Rätsel. Der Anbietermarkt hat sich auf das fokussiert, was skalier- und verkaufbar ist (Rechenleistung, Modelle, Anwendungen), und die organisationale Infrastruktur für die KI-Transformation weitgehend den Unternehmen selbst überlassen.
Führungskräfte, die Governance jetzt als Grundvoraussetzung betrachten, noch bevor sich der Markt weiterentwickelt, steuern nicht nur Risiken. Sie erschaffen etwas, das sie später nicht kaufen können.