Werden KI-Entwickler die Governance schaffen, die HR braucht?
Governance im Wandel: Die KI-Governance entwickelt sich von Compliance hin zu einem Wettbewerbsvorteil und beeinflusst Beschaffung und Entwicklung.
Agenten-getriebene Nachfrage: Bis 2026 werden 40 % der Unternehmensanwendungen auf aufgabenspezifische KI-Agenten setzen, was neue Governance-Rahmenwerke erfordert.
Marktdiskrepanz: Trotz der prognostizierten Marktgröße bleibt der Markt für KI-Governance klein, sodass Organisationen Infrastrukturlücken selbst schließen müssen.
Milliarden fließen in KI-Infrastruktur und Algorithmen. Aber der Teil der Transformation, der tatsächlich über den Erfolg von Organisationen entscheidet – Menschen, Prozesse, Governance – findet kaum Beachtung.
Die Frage bei mehreren Sitzungen während der HumanX-Konferenz in San Francisco letzte Woche war nicht, ob künstliche Intelligenz die Art und Weise, wie Unternehmen arbeiten, verändern wird. Das sehen wir bereits heute. Stattdessen stand im Mittelpunkt, wo die nächste Wette platziert werden sollte.
In einer Sitzung mit Fokus auf Frühphasen-Investitionen nannten die Podiumsteilnehmer die Unternehmen, die sie am meisten begeisterten: eine Video-Intelligenz-Plattform, ein Hersteller autonomer Verteidigungsboote, eine App für das persönliche Wohlbefinden. Kein einziges davon berührte den Bereich, in dem die meisten KI-Transformationen tatsächlich scheitern.
Keep Reading—and Keep Leading Smarter
Create a free account to finish this piece and join a community of forward-thinking leaders unlocking tools, playbooks, and insights for thriving in the age of AI.
Have an account? Log In
Das ist an sich schon ein Marktsignal.
Laut dem 2025-Bericht von Menlo Ventures zum Stand der generativen KI in Unternehmen gaben US-Unternehmen im vergangenen Jahr 37 Milliarden Dollar für generative KI aus – eine Steigerung um das 3,2-Fache gegenüber 11,5 Milliarden Dollar im Jahr 2024. Der größte Anteil, etwa 19 Milliarden Dollar, floss in die Anwendungsschicht – also Software und Produkte, die auf den zugrunde liegenden Modellen aufbauen.
Die Infrastruktur absorbierte den Rest. Rodrigo Liang, Mitbegründer und CEO von SambaNova Systems, beschrieb die Nachfrage nach Inferenz als einen Markt, dessen Wachstum "noch wirklich bevorsteht". Micron Technology allein hat über 25 Milliarden Dollar an Investitionsausgaben zugesagt, um dem Speicherengpass entgegenzuwirken, den der Aufbau von KI erzeugt hat.
Unterdessen wurde der weltweite Markt für KI-Governance – also die Werkzeuge, mit denen Organisationen das tatsächliche Wirken von KI innerhalb der Belegschaft steuern – im Jahr 2025 laut Grand View Research auf 308,3 Millionen Dollar geschätzt. Weniger als 1 % dessen, was Unternehmen insgesamt für generative KI ausgaben.
Eine Antwort von 308 Millionen Dollar auf ein Problem von 37 Milliarden Dollar
Die Forschung zur KI-Einführung der Boston Consulting Group ergab, dass 74 % der Unternehmen Schwierigkeiten haben, mit KI tatsächlichen Mehrwert zu erzielen oder diesen zu skalieren – trotz jahrelanger Investitionen. Der Hauptgrund ist, dass etwa 70 % der Implementierungsprobleme auf Menschen und Prozesse zurückzuführen sind. Technologische Probleme machen 20 % aus. Algorithmen bilden die Schicht mit den meisten Investitionen, entfallen aber nur auf 10 %.
Das Muster bei Unternehmen, die tatsächlich Ergebnisse skalieren, folgt derselben Logik wie das alte 70-20-10-Modell: Führende Unternehmen investieren 70 % in Menschen und Prozesse, 20 % in Technologie und Daten, 10 % in Algorithmen.
Diese Herangehensweise, basierend auf Organisationsforschung am Center for Creative Leadership und übertragen auf KI-Transformationen von BCG, ist zu einer verlässlichen Diagnose geworden, warum Unternehmensprogramme ins Stocken geraten. Die meisten Organisationen investieren in die 10 % und 20 % und wundern sich, warum die 70 % sich nicht bewegen.
Auch der Venture-Markt spiegelt diese Verzerrung wider. Die Investor:innen auf dem genannten HumanX-Panel ignorierten die organisatorische Seite der KI nicht – sie finanzierten sie schlichtweg nicht.
Infrastruktur für Veränderungsmanagement, Unterstützung bei Arbeitsplatz-Übergängen und Steuerungswerkzeuge für Governance lassen sich schwer in standardisierte Produkte überführen. Organisatorischer Wandel erfordert besondere Anpassung. Er widersetzt sich klassischen Abo-Modellen.
Was die Gespräche auf der Konferenz bestätigten
Eine separate HumanX-Sitzung zur KI-Governance machte die Folgen plastisch. Navrina Singh, Gründerin und CEO von Credo AI, beobachtet dieses Muster schon lange genug, um es direkt zu benennen.
Viele Unternehmen, wenn wir mit ihnen sprechen, sagen: ‘Lassen Sie uns warten, bis ein Vorfall passiert, und dann, falls nötig, in KI-Governance investieren.’ Wissen Sie was? Zu diesem Zeitpunkt werden sie irrelevant sein.
Singh, die branchenübergreifend mit Fortune-500-Kunden aus zehn Sektoren arbeitet, argumentiert, dass Governance sich von einer Compliance- zu einer Wettbewerbsfrage wandelt.
Saahil Jain, CTO von You.com, formulierte es noch deutlicher.
Governance ist kein “Nice-to-have, sondern ein entscheidendes Merkmal. Wir sind sehr unternehmensfokussiert, daher sehe ich es in gewisser Weise als notwendige, aber nicht hinreichende Bedingung, um die Einführung bei Unternehmen auf globaler Ebene voranzutreiben.
Beide beschrieben eine Beschaffungsumgebung, in der Fortune-500-Käufer nach zwei Jahren des Testens von KI-Anbietern nun genau prüfen, ob diese Anbieter mit Unternehmensdaten und -systemen vertrauenswürdig umgehen können.
Singh merkte an, dass sich die Governance-Funktion selbst verändert, weg von zentralisierten Compliance-Teams, hin zur integrierten Praxis. Entwickler bauen Kontrollmechanismen direkt in den Entwicklungsprozess ein, anstatt dass Governance-Teams im Nachhinein Überprüfungen hinzufügen.
Diese Verschiebung ist bedeutsam, weil dadurch der Bedarf an Governance-Tools zunimmt und auch Ingenieur- und Produktabteilungen erreicht, die bisher außerhalb der Diskussion standen.
Das Agentenproblem
Die Dringlichkeit nimmt insbesondere im Zusammenhang mit agentischer KI zu. Gartner prognostiziert, dass bis Ende 2026 40 % der Unternehmensanwendungen mit aufgabenspezifischen KI-Agenten integriert sein werden – derzeit sind es weniger als 5 %.
Liang, dessen Unternehmen Infrastruktur für Inferenzsysteme in genau diesem Umfeld baut, beschrieb, was dieser Wandel erfordert. Während Agenten eigenständig Aufgaben über verschiedene Systeme hinweg koordinieren und KI für Unternehmen nutzen, werden Organisationen ganze Ökosysteme benötigen, um Ergebnisse zertifizieren zu können.
Branchen wie Banken, Versicherungen, Regierungen – hier müssen zertifizierbare Ergebnisse produziert werden. Sie müssen in der Lage sein, den Prozess nachzuverfolgen.
Solche Infrastrukturen existieren als kommerzielles Produkt bislang kaum.
Grand View Research prognostiziert, dass der Governance-Markt bis 2033 etwa 3,6 Milliarden Dollar erreichen wird – ein jährliches Wachstum von 36 %, das die echte Nachfrage widerspiegelt. Doch der Ausgangspunkt ist so klein und die agentische Einführungskurve so steil, dass das Marktwachstum allein nicht das liefern wird, was Unternehmen auf absehbare Zeit wirklich benötigen.
Vor diesem Hintergrund ist BCGs 74 % keine Überraschung. Der Anbietermarkt hat sich auf das Skalier- und Verkaufbare optimiert (Rechenleistung, Modelle, Anwendungen) und die organisatorische Infrastruktur der KI-Transformation weitgehend den Unternehmen selbst überlassen.
Führungskräfte, die Governance jetzt als grundlegend betrachten, bevor der Markt ausgereift ist, managen nicht nur Risiken. Sie schaffen etwas, das sie später nicht kaufen können.
