Kommer AI-byggare att skapa den styrning HR behöver?
Förändrad styrning: AI-styrning utvecklas från efterlevnad till en konkurrensfördel och påverkar upphandling och utveckling.
Efterfrågan på autonoma AI-agenter: År 2026 kommer 40 % av företagsapplikationerna att integrera uppgiftsspecifika AI-agenter, vilket kräver nya styrningsramverk.
Marknadsskillnader: Trots den förväntade tillväxten är marknaden för AI-styrning fortfarande liten, vilket lämnar organisationerna att själva hantera bristerna i infrastrukturen.
Miljarder strömmar in i AI-infrastruktur och algoritmer. Men den del av omvandlingen som faktiskt avgör om organisationer lyckas – människor, processer och styrning – märks knappt.
Frågan under flera sessioner på HumanX i San Francisco förra veckan var inte om artificiell intelligens skulle förändra hur företag arbetar. Vi ser redan att det sker. I stället låg fokus på var nästa satsning skulle göras.
Under en session med fokus på investeringar i tidiga skeden nämnde paneldeltagarna de företag de var mest entusiastiska över: en plattform för videoanalys, en tillverkare av autonoma försvarsbåtar och en app för konsumenters välmående. Ingen av dem berörde det område där de flesta AI-omvandlingar faktiskt misslyckas.
Continue Reading for Free
Create a free account to finish this article, plus get ongoing access to timely insights and practical resources.
Have an account? Log In
Det är i sig en marknadssignal.
Enligt Menlo Ventures-rapporten Tillståndet för generativ AI i företag för 2025 spenderade amerikanska företag 37 miljarder dollar på generativ AI förra året, en ökning med 3,2 gånger från 11,5 miljarder dollar 2024. Den största andelen, ungefär 19 miljarder dollar, gick till applikationslagret – programvara och produkter som byggts ovanpå underliggande modeller.
Infrastrukturen absorberade resten. Rodrigo Liang, medgrundare och vd för SambaNova Systems, beskrev efterfrågan på inferens som en marknad vars tillväxt "ännu inte riktigt har kommit". Micron Technology har ensamt avsatt över 25 miljarder dollar i kapitalutgifter för att hantera den minnesbrist som AI:s utbyggnad har skapat.
Samtidigt värderades den globala marknaden för AI-styrning – verktygen som hjälper organisationer att hantera hur AI faktiskt fungerar i deras arbetsstyrka – till 308,3 miljoner dollar 2025, enligt Grand View Research. Mindre än 1 % av vad företag totalt spenderade på generativ AI.
Ett svar på 308 miljoner dollar på ett problem värt 37 miljarder dollar
Boston Consulting Groups forskning om AI-användning visade att 74 % av företagen har svårt att uppnå eller skala upp värdet från AI trots år av investeringar. Den främsta orsaken är att ungefär 70 % av implementeringsutmaningarna beror på problem relaterade till människor och processer. Teknikproblem står för 20 %. Algoritmer är det lager som drar till sig mest kapital, men står bara för 10 %.
Mönstret bland företag som faktiskt skalar upp resultaten följer samma logik som den gamla 70-20-10-modellen: ledare lägger 70 % av sina investeringar på människor och processer, 20 % på teknik och data och 10 % på algoritmer.
Det ramverket, som har sina rötter i organisationsforskning vid Center for Creative Leadership och har tillämpats på AI-omvandling av BCG, har blivit ett tillförlitligt diagnosverktyg för att förstå varför företagsprogram stannar upp. De flesta organisationer spenderar pengar på de 10 och 20 procenten och undrar varför de 70 procenten inte rör sig.
Riskkapitalmarknaden speglar samma snedvridning. Investerarna i HumanX-panelen ignorerade inte den organisatoriska sidan av AI, de finansierade den helt enkelt inte.
Infrastruktur för förändringsledning, stöd vid övergångar för arbetsstyrkan och verktyg för styrning är alla svåra att paketera som produkter. Organisatorisk förändring kräver specificitet. Den låter sig inte enkelt paketeras som en prenumeration.
Vad konferensgolvet bekräftade
En separat HumanX-session om AI-styrning gjorde konsekvenserna konkreta. Navrina Singh, grundare och vd för Credo AI, har sett det här mönstret tillräckligt länge för att kunna benämna det direkt.
Många företag vi talar med säger ungefär: ’låt oss vänta tills en incident inträffar, och sedan investerar vi i AI-styrning om det behövs’. Gissa vad? Då kommer de att vara irrelevanta.
Singh, som arbetar med Fortune 500-kunder inom tio sektorer, hävdar att styrning håller på att gå från att vara en efterlevnadsfråga till att bli en konkurrensfråga.
Saahil Jain, teknikchef på You.com, uttryckte det mer rakt på sak.
Styrning är inte “något trevligt att ha, utan en avgörande funktion. Vi är mycket fokuserade på stora företag, så på vissa sätt ser jag det som ett nödvändigt men inte tillräckligt villkor för att driva införandet bland företag på en global marknad?
Båda beskrev en upphandlingsmiljö där Fortune 500-köpare, efter att ha ägnat de senaste två åren åt att testa AI-leverantörer i prototyper, nu granskar om dessa leverantörer kan anförtros företagsdata och företagssystem.
Singh noterade att själva styrningsfunktionen håller på att förändras och går från centraliserade efterlevnadsteam till ett integrerat arbetssätt, där utvecklare bygger in skyddsmekanismer vid utvecklingspunkten i stället för att styrningsteam lägger till tillsyn i efterhand.
Den förändringen är viktig eftersom den innebär att efterfrågan på styrningsverktyg breddas och når ingenjörs- och produktfunktioner som tidigare stod utanför samtalet.
Agentproblemet
Brådskan blir ännu större kring AI med autonoma agenter. Gartner förutspår att 40 % av företagsapplikationerna kommer att integreras med uppgiftsspecifika AI-agenter i slutet av 2026, jämfört med mindre än 5 % i dag.
Liang, vars företag bygger inferensinfrastruktur för just denna miljö, beskrev vad den övergången kräver. När agenter självständigt samordnar arbete mellan system med hjälp av AI för företag kommer organisationer att behöva hela ekosystem för att certifiera resultat.
Branscher som bankväsendet, försäkringsbranschen och myndigheter måste ta fram certifierbara resultat. Du måste kunna spåra det.
Den infrastrukturen finns knappt som en kommersiell produkt.
Grand View Research förutspår att styrningsmarknaden kommer att nå ungefär 3,6 miljarder dollar år 2033, en årlig tillväxttakt på 36 % som speglar en verklig efterfrågan. Men utgångspunkten är så liten och kurvan för införandet av AI med autonoma agenter så brant att marknadstillväxten ensam inte kommer att leverera det organisationerna behöver inom den tidsram de faktiskt står inför.
BCG:s 74 % är ingen gåta mot den bakgrunden. Leverantörsmarknaden har optimerats för det som är skalbart och säljbara (datorkraft, modeller och applikationer) och i stor utsträckning lämnat den organisatoriska infrastrukturen för AI-transformation åt företagen att bygga själva.
Ledare som behandlar styrning som en grundförutsättning redan nu, innan marknaden mognar, hanterar inte bara risker. De bygger något som de inte kommer att kunna köpa.
