Vil AI-udviklere skabe den styring, HR har brug for?
Skift i styring: AI-styring udvikler sig fra overholdelse af regler til en konkurrencemæssig fordel og påvirker indkøb og udvikling.
Efterspørgsel efter agenter: I 2026 vil 40 % af virksomhedsapplikationer integrere opgavespecifikke AI-agenter, hvilket kræver nye styringsrammer.
Markedsforskel: På trods af den forventede vækst er markedet for AI-styring fortsat lille, hvilket efterlader organisationer med selv at håndtere mangler i infrastrukturen.
Milliarder strømmer ind i AI-infrastruktur og algoritmer. Men den del af transformationen, der faktisk afgør, om organisationer får succes — mennesker, processer og styring — fylder næsten ingenting.
Spørgsmålet ved flere sessioner under HumanX i San Francisco i sidste uge var ikke, om kunstig intelligens ville ændre den måde, virksomheder driver deres aktiviteter på. Vi ser allerede, at det sker. I stedet handlede fokus om, hvor den næste investering skulle placeres.
Ved en session med fokus på investeringer i tidlige faser nævnte paneldeltagerne de virksomheder, de var mest begejstrede for: en platform til videoanalyse, en producent af autonome forsvarsbåde og en app til forbrugeres velvære. Ikke én af dem beskæftigede sig med det område, hvor de fleste AI-transformationer faktisk mislykkes.
Continue Reading for Free
Create a free account to finish this article, plus get ongoing access to timely insights and practical resources.
Have an account? Log In
Det er i sig selv et markedssignal.
Ifølge Menlo Ventures' rapport Status for generativ AI i virksomheder i 2025 brugte amerikanske virksomheder $37 milliarder på generativ AI sidste år, en stigning på 3,2 gange fra $11,5 milliarder i 2024. Den største andel, cirka $19 milliarder, gik til applikationslaget — software og produkter, der er bygget oven på de underliggende modeller.
Resten blev opslugt af infrastrukturen. Rodrigo Liang, medstifter og administrerende direktør for SambaNova Systems, beskrev efterspørgslen efter inferens som et marked, hvis vækst "endnu ikke rigtig er kommet". Micron Technology har alene afsat over $25 milliarder i kapitaludgifter for at imødekomme den mangel på hukommelse, som AI-udbygningen har skabt.
I mellemtiden blev det globale marked for AI-styring — de værktøjer, der hjælper organisationer med at håndtere, hvordan AI faktisk fungerer i deres arbejdsstyrke — vurderet til $308,3 millioner i 2025 ifølge Grand View Research. Det er mindre end 1 % af det, virksomheder samlet set brugte på generativ AI.
Et svar på $308 millioner på et problem til $37 milliarder
Forskning fra Boston Consulting Group om anvendelsen af AI viste, at 74 % af virksomhederne har svært ved at opnå eller skalere værdien af AI på trods af mange års investeringer. Den primære årsag er, at omkring 70 % af implementeringsudfordringerne skyldes problemer relateret til mennesker og processer. Teknologiske problemer tegner sig for 20 %. Algoritmer er det lag, der tiltrækker mest kapital, men tegner sig kun for 10 %.
Mønstret blandt virksomheder, der faktisk skalerer resultaterne, følger samme logik som den gamle 70-20-10-model: Ledelser investerer 70 % af deres investeringer i mennesker og processer, 20 % i teknologi og data og 10 % i algoritmer.
Den ramme, der har rødder i organisationsforskning ved Center for Creative Leadership og er blevet anvendt på AI-transformation af BCG, er blevet et pålideligt diagnostisk værktøj til at forstå, hvorfor virksomhedsprogrammer går i stå. De fleste organisationer investerer i de 10 % og 20 % og undrer sig over, hvorfor de 70 % ikke flytter sig.
Venturemarkedet afspejler den samme forvridning. Investorerne ved HumanX-panelet ignorerede ikke den organisatoriske side af AI, de finansierede den bare ikke.
Infrastruktur til forandringsledelse, støtte til arbejdsstyrkens omstilling og værktøjer til styring er alle svære at produktificere. Organisatoriske forandringer kræver specificitet. De lader sig ikke nemt pakke som abonnementer.
Det, konferencen bekræftede
En separat HumanX-session om AI-styring gjorde konsekvenserne konkrete. Navrina Singh, grundlægger og administrerende direktør for Credo AI, har fulgt dette mønster længe nok til at kunne sætte ord på det direkte.
Mange virksomheder siger, når vi taler med dem: ‘Lad os vente, indtil der sker en hændelse, og så kan vi se, om vi har brug for at investere i AI-styring’. Gæt engang? På det tidspunkt vil de være irrelevante.
Singh, der arbejder med Fortune 500-kunder på tværs af ti sektorer, argumenterer for, at styring er ved at gå fra at være et compliancehensyn til at være et konkurrenceparameter.
Saahil Jain, teknologidirektør hos You.com, formulerede det mere direkte.
Styring er ikke “noget, der er rart at have”, men en kritisk funktion. Vi har et stærkt fokus på virksomheder, så på nogle måder ser jeg det som en nødvendig, men ikke tilstrækkelig betingelse for at fremme udbredelsen blandt virksomheder på et globalt marked?
Begge beskrev et indkøbsmiljø, hvor Fortune 500-købere efter at have brugt de seneste to år på at afprøve AI-leverandører nu undersøger nøje, om disse leverandører kan betros virksomheders data og systemer.
Singh bemærkede, at selve styringsfunktionen er ved at ændre form og bevæger sig fra centraliserede compliance-teams til en integreret praksis, hvor udviklere indarbejder sikkerhedsforanstaltninger på udviklingsstadiet, i stedet for at styringsteams tilføjer tilsyn efterfølgende.
Dette skift er vigtigt, fordi det betyder, at efterspørgslen efter styringsværktøjer bliver bredere og når ud til teknik- og produktfunktioner, som tidligere stod uden for samtalen.
Agentproblemet
Det haster endnu mere, når det gælder agentbaseret AI. Gartner forventer, at 40 % af virksomhedsapplikationerne vil være integreret med opgavespecifikke AI-agenter ved udgangen af 2026, op fra mindre end 5 % i dag.
Liang, hvis virksomhed bygger inferensinfrastruktur til netop dette miljø, beskrev, hvad denne overgang kræver. Efterhånden som agenter selvstændigt koordinerer arbejde på tværs af systemer ved hjælp af AI til virksomheder, får organisationer brug for hele økosystemer til at certificere resultater.
Industrier som bankvæsen, forsikring og offentlige myndigheder skal producere certificerbare resultater. Man skal kunne spore dem.
Denne infrastruktur findes knap nok som et kommercielt produkt.
Grand View Research forventer, at styringsmarkedet vil nå cirka $3.6 billioner i 2033, en årlig vækstrate på 36 %, der afspejler en reel efterspørgsel. Men udgangspunktet er så lille, og kurven for implementering af agentbaseret AI er så stejl, at markedsvækst alene ikke vil levere det, organisationer har brug for, inden for den tidsramme, de reelt står over for.
BCG's 74 % er ikke noget mysterium på den baggrund. Leverandørmarkedet har optimeret til det, der kan skaleres og sælges (databehandling, modeller og applikationer), og har i vid udstrækning overladt den organisatoriske infrastruktur til AI-transformation til virksomhederne selv.
Ledere, der allerede nu behandler styring som et fundament, før markedet modnes, håndterer ikke blot risiko. De opbygger noget, de ikke vil kunne købe.
