De tre skift fra AI-assistance til ejerskab
Organisatorisk kløft: Den største hindring for implementering af AI er ikke teknisk, men mangel på organisatorisk infrastruktur.
Skift i dømmekraft: Organisationer skal gå fra individuel til kollektiv dømmekraft for at forbedre AI-systemers beslutningstagning.
Betydningen af styring: Implementér et tydeligt ejerskab og revision for at sikre, at AI-systemer står til ansvar, og at fejl bliver håndteret.
Omdefinering af værdi: Omlæg værdimåling fra hastighed til nøjagtighed og kvaliteten af beslutningstagningen, så integrationen af AI styrkes.
Faktorer for pilotsucces: Tydelige resultater, fastlagt ejerskab og overensstemmelse mellem IT- og forretningsmål er afgørende for, at AI-piloter lykkes.
Ifølge Deloittes undersøgelse af nye teknologitrends fra 2025 undersøger 30 % af organisationerne agentbaseret AI, og 38 % afprøver løsninger. Men kun 11 % bruger disse systemer i produktionen.
Udfordringen er ikke teknisk parathed. Modellerne fungerer. Dataene findes. Værktøjerne er tilgængelige. Det, der mangler, er organisatorisk infrastruktur – de styrings-, ejerskabs- og incitamentsstrukturer, der gør det sikkert at overlade beslutninger til AI.
Teams, der går fra pilotprojekter til produktion, foretager tre specifikke ændringer. Ingen af dem er primært tekniske.
Continue Reading for Free
Create a free account to finish this article, plus get ongoing access to timely insights and practical resources.
Have an account? Log In
Ændring ét: Omdefinér dømmekraft som en organisatorisk kapacitet
De fleste organisationer betragter dømmekraft som en personlig færdighed, der findes i hovedet på ledende medarbejdere. To personer kan håndtere den samme sag forskelligt, uden at nogen kan forklare hvorfor. Der er ingen måde at forbedre processen systematisk på, fordi ejerskabet for AI-beslutninger forbliver udefineret.
Ahmed Zaidi, administrerende direktør i Accelirate, stødte på dette mønster, mens han arbejdede med et stort hospitalsvæsen. Teamet på 15 sygeplejersker, der var ansvarlige for at udarbejde klagebreve over afviste krav til forsikringsselskaber, så ud til at følge en enkel proces. På overfladen lignede arbejdet noget, der let kunne kodificeres.
Det, der hurtigt blev omstridt, var, at der faktisk ikke fandtes 'én' proces," siger Zaidi. "Hver sygeplejerske havde udviklet sin egen strategi gennem mange års erfaring.
Da Zaidis team forsøgte at skrive ned, "hvordan vi faktisk gør det", var sygeplejerskerne uenige om grundlæggende spørgsmål:
- Hvad udgjorde en stærk klinisk begrundelse?
- Hvilken dokumentation skulle fremhæves?
- Hvilken tone eller formulering reagerede bestemte forsikringsselskaber på?
- Hvornår skulle klagen eskaleres, og hvornår skulle den omformuleres?
De skjulte afhængigheder gik endnu dybere. Beslutningerne var ikke kun baseret på afvisningskoden. De afhang af lægenotater, der var gemt i ét system, data om forhåndsgodkendelser i et andet og nuancerede kliniske formuleringer i fritekstdokumentation. Nogle strategier byggede på bestemte lægers dokumentationsvaner, som ikke var standardiserede.
"Det, der så enkelt ud – 'automatisér klager' – udviklede sig til en organisatorisk øvelse i at gøre implicit dømmekraft eksplicit," siger Zaidi.
Gennembruddet kom, da teamet gik fra at forsøge at vælge den "rigtige" sygeplejerskes tilgang til at samle den erfaringsbaserede viden hos alle 15 sygeplejersker. De faciliterede strukturerede sessioner, hvor sygeplejerskerne diskuterede strategier, identificerede særlige tilfælde og nåede til enighed om, hvad der historisk havde ført til vellykkede inddrivelser. Derefter lagde de faktiske resultatdata ovenpå – hvilke skabeloner vandt flest klager, og hvilke kombinationer af dokumentation forbedrede omstødelsesraterne.
I stedet for at indkode holdninger indkodede de validerede mønstre.
Denne eksternalisering skaber noget, organisationer sjældent har: evnen til at observere og forbedre dømmekraft i stor skala. Hver handling bliver logget. Hver undtagelse bliver synlig. Hver tilsidesættelse viser, hvor reglerne ikke stemmer overens med virkeligheden. Teams kan se mønstre, finjustere tærskler og forbedre resultaterne over tid.
Resultatet kunne måles: større nøjagtighed i klagebehandlingen, kortere gennemløbstid, højere inddrivelsesrater og lavere compliance-risiko, fordi beslutningerne nu var standardiserede, dokumenterede og efterprøvelige.
Styring gjorde ikke systemet langsommere; den gav organisationen mulighed for systematisk at lære af sine egne beslutninger.
Ændring to: Placér et tydeligt ejerskab for agentens adfærd
Den afgørende begrænsning ved overgangen til produktion er organisationens tillid til, at AI-handlinger er afgrænsede, efterprøvelige, reversible og under opsyn.
Teams, der går videre, udpeger én operationel ejer, som bliver eksplicit ansvarlig for agentens adfærd, herunder dens fejl. Den første væsentlige fejl tester, om denne infrastruktur faktisk fungerer.
Ved implementeringen af hospitalsløsningen til klagebehandling havde Zaidi en agent, der hjalp med at udarbejde og prioritere klager over afviste krav. Agenten var designet til at sortere sager og anbefale eskalering, når bestemte risikotærskler blev overskredet.
Den første betydelige fejl opstod, da agenten fejlagtigt klassificerede en afvisning med høj værdi og en tidsfrist som rutinemæssig og ikke eskalerede den. Logikken havde fortolket afvisningskoden korrekt, men havde ikke vægtet en sekundær kontekstuel faktor – den udløbende klagefrist, der var knyttet til den pågældende betalers kontrakt.
Fejlen blev begrænset, men havde væsentlige økonomiske konsekvenser. Den blev opdaget gennem et dagligt undtagelsestilsyn, som teamet havde indbygget i arbejdsgangen – et menneskeligt kontrolniveau, der udtog stikprøver blandt sager med høj værdi.
Det, øjeblikket afslørede, var ikke, at agenten var uforsigtig, men at vores eskaleringskriterier var ufuldstændige," siger Zaidi. "Vi havde indkodet klinisk logik og logik for afvisninger, men havde ikke fuldt integreret kontraktmetadata i prioriteringsrammen.
Styringsstrukturen hjalp på to måder:
- Logning og sporbarhed viste præcis, hvorfor agenten traf beslutningen, og revisionen med mennesket i løkken fangede højrisikotilfælde.
- Det afslørede et hul. Definitionen af "risiko" var for snæver.
Teamet reagerede ved at udvide eskaleringsreglerne til at omfatte økonomiske risici og tidsmæssige risikovariabler, implementere dynamiske kontraktbaserede tærskler, øge overvågningen omkring udløbende ankre og tilføje tydeligere muligheder for tilsidesættelse.
I agentiske systemer skyldes fejl sjældent én dårlig beslutning; de skyldes ufuldstændig kontekstmodellering. Ansvarlighed i AI-ledelse betyder at designe med henblik på tidlig registrering, ikke at antage perfektion.
Hvordan ledelsen håndterer den første fejl, afgør alt. Hvis de betragter den som en mulighed for læring og justerer systemet, får teamene større tillid. Hvis de trækker sig eller placerer skylden hos enkeltpersoner, dør pilotprojektet.
Organisationer, der har succes, undgår ikke fejl. De bygger systemer, der hurtigt synliggør fejl, behandler dem som data og forbedrer sig.
Den blinde vinkel i styringen
En af de mest almindelige fejl i styringen, som Zaidi ser, er det, han kalder passiv AI-styring, eller troen på, at logning er det samme som kontrol.
"Organisationer vil selvsikkert sige: 'Alle beslutninger, agenten træffer, bliver logget. Vi har fuld sporbarhed,'" siger Zaidi. "Det lyder betryggende, især i et reguleret miljø. Men logning i sig selv reducerer ikke risikoen. Den registrerer den blot."
Inden for sundhedssektoren involverer agentens beslutninger og anvendelser af AI ofte kontraktstyring og nuancer, klinisk sprog, fortolkning hos betalere og tidsmæssige begrænsninger. Selv hvis hvert resultat teknisk set kan spores, ophobes risiko i grænsetilfælde, der ligger lige uden for de foruddefinerede tærskler, i ændringer i dokumentationsmønstre eller betaleres adfærd ved svar og i eskaleringer, der burde have fundet sted, men teknisk set ikke overtrådte en regel.
Mange organisationer antager, at systemet er i overensstemmelse med reglerne, fordi intet gik i stykker. Men fraværet af en umiddelbar fejl er ikke et bevis på sikkerhed. Det kan ganske enkelt betyde, at ingen kigger dybt nok.
Ægte modenhed inden for AI-styring omfatter fastlagte gennemgangsintervaller for stikprøvekontrol af beslutninger, kvantitative risikotærskler, der automatisk udløser menneskelig gennemgang, tydeligt ejerskab for overvågning på det operationelle niveau og feedbacksløjfer, hvor tilbagevendende undtagelsesmønstre fører til justering af reglerne.
Jeg stiller ofte ledere et enkelt spørgsmål: 'Hvem vågner om morgenen med ansvaret for det, agenten besluttede i går?'" siger Zaidi. "Hvis der ikke er et klart svar, er styringsmodellen ikke færdig.
Skift tre: Ændr det, der værdsættes
I de fleste organisationer har ekspertise været tæt forbundet med status, jobsikkerhed og uformel magt. At være "den person, der ved noget" er sådan, indflydelse opbygges og beskyttes. At gøre dømmekraft eksplicit kan føles som at opgive den eneste indflydelse, systemet har lært folk at stole på.
I hospitalsvæsenet var sygeplejeteamet historisk blevet målt på volumen – hvor mange klagebreve de kunne udarbejde om dagen.
Da agentassisteret udarbejdelse blev indført, blev dette mål kontraproduktivt. Hvis AI genererede de første udkast, afspejlede volumen alene ikke længere værdien.
Målingen af resultater blev ændret til at omfatte nøjagtigheden af den kliniske gennemgang, effektiviteten af ændringer i AI-genererede breve, de påvirkede beløb, der blev inddrevet, samt bidraget til forbedring af skabeloner og eskaleringslogik.
En bestemt sygeplejerske trådte især frem som leder. Hun havde en enestående evne til at formulere, hvorfor bestemte formuleringer fungerede bedre over for bestemte forsikringsselskaber. I stedet for at blive målt på outputhastighed blev hun afgørende for at omsætte sin dømmekraft til genanvendelige systemregler og skabeloner.
"Hendes indflydelse voksede, fordi hun kunne omsætte intuition til struktureret logik," siger Zaidi. "Det er et helt andet kompetencesæt, som er yderst værdifuldt i agentiske miljøer.
Skiftet var kulturelt: fra "Hvor hurtigt kan du producere?" til "Hvor godt kan du forme beslutningssystemer?"
Når organisationer belønner heltegerninger, hastighed eller intuition – men ikke belønner dokumentation, supervision eller systemforbedring – forbliver ekspertise fanget hos enkeltpersoner. Teams, der gennemfører overgangen, fremmer personer, som kan lære et system deres dømmekraft, forbedre det over tid og gøre andre bedre gennem det.
Når ekspertise forstås som noget, der opbygger organisationens kapacitet, frem for som noget, der gør en person uundværlig, forsvinder modstanden mod AI. Overdragelsen til agenter bliver et tegn på anciennitet i stedet for en trussel mod den.
De tidlige advarselstegn på fiasko
I løbet af de første 30 til 60 dage af et pilotprojekt er fiasko næsten altid forudsigelig.
Det største advarselstegn er fraværet af et klart defineret resultat. Hvis et team ikke kan beskrive, hvad succes betyder i operationelle termer—kortere gennemløbstid, øget genopretning, lavere fejlprocenter—er pilotprojektet sandsynligvis blot eksperimentering uden retning.
Andre advarselstegn omfatter manglen på en tydeligt udpeget operationel ejer, at forretningen og IT ikke er afstemt om tidsforbrug og kompleksitet, manglende evne til at beskrive den faktiske beslutningsproces, der automatiseres, samt at betragte initiativet som "udforskning af AI" i stedet for operationelt redesign.
Pilotprojekter går i stå, når interessenter fra forretningen undervurderer den indsats, der kræves for at omsætte vurderinger til struktureret logik, mens IT undervurderer variationen og særtilfældene i forretningsprocesserne.
Succesfulde pilotprojekter gør tre ting i løbet af de første 30 dage:
- Definerer et snævert omfang med målbare resultater
- Udpeger en dedikeret forretningsejer og engagerede fageksperter
- Giver ledelsen mulighed for at eksperimentere og fjerner proceduremæssige blokeringer.
"Agentbaseret AI er ikke et problem med teknologisk implementering—det er et problem med beslutningsarkitektur," siger Zaidi. "Hvis det ikke håndteres tidligt, bliver det et omkostningsbevis."
Sådan ser parathed ud
Når en organisation hævder, at den er klar til at opskalere en agentbaseret løsning, ser Zaidi efter strukturel modenhed på tværs af mennesker, processer og teknologi. Det betyder:
- En udpeget forretningsejer, der står til ansvar for resultaterne
- Et klart defineret træ for undtagelser og eskalering
- Indblik i beslutninger og resultater
- Enhedsøkonomi, der retfærdiggør opskalering
- En grundlæggende styringsramme, der allerede er i drift.
De fleste teams undervurderer to ting: omkostningerne ved analyse og den tid, der kræves for ordentligt at gøre beslutningslogikken eksplicit.
Et modenhedstegn, som Zaidi har lært at stole på:
Hvis jeg spørger: 'Hvordan beslutter agenten, hvad den skal gøre, når den er usikker?' og de kan svare klart—herunder angive eskaleringstærskler og ansvar—er de sandsynligvis klar. Hvis svaret er vagt eller henviser til, at 'modellen finder ud af det', er de stadig optimistiske, men ikke forberedte.
Den kapacitet, der betyder noget nu, befinder sig på grænsen mellem vurderinger og systemer. Mennesker, der kan forklare, hvorfor en beslutning blev truffet, ikke kun hvad de besluttede. Som kan nedbryde intuition til signaler, tærskler og undtagelser. Som er nysgerrige på, hvor deres egen dømmekraft svigter.
Til daglig bruger de mindre tid på at udføre arbejde og mere tid på at overvåge, korrigere og forfine, hvordan arbejdet udføres, uanset om det er mennesker eller agenter, der udfører det.
Organisationer, der mestrer denne ændring, opnår noget, som konkurrenter, der sidder fast i pilotfasen, ikke har: evnen til at forbedre dømmekraften i stor skala. De kan teste antagelser, måle resultater og gentage arbejdet med beslutningskvaliteten på måder, der var umulige, da ekspertisen kun fandtes i hovedet på medarbejderne.
Den konkurrencemæssige fordel er ikke at have bedre AI. Det er at have en organisatorisk infrastruktur, der gør ejerskab af AI muligt. Denne infrastruktur—styring, der muliggør hastighed, ejerskab, der skaber ansvarlighed, og incitamenter, der værdsætter overførbar ekspertise—er det, der adskiller de 11 % i produktion fra de 38 %, der sidder fast i pilotprojekter.
