De tre skiftene fra KI-assistanse til eierskap
Organisatorisk gap: Den største hindringen for å ta i bruk KI er ikke teknisk, men mangel på organisatorisk infrastruktur.
Skifte i skjønn: Organisasjoner må gå fra individuelt til kollektivt skjønn for å forbedre beslutningstakingen i KI-systemer.
Betydningen av styring: Innfør tydelig eierskap og revisjon for å sikre at KI-systemer er ansvarlige, og at feil blir håndtert.
Ny definisjon av verdi: Endre verdimålingene fra hurtighet til nøyaktighet og kvaliteten på beslutningene, slik at integreringen av KI forbedres.
Faktorer som avgjør pilotsuksess: Tydelige resultater, definert eierskap og samordnede mål mellom IT og virksomheten er avgjørende for at KI-piloter skal lykkes.
Ifølge Deloittes studie om fremvoksende teknologitrender fra 2025 utforsker 30 % av organisasjonene agentisk kunstig intelligens, og 38 % piloterer løsninger. Men bare 11 % bruker disse systemene i produksjon.
Utfordringen er ikke teknologisk beredskap. Modellene fungerer. Dataene finnes. Verktøyene er tilgjengelige. Det som mangler, er organisatorisk infrastruktur – styringen, eierskapet og insentivsystemene som gjør det trygt å overlate beslutninger til kunstig intelligens.
Team som går fra pilotering til produksjon, gjør tre konkrete endringer. Ingen av dem er først og fremst tekniske.
Continue Reading for Free
Create a free account to finish this article, plus get ongoing access to timely insights and practical resources.
Have an account? Log In
Endring én: Definer skjønn som en organisatorisk evne
De fleste organisasjoner behandler skjønn som en personlig ferdighet som finnes i hodet til senioransatte. To personer kan håndtere den samme saken forskjellig, uten at noen kan forklare hvorfor. Det finnes ingen måte å forbedre prosessen systematisk på fordi eierskapet til beslutninger basert på kunstig intelligens forblir uavklart.
Ahmed Zaidi, administrerende direktør i Accelirate, møtte dette mønsteret da han jobbet med et stort sykehussystem. Teamet på 15 sykepleiere som hadde ansvar for å utarbeide klagebrev ved avslag på forsikringskrav, så ut til å følge en enkel prosess. På overflaten virket arbeidet som noe som lett kunne formaliseres.
«Det som raskt ble omstridt, var at det faktisk ikke fantes én prosess», sier Zaidi. «Hver sykepleier hadde utviklet sin egen strategi gjennom mange års erfaring.»
Da Zaidis team forsøkte å skrive ned «hvordan vi faktisk gjør dette», var sykepleierne uenige om grunnleggende spørsmål:
- Hva utgjorde en sterk klinisk begrunnelse?
- Hvilken dokumentasjon skulle fremheves?
- Hvilken tone eller hvilket språk bestemte forsikringsselskaper reagerte på?
- Når skulle saken eskaleres i stedet for at klagen ble omformulert?
De skjulte avhengighetene gikk enda dypere. Beslutningene var ikke bare basert på avslagskoden. De var avhengige av legens notater som var gjemt i ett system, data om forhåndsgodkjenning i et annet, og nyansert klinisk formulering som fantes i fritekstdokumentasjon. Noen strategier var avhengige av bestemte dokumentasjonsvaner hos leger som ikke var standardisert.
«Det som så enkelt ut – «automatiser klager» – ble til en organisatorisk øvelse i å gjøre implisitt skjønn eksplisitt», sier Zaidi.
Gjennombruddet kom da teamet gikk fra å forsøke å velge den «riktige» sykepleierens fremgangsmåte til å samle taus kunnskap fra alle de 15 sykepleierne. De la til rette for strukturerte samlinger der sykepleierne diskuterte strategier, avdekket unntakstilfeller og ble enige om hva som historisk hadde ført til vellykkede tilbakebetalinger. Deretter sammenstilte de faktiske resultatdata – hvilke maler som vant frem i flest klager, og hvilke kombinasjoner av dokumentasjon som forbedret omgjøringsratene.
I stedet for å kode inn meninger kodet de inn validerte mønstre.
Denne eksterne konkretiseringen skaper noe organisasjoner sjelden har, nemlig muligheten til å observere og forbedre skjønn i stor skala. Hver handling loggføres. Hvert unntak blir synlig. Hver overstyring viser hvor reglene ikke samsvarer med virkeligheten. Team kan se mønstre, finjustere terskler og forbedre ytelsen over tid.
Resultatet var målbart: bedre nøyaktighet i klagebehandlingen, kortere gjennomløpstid, økte tilbakebetalingsrater og redusert etterlevelsesrisiko fordi beslutningene nå var standardiserte, dokumenterte og etterprøvbare.
Styringen gjorde ikke systemet tregere; den ga organisasjonen en måte å lære systematisk av sine egne beslutninger på.
Endring to: Plasser et tydelig ansvar for agentens atferd
Den avgjørende begrensningen ved overgangen til produksjon er organisasjonens tillit til at handlingene til kunstig intelligens er avgrensede, etterprøvbare, reversible og under oppsyn.
Team som går videre, utpeker én operativt ansvarlig person som uttrykkelig holdes ansvarlig for agentens atferd, inkludert feilene den gjør. Den første betydelige feilen tester om denne infrastrukturen faktisk fungerer.
I implementeringen av klagebehandlingen ved sykehuset hadde Zaidi en agent som bidro med utarbeidelse og prioritering av klager ved avslag, og som var utviklet for å sortere saker og anbefale eskalering når bestemte risikoterskler ble nådd.
Den første betydelige feilen oppsto da agenten feilklassifiserte et avslag med høyt beløp og kort tidsfrist som rutinemessig, og ikke eskalerte det. Logikken hadde tolket avslagskoden riktig, men klarte ikke å vurdere en sekundær kontekstuell faktor – den utløpende klagefristen knyttet til avtalen med den aktuelle betaleren.
Feilen ble begrenset, men hadde vesentlige økonomiske konsekvenser. Den ble oppdaget gjennom en daglig avviksrevisjon som teamet hadde bygget inn i arbeidsflyten – et menneskelig kontrollag som stikkprøvevis gjennomgikk saker med høy verdi.
«Det øyeblikket viste ikke at agenten var uforsiktig, men at eskaleringskriteriene våre var ufullstendige», sier Zaidi. «Vi hadde kodet inn klinisk logikk og avslagslogikk, men hadde ikke fullt ut integrert avtalemetadata i prioriteringsrammeverket.»
Styringsstrukturen hjalp på to måter:
- Loggføring og sporbarhet viste nøyaktig hvorfor agenten tok beslutningen, og revisjonen med menneskelig involvering fanget opp høyrisikosaker.
- Det avdekket et gap. Definisjonen av «risiko» var for snever.
Teamet svarte med å utvide eskaleringsreglene til å omfatte økonomiske variabler og tidsrisikovariabler, innføre dynamiske kontraktsbaserte terskler, øke overvåkingen rundt utløpende klager og legge til tydeligere veier for overstyring.
I agentbaserte systemer skyldes feil sjelden én dårlig beslutning; de skyldes ufullstendig kontekstmodellering. Ansvarlighet i AI-ledelse betyr å utforme systemer for tidlig oppdagelse, ikke å anta at de er feilfrie.
Hvordan ledelsen håndterer den første feilen, avgjør alt. Hvis de behandler den som en læringsmulighet og justerer systemet, får teamene større tillit. Hvis de trekker seg tilbake eller legger skylden på enkeltpersoner, dør piloten.
Organisasjoner som lykkes, unngår ikke feil. De bygger systemer som avdekker feil raskt, behandler dem som data og forbedrer seg.
Den blinde flekken i styringen
En av de vanligste feilene innen styring som Zaidi ser, er det han kaller passiv AI-styring, eller troen på at loggføring er det samme som kontroll.
«Organisasjoner sier selvsikkert: «Alle beslutninger agenten tar, blir loggført. Vi har full sporbarhet»», sier Zaidi. «Det høres betryggende ut, særlig i et regulert miljø. Men loggføring i seg selv reduserer ikke risiko. Den registrerer den ganske enkelt.»
Innen helsetjenester innebærer agentbeslutninger og bruk av AI ofte kontraktsstyring og nyanser, klinisk språk, tolkning fra betalere og tidsbegrensninger. Selv om alle resultater teknisk sett kan spores, akkumuleres risiko i unntakstilfeller som akkurat faller utenfor forhåndsdefinerte terskler, endringer i dokumentasjonsmønstre eller atferden i betalernes svar, samt eskaleringer som burde ha funnet sted, men som teknisk sett ikke brøt en regel.
Mange organisasjoner antar at systemet er i samsvar med kravene fordi ingenting gikk galt. Men fravær av umiddelbar svikt er ikke et bevis på sikkerhet. Det kan ganske enkelt bety at ingen undersøker grundig nok.
Reell modenhet innen AI-styring omfatter fastsatte intervaller for gjennomgang av beslutningsutvalg, kvantitative risikoterskler som automatisk utløser menneskelig gjennomgang, tydelig eierskap til overvåkingen på operativt nivå og tilbakemeldingssløyfer der tilbakevendende unntaksmønstre fører til forbedring av reglene.
Jeg stiller ofte ledere et enkelt spørsmål: «Hvem våkner om morgenen og har ansvaret for det agenten besluttet i går?» sier Zaidi. «Hvis det ikke finnes et tydelig svar, er styringsmodellen ikke ferdig.»
Skifte tre: Endre hva som verdsettes
I de fleste organisasjoner har ekspertise vært tett knyttet til status, jobbsikkerhet og uformell makt. Å være «personen som vet», er hvordan innflytelse bygges opp og beskyttes. Å gjøre skjønn eksplisitt kan føles som å gi fra seg det eneste forhandlingskortet systemet har lært folk å stole på.
I sykehussystemet hadde sykepleierteamet historisk blitt målt på volum – hvor mange klagebrev de kunne utarbeide per dag.
Da agentassistert utarbeidelse ble innført, ble dette måltallet kontraproduktivt. Hvis AI-en genererte førsteutkast, gjenspeilte ikke volum alene lenger verdien.
Måling av prestasjoner ble endret til å omfatte nøyaktigheten i den kliniske gjennomgangen, hvor effektivt AI-genererte brev ble endret, hvor store beløp som ble tilbakeført som følge av arbeidet, og bidrag til forbedring av maler og eskaleringslogikk.
Én sykepleier utmerket seg spesielt som leder. Hun hadde en enestående evne til å forklare hvorfor visse formuleringer fungerte bedre med bestemte forsikringsselskaper. I stedet for å bli målt på produksjonshastighet, ble hun avgjørende for å omsette skjønnet sitt til gjenbrukbare systemregler og maler.
Innflytelsen hennes økte fordi hun kunne oversette intuisjon til strukturert logikk», sier Zaidi. «Det er et helt annet ferdighetssett som er svært verdifullt i agentbaserte miljøer.
Skiftet var kulturelt: fra «Hvor raskt kan du produsere?» til «Hvor godt kan du forme beslutningssystemer?»
Når organisasjoner belønner heltedåder, hurtighet eller intuisjon – men ikke belønner dokumentasjon, veiledning eller systemforbedring – forblir ekspertisen fanget hos enkeltpersoner. Team som gjennomfører overgangen, forfremmer personer som kan lære et system sitt eget skjønn, forbedre det over tid og gjøre andre bedre gjennom det.
Når ekspertise blir forstått som noe som bygger organisatorisk kapasitet, snarere enn personlig uunnværlighet, forsvinner motstanden mot AI. Overføringen til agenter blir et tegn på senioritet i stedet for en trussel mot den.
De tidlige varselsignalene på fiasko
De første 30 til 60 dagene av et pilotprosjekt er fiasko nesten alltid forutsigbar.
Det største varselsignalet er fraværet av et tydelig definert resultat. Hvis et team ikke kan uttrykke, i operasjonelle termer, hvordan suksess ser ut – redusert gjennomløpstid, økt tilbakeføring, lavere feilrate – er pilotprosjektet sannsynligvis bare eksperimentering uten retning.
Andre varselsignaler er blant annet at ingen operasjonell eier er tydelig navngitt, at forretningssiden og IT ikke er samkjørte om tidsforpliktelse og kompleksitet, at man ikke klarer å beskrive den faktiske beslutningsprosessen som automatiseres, og at initiativet behandles som «AI-utforskning» i stedet for operasjonell redesign.
Pilotprosjekter stopper opp når interessenter på forretningssiden undervurderer innsatsen som kreves for å gjøre skjønn om til strukturert logikk, mens IT undervurderer variasjonen og unntakstilfellene i forretningsprosessene.
Vellykkede pilotprosjekter gjør tre ting i løpet av de første 30 dagene:
- Definerer et avgrenset omfang med målbare resultater
- Utpeker en dedikert eier på forretningssiden og engasjerte fageksperter
- Gir ledelsesstøtte til å eksperimentere og fjerner prosedyremessige hindringer.
«Agentisk AI er ikke et problem med teknologidistribusjon – det er et problem med beslutningsarkitektur», sier Zaidi. «Hvis dette ikke håndteres tidlig, blir det et kostnadsbevis.»
Slik ser beredskap ut
Når en organisasjon hevder at den er klar til å skalere en agentisk løsning, ser Zaidi etter strukturell modenhet på tvers av mennesker, prosesser og teknologi. Det innebærer:
- En navngitt eier på forretningssiden som er ansvarlig for resultatene
- Et tydelig definert beslutningstre for unntak og eskalering
- Innsyn i beslutninger og resultater
- Enhetsøkonomi som rettferdiggjør skalering
- Et grunnleggende styringsrammeverk som allerede er i drift.
De fleste team undervurderer to ting: kostnaden ved analyse og tiden som kreves for å gjøre beslutningslogikken ordentlig eksplisitt.
Et modenhetssignal Zaidi har lært seg å stole på:
Hvis jeg spør: «Hvordan avgjør agenten hva den skal gjøre når den er usikker?» og de kan svare tydelig – inkludert terskler for eskalering og eierskap – er de sannsynligvis klare. Hvis svaret er uklart eller viser til at «modellen finner ut av det», er de fortsatt optimistiske, ikke forberedt.
Kompetansen som betyr noe nå, befinner seg i grenseflaten mellom skjønn og systemer. Mennesker som kan forklare hvorfor en beslutning ble tatt, ikke bare hva de besluttet. Som kan bryte intuisjon ned i signaler, terskler og unntak. Som er nysgjerrige på hvor deres eget skjønn svikter.
I det daglige bruker de mindre tid på å utføre arbeid og mer tid på å overvåke, korrigere og forbedre hvordan arbeidet blir gjort, enten det utføres av mennesker eller agenter.
Organisasjoner som lykkes med denne endringen, oppnår noe konkurrenter som sitter fast i pilotmodus, ikke har: evnen til å forbedre skjønn i stor skala. De kan teste antakelser, måle resultater og forbedre beslutningskvaliteten på måter som var umulige da ekspertisen bare fantes i hodene til folk.
Konkurransefortrinnet er ikke å ha bedre AI. Det er å ha en organisatorisk infrastruktur som gjør AI-eierskap mulig. Denne infrastrukturen – styring som muliggjør hurtighet, eierskap som skaper ansvarlighet, og insentiver som verdsetter overførbar ekspertise – er det som skiller de 11 % som er i produksjon, fra de 38 % som sitter fast i pilotprosjekter.
