AI fandt problemet. Det er dine beslutninger
AI-anvendelse: Mindre end 30 % af de organisationer, der anvender AI, ser meningsfulde resultater. Det er afgørende at redesigne beslutningsprocesserne.
Produktivitetsteater: AI forbedrer hastigheden, men ikke beslutningstagningen. Organisationer falder ofte i fælden med "mennesker i sløjfen".
Organisationsdesign: AI kræver ændringer i beslutningsstrukturerne – ikke blot implementering af værktøjer – for at forbedre processer og resultater.
Adfærdsmæssig tilgang: Menneskers reaktioner og processernes integritet er afgørende for AI-anvendelsen, ud over blot at implementere teknologien.
Ledelsesskifte: AI kræver adaptiv ledelse, der rækker ud over traditionelle rammer og fokuserer på vejledning frem for kontrol.
Færre end 30 % af de organisationer, der forsøger at implementere AI, opnår meningsfulde resultater med det, og tallet har stået bemærkelsesværdigt fast, selv om anvendelsen af værktøjer er accelereret.
Paul Gibbons, konsulent og forfatter til "At tage AI i brug: En menneskefokuseret tilgang", har i tre årtier set teknologiske implementeringer mislykkes af den samme underliggende årsag.
Barriererne er organisatoriske. Silotænkning, kultur, tankegang og kompetencer.
Det, der typisk ikke optræder i evalueringer efter en fiasko, er dette: Organisationen redesignede aldrig den måde, den traf beslutninger på.
Continue Reading for Free
Create a free account to finish this article, plus get ongoing access to timely insights and practical resources.
Have an account? Log In
Den observation lyder abstrakt, indtil man ser på, hvordan fiasko faktisk ser ud indefra. Jurgen Appelo, forfatter til "Menneske, robot, agent" og grundlægger af nyhedsbrevet Solo Chief, kalder det mest almindelige mønster for produktivitets-teater.
Direktioner pålægger organisationen at implementere AI-værktøjer. Teamene lærer at bruge dem, antallet af opsummeringer vokser, og referenter udfylder hvert møde. Så indser organisationen, næsten umærkeligt, at alt går hurtigere, men intet grundlæggende har ændret sig.
Virksomheder drysser AI oven på ødelagte arbejdsgange, og det kan ses.
De beslutningsforløb, der ligger under disse arbejdsgange – hvem der ejer en beslutning, hvilke data der informerer den, hvor menneskelig dømmekraft er nødvendig, og hvor det blot er vane – er forblevet fuldstændig uændrede.
Appelo kalder dette fælden med mennesker i løkken: enhver AI-interaktion begynder og slutter stadig med et menneske, systemerne taler aldrig med hinanden, og alt bevæger sig med hastigheden af den langsomste flaskehals. Med andre ord blev værktøjerne smartere, men arkitekturen ændrede sig ikke.
Hvordan ser det ud, når den gør?
Når værktøjet leverer resultater, og organisationen ikke gør
Carla Catelan har i mere end to årtier stået i spidsen for talentrekruttering i stor skala og ledet teams gennem hundredvis af årlige ansættelser i virksomheder som Thoughtworks, Cognizant og Hewlett-Packard. Når hun taler om AI i rekruttering, taler hun ikke om det som et værktøj. Hun taler om det som et designproblem.
Ledelse i en AI-først-æra handler om at designe beslutningsarkitekturer og skabe systemer, hvor mennesker, data og AI samarbejder om at skabe bedre resultater.
Den formulering udsprang af en hårdt vunden erkendelse.
Da Thoughtworks begyndte at anvende prædiktiv analyse i deres rekrutteringsforløb, opdagede Catelans team noget uventet. Gennemløbstiden – antallet af dage fra en stilling blev slået op, til den blev besat – var allerede god og lå konsekvent i intervallet 30-35 dage. Hastighed var ikke problemet. Derfor gik teamet på jagt efter, hvad der var.
De fandt ud af, at variation i stillingsbeskrivelser mere pålideligt førte til dårligere rekrutteringsresultater end kandidatkvaliteten. Stillingsbeskrivelser, der var tvetydige, overdrevne eller struktureret inkonsekvent, forvrængede AI'ens indlæringsadfærd tidligt i processen og førte til lavere konverteringsrater, flere afslag sent i processen og dårligere resultater i den tidlige ansættelsesperiode – uanset hvem der var i kandidatpuljen.
Løsningen var ikke en ny model. Thoughtworks ombyggede sine jobbeskrivelser til det, Catelan kalder "prædiktive artefakter", fjernede krav, der var forbundet med støj snarere end succes, og koncentrerede det signal, der blev sendt ind i modellen. AI'en blev bedre, fordi beslutningsgrundlaget blev bedre.
Denne opstrømslogik – at kvaliteten af det, der kommer ind i beslutningsarkitekturen, afgør kvaliteten af det, der kommer ud – går igen i alle de applikationer, Catelan har bygget.
AI anvendes til at afdække mønstre, aggregere longitudinelle data og strukturere kvantitative signaler. Mennesker bevarer ansvaret for kvalitative vurderinger og endelige beslutninger. Grænsen mellem de to er eksplicit, ikke underforstået.
Pilotprojekter skalerer ikke. Arkitekturen gør.
Den mest almindelige fejl, Catelan ser hos organisationer, der forsøger at efterligne dette, er at behandle AI som en række pilotprojekter i stedet for som en grundlæggende ændring af, hvordan arbejdet besluttes.
De fleste virksomheder investerer massivt i AI-værktøjer og forventer forbedringer," siger hun. "Men de fastholder de samme incitamenter, de samme hierarkiske strukturer og den samme lave datakompetence blandt ledelsen. Resultatet er, at AI enten bliver underudnyttet eller misbrugt. Kraftfulde modeller producerer indsigter, der ikke bliver betroet, forstået eller omsat til handling.
Thoughtworks håndterede dette ved at etablere en tværfunktionel arbejdsgruppe, der specifikt fokuserede på AI-understøttet beslutningsdesign inden for talentrekruttering.
Gruppen arbejder ud fra eksplicitte mål på forretningsniveau:
- Øge konverteringsraterne gennem hele rekrutteringstragten med 50 % via prædiktiv segmentering
- Reducere interviewtimerne med 30 % ved at frasortere kandidater med lav sandsynlighed tidligere i processen.
Disse tal er ikke ønsketænkning. De er mandatet.
Rækkefølgen er lige så vigtig som målene. Før nogen automatisering introduceres, kortlægger gruppen, hvor kritiske beslutninger træffes, hvem der ejer dem, hvilke data der kræves, og hvor menneskelig dømmekraft skal forblive central.
Først når denne arkitektur står klart, kommer AI ind i billedet og understøtter specifikke trin i stedet for at blive lagt oven på processer, der ikke er blevet undersøgt.
"Vi redesigner beslutningsarbejdsgange, før vi introducerer automatisering," siger Catelan. "Ikke bagefter."
Det, som 90 % af implementeringerne springer over
Yannick Fouagou, direktør for HR-drift og -løsninger hos Greenshield, nåede frem til en lignende konklusion ad en anden vej. Hans baggrund er inden for elektronikingeniørarbejde samt kvalitetsstyringssystemer i olie- og gasindustrien – miljøer, hvor procesintegritet ikke kan forhandles, og fejl har fysiske konsekvenser. Da han skiftede til HR-drift, tog han den samme stringens med sig til den menneskelige side af AI-implementering.
Det, der overraskede ham, var, hvor lidt teknologien betød sammenlignet med menneskers reaktion på den.
AI-implementering består af 10 % teknologi og 90 % menneskelig psykologi. Jeg antog oprindeligt, at alle ville være lige ivrige efter at tage disse værktøjer i brug, men jeg indså hurtigt, at AI kræver den samme klassiske forandringsledelse, som vi har brugt i årtier. Hvis man springer det menneskelige arbejde med at håndtere frygt, modstand og forandringskurven over, vil selv den mest avancerede teknologi stadig mislykkes.
For Fouagou er beslutningsarkitektur ikke udelukkende et spørgsmål om organisationsdesign. Det er også et adfærdsspørgsmål. Hans tilgang opdeler interessenter efter, hvor de befinder sig på implementeringskurven, møder dem dér og kodificerer derefter den nye måde at arbejde på i formelle processer og dokumentation, så ændringen bliver strukturel frem for en midlertidig stigning i begejstring.
"Vi ruller ikke bare værktøjer ud," siger han. "Vi kodificerer den nye måde at arbejde på i SOP'er og politikker for at sikre ansvarlighed."
Denne kodificering skaber en feedbacksløjfe. Systemet overvåger, hvad medarbejderne spørger om, identificerer, hvor dokumentationen mangler, og genererer anbefalinger til at udfylde hullerne. Vidensbasen lærer af mønstrene hos de mennesker, der bruger den. Det er sådan, beslutningsarkitektur ser ud, når det adfærdsmæssige lag er indbygget fra starten i stedet for at blive tilføjet bagefter.
Den sløjfe, ledere skal ud af
De praktikere, der arbejder med dette på funktionsniveau, har mulighed for at gentænke tingene. Det vanskeligere problem ligger på toppen.
Gibbons har kørt AI-kompetenceprogrammer for ledelsesteams og fandt resultaterne tankevækkende. Da han spurgte en gruppe på tolv ledere, hvor meget formel uddannelse de havde gennemført i det foregående år, var det samlede antal tre dage for dem alle tilsammen.
"Det er bare ikke nok," siger han.
Problemet er i højere grad strukturelt end individuelt. Gibbons argumenterer for, at succes har gjort de fleste ledere modstandsdygtige over for den form for læring, som AI-implementering kræver. Deres autoritet er bygget på at vide ting. AI destabiliserer det.
Appelo formulerer ledelsesudfordringen anderledes, men når frem til samme konklusion. Når AI overgår mennesker i de fleste analytiske opgaver, handler ledelse ikke længere om at have svarene.
De fleste ledere blev oplært i ledelsesmodeller, der er udviklet til forhold med relativ forudsigelighed. Appelo peger specifikt på transformationsledelse, en model, der stammer fra 1970'erne og forudsætter en leder, som kontrollerer informationsstrømmen, godkender beslutninger og sidder i centrum af sløjfen.
Det er netop denne model, som AI-implementering kræver, at man afvikler. Ledere, der er en del af sløjfen, bliver flaskehalse. Ledere over sløjfen, som styrer, justerer og udøver dømmekraft i de reelt vanskelige beslutninger, er det, den nye arkitektur kræver.
Gibbons kalder det tilsvarende skift adaptiv ledelse. Den er skabt til højt tempo, fremvækst og drift uden at vide, hvordan slutpunktet ser ud.
"Vi ved ikke, hvilken form pilotprojekterne vil tage, eller hvor let de vil kunne skaleres," siger Gibbons. "Gamle ledelsesparadigmer blev bygget til en forudsigelighed, der ikke længere findes."
Opbygning af en beslutningsarkitektur til AI
Praktikerne ovenfor arbejder ikke ud fra en fælles metodologi, men deres tilgange følger en ensartet logik. Sådan anvender du den.
Begynd med beslutningen, ikke værktøjet
Før du vælger en AI-applikation, skal du kortlægge alle væsentlige beslutninger i den arbejdsgang, du vil målrette. Hvem ejer hver beslutning? Hvilke data informerer den? Hvor er menneskelig dømmekraft reelt nødvendig, og hvor er det blot en vane?
Catelans team udførte dette arbejde på tværs af talentrekruttering, før de introducerede prædiktive modeller. Kortlægningen viste, at den største kilde til fejl længere nede i processen ikke var udvælgelsesprocessen, men jobbeskrivelserne, der føder ind i den.
Kontrollér inputtene
AI lærer af det, du fodrer den med. Hvis de data, der indgår i en model, er inkonsistente, oppustede eller dårligt strukturerede, vil resultaterne afspejle det. Catelans gentænkning af jobbeskrivelser forbedrede modellens ydeevne uden at ændre selve modellen.
Før du implementerer AI i en arbejdsgang, skal du undersøge kvaliteten og ensartetheden af de input, som arbejdsgangen afhænger af. Dårlige data skalerer hurtigere nu.
Fastlæg mål på forretningsniveau, ikke procesmålinger
Vage mål giver vage resultater. Catelans arbejdsgruppe arbejder ud fra konkrete tal: en stigning på 50 % i konverteringsraterne i tragten og en reduktion på 30 % i antallet af interviewtimer.
Disse mål skaber pres for vedvarende resultater på systemniveau frem for isolerede eksperimenter. Hvis du ikke kan beskrive, hvad en vellykket redesignet AI-arbejdsgang skaber i forretningsmæssige termer, er designet ikke klar.
Definér grænsen mellem mennesker og AI eksplicit
Enhver gentænkning kræver klare svar på to spørgsmål: Hvad ejer AI, og hvad ejer mennesker? Catelans princip er, at AI strukturerer kvantitative signaler og fremhæver indsigter, mens mennesker bevarer den kvalitative dømmekraft og de endelige beslutninger.
Denne grænse bør dokumenteres, deles og genbesøges, efterhånden som systemet modnes. Uden den bliver ansvaret diffust, og fejl kan ikke spores.
More Articles
- AI, der informerer, mennesker, der beslutter: Sådan holdes HR ansvarlig i automatiseringens tidsalder
- Talentrådgiver siger, at AI fremskynder organisatorisk gæld i stedet for at løse den
- De tre skift fra AI-assistance til ejerskab
- Grundlægger, der helliger sig til at menneskeliggøre arbejdet med AI, afslører de følelsesmæssige grundlag, der kræves for vellykket integration
- AI på arbejdspladsen: Praktiske anvendelser, eksempler fra virkeligheden & vejledning i implementering
Indbyg styring, før du skalerer
Indbyg mulighed for menneskelig overstyring, overvågning af bias og drift samt et tydeligt ansvar for modellens resultater i arkitekturen fra starten. Fouagou kodificerer ændringer som politik i stedet for at lade dem forblive uformel praksis.
Styring, der tilføjes efterfølgende, kommer typisk først, efter at noget allerede er gået galt.
Behandl implementering som et adfærdsmæssigt problem
Fouagous 10/90-observation er det lag, som de fleste organisationer helt springer over, hvilket ofte fører til dyre fejl i målingen af AI-afkast. Teknisk implementering og menneskelig anvendelse er ikke den samme begivenhed.
Opdel dine interessenter i segmenter. Identificer, hvor modstand sandsynligvis vil opstå, og håndter den før udrulningen, ikke under den. Mål ikke kun effektivitetsgevinster, men også om den tid, der frigives, rent faktisk bliver omdirigeret til arbejde med højere værdi.
Der er en kløft, som de fleste organisationer endnu ikke har forholdt sig til. Den ligger mellem de værktøjer, de har implementeret, og den beslutningslogik, de har ladet være uændret.
Catelans formulering af AI-parathed er værd at dvæle ved.
Det betyder konsekvent at stille bedre spørgsmål," siger hun. "Hvilke signaler er vigtige, hvor der findes usikkerhed, og hvordan data kan informere menneskelig dømmekraft.
Værktøjerne rejste spørgsmålet. Det er designarbejdet, der besvarer det.
