KI fant problemet. Det er beslutningene dine
Innføring av KI: Mindre enn 30 % av organisasjonene som bruker KI, oppnår meningsfulle resultater. Det er avgjørende å redesigne beslutningsprosessene.
Produktivitetsteater: KI forbedrer hastigheten, men ikke beslutningstakingen. Organisasjoner havner ofte i fellen med mennesker i beslutningssløyfen.
Organisasjonsdesign: KI krever at beslutningsstrukturer endres, ikke bare at verktøy implementeres, for å forbedre prosesser og resultater.
Atferdsmessig tilnærming: Menneskers reaksjoner og prosessintegritet er avgjørende ved innføring av KI, utover det å bare ta i bruk teknologi.
Lederskapsskifte: KI krever et tilpasningsdyktig lederskap som går utover tradisjonelle rammeverk og fokuserer på veiledning fremfor kontroll.
Færre enn 30 % av organisasjonene som forsøker å implementere AI, oppnår meningsfull avkastning fra det, et tall som har holdt seg bemerkelsesverdig stabilt selv om bruken av verktøy har økt raskt.
Paul Gibbons, konsulent og forfatter av «Å ta i bruk AI: Den menneskefokuserte tilnærmingen», har brukt tre tiår på å se teknologiske implementeringer mislykkes av den samme underliggende årsaken.
Barrierene er organisatoriske. Siloer, kultur, tankesett, ferdigheter.
Det som vanligvis ikke kommer frem i etteranalysene, er dette: Organisasjonen redesignet aldri hvordan den tok beslutninger.
Continue Reading for Free
Create a free account to finish this article, plus get ongoing access to timely insights and practical resources.
Have an account? Log In
Denne observasjonen høres abstrakt ut helt til du ser på hvordan en fiasko faktisk ser ut fra innsiden. Jurgen Appelo, forfatter av «Menneske, robot, agent» og grunnlegger av nyhetsbrevet Solo Chief, kaller det vanligste mønsteret produktivitetsteater.
Ledere pålegger organisasjonen å ta i bruk AI-verktøy. Teamene lærer å bruke dem, sammendragene blir flere, og møtereferater fyller hvert møte. Så innser organisasjonen, nesten umerkelig, at alt går raskere, men at ingenting grunnleggende har endret seg.
Selskaper strør AI oppå ødelagte arbeidsflyter, og det synes.
Beslutningsflytene som ligger under disse arbeidsflytene – hvem som eier en beslutning, hvilke data som informerer den, hvor menneskelig dømmekraft kreves, og hvor det bare dreier seg om vane – har forblitt fullstendig uendret.
Appelo kaller dette fellen der mennesker inngår i beslutningssløyfen: hver AI-interaksjon begynner og slutter fortsatt med et menneske, systemene snakker aldri med hverandre, og alt beveger seg i hastigheten til den tregeste flaskehalsen. Med andre ord ble verktøyene smartere, men arkitekturen endret seg ikke.
Hvordan ser det ut når den faktisk gjør det?
Når verktøyet leverer, men organisasjonen ikke gjør det
Carla Catelan har drevet rekrutteringsoperasjoner i stor skala i mer enn to tiår og ledet team gjennom hundrevis av ansettelser årlig i selskaper som Thoughtworks, Cognizant og Hewlett-Packard. Når hun snakker om AI i rekruttering, snakker hun ikke om det som et verktøy. Hun snakker om det som et designproblem.
Ledelse i en AI-først-tid handler om å utforme beslutningsarkitekturer og skape systemer der mennesker, data og AI samarbeider for å oppnå bedre resultater.
Dette perspektivet kom fra en dyrkjøpt erfaring.
Da Thoughtworks begynte å bruke prediktiv analyse i rekrutteringsløpet, oppdaget Catelans team noe uventet. Gjennomløpstiden, altså antallet dager fra en stilling ble utlyst til den ble besatt, var allerede god – konsekvent mellom 30 og 35 dager. Hastighet var ikke problemet. Derfor lette teamet etter hva som faktisk var problemet.
Det de fant, var at variasjon i stillingsdefinisjonene drev frem dårligere ansettelsesresultater mer pålitelig enn kandidatkvalitet. Stillingsbeskrivelser som var tvetydige, overdrevne eller ujevnt strukturert, forvrengte AI-ens læringsatferd tidlig i prosessen. Det førte til lavere konverteringsrater, flere avslag sent i prosessen og svakere prestasjoner tidlig i ansettelsesforholdet, uavhengig av hvem som befant seg i kandidatpoolen.
Løsningen var ikke en ny modell. Thoughtworks bygget om stillingsbeskrivelsene sine til det Catelan kaller «prediktive artefakter», fjernet krav som var knyttet til støy i stedet for suksess, og konsentrerte signalet som ble sendt inn i modellen. AI-en ble bedre fordi beslutningsgrunnlaget ble bedre.
Denne oppstrømslogikken – at kvaliteten på det som kommer inn i beslutningsarkitekturen, avgjør kvaliteten på det som kommer ut – går igjen i alle applikasjonene Catelan har utviklet.
AI brukes til å avdekke mønstre, sammenstille longitudinelle data og strukturere kvantitative signaler. Mennesker beholder ansvaret for kvalitative vurderinger og endelige beslutninger. Grensen mellom de to er tydelig, ikke underforstått.
Piloter skalerer ikke. Arkitekturen gjør det.
Den vanligste feilen Catelan ser hos organisasjoner som prøver å kopiere dette, er at de behandler AI som en serie piloter i stedet for en grunnleggende endring i hvordan arbeid blir besluttet.
De fleste selskaper investerer tungt i AI-verktøy og forventer forbedringer, sier hun. Men de beholder de samme insentivene, de samme hierarkiske strukturene og den samme lave datakompetansen blant ledelsen. Resultatet er at AI enten blir underutnyttet eller misbrukt. Kraftige modeller produserer innsikt som det ikke er tillit til, som ikke blir forstått eller som det ikke blir handlet på grunnlag av.
Thoughtworks håndterte dette ved å etablere en tverrfunksjonell arbeidsgruppe som spesifikt skulle arbeide med AI-støttet utforming av beslutninger innen talentanskaffelse.
Gruppen arbeider mot tydelige mål på virksomhetsnivå:
- Øke konverteringsratene gjennom hele ansettelsestrakten med 50 % ved hjelp av prediktiv segmentering
- Redusere antallet intervjutimer med 30 % ved å eliminere kandidater med lav sannsynlighet tidligere i prosessen.
Disse tallene er ikke ambisiøse ønsker. De er mandatet.
Rekkefølgen er like viktig som målene. Før noen form for automatisering innføres, kartlegger gruppen hvor kritiske beslutninger tas, hvem som eier dem, hvilke data som kreves, og hvor menneskelig dømmekraft må stå sentralt.
Først når denne arkitekturen er tydelig, kommer AI inn i bildet, der den utvider bestemte trinn i stedet for å legges oppå prosesser som ikke er blitt undersøkt.
«Vi redesigner beslutningsarbeidsflyter før vi introduserer automatisering», sier Catelan. «Ikke etterpå.»
Det 90 prosent av utrullingene utelater
Yannick Fouagou, direktør for personaldrift og -løsninger i Greenshield, kom frem til en lignende konklusjon fra en annen innfallsvinkel. Han har bakgrunn innen elektronikkingeniørfag og kvalitetssystemer for olje og gass, miljøer der prosessintegritet ikke er til forhandling, og der feil får fysiske konsekvenser. Da han gikk over til personaldrift, tok han med seg den samme grundigheten til den menneskelige siden av AI-adopsjon.
Det som overrasket ham, var hvor lite teknologien betydde sammenlignet med menneskenes reaksjon på den.
AI-adopsjon består av 10 % teknologi og 90 % menneskelig psykologi. Jeg antok først at alle ville være like ivrige etter å ta i bruk disse verktøyene, men innså raskt at AI krever den samme tradisjonelle endringsledelsen som vi har brukt i flere tiår. Hvis du hopper over det menneskelige arbeidet med å håndtere frykt, motstand og endringskurven, vil selv den mest avanserte teknologien fortsatt mislykkes.
For Fouagou er beslutningsarkitektur ikke bare et spørsmål om organisasjonsutforming. Det handler også om atferd. Tilnærmingen hans segmenterer interessenter etter hvor de befinner seg på adopsjonskurven, møter dem der de er, og formaliserer deretter den nye arbeidsmåten i formelle prosesser og dokumentasjon, slik at endringen blir strukturell i stedet for en midlertidig entusiasmebølge.
«Vi ruller ikke bare ut verktøy», sier han. «Vi formaliserer den nye arbeidsmåten i SOP-er og retningslinjer for å sikre ansvarlighet.»
Denne kodifiseringen skaper en tilbakemeldingssløyfe. Systemet overvåker hva de ansatte spør om, identifiserer hvor dokumentasjonen mangler, og genererer anbefalinger for å fylle hullene. Kunnskapsbasen lærer av mønstrene til menneskene som bruker den. Slik ser beslutningsarkitektur ut når atferdslaget er innebygd i stedet for å bli koblet på i etterkant.
Sløyfen ledere må komme seg ut av
Praktikerne som arbeider med dette på funksjonsnivå, har rom til å redesigne. Det vanskeligere problemet finnes på toppen.
Gibbons har gjennomført programmer for AI-kompetanse for ledergrupper og funnet resultatene tankevekkende. Da han spurte en gruppe på tolv ledere hvor mye formell utdanning de hadde fullført det foregående året, utgjorde totalen tre dager til sammen.
«Det holder rett og slett ikke», sier han.
Problemet er mer strukturelt enn individuelt. Gibbons mener at suksess har gjort de fleste seniorledere motvillige til den typen læring som innføring av AI krever. Autoriteten deres er bygget på å vite ting. AI destabiliserer det.
Appelo beskriver lederutfordringen annerledes, men kommer frem til samme konklusjon. Når AI overgår mennesker i de fleste analytiske oppgaver, handler ledelse ikke lenger om å ha svarene.
De fleste ledere ble opplært i ledelsesrammeverk utviklet for forhold med relativ forutsigbarhet. Appelo trekker spesielt frem transformasjonsledelse, en modell som går tilbake til 1970-tallet og forutsetter en leder som kontrollerer informasjonsflyten, godkjenner beslutninger og sitter i sentrum av sløyfen.
Det er nettopp denne modellen innføring av AI krever at man avvikler. Ledere i sløyfen blir flaskehalser. Ledere over sløyfen, som styrer, justerer og utøver dømmekraft i de genuint vanskelige avgjørelsene, er det den nye arkitekturen krever.
Gibbons kaller det tilsvarende skiftet adaptiv ledelse. Utviklet for høyt tempo, fremvekst og drift uten å vite hvordan endepunktet ser ut.
«Vi vet ikke hvilken form pilotprosjektene vil ta, eller hvor enkelt de vil kunne skaleres», sier Gibbons. «Gamle ledelsesparadigmer ble utviklet for en forutsigbarhet som ikke finnes lenger.»
Å bygge en beslutningsarkitektur for AI
Praktikerne ovenfor arbeider ikke ut fra en felles metodikk, men tilnærmingene deres følger en konsekvent logikk. Slik kan du ta den i bruk.
Start med beslutningen, ikke verktøyet
Før du velger en AI-applikasjon, må du kartlegge alle vesentlige beslutninger i arbeidsflyten du retter deg mot. Hvem eier hver beslutning? Hvilke data informerer den? Hvor er menneskelig dømmekraft genuint nødvendig, og hvor er den bare en vane?
Catelans team gjorde dette arbeidet på tvers av rekrutteringen før de innførte prediktive modeller. Kartleggingen viste at den største kilden til etterfølgende feil ikke var utvelgelsesprosessen, men stillingsbeskrivelsene som matet den.
Revider inndataene
AI lærer av det du mater den med. Hvis dataene som går inn i en modell, er inkonsistente, oppblåste eller dårlig strukturerte, vil resultatene gjenspeile det. Catelans redesign av stillingsbeskrivelser forbedret modellens ytelse uten at selve modellen ble berørt.
Før du tar AI i bruk i en arbeidsflyt, må du undersøke kvaliteten og konsistensen til inndataene arbeidsflyten er avhengig av. Dårlige data skalerer raskere nå.
Sett mål på virksomhetsnivå, ikke prosessmålinger
Vage mål gir vage resultater. Catelans arbeidsgruppe arbeider mot spesifikke tall: en økning på 50 % i konverteringsraten i trakten og en reduksjon på 30 % i intervjutimer.
Disse målene skaper press for vedvarende ytelse på systemnivå, snarere enn isolert eksperimentering. Hvis du ikke kan beskrive hva en vellykket redesignet AI-arbeidsflyt gir i forretningsmessige termer, er utformingen ikke klar.
Definer grensen mellom mennesker og AI tydelig
Enhver redesign krever tydelige svar på to spørsmål: Hva eier AI, og hva eier menneskene? Catelans prinsipp er at AI strukturerer kvantitative signaler og løfter frem innsikter, mens mennesker beholder den kvalitative dømmekraften og de endelige beslutningene.
Denne grensen bør dokumenteres, deles og vurderes på nytt etter hvert som systemet modnes. Uten den blir ansvaret utflytende, og feil kan ikke spores.
More Articles
- Kunstig intelligens som informerer, mennesker som beslutter: Slik holder vi HR ansvarlig i automatiseringens tidsalder
- Talentrådgiver sier at KI akselererer organisatorisk gjeld, ikke løser den
- De tre skiftene fra KI-assistanse til eierskap
- Grunnleggeren som brenner for å menneskeliggjøre arbeidet med kunstig intelligens, avslører de emosjonelle grunnlagene som kreves for vellykket integrering
- AI på arbeidsplassen: Praktiske bruksområder, eksempler fra virkeligheten og veiledning for innføring
Bygg inn styring før du skalerer
Bygg inn mulighet for menneskelig overstyring, overvåking av skjevhet og avvik, samt tydelig ansvar for modellresultater, i arkitekturen fra starten av. Fouagou kodifiserer endringer i retningslinjer i stedet for å la dem forbli uformell praksis.
Styring som innføres i etterkant, kommer vanligvis først etter at noe allerede har gått galt.
Behandle innføringen som et atferdsproblem
Fouagous 10/90-observasjon er det laget de fleste organisasjoner hopper helt over, noe som ofte fører til kostbare feil i målingen av avkastningen på AI-investeringer. Teknisk utrulling og menneskelig bruk er ikke den samme hendelsen.
Segmenter interessentene dine. Identifiser hvor motstand sannsynligvis vil oppstå, og håndter den før utrullingen, ikke underveis. Mål ikke bare effektivitetsgevinster, men også om tiden som frigjøres, faktisk omdirigeres til arbeid med høyere verdi.
Det finnes et gap de fleste organisasjoner ennå ikke har tatt inn over seg. Det ligger mellom verktøyene de har tatt i bruk, og beslutningslogikken de har latt være uendret.
Catelans fremstilling av AI-beredskap er verdt å dvele ved.
«Det betyr å konsekvent stille bedre spørsmål», sier hun. «Hvilke signaler betyr noe, hvor usikkerhet finnes, og hvordan data kan informere menneskelig dømmekraft.»
Verktøyene synliggjorde spørsmålet. Det er designarbeidet som besvarer det.
