AI hittade problemet. Det är dina beslut
AI-användning: Mindre än 30 % av organisationer som använder AI ser meningsfulla resultat. En omformning av beslutsfattandet är avgörande.
Produktivitetsteater: AI förbättrar hastigheten men inte beslutsfattandet. Organisationer fastnar ofta i fällan med ”människor i loopen”.
Organisationsdesign: AI kräver att beslutsstrukturer förändras, inte bara att verktyg implementeras, för att förbättra processer och resultat.
Beteendeperspektiv: Mänskliga reaktioner och processintegritet är avgörande vid införandet av AI, utöver att bara distribuera tekniken.
Förändrat ledarskap: AI kräver ett adaptivt ledarskap bortom traditionella ramverk, med fokus på vägledning snarare än kontroll.
Färre än 30 % av de organisationer som försöker implementera AI genererar meningsfull avkastning från det, en siffra som envist har legat stilla även när användningen av verktyg har accelererat.
Paul Gibbons, konsult och författare till "Att införa AI: ett människocentrerat förhållningssätt", har i tre decennier sett tekniska implementeringar misslyckas av samma grundläggande anledning.
Hindren är organisatoriska. Siloorganisationer, kultur, tankesätt och kompetenser.
Det som vanligtvis inte kommer fram i efteranalyser är detta: organisationen gjorde aldrig om hur den fattade beslut.
Continue Reading for Free
Create a free account to finish this article, plus get ongoing access to timely insights and practical resources.
Have an account? Log In
Den observationen låter abstrakt tills man ser hur ett misslyckande faktiskt ser ut från insidan. Jurgen Appelo, författare till "Människa, robot, agent" och grundare av nyhetsbrevet Solo Chief, kallar det vanligaste mönstret för produktivitets teater.
Chefer beslutar att AI-verktyg ska införas. Teamen lär sig använda dem, sammanfattningarna blir fler och mötesantecknare dyker upp på varje möte. Sedan inser organisationen, nästan omärkligt, att allt går snabbare men att ingenting i grunden har förändrats.
Företag strör AI ovanpå trasiga arbetsflöden, och det märks.
Beslutsflödena som ligger under dessa arbetsflöden – vem som äger ett beslut, vilka data som ligger till grund för det, var mänskligt omdöme krävs och var det bara handlar om vana – har förblivit helt oförändrade.
Appelo kallar detta fällan med människor i loopen: varje AI-interaktion börjar och slutar fortfarande med en människa, systemen kommunicerar aldrig med varandra och allt rör sig i samma takt som den långsammaste flaskhalsen. Med andra ord blev verktygen smartare, men arkitekturen förändrades inte.
Hur ser det ut när den faktiskt gör det?
När verktyget presterar men organisationen inte gör det
Carla Catelan har drivit rekryteringsverksamhet i stor skala i mer än två decennier och lett team genom hundratals årliga rekryteringar på företag som Thoughtworks, Cognizant och Hewlett-Packard. När hon talar om AI i rekryteringen talar hon inte om det som ett verktyg. Hon talar om det som ett designproblem.
Ledarskap i en AI-fokuserad era handlar om att utforma beslutsarkitekturer och skapa system där människor, data och AI samarbetar för att uppnå bättre resultat.
Den inramningen växte fram ur en dyrköpt insikt.
När Thoughtworks började tillämpa prediktiv analys i sin rekryteringsprocess upptäckte Catelans team något oväntat. Genomloppstiden, antalet dagar från det att en tjänst utlyses tills den tillsätts, var redan god och låg konsekvent på mellan 30 och 35 dagar. Snabbhet var inte problemet. Därför började teamet leta efter vad som faktiskt var problemet.
De upptäckte att variationer i hur roller definierades på ett mer tillförlitligt sätt ledde till sämre rekryteringsresultat än kandidatkvaliteten. Arbetsbeskrivningar som var tvetydiga, överdrivna eller strukturerade på ett inkonsekvent sätt förvrängde AI:ns inlärningsbeteende tidigt i processen, vilket ledde till lägre konverteringsgrad, fler avslag i slutskedet och svagare prestationer i början, oavsett vilka kandidater som fanns i urvalet.
Lösningen var inte en ny modell. Thoughtworks byggde om sina jobbannonser till det Catelan kallar "prediktiva artefakter" genom att ta bort krav som korrelerade med brus snarare än framgång och koncentrera den signal som matades in i modellen. AI:n förbättrades eftersom beslutsunderlaget förbättrades.
Denna uppströmslogik – att kvaliteten på det som kommer in i beslutsarkitekturen avgör kvaliteten på det som kommer ut – genomsyrar alla tillämpningar som Catelan har byggt.
AI används för att synliggöra mönster, sammanställa longitudinella data och strukturera kvantitativa signaler. Människor behåller ansvaret för kvalitativa bedömningar och slutliga beslut. Gränsen mellan de två är tydlig, inte underförstådd.
Pilotprojekt skalar inte. Arkitektur gör det.
Det vanligaste misstaget Catelan ser hos organisationer som försöker återskapa detta är att behandla AI som en serie pilotprojekt i stället för som en grundläggande förändring av hur arbetet beslutas.
De flesta företag investerar stort i AI-verktyg och förväntar sig förbättringar, säger hon. Men de behåller samma incitament, samma hierarkiska strukturer och samma låga datakompetens bland ledningen. Resultatet blir att AI antingen används för lite eller på fel sätt. Kraftfulla modeller producerar insikter som ingen litar på, förstår eller agerar utifrån.
Thoughtworks hanterade detta genom att inrätta en tvärfunktionell arbetsgrupp med särskilt fokus på AI-stödd beslutsutformning inom talangförvärv.
Gruppen arbetar utifrån tydliga mål på affärsnivå:
- Öka konverteringsgraden genom hela rekryteringsprocessen med 50 % genom prediktiv segmentering
- Minska antalet intervjutimmar med 30 % genom att tidigare i processen eliminera kandidater med låg sannolikhet att gå vidare.
De siffrorna är inte önskvärda mål. De är uppdraget.
Ordningen är lika viktig som målen. Innan någon automatisering införs kartlägger gruppen var kritiska beslut fattas, vem som äger dem, vilka data som krävs och var mänskligt omdöme måste förbli centralt.
Först när denna arkitektur är tydlig kommer AI in i bilden, där den förstärker specifika steg i stället för att läggas ovanpå processer som inte har granskats.
"Vi utformar om beslutsflöden innan vi inför automatisering", säger Catelan. "Inte efteråt."
Det som 90 % av alla utrullningar hoppar över
Yannick Fouagou, chef för personalverksamhet och personalrelaterade lösningar på Greenshield, kom fram till en liknande slutsats från ett annat håll. Hans bakgrund är inom elektronikingenjörsvetenskap samt kvalitetsstyrning inom olje- och gasindustrin – miljöer där processintegritet är icke-förhandlingsbar och fel får fysiska konsekvenser. När han började arbeta med personalverksamhet tog han med sig samma noggrannhet till den mänskliga sidan av AI-användningen.
Det som överraskade honom var hur lite tekniken betydde jämfört med människors reaktion på den.
AI-användning består till 10 % av teknik och till 90 % av mänsklig psykologi. Till en början antog jag att alla skulle vara lika ivriga att börja använda dessa verktyg, men jag insåg snabbt att AI kräver samma traditionella förändringsledning som vi har använt i årtionden. Om man hoppar över det mänskliga arbetet med att hantera rädsla, motstånd och förändringskurvan kommer även den mest avancerade tekniken att misslyckas.
För Fouagou är beslutsarkitektur inte enbart en fråga om organisationsutformning. Den är också beteendemässig. Hans metod delar in intressenter efter var de befinner sig på införandekurvan, möter dem där och formaliserar sedan det nya arbetssättet i processer och dokumentation så att förändringen blir strukturell i stället för en tillfällig topp av entusiasm.
"Vi rullar inte bara ut verktyg", säger han. "Vi formaliserar det nya arbetssättet i SOP:er och policyer för att säkerställa ansvarsskyldighet."
Denna kodifiering skapar en återkopplingsloop. Systemet övervakar vad medarbetarna frågar om, identifierar var dokumentation saknas och genererar rekommendationer för att fylla luckorna. Kunskapsbasen lär sig av mönstren hos de personer som använder den. Så här ser en beslutsarkitektur ut när beteendelagret är inbyggt från början i stället för att läggas till i efterhand.
Loopen som ledare måste ta sig ur
De yrkesverksamma som arbetar med detta på funktionsnivå har utrymme att tänka om. Det svårare problemet finns högst upp.
Gibbons har lett program för AI-kompetens för ledningsgrupper och funnit resultaten nedslående. När han frågade en grupp på tolv ledare hur mycket formell utbildning de hade genomfört under det föregående året, uppgick totalen till tre dagar sammanlagt.
"Det räcker helt enkelt inte," säger han.
Problemet är mer strukturellt än individuellt. Gibbons menar att framgång har gjort de flesta seniora ledare motståndskraftiga mot den typ av lärande som AI-implementering kräver. Deras auktoritet bygger på att de vet saker. AI destabiliserar det.
Appelo beskriver ledarskapsutmaningen annorlunda men kommer fram till samma slutsats. När AI överträffar människor i de flesta analytiska uppgifter handlar ledarskap inte längre om att ha svaren.
De flesta chefer utbildades i ledarskapsmodeller som utvecklats för förhållanden med relativ förutsägbarhet. Appelo pekar särskilt på transformativt ledarskap, en modell från 1970-talet som utgår från en ledare som kontrollerar informationsflödet, godkänner beslut och befinner sig i loopens centrum.
Det är precis denna modell som AI-implementering kräver att man monterar ned. Chefer i loopen blir flaskhalsar. Chefer ovanför loopen, som leder, justerar och använder sitt omdöme i de genuint svåra besluten, är vad den nya arkitekturen kräver.
Gibbons kallar den motsvarande förändringen adaptivt ledarskap. Det är byggt för högt tempo, framväxt och för att verka utan att veta hur slutpunkten kommer att se ut.
”Vi vet inte vilken form pilotprojekten kommer att ta eller hur lätt de kommer att kunna skalas upp”, säger Gibbons. ”Gamla ledarskapsparadigm byggde på en förutsägbarhet som inte längre finns.”
Att bygga en beslutsarkitektur för AI
Yrkespersonerna ovan arbetar inte utifrån en gemensam metodik, men deras tillvägagångssätt följer en konsekvent logik. Så här tillämpar du den.
Börja med beslutet, inte verktyget
Innan du väljer någon AI-applikation ska du kartlägga varje betydande beslut i det arbetsflöde du riktar in dig på. Vem ansvarar för varje beslut? Vilka data ligger till grund för det? Var krävs mänskligt omdöme verkligen, och var handlar det bara om vana?
Catelans team gjorde detta arbete inom hela kompetensförsörjningen innan de introducerade prediktiva modeller. Kartläggningen visade att den största källan till efterföljande fel inte var urvalsprocessen, utan arbetsbeskrivningarna som matades in i den.
Granska indata
AI lär sig av det du matar in. Om data som går in i en modell är inkonsekventa, uppblåsta eller dåligt strukturerade kommer resultaten att återspegla det. Catelans omarbetning av arbetsbeskrivningar förbättrade modellens prestanda utan att själva modellen behövde ändras.
Innan du börjar använda AI i ett arbetsflöde ska du granska kvaliteten och enhetligheten hos den indata som arbetsflödet bygger på. Dålig indata skalas snabbare än någonsin.
Sätt mål på affärsnivå, inte processmått
Otydliga mål ger otydliga resultat. Catelans arbetsgrupp arbetar mot specifika siffror: en ökning av konverteringsgraden i tratten med 50 procent och en minskning av antalet intervjutimmar med 30 procent.
Dessa mål skapar ett tryck på varaktiga resultat på systemnivå i stället för isolerade experiment. Om du inte kan beskriva vad ett framgångsrikt omdesignat AI-arbetsflöde ger i affärstermer är designen inte redo.
Definiera gränsen mellan människa och AI uttryckligen
Varje omdesign kräver tydliga svar på två frågor: vad ansvarar AI för och vad ansvarar människor för? Catelans princip är att AI strukturerar kvantitativa signaler och lyfter fram insikter, medan människor behåller det kvalitativa omdömet och de slutliga besluten.
Den gränsen bör dokumenteras, delas och omprövas i takt med att systemet utvecklas. Utan den blir ansvaret diffust och fel blir omöjliga att spåra.
Bygg in styrning innan du skalar upp
Bygg in möjlighet till mänskligt åsidosättande, övervakning av partiskhet och avvikelser, samt tydligt ansvar för modellresultat i arkitekturen från början. Fouagou kodifierar förändringar i policy i stället för att lämna dem som informell praxis.
Styrning som läggs till i efterhand tenderar att införas först efter att något redan har gått fel.
Se införandet som ett beteendeproblem
Fouagous 10/90-observation är det lager som de flesta organisationer helt hoppar över, vilket ofta leder till kostsamma fel i mätningen av AI:s avkastning. Teknisk implementering och mänskligt införande är inte samma händelse.
Segmentera era intressenter. Identifiera var motstånd sannolikt kommer att uppstå och hantera det före utrullningen, inte under den. Mät inte bara effektivitetsvinster utan också om den tid som frigörs faktiskt omfördelas till arbete med högre värde.
Det finns ett gap som de flesta organisationer ännu inte har tagit itu med. Det ligger mellan de verktyg de har implementerat och den beslutslogik de har lämnat oförändrad.
Catelans beskrivning av AI-beredskap är värd att reflektera över.
Det innebär att konsekvent ställa bättre frågor", säger hon. "Vilka signaler spelar roll, var osäkerhet finns och hur data kan ge underlag för mänskligt omdöme.
Verktygen synliggjorde frågan. Det är designarbetet som besvarar den.
