Kløften fra dashboards til beslutninger, som et datateam ikke kan løse
Succesrate for AI: Kun 5 procent af AI-initiativer opnår de ønskede forretningsresultater, hvilket afslører systemiske problemer.
Organisatorisk parathed: AI-projekter mislykkes ofte, fordi organisationerne ikke er forberedte på overgangen.
Problemdiagnose: Virksomheder identificerer ofte det egentlige problem forkert, hvilket fører til en fejlslagen implementering af AI.
Inddragelse af interessenter: Ved at inddrage interessenter tidligt i processen kan man forebygge modstand og øge accepten af AI-værktøjer.
Forståelse af AI-styring: Det er afgørende for beslutningstagere uden teknisk baggrund at forstå ansvarlig brug af AI.
Du har uden tvivl hørt nyheden nu. Gartner vurderer, at kun 5 % af AI-initiativer leverer de lovede forretningsresultater.
Det tal bliver ofte trukket frem, når vi taler om AI, enten som en fordømmelse af teknologien eller som en anklage mod vores evne til at bruge den effektivt.
Beverly Wright har set dette mønster gentage sig, siden før de fleste af nutidens AI-leverandører eksisterede. Hun begyndte inden for beslutningsvidenskab i begyndelsen af 1990'erne, hvor der var tre kandidatuddannelser i landet og måske 20 kandidater om året.
Continue Reading for Free
Create a free account to finish this article, plus get ongoing access to timely insights and practical resources.
Have an account? Log In
"Vi havde et lignende problem," sagde hun på Optimized AI Conference i Atlanta i sidste uge. "Men nu er problemet i stor skala og med automatisering. Det er et endnu større problem."
Wright arbejdede i årtier med datavidenskab hos Southern Company og Cox Communications, før hun gik videre til lederuddannelse på Georgia State University. Hendes forklaring på, hvorfor AI-investeringer bliver ved med at mislykkes, strider imod det, de fleste teknologileverandører gerne vil høre: Problemet er organisatorisk.
Beklager, leverandører. Det er ikke jeres problem at løse.
Det reelle problem er sjældent det, du begyndte med
Wright indledte sin session med en historie om elevatorer. For længe siden kom der klager over, at elevatorerne var for langsomme. Den oplagte løsning var hurtigere elevatorer. Men det reelle problem viste sig ikke at være hastigheden. Det var kedsomhed. Når folk blev tvunget til at vente i stilhed eller, endnu værre, i selskab med fremmede, skabte deres kedsomhed et ubehag, der fik ventetiden på elevatoren til at føles unødvendigt lang.
Så hvad løste det? Spejle. Det var det hele. Der krævedes ingen teknisk udvikling.
Det gab mellem det problem, der præsenteres, og det faktiske problem er dér, hvor de fleste AI-initiativer går skævt. Virksomheder formulerer en forretningsmæssig udfordring, giver den videre til et datateam og forventer, at modellen udfører analysearbejdet. Det gør den ikke.
"Det er meget sværere at finde det faktiske problem, end vi tror," sagde Wright.
At gribe til AI, før man definerer, hvilken beslutning den skal understøtte, er efter hendes mening den første af tre grunde til, at 95 % af initiativerne ikke giver noget resultat.
Den anden er forklarlighed. Når en lommeregner giver dig et svar, kan du kontrollere, om det virker rimeligt. Du kender den omtrentlige størrelsesorden af det, du spurgte om. AI-systemer, der er bygget på neurale netværk, giver ikke mulighed for den form for intuitiv kontrol.
Det er vigtigt overalt, men særligt udtalt i regulerede brancher, hvor menneskelig kontrol er lovpligtig. Wright oplever i praksis, at organisationer sætter kryds ved dette punkt ved at bruge AI til at evaluere AI. Mennesket i kredsløbet forstår ikke, hvad modellen gør, godt nok til at opdage, hvad der er forkert.
Den tredje fejltilstand er den, ingen ønsker at tage ejerskab for: Organisationen var ganske enkelt ikke klar.
Wright skelner mellem teknologisk understøttelse og kulturel understøttelse og konstaterer, at virksomheder behandler dem som sekventielle i stedet for parallelle. De bygger først og spørger derefter, om folk er klar til at bruge det, der er blevet bygget. På det tidspunkt er svaret som regel nej, og investeringen bliver lagt på hylden.
Hun brugte tornadoer som billede: Kun omkring 0,1 % forårsager alvorlige skader, men frygten for denne brøkdel præger den måde, alle reagerer på dem alle sammen. Modstand mod forandring fungerer på samme måde. Den oplevede risiko ved at tage noget nyt i brug opvejer den dokumenterede risiko ved at blive, hvor man er, selv når regnestykket viser det modsatte.
Der er som regel større skade ved ikke at gøre noget. De tror, de undgår risiko, men der er en større risiko ved ikke at gøre noget.
Der bør aldrig være et »sådan!«
Når Wright taler om, hvad der faktisk virker, er der ingen kommentarer til teknologiinvesteringer. I stedet beskriver hun, hvordan organisationer genopbygger forbindelsen mellem indsigt og handling.
Start med beslutningen, ikke værktøjet
Wright er direkte omkring dynamikken med pres fra bestyrelsen, hvor virksomheder annoncerer AI-initiativer for at påvirke aktiekursen, og annonceringen bliver målet.
"Det er den forkerte grund til at gå i gang med et AI-projekt," sagde hun. "I skal starte med en reel strategi, der siger: Her er, hvordan vi vil løse problemer, og vi bruger måske AI, måske ikke."
Mød virksomheden, hvor den er
Dette strider mod den ambition-først-tænkning, der dominerer de fleste samtaler om digital transformation. Organisationer udarbejder køreplaner mod en fremtidig tilstand og forsøger derefter at tilpasse de nuværende processer til dem.
Wrights argument går i den modsatte retning: Forstå, hvad I faktisk har, og byg AI-løsninger, der gavner denne virkelighed.
More Articles
- Slut med AI-teater: Hvorfor en opbremsning i implementeringen er et tegn på modenhed
- Kan 70-20-10-reglen for AI-transformation overføres på tværs af organisationsstørrelser?
- Talentrådgiver siger, at AI fremskynder organisatorisk gæld i stedet for at løse den
- Vicepræsident for mennesker & organisation hos AI-unicorn siger, at HR-ledere skal blive arkitekterne bag en menneske-maskine-arbejdsstyrke
- AI-klar er en formulering, ikke en strategi
Inddrag interessenter fra begyndelsen
"Der bør ikke være noget aha-øjeblik," sagde hun. Modellen med afsløringen til sidst, hvor et datateam arbejder isoleret og præsenterer et færdigt produkt, er en pålidelig vej til afvisning.
Når et værktøj når frem til de mennesker, der skal bruge det, har de ikke haft nogen indflydelse på, hvad det gør. Modstand er ikke irrationel. Det er det forudsigelige resultat af udelukkelse.
Problemet med styring
Wright skelner mellem to typer AI-brugere, som nu findes i de fleste organisationer: dem, der er kommet op gennem data og analyse, og som er nået frem til AI gennem opbygget teknisk kunnen, og dem, der kommer fra operationelle eller faglige baggrunde, ofte uden det grundlag, der skal til for at genkende, når noget ser forkert ud. Udviklingen af en strategi for AI-parathed kræver en forståelse af disse forskellige brugertyper.
Dette hul er et styringsproblem, og det hører til hos de mennesker, der driver virksomheden, ikke hos datateamet. Hvis de mennesker, der har til opgave at gennemgå AI-output, ikke forstår, hvad de gennemgår, er gennemgangen et skuespil. Og skuespil, der gentages på tværs af tilstrækkeligt mange initiativer, er sådan, man ender med en succesrate på 5 %.
Den løsning, Wright anbefaler, er oplysning, ikke fordybelse. Driftsledere behøver ikke at forstå neurale netværk. De skal forstå, hvordan ansvarlig brug ser ud, hvad sikkerhedsrammerne er, og hvorfor sikkerhedsrammerne findes.
"Det gør det faktisk umuligt at ødelægge tingene," sagde hun og beskrev, hvordan den formulering typisk bliver modtaget af ikke-tekniske målgrupper. "Og det gælder os alle."
De fleste organisationer har brugt et årti på at opbygge datainfrastruktur. Afstanden mellem denne investering og faktiske forretningsbeslutninger er organisatorisk, og ingen platformopgradering lukker den.
