Gapet mellan instrumentpaneler och beslut som ett datateam inte kan åtgärda
Framgångsfrekvens för AI: Endast 5 procent av AI-initiativen uppnår de önskade affärsresultaten, vilket avslöjar systemiska problem.
Organisatorisk beredskap: Misslyckade AI-projekt beror ofta på att organisationerna inte är förberedda på omställningen.
Problemdiagnos: Företag identifierar ofta felaktigt det verkliga problemet, vilket leder till felriktad AI-implementering.
Intressenternas medverkan: Genom att involvera intressenter tidigt i processen kan man förebygga motstånd och öka acceptansen för AI-verktyg.
Kunskap om styrning: Att förstå ansvarsfull användning av AI är avgörande för beslutsfattare som saknar teknisk bakgrund.
Du har utan tvekan hört nyheten vid det här laget. Gartner uppskattar att endast 5 % av AI-initiativ levererar de utlovade affärsresultaten.
Den siffran dyker upp ganska ofta när vi pratar om AI, antingen som ett fördömande av tekniken eller som ett ifrågasättande av vår förmåga att använda den effektivt.
Beverly Wright har sett det här mönstret upprepa sig sedan innan de flesta av dagens AI-leverantörer ens existerade. Hon började inom beslutsvetenskap i början av 1990-talet, när det fanns tre forskarutbildningar i landet och kanske 20 utexaminerade per år.
Continue Reading for Free
Create a free account to finish this article, plus get ongoing access to timely insights and practical resources.
Have an account? Log In
”Vi hade ett liknande problem”, sa hon vid Optimized AI Conference i Atlanta förra veckan. ”Men nu gäller problemet skala och automatisering. Det är ett ännu större problem.”
Wright arbetade i flera decennier med datavetenskap på Southern Company och Cox Communications innan hon gick över till ledarskapsutbildning vid Georgia State University. Hennes diagnos av varför AI-investeringar fortsätter att misslyckas går emot det de flesta teknikleverantörer vill höra: problemet är organisatoriskt.
Beklagar, leverantörer. Det här är inte ert problem att lösa.
Det verkliga problemet är sällan det du började med
Wright inledde sin session med en berättelse om hissar. För länge sedan fick byggnader klagomål på att hissarna var för långsamma. Den uppenbara lösningen var snabbare hissar. Men det verkliga problemet visade sig inte vara hastigheten. Det var tristessen. När människor tvingades vänta i tystnad, eller ännu värre, i sällskap med främlingar, skapade tristessen ett obehag som fick väntan på hissen att kännas onödigt lång.
Så vad löste det? Speglar. Det var allt. Ingen ingenjörskonst krävdes.
Det gapet mellan det problem som först visar sig och det verkliga problemet är där de flesta AI-initiativ spårar ur. Företag formulerar en affärsutmaning, lämnar över den till ett datateam och förväntar sig att modellen ska göra diagnosarbetet. Det gör den inte.
”Att hitta det verkliga problemet är mycket svårare än vi tror”, sa Wright.
Att ta till AI innan man har definierat vilket beslut den ska stödja är enligt henne den första av tre orsaker till att 95 % av initiativen inte ger något resultat.
Den andra är förklarbarhet. När en miniräknare ger dig ett svar kan du kontrollera att det verkar rimligt. Du känner till den ungefärliga storleksordningen för det du frågade om. AI-system som bygger på neurala nätverk erbjuder inte den typen av intuitiva verifiering.
Det här är viktigt överallt, men särskilt påtagligt i reglerade branscher där mänsklig granskning krävs enligt lag. Det Wright ser i praktiken är att organisationer bockar av den rutan genom att använda AI för att utvärdera AI. Människan i loopen förstår inte vad modellen gör tillräckligt väl för att upptäcka vad som är fel.
Det tredje misslyckandet är det som ingen vill ta ansvar för: organisationen var helt enkelt inte redo.
Wright skiljer mellan tekniskt möjliggörande och kulturellt möjliggörande och konstaterar att företag behandlar dem som sekventiella snarare än parallella. De bygger först och frågar sedan om människor är beredda att använda det som har byggts. Då är svaret vanligtvis nej, och investeringen läggs åt sidan.
Hon använde tornados som en bild: endast omkring 0,1 % orsakar allvarliga skador, men rädslan för den andelen påverkar hur alla reagerar på dem. Motstånd mot förändring fungerar på samma sätt. Den upplevda risken med att införa något nytt väger tyngre än den påvisade risken med att stå kvar, även när matematiken pekar åt andra hållet.
Det blir vanligtvis större skada av att inte göra något. De tror att de är riskaverta, men det finns en större risk i att inte göra någonting.
Det ska aldrig finnas ett ta-da
När Wright pratar om vad som faktiskt fungerar finns det ingen kommentar kring teknikinvesteringar. I stället beskriver hon hur organisationer bygger om relationen mellan insikt och handling.
Börja med beslutet, inte verktyget
Wright är tydlig med dynamiken kring styrelsens press, där företag tillkännager AI-initiativ för att påverka aktiekursen och tillkännagivandet blir målet.
”Det är fel anledning att ta sig an ett AI-projekt”, sa hon. ”Du måste börja med en faktisk strategi som säger: så här ska vi lösa problem, och vi kanske använder AI eller kanske inte.
Möt företaget där det befinner sig
Detta går på tvärs mot det framtidsvisionscentrerade tänkande som dominerar de flesta samtal om digital transformation. Organisationer utformar färdplaner mot ett framtida tillstånd och försöker sedan anpassa den nuvarande verksamheten till dem.
Wrights argument går i motsatt riktning: förstå vad ni faktiskt har och bygg AI-lösningar som gynnar den verkligheten.
Involvera intressenter från början
”Det ska inte finnas något aha-ögonblick”, sade hon. Modellen där resultatet avslöjas i slutet, där ett datateam arbetar isolerat och presenterar en färdig produkt, är en säker väg till avslag.
När ett verktyg når de personer som måste använda det har de inte fått vara med och forma vad det gör. Motstånd är inte irrationellt. Det är det förutsägbara resultatet av utestängning.
Styrningsproblemet
Wright gör åtskillnad mellan två typer av AI-användare som nu finns i de flesta organisationer: de som har en bakgrund inom data och analys och som har närmat sig AI genom en gradvis uppbyggnad av teknisk kompetens, och de som kommer till AI från operativa eller funktionella roller, ofta utan den grund som krävs för att upptäcka när något verkar fel. Att utveckla en strategi för AI-beredskap kräver förståelse för dessa olika användartyper.
Det gapet är ett styrningsproblem, och det ligger hos de personer som driver verksamheten, inte hos datateamet. Om de människor som fått i uppgift att granska AI-resultat inte förstår vad de granskar, är granskningen teater. Och teater, upprepad i tillräckligt många initiativ, är så en framgångsgrad på 5 % uppstår.
Den lösning Wright rekommenderar är kunskap, inte uppslukande fördjupning. Operativa ledare behöver inte förstå neurala nätverk. De behöver förstå hur ansvarsfull användning ser ut, vilka skyddsräcken som finns och varför de finns.
Det gör faktiskt att det blir omöjligt att ställa till det”, sade hon och beskrev hur den inramningen brukar tas emot av icke-tekniska målgrupper. ”Och det gäller oss alla.
De flesta organisationer har ägnat ett decennium åt att bygga datainfrastruktur. Gapet mellan den investeringen och faktiska affärsbeslut är organisatoriskt, och ingen plattformsuppgradering överbryggar det.
