De kloof tussen dashboards en beslissingen die een datateam niet kan dichten
Succespercentage van AI: Slechts 5 procent van de AI-initiatieven bereikt de gewenste bedrijfsresultaten, wat wijst op systemische problemen.
Organisatorische paraatheid: Het mislukken van AI-projecten komt vaak voort uit organisaties die niet voorbereid zijn op de overgang.
Probleemdiagnose: Bedrijven identificeren het werkelijke probleem vaak verkeerd, wat leidt tot een verkeerd gerichte implementatie van AI.
Betrokkenheid van belanghebbenden: Door belanghebbenden vroeg in het proces te betrekken, kunnen weerstand en de acceptatie van AI-hulpmiddelen worden verbeterd.
Kennis van governance: Inzicht in verantwoord AI-gebruik is cruciaal voor besluitvormers zonder technische achtergrond.
Je hebt het nieuws inmiddels ongetwijfeld gehoord. Gartner schat dat slechts 5% van de AI-initiatieven de beloofde bedrijfsresultaten oplevert.
Dat cijfer wordt nogal vaak aangehaald wanneer we het over AI hebben, hetzij als veroordeling van de technologie, hetzij als aanklacht tegen ons vermogen om die effectief te gebruiken.
Beverly Wright ziet dit patroon zich al herhalen sinds voordat de meeste hedendaagse AI-leveranciers bestonden. Ze begon begin jaren negentig in de besliskunde, toen er in het land drie masteropleidingen waren en misschien twintig afgestudeerden per jaar.
Continue Reading for Free
Create a free account to finish this article, plus get ongoing access to timely insights and practical resources.
Have an account? Log In
"We hadden een soortgelijk probleem," zei ze vorige week tijdens de Optimized AI Conference in Atlanta. "Maar nu speelt het probleem op schaal en met automatisering. Het is een nog groter probleem."
Wright werkte tientallen jaren in datawetenschappelijke functies bij Southern Company en Cox Communications voordat ze overstapte naar onderwijs voor leidinggevenden aan Georgia State University. Haar diagnose van waarom AI-investeringen steeds mislukken, druist in tegen wat de meeste technologieleveranciers willen horen: het probleem is organisatorisch.
Sorry, leveranciers. Dit is niet jullie probleem om op te lossen.
Het echte probleem is zelden het probleem waarmee je begon
Wright begon haar sessie met een verhaal over liften. Lang geleden kwamen er klachten binnen dat liften te langzaam waren. De voor de hand liggende oplossing was snellere liften. Maar het echte probleem bleek geen snelheid te zijn. Het was verveling. Doordat mensen in stilte moesten wachten, of erger nog, in het gezelschap van vreemden, ontstond er een ongemak waardoor het wachten op de lift onnodig lang aanvoelde.
Dus wat loste het op? Spiegels. Dat was alles. Er kwam geen techniek aan te pas.
De kloof tussen het probleem dat zich aandient en het werkelijke probleem is waar de meeste AI-initiatieven ontsporen. Bedrijven formuleren een zakelijke uitdaging, geven die aan een datateam en verwachten dat het model de diagnose stelt. Dat doet het niet.
"Het werkelijke probleem vinden is een stuk moeilijker dan we denken," zei Wright.
AI inzetten voordat je hebt vastgesteld welke beslissing ermee moet worden ondersteund, is volgens haar de eerste van drie redenen waarom 95% van de initiatieven niets oplevert.
De tweede is uitlegbaarheid. Wanneer een rekenmachine je een antwoord geeft, kun je controleren of het aannemelijk is. Je kent ongeveer de schaal van wat je hebt gevraagd. AI-systemen die op neurale netwerken zijn gebaseerd, bieden niet zo'n intuïtieve mogelijkheid tot verificatie.
Dit is overal belangrijk, maar het speelt vooral sterk in gereguleerde sectoren waar menselijke controle wettelijk verplicht is. Wat Wright in de praktijk ziet, is dat organisaties dit vinkje zetten door AI te gebruiken om AI te evalueren. De mens in de lus begrijpt onvoldoende wat het model doet om te kunnen zien wat er misgaat.
De derde faalmodus is degene waar niemand verantwoordelijkheid voor wil nemen: de organisatie was er simpelweg nog niet klaar voor.
Wright maakt onderscheid tussen technologische ondersteuning en culturele ondersteuning en stelt vast dat bedrijven deze als opeenvolgend behandelen in plaats van als parallel. Ze bouwen eerst en vragen daarna of mensen voorbereid zijn om te gebruiken wat er is gebouwd. Tegen die tijd is het antwoord meestal nee en wordt de investering op de plank gelegd.
Ze gebruikte tornado's als kader: slechts ongeveer 0,1% veroorzaakt ernstige schade, maar de angst voor dat kleine percentage bepaalt hoe iedereen op alle tornado's reageert. Weerstand tegen verandering werkt hetzelfde. Het waargenomen risico van iets nieuws invoeren weegt zwaarder dan het aangetoonde risico van niets veranderen, zelfs wanneer de berekening de andere kant op wijst.
Er is meestal meer schade door niets te doen. Ze denken dat ze risico’s vermijden, maar niets doen brengt een groter risico met zich mee.
Er mag nooit een tada-moment zijn
Wanneer Wright vertelt wat daadwerkelijk werkt, gaat er geen aandacht uit naar technologische investeringen. In plaats daarvan beschrijft ze hoe organisaties hun relatie tussen inzicht en actie opnieuw opbouwen.
Begin met de beslissing, niet met het hulpmiddel
Wright is direct over de dynamiek van druk vanuit de raad van bestuur, waarbij bedrijven AI-initiatieven aankondigen om een aandelenkoers te laten stijgen en de aankondiging zelf het doel wordt.
Dat is de verkeerde reden om aan een AI-project te beginnen," zei ze. "Je moet beginnen met een echte strategie die zegt: zo gaan we problemen oplossen, en misschien gebruiken we daar AI voor, misschien ook niet.
Leer het bedrijf kennen zoals het is
Dit druist in tegen het denken dat uitgaat van ambities en dat de meeste gesprekken over digitale transformatie domineert. Organisaties stellen routekaarten op naar een toekomstige situatie en proberen hun huidige bedrijfsvoering daar vervolgens achteraf in te passen.
Wrights argument gaat de andere kant op: begrijp wat je daadwerkelijk hebt en bouw AI-oplossingen die die realiteit ten goede komen.
Betrek belanghebbenden vanaf het begin
“Er zou geen tadaa-moment moeten zijn”, zei ze. Het model waarbij alles pas aan het einde wordt onthuld, waarin een datateam geïsoleerd werkt en een afgerond product presenteert, leidt betrouwbaar tot afwijzing.
Tegen de tijd dat een hulpmiddel de mensen bereikt die het moeten gebruiken, hebben zij geen enkele rol gehad in het vormgeven van wat het doet. Weerstand is niet irrationeel. Het is het voorspelbare resultaat van uitsluiting.
Het besturingsprobleem
Wright maakt onderscheid tussen twee typen AI-gebruikers die nu in de meeste organisaties aanwezig zijn: degenen die via gegevens en analyse zijn opgeklommen en via opgebouwde technische vaardigheid bij AI zijn uitgekomen, en degenen die vanuit operationele of functionele achtergronden ermee in aanraking komen, vaak zonder de basiskennis om te herkennen wanneer iets er verkeerd uitziet. Het ontwikkelen van een AI-gereedheidsstrategie vereist inzicht in deze verschillende gebruikerstypen.
Die kloof is een besturingsprobleem en valt onder de verantwoordelijkheid van de mensen die het bedrijf leiden, niet van het datateam. Als de mensen die belast zijn met het beoordelen van AI-uitvoer niet begrijpen wat ze beoordelen, is de beoordeling een toneelstuk. En zo'n toneelstuk, herhaald bij voldoende initiatieven, is hoe een slagingspercentage van 5% ontstaat.
De oplossing die Wright aanbeveelt is kennis, geen onderdompeling. Operationele leiders hoeven geen neurale netwerken te begrijpen. Ze moeten begrijpen hoe verantwoord gebruik eruitziet, wat de randvoorwaarden zijn en waarom die randvoorwaarden bestaan.
“Het maakt het eigenlijk onmogelijk om iets verkeerd te doen”, zei ze, terwijl ze beschreef hoe die formulering doorgaans overkomt bij niet-technische doelgroepen. “En dat geldt voor ons allemaal.”
De meeste organisaties hebben tien jaar besteed aan het opbouwen van gegevensinfrastructuur. De kloof tussen die investering en daadwerkelijke zakelijke beslissingen is organisatorisch, en geen platformupgrade dicht die kloof.
