Il divario tra dashboard e decisioni che un team dati non può colmare
Tasso di successo dell'IA: Solo il 5 percento delle iniziative di intelligenza artificiale raggiunge gli obiettivi aziendali desiderati, rivelando problemi sistemici.
Prontezza organizzativa: Il fallimento dei progetti di IA deriva spesso dall'impreparazione delle organizzazioni alla transizione.
Diagnosi del problema: Le aziende spesso identificano erroneamente il problema reale, portando a implementazioni di IA mal indirizzate.
Coinvolgimento degli stakeholder: Coinvolgere gli stakeholder fin dalle prime fasi può prevenire resistenze e aumentare l'accettazione degli strumenti di IA.
Alfabetizzazione sulla governance: La comprensione dell'uso responsabile dell'IA è fondamentale per i decisori privi di background tecnico.
Senza dubbio avrai già sentito la notizia. Gartner stima che solo il 5% delle iniziative legate all’IA producano realmente i risultati aziendali promessi.
Questa percentuale viene spesso menzionata quando si parla di IA, sia come una condanna della tecnologia sia come critica alla nostra capacità di utilizzarla in modo efficace.
Beverly Wright osserva questo schema ripetersi da prima che la maggior parte degli attuali fornitori di IA esistessero. Ha iniziato nel campo delle scienze decisionali all’inizio degli anni ‘90, quando nel paese esistevano solo tre corsi di laurea magistrale e forse 20 laureati all’anno.
Keep Reading—and Keep Leading Smarter
Create a free account to finish this piece and join a community of forward-thinking leaders unlocking tools, playbooks, and insights for thriving in the age of AI.
Have an account? Log In
"Avevamo un problema simile," ha detto la settimana scorsa alla Optimized AI Conference di Atlanta. "Ma ora il problema è su larga scala e con l’automazione. È una questione ancora più grande."
Wright ha trascorso decenni in ruoli di data science presso Southern Company e Cox Communications prima di passare alla formazione executive presso la Georgia State University. La sua diagnosi sul motivo per cui gli investimenti in IA continuano a fallire va contro quello che la maggior parte dei fornitori tecnologici vorrebbe sentirsi dire: il problema è organizzativo.
Spiacenti fornitori. Questo non è un problema che spetta a voi risolvere.
Il vero problema raramente è quello da cui sei partito
Wright ha aperto il suo intervento con una storia sugli ascensori. Molto tempo fa, nei palazzi si ricevevano lamentele perché gli ascensori erano troppo lenti. La soluzione più ovvia era costruirli più veloci. Ma il vero problema, in realtà, non era la velocità. Era la noia. Costretti ad aspettare in silenzio, o peggio, in compagnia di sconosciuti, la noia delle persone creava un disagio che faceva sembrare l’attesa dell’ascensore inutilmente lunga.
Come è stato risolto? Con degli specchi. Tutto qui. Nessuna ingegneria richiesta.
Quel divario tra il problema apparente e quello reale è il punto in cui la maggior parte delle iniziative IA deraglia. Le aziende inquadrano una sfida aziendale, la affidano al team dati e si aspettano che il modello faccia il lavoro di diagnosi. Non lo fa.
"Trovare il vero problema è molto più difficile di quanto pensiamo", ha affermato Wright.
Lanciarsi sull’IA prima di aver definito quale decisione deve supportare è, secondo lei, il primo dei tre motivi per cui il 95% delle iniziative non produce nulla.
Il secondo motivo è la spiegabilità. Quando una calcolatrice ti dà una risposta, puoi controllare se ha senso. Conosci l’ordine di grandezza di ciò che hai chiesto. I sistemi IA basati su reti neurali non consentono questo tipo di verifica intuitiva.
Ciò è importante ovunque, ma diventa particolarmente cruciale nei settori regolamentati in cui è richiesta una revisione umana per legge. Secondo quanto osserva Wright nella pratica, le organizzazioni si limitano a spuntare quella casella usando l’IA per valutare l’IA. Il fattore umano coinvolto non comprende abbastanza bene cosa fa il modello per riuscire a identificare i problemi.
La terza modalità di fallimento è quella che nessuno vuole ammettere: l’organizzazione semplicemente non era pronta.
Wright distingue tra abilitazione tecnologica e abilitazione culturale e nota che le aziende le trattano come attività sequenziali anziché parallele. Prima costruiscono, poi chiedono se le persone sono pronte ad utilizzare quanto costruito. A quel punto, la risposta di solito è no e l’investimento viene accantonato.
Ha usato i tornado come metafora: solo circa lo 0,1% causa danni seri, ma la paura di quella minima percentuale influenza il modo in cui tutti reagiscono a ciascun tornado. La resistenza al cambiamento funziona allo stesso modo. La percezione del rischio nell’adottare qualcosa di nuovo supera il rischio dimostrato di restare fermi, anche quando i numeri mostrano il contrario.
Di solito ci sono più danni nel non fare nulla. Pensano di essere avversi al rischio, ma c’è un rischio maggiore nel non fare nulla.
Non dovrebbe mai esserci un effetto «Ta-dah»
Quando Wright parla di cosa funziona davvero, non c’è alcun riferimento agli investimenti tecnologici. Quello che descrive invece è come le organizzazioni ricostruiscono il loro rapporto tra intuizione e azione.
Parti dalla decisione, non dallo strumento
Wright è diretta sulla dinamica della pressione del consiglio di amministrazione, dove le aziende annunciano iniziative di IA per muovere il prezzo delle azioni e l’annuncio stesso diventa l’obiettivo finale.
Questo è il motivo sbagliato per intraprendere un progetto di IA," ha detto. "Bisogna partire da una vera strategia che dica ecco come risolveremo i problemi, e potremmo usare (o non usare) l’IA.
Incontra l’azienda dove si trova
Questo va contro il pensiero orientato prima alle aspirazioni che domina la maggior parte delle conversazioni sulla trasformazione digitale. Le organizzazioni costruiscono roadmap verso uno stato futuro e poi cercano di adattare le operazioni attuali a questi piani.
L’argomentazione di Wright va nella direzione opposta: comprendere ciò che effettivamente si ha e costruire soluzioni di intelligenza artificiale che apportino benefici a quella realtà.
More Articles
- Il Premio della Leadership Umana che le Organizzazioni Stanno Attivamente Svalutando
- La tua implementazione dell’IA è una radiografia culturale. La maggior parte dei leader non sta guardando.
- Come Padroneggiare Praticamente le Interazioni con l’IA e Sviluppare un Playbook per l’Intelligenza Artificiale
Coinvolgi le parti interessate fin dall'inizio
“Non dovrebbe esserci nessun momento ta-da,” ha detto. Il modello della rivelazione finale, in cui un team dati lavora in isolamento e presenta un prodotto finito, è una strada sicura verso il rifiuto.
Quando uno strumento arriva alle persone che devono usarlo, non hanno avuto alcun ruolo nel definirne le funzionalità. La resistenza non è irrazionale. È il risultato prevedibile dell’esclusione.
Il problema della governance
Wright traccia una distinzione tra due tipologie di utenti di intelligenza artificiale ormai presenti nella maggior parte delle organizzazioni: coloro che provengono dall’area dati e analytics, che sono confluiti nell’AI grazie a una crescente competenza tecnica, e coloro che vi arrivano da contesti operativi o funzionali, spesso senza la base necessaria per riconoscere quando qualcosa non va. Sviluppare una strategia di preparazione all’intelligenza artificiale richiede di comprendere queste diverse categorie di utenti.
Questa distanza rappresenta un problema di governance, che riguarda chi gestisce l’azienda, non il team dati. Se le persone incaricate di revisionare i risultati dell’AI non comprendono ciò che stanno valutando, la revisione è teatro. E il teatro, ripetuto su abbastanza iniziative, è il modo in cui si arriva a un tasso di successo del 5%.
La soluzione che Wright raccomanda è l’alfabetizzazione, non l’immersione. I responsabili operativi non devono comprendere le reti neurali. Devono capire cosa significa un uso responsabile, quali sono i limiti di sicurezza e perché esistono.
"In realtà rende impossibile fare danni", ha detto, descrivendo come questa impostazione tenda a essere recepita dai non tecnici. "Ed è vero per tutti noi."
La maggior parte delle organizzazioni ha trascorso un decennio a costruire infrastrutture dati. Il divario tra quell’investimento e le decisioni di business concrete è organizzativo, e nessun aggiornamento di piattaforma può colmarlo.
