C’è un Nome per Quello che Sta Succedendo al Giudizio dei Tuoi Dipendenti
Eccessiva affidabilità: Affidarsi troppo agli strumenti di IA può portare a risultati negativi significativi nella forza lavoro.
Atrofia delle competenze: La dipendenza dall’IA può erodere le capacità di pensiero critico, riducendo la capacità dei dipendenti di analizzare le informazioni in modo autonomo.
Impatto sulla forza lavoro: Le organizzazioni devono valutare gli effetti dell’implementazione dell’IA sui dipendenti come parte del processo decisionale tecnologico.
Ci sono dinamiche che stanno coinvolgendo i dipendenti mentre gli strumenti di intelligenza artificiale si diffondono all'interno delle organizzazioni, e a un certo punto viene da chiedersi: il tuo team di leadership ha il linguaggio adatto per descrivere ciò che sta accadendo?
Niente paura. Un rapporto pubblicato lo scorso mese da MIT Sloan Management Review e Boston Consulting Group lo fornisce.
Il documento, "Oltre il modello: perché una IA responsabile deve affrontare l'impatto sulla forza lavoro", rappresenta il quinto studio annuale sull'AI responsabile di queste due istituzioni, basato su survey globali a dirigenti e panel di esperti selezionati.
Keep Reading—and Keep Leading Smarter
Create a free account to finish this piece and join a community of forward-thinking leaders unlocking tools, playbooks, and insights for thriving in the age of AI.
Have an account? Log In
Negli anni precedenti, la ricerca si è concentrata sulla maturità della governance, sul rischio da terze parti e sulle strutture di responsabilità. Quest'anno, invece, gli studiosi si sono orientati su qualcosa di più immediato: l'impatto dell’implementazione aziendale dell’intelligenza artificiale sulle persone che la utilizzano.
Hanno individuato cinque effetti.
- Eccessiva dipendenza
- Atrofia delle competenze
- Perdita di potere decisionale
- Intensificazione del lavoro
- “Surriscaldamento mentale da IA.”
La tesi degli autori Elizabeth Renieris, David Kiron, Steven Mills e Anne Kleppe è chiara: questi non sono rischi ipotetici o casi limite. Si tratta di conseguenze misurabili sulla forza lavoro che dovrebbero influire sulle decisioni di go/no-go prima che un’organizzazione decida di adottare uno specifico strumento di intelligenza artificiale.
Questa attenzione al linguaggio di valutazione dei prodotti è voluta. Secondo loro, l’impatto sulla forza lavoro deve far parte dello stesso processo di analisi della performance tecnica, della conformità normativa e del costo totale, anche se oggi spesso non accade.
Cosa emerge dalla ricerca
Tra i cinque effetti, il più precisamente misurato è quello che definiscono "surriscaldamento mentale da IA" (AI brain fry), termine introdotto in letteratura a marzo attraverso uno studio di BCG e Università della California, Riverside pubblicato su Harvard Business Review.
I ricercatori lo definiscono come affaticamento mentale dovuto a un uso eccessivo, ad un'interazione costante o a una supervisione degli strumenti di AI superiore alla capacità cognitiva del dipendente.
I dati di quello studio mostrano che il 14% dei lavoratori che utilizzano l’AI ha riferito di averne sofferto.
I lavoratori colpiti da surriscaldamento mentale hanno commesso il 39% di errori gravi in più rispetto a chi non ne ha sofferto. La produttività ha iniziato a calare quando i dipendenti hanno dovuto gestire più di tre strumenti di AI contemporaneamente. La forma più impegnativa sul piano cognitivo non era la complessità dei comandi o il volume delle risposte, bensì la supervisione. I dipendenti che monitoravano i sistemi di AI hanno riportato un 12% in più di affaticamento mentale rispetto a chi non lo faceva, e un 19% in più di sovraccarico informativo.
I gruppi più colpiti erano marketing, sviluppo software, risorse umane, finanza e IT. Non si tratta di funzioni marginali.
Il paradosso identificato dai ricercatori è rilevante per qualsiasi COO o CHRO che si occupi di pianificazione della forza lavoro. I lavoratori più esposti al surriscaldamento mentale di solito sono i primi adottanti, ovvero chi è più entusiasta dell’intelligenza artificiale.
Utilizzano più strumenti, monitorano più risultati ed assorbono più carico cognitivo nel processo. La tecnologia pensata per alleggerirli, in pratica, incrementa il loro stress.
Eliza Jackson, COO di ButcherBox, ha descritto il fenomeno dal suo punto di vista.
Alla fine ti chiedi ‘Ma cosa ho fatto davvero? Ho solo risposto a 800 chat? Ho preso decisioni riflettute o meno? Ho pensato davvero a quello che decidevo?’
Ha aggiunto che la sua organizzazione sta cercando attivamente di inserire maggiori momenti di riflessione, ma ha ammesso che stanno ancora lavorando su come farlo.
L’atrofia delle competenze si manifesta più gradualmente. Uno studio di Microsoft Research e Carnegie Mellon University, presentato lo scorso anno alla Conferenza CHI e basato su 936 esempi reali da 319 knowledge worker, ha riscontrato che una maggiore fiducia negli strumenti di AI è associata in modo costante a una riduzione delle capacità di pensiero critico.
I lavoratori non rinunciavano all’analisi, ma si limitavano a fidarsi del risultato e ad andare avanti. Lo studio ha anche rilevato che l’uso dell’IA sposta la natura del pensiero critico: non più generare un’analisi, ma verificarla. Potrebbe sembrare un adattamento, ma si tratta di una limitazione. Quando l’IA sbaglia, la questione è se i dipendenti abbiano ancora sufficiente giudizio indipendente per accorgersene.
La versione clinica di questa dinamica è già stata documentata nella pratica. Vivienne Ming, neuroscienziata teorica e ricercatrice di IA, cita uno studio su gastroenterologi che utilizzano sistemi di colonscopia assistiti dall’IA. Quando questi sistemi venivano disattivati, i medici avevano prestazioni misurabilmente peggiori rispetto a prima dell’introduzione dell’IA.
Li rende migliori mentre li usano, ma poi sono drammaticamente peggiori dopo.
Il rischio non riguarda solo le prestazioni attuali, ma anche la capacità che si erode in sottofondo mentre lo strumento svolge il lavoro.
L’eccessivo affidamento è lo schema sottostante a entrambi. Quando i lavoratori si affidano ai risultati dell’IA anche quando lo strumento è inaffidabile o opera al di fuori delle sue competenze, gli errori individuali si sommano. In una forza lavoro che segue gli stessi output verso le stesse decisioni, questi errori si amplificano.
A livello individuale, è un problema di performance. Su scala di tutta la forza lavoro che usa gli stessi strumenti verso gli stessi output, diventa un problema sistemico.
La questione della governance
Il report del MIT Sloan fa una raccomandazione che ha implicazioni strutturali su come CHRO e COO vengono coinvolti nelle decisioni relative all’IA. Gli impatti sulla forza lavoro devono essere valutati come parte della valutazione del business case per l’utilizzo dell’IA, integrati nei piani di implementazione e considerati prima della fase di approvvigionamento. Non è così che funzionano attualmente la maggior parte delle decisioni.
I ricercatori inquadrano questo aspetto come un dovere, non come un suggerimento. Le organizzazioni dovrebbero comunicare apertamente con i lavoratori riguardo a come l’IA trasformerà o eliminerà le loro mansioni, quale supporto di transizione sarà disponibile e secondo quali criteri sono state prese queste decisioni. Non come cortesia, scrivono, ma come una responsabilità centrale di governance.
Il vuoto di responsabilità che si crea è reale. I CHRO di solito sono responsabili delle conseguenze sulle persone, ma raramente partecipano alla scelta degli strumenti di IA. I responsabili tecnologici gestiscono l’infrastruttura, ma non si occupano dell’erosione delle competenze a valle nella forza lavoro che utilizza questi strumenti.
I responsabili delle operations monitorano le performance ma spesso non dispongono di una struttura per rilevare il degrado delle capacità che precede il calo delle prestazioni.
I termini definiti dal MIT Sloan sono utili proprio perché specifici a sufficienza da poter essere attribuiti a dei responsabili e granulari abbastanza da poter essere misurati.
L’eccessivo affidamento non è lo stesso rischio della perdita d’autonomia. Ognuno richiede diverse domande di governance in fase di implementazione e un diverso referente all’interno dell’organizzazione.
Nella maggior parte delle aziende, nessuno di questi ruoli esiste ancora.
La ricerca non prescrive un organigramma. Quello che fa — in modo chiaro e con il peso di cinque anni di dati sull’IA responsabile — è identificare il vuoto.
Le decisioni go/no-go sono il momento in cui queste domande dovrebbero emergere. Prima della firma del contratto, prima dell’avvio, prima della prima sessione di formazione, qualcuno nell’organizzazione deve chiedersi quale effetto avrà questo strumento sul giudizio di chi lo usa e impedire che l’utilizzo dell’IA diventi un parametro di valutazione delle performance.
Al momento, la maggior parte delle organizzazioni non sa chi sia quella persona.
