Perché i tradizionali framework di gestione dei rischi AI stanno andando in crisi

David Rice: Un dirigente legale di una società Fortune 500 lo ha messo così: la sua azienda non era in fiamme, ma sembrava che tutti tenessero in mano un lanciafiamme. È lì che si trovano oggi la maggior parte delle organizzazioni: consapevoli del rischio, non sanno dove puntare la manichetta e il pericolo non viene da fuori. È la spinta interna che nessuno sa come rallentare.

Nella puntata di oggi parlo con Reid Blackman, autore di "La sfida dell’incubo etico", sul perché i tradizionali framework di governance non sono pensati per ciò che sta accadendo ora. I tuoi dipendenti stanno già utilizzando l’AI in modi che non avevi previsto. Non puoi prevedere come utilizzeranno gli agenti AI, e l’unica leva che la maggior parte dei leader conosce è quella di limitare l’accesso, che però non è una vera soluzione.

Reid fa un’osservazione che taglia molte discussioni: muoversi velocemente e prendere sul serio l’etica dell’AI non sono alternative in conflitto. Le aziende che trattano la questione come una scelta binaria stanno creando proprio quei fallimenti catastrofici di fiducia che vorrebbero evitare. E non devi costruire da zero un programma completo di etica dell’AI dalla sera alla mattina.

Puoi iniziare a livello di progetto, con due o tre team, un progetto pilota di dieci settimane, anche solo una conversazione onesta su dove potrebbero emergere gli incubi. Quindi, qual è la prima domanda da fare nella tua organizzazione? Ad esempio: ci siamo fermati a identificare quali potrebbero essere gli incubi etici, reputazionali e legali derivanti dal modo in cui stiamo adottando l’AI?

Se la maggior parte delle organizzazioni, onestamente, risponde di no, è da lì che bisogna iniziare. Oggi dunque parleremo del perché la governance tradizionale dei rischi non sia pronta per l’AI generativa o per gli agenti AI. Cosa rende l’AI agentica una sfida di governance fondamentalmente diversa, perché la velocità e l’etica non sono una scelta alternativa e quale sia il vero costo di "muoviti veloce e rompi le cose". Infine, come avviare la sfida dell’incubo etico a livello di progetto.

Sono David Rice e questo è Persone che Gestiscono Persone. Se nella tua organizzazione non vi siete ancora chiesti cosa potrebbe andare storto e chi potrebbe farsi male, questa conversazione ti mostra perché quella domanda non può più aspettare. Entriamo nel vivo.

Va bene, Reid. Benvenuto allo show, è un piacere averti qui.

Reid Blackman: Grazie per avermi invitato.

David Rice: Sì, ho qui il libro. Mi piace. Credo sia una buona lettura per tutti coloro che stanno riflettendo sulle sfide etiche dell’AI.

Reid Blackman: Non fa per me, ma sono felice che piaccia a te.

David Rice: Nel testo descrivi una dirigente legale, sempre in una Fortune 500, che ha detto che la sua azienda non era in fiamme ma sembrava che tutti avessero un lanciafiamme, e questa immagine mi piace molto.

Reid Blackman: Sì, sì, è una citazione diretta.

David Rice: È un’immagine straordinaria, perché coglie perfettamente come si sentono molti leader oggi. Sono consapevoli del rischio, ma non sanno bene dove puntare la manichetta di fronte a tutta questa questione dell’intelligenza artificiale. Sono curioso: secondo te, qual è la ragione strutturale per cui la maggior parte delle organizzazioni si trova in quella posizione?

E perché la governance tradizionale dei rischi non riesce a colmare quel gap?

Reid Blackman: Domanda complessa. Il motivo per cui si sentono così è che... Ci sono molte ragioni. Una delle principali è che non sanno che cosa possano combinare i propri dipendenti. Perché la particolarità di cose come l’AI generativa e gli agenti AI, di cui possiamo parlare, è che possono essere usati in così tanti contesti diversi, da così tante persone e per così tanti scopi che non puoi prevederlo.

Non puoi semplicemente prevedere tutti i diversi modi in cui lo strumento sarà utilizzato. E qui si aggiunge il fatto che si sa che queste cose possono mettere in atto comportamenti che violano la privacy, possono essere di parte o discriminatorie in vari modi, possono allucinare o semplicemente inventare informazioni. Nel settore legale e nei Big Four della consulenza, si sono già visti casi finiti sui giornali dove venivano consegnati lavori ai clienti con materiale hallucinato dall’AI.

Quindi, quando metti insieme il fatto che ci sono moltissimi modi in cui una cosa può andare storta con l’AI, e il fatto che non puoi prevedere come tutti useranno questi strumenti, è normale essere nervosi, da qui la sensazione di avere tutti un lanciafiamme in mano. Se ti serve una risposta sul perché l’approccio standard non funziona, mi fermo qui un attimo.

David Rice: Quello che mi colpisce dell’immagine è che mette il pericolo nelle mani di chi dovrebbe guidare, giusto? Non è una minaccia esterna. È la spinta interna che nessuno sa come rallentare. Penso sia anche una questione di leadership e cultura che affrontiamo spesso, vero?

Oltre che di governance.

Reid Blackman: L’unico modo che conoscono per rallentare è limitare l’accesso e non usare gli strumenti. Possono vietare l’uso delle cose—

David Rice: Che però non è una vera soluzione.

Reid Blackman: No. È al massimo un tampone temporaneo. E la situazione si complica con l’AI agentica. Quindi quando chiedi ai dipendenti di usare questi ultimi sistemi agentici, tipo Claude Code, o cose simili, e "Costruisci il tuo agente, il tuo assistente, la tua dashboard", a questo punto le cose davvero sfuggono di mano, perché chissà cosa potrebbero combinare e a che scopo, e come useranno questi strumenti nei propri flussi di lavoro?

Metteranno i giusti controlli? Saranno consapevoli dei rischi? Come eserciteranno il proprio giudizio professionale in un contesto così grigio?

David Rice: È davvero difficile, vero? Agentic è forse un po’ diverso per come dev’essere costruita. Ma pensando agli LLM e alla GenAI nel lavoro, anche qui mi colpisce la metafora del lanciafiamme: HR entra nella stanza e la cosa già spruzza dappertutto.

Perché tutti già lo stanno adattando, usando, incorporando nei loro processi in modi che nemmeno immagini o hai considerato. Ora mettere ordine in tutto questo è una sfida a sé. E quando dici: "Costruiamo cosa di preciso?"

È un momento davvero interessante. E mi chiedo perché, in fondo, molte scelte sono volontarie: noi le implementiamo in mille modi, ma chi tra i C-level ha potere effettivo di frenare? E dire: la pressione per accelerare non arriva da qui, ma da tutte le direzioni: board, investitori, C-suite, concorrenti. Quindi chi si prende la responsabilità di dire: "Fermiamoci. Chiediamoci qualche domanda etica importante?"

Reid Blackman: Sì, esatto.

David Rice: E a volte sembra addirittura un rischio per la carriera, ma dobbiamo fare le cose con responsabilità.

Reid Blackman: Lascia che definisca brevemente cosa intendo per agenti AI, aiuta chi ci ascolta perché è il futuro. Secondo la mia interpretazione un agente AI di solito ha al centro un LLM, una sorta di chatbot con cui interagisci, e devono essere soddisfatte due condizioni per parlare di agente. Primo: dev’essere collegato ad altri strumenti. Quindi colleghi il tuo LLM a Internet, magari a database aziendali, a software enterprise come il tuo CRM.

Magari anche ad altre AI. La prima condizione è che il tuo LLM abbia accesso a diversi database, software e altre AI, eccetera. La seconda condizione è che manifesti un certo grado di autonomia: tu gli dai l’obiettivo e lui lo persegue. Invece che dargli una sequenza di istruzioni dettagliate, tu gli dici solo cosa vuoi ottenere e "lui" sceglie autonomamente gli strumenti da usare, quali ricerche fare, cosa connettere.

Quindi se il tuo LLM soddisfa queste due condizioni, hai un agente AI. E qui si intravede tutta la complessità: l’agente è contestuale. Chi lo usa? A cosa è collegato? A quali dati e software ha accesso? In che ordine usa le risorse? Che decisioni può prendere? E così via. Oltre all’imprevedibilità nell’uso semplice dell’AI generativa, con gli agenti tutto si complica ulteriormente. Ora che ho spiegato ciò, mi sono perso la tua domanda originaria.

David Rice: La seconda parte era: perché la governance tradizionale non colma quel gap? E tu accennavi alla complessità…

Reid Blackman: Sì …

David Rice: Gli agenti AI non hanno una job description chiara in molti casi, e lo scostamento delle attività è reale: vediamo l’AI fare cose che non avevamo previsto.

Sì, credo sia proprio la complessità e la necessità di maggiore preparazione tecnologica. Ma dimmi tu.

Reid Blackman: È proprio questo. Pensando alla governance tradizionale dell’AI, e lo dico da chi la pratica, da otto anni consiglio grandi organizzazioni sul punto: ci sono vari problemi. Non è solo un mio pensiero: anche i miei colleghi, concorrenti, il mio primo libro sosteneva e difendeva l’approccio standard.

Ma ci sono diverse cose che oggi non funzionano più. L’approccio è rotto. Primo, è molto top-down e basato sulle policy; chi lavora in grandi aziende sa quanto tempo ci vuole per approvare una policy aziendale: almeno un anno, a volte due. Il massimo che io abbia visto è nove mesi, e già era un team molto efficiente. Ma in quel tempo la tecnologia è già cambiata.

Prendi quella CPG Fortune 500 dove la manager parlava della metafora del lanciafiamme: stavano riscrivendo policy per AI generativa vs AI stretta e abbiamo approvato una policy molto robusta. Ma dopo la pubblicazione nessuno voleva leggerla, quindi bisogna fare awareness, adattarla a ruoli e reparti: mesi e anni di lavoro. Nel frattempo esce l’AI agentica: la policy è già superata e occorre tornare dal CDA e board. Risultato: un ciclo infinito, e riguarda solo l’AI!

Se vuoi parliamo di quantum, blockchain: il paesaggio tecnologico è sempre più complesso e l’approccio delle policy top-down è troppo lento. Inoltre, per la complessità degli agenti, un policy document implica molte procedure. Metti che ne hai 20: in un contesto agentico magari 10 servono davvero, 10 sono inutili e ne occorrerebbero altre 10 non previste. L’idea che possiamo stabilire da subito tutte le regole è fuori scala di fronte all’AI agentica.

David Rice: Hai appena detto una cosa interessante.

Questa presunzione di “conoscere tutti i rischi, le complessità, i ruoli”. Sappiamo che non è vero, giusto?

Reid Blackman: Sì, cento per cento.

David Rice: Ho visto che i dati MIT sugli incidenti AI mostrano che i casi verificati sono quasi triplicati dal 2021 al 2025, e sono solo quelli noti, quindi…

Reid Blackman: Esatto …

David Rice: … molti board trattano l’etica AI come una spunta compliance: molti la vedono come un problema IT, ma quando la postura diventa un fallimento fiduciario? Cosa significa accountability quando un sistema AI fa dei danni veri?

Reid Blackman: Sì. Negli anni la mia opinione è cambiata. In passato chi faceva marketing in quest’ambito diceva: "L’etica AI non rallenta, anzi accelera: i freni fanno andare più veloce." Ho sempre pensato fosse una balla. Avrei voluto fosse vero! Ma con l’AI agentica è diverso: ora è ovvio che può andare fuori controllo.

Non serve essere tecnologi per capirlo: hai agenti AI che prendono decisioni a una velocità e scala che nessun umano può e dici “Questo può solo peggiorare rapidamente.” È chiaro. L’autonomia e tutto il potere e l’accesso dati all’agente sembra una follia. Ora penso più al volante che ai freni: se non sai indirizzare l’agente, è palese che finirà male. Ora vedo più leader non-tech, anche CHRO, COO, CEO, CMO oltre ai tech officer, allarmarsi.

David Rice: Spesso la questione non è solo legale ma anche culturale, di fiducia, ma anche di business continuity. Ad esempio, con cause su grandi piattaforme HR tech: rischi di assumerti responsabilità solo perché hai adottato certi strumenti di cui nemmeno sei consapevole? E per il board, c’è davvero un gap tra quello che dice sulla governance AI e quanto realmente sa.

Reid Blackman: Nessuna idea.

David Rice: Era la mia domanda: hanno le competenze oggi per porre le domande giuste?

Reid Blackman: No. Quando parlo coi board mi stupisco di quanto poco sappiano. È davvero ancora il “giorno uno”. Non sono cresciuti con l’informatica. Si sentono intimiditi e pensano sia solo questione IT/data science. Spesso la paura dell’incomprensione li porta ad allontanare il problema, anche quando serve affrontare i possibili incubi.

E questo è disastroso. Si celebra spesso la democratizzazione dell’AI: è fantastico ma se davvero vogliamo beneficiarne dobbiamo renderla meno intimidatoria, abbassando la soglia per affrontare concretamente i rischi.

David Rice: Siamo solo da qualche mese che HR inizia davvero a esplorarla. Un anno fa molti dicevano "non mi sento qualificato a usarla". Era intimidatorio, e per i board sarà anche peggio.

Reid Blackman: Confermo. Una volta presentai a un pubblico ampio, in una biotech Fortune 500: spiegavo rischi, bias, facevo esempi di AI nel recruitment. Una della compliance digitava furiosa in chat: “Per policy, nessuno può usare AI in recruiting!” Quindi alcuni si agitano molto.

Un altro tema dell’approccio standard: essendo top-down e policy-centrico, serve che qualcuno della C-suite tech guidi il processo; tocca a CIO, CISO, CDO. Di solito HR non è mai la prima scelta, ma spesso è tra i primi reparti dove la policy si applica (per via dei dati sensibili e delle decisioni importanti). Ora occorre una soluzione scalabile, implementabile rapidamente che possa partire ovunque, anche a livello di product, non solo aspettando la policy enterprise-wide; serve che i capi dipartimento si responsabilizzino col “quali sono gli incubi potenziali per il nostro reparto? Di quali risorse abbiamo bisogno? Come formiamo HR per evitarli?”.

Serve una soluzione così, non aspettare il legal.

David Rice: Concordo. Il framework AI responsabile era pensato per sistemi ristretti e prevedibili: già obsoleto e le aziende non l’hanno recepito. Ma mi incuriosisce la psicologia organizzativa dietro il ritardo: negazione, pressione della velocità, o chi imposta la strategia non capisce cosa sta distribuendo?

Reid Blackman: Ci sono tanti motivi. Lavorando con diversi clienti: talvolta va bene, altre meno. A volte, sviluppi AI responsabile in banca, ma il Model Risk Management protesta: "Ehi, quello è il nostro ambito!" Scatta il conflitto. O passi la policy e un capo dipartimento si oppone: “non voglio”. Insomma, serve buy-in.

Alcuni colleghi dicono: "Non interessa davvero l’etica." Ma penso che in realtà la maggioranza sia composta da brave persone che vogliono agire correttamente, anche per la reputazione del brand. La vera difficoltà è che pretendiamo che i C-level tecnologici guidino il cambiamento organizzativo: è una fatica enorme, e non sanno come farlo perché sono tecnologi, non sono stati formati per guidare il cambiamento cross-funzionale. Da qui il grande ritardo: il vecchio approccio è lento anche perché serve troppo tempo per creare la volontà e ciò rallenta tutto.

Poi ho pensato: occorre una soluzione che non richieda un effort politico enorme: si deve partire dal basso, a piccoli step, espandendo gradualmente invece di grandi progetti top-down. Per questo il ritardo: la standard ai governance è troppo lenta.

David Rice: Proprio come ogni grande innovazione tecnologica: le risposte istituzionali arrancano e ci aggrappiamo a framework familiari anche quando non sono più adeguati. C’è anche un fattore umano: molti leader hanno investito reputazione nei framework esistenti, ammettere che non sono più validi richiede consapevolezza ed è difficile accettarlo. C’è una dimensione umana in una discussione tecnica. Ma ogni COO e CPO deve sapere: se la tua governance è pre-agentic, è rapidamente sorpassata. E non è una critica, ma il ritmo del cambiamento. Nessuno sta al passo: anche il proprio know-how è sempre indietro.

Reid Blackman: Se vuoi puoi usare certi capitoli del mio primo libro come accendino. Andavano bene allora, ma non li abbiamo resi sufficientemente a prova di futuro: chi immaginava ChatGPT o gli agenti AI nel 2024? Il vecchio approccio era valido per l’AI ristretta, non per l’AI agentica. Scordalo.

David Rice: Già nel 2022 pensavo che l’AI fosse roba da data scientist. Adesso chiunque la usa — e il fenomeno è solo destinato a crescere con sempre più complessità e utenti che fanno cose imprevedibili.

Reid Blackman: Esatto, e ciò mette in luce un punto cruciale: serve una comunicazione chiara. Oggi tutti stanno cercando di capirci qualcosa, ma i data scientist non sanno comunicare con HR o COO, e viceversa. In un paesaggio complesso, il linguaggio conta: se ci si esprime in modo confuso, la situazione peggiora.

Come parliamo in modo chiaro di queste cose? Serve una lingua comune per collaborare, anche perché gli agenti AI fanno cose cross-dipartimentali: occorre collaborazione, e la chiarezza linguistica è critica. Da qui il nome “incubo etico”: tutti comprendono cosa sia un incubo. Non è tecnico, non è jargon. Se chiedi a HR, possono specificare cosa sarebbe un incubo per loro. E così possono parlare con un data scientist partendo dagli incubi da evitare, invece che da procedure astruse. È molto più accessibile e concreto.

David Rice: Citi spesso gli scenari da incubo: il libro chiede ai leader di immaginare i peggiori esiti plausibili dei propri sistemi AI prima che accadano. Sembra scontato, ma non è pratica comune.

Cosa succede in quei momenti di brainstorming che sorprende i leader? E quanto davvero le aziende conoscono i loro stack AI?

Reid Blackman: Non li conoscono. Il lavoro sugli incubi ha aperto gli occhi a molti, anche se sembra ovvio. Io personalmente non avevo iniziato da qui, anche per la mia formazione da filosofo: di solito ragioniamo su ciò che è bene o giusto. Anche nel risk, spesso si pensa in termini di procedure (“raccogli solo i dati strettamente necessari...”).

Quindi, anche se pare ovvio, non si partiva mai dagli incubi, anche se in ingegneria classica questa prassi è la norma. Nel risk management "vecchia scuola" si crea una lista di possibili cedimenti e si va a prevenirli: in AI non era così. Però ora funziona. A livello di board, un tempo si partiva dai valori — equità, trasparenza, accountability, privacy — ma nessuno sapeva cosa volesse dire davvero. Alla fine si traduceva tutto in procedure, ma i board trovano tutto questo troppo tecnico e noioso.

Se invece si chiedono direttamente gli incubi, tutti capiscono subito. Gli incubi sono più facili da definire e generano maggiore allineamento: meno frizioni che partire dall’ideale astratto.

David Rice: È anche motivazionale: trasmette l’urgenza vera. Nessuno si entusiasma per "nuove procedure per la fairness", ma se parliamo di incubi che possono davvero accadere, ci pensi la notte e vuoi risolverlo.

Reid Blackman: Esatto. Nessuno corre per implementare procedure astratte di equità. Ma se pensi "potrebbe accadere davvero e avrebbe forti conseguenze", l’incubo ti tiene sveglio e ti spinge ad agire.

David Rice: Quello che mi piace della conversazione sugli incubi è che spinge verso l’onestà intellettuale. Perché le discussioni sui valori spesso sono troppo astratte o politicamente corrette. Parlare degli incubi costringe a nominare ciò che davvero fa paura — e serve una cultura dove ci si possa sentire sicuri nel farlo, senza passare per pessimisti.

Reid Blackman: Concordo. È anche un modo per costruire quella cultura etica: non serve enorme psychological safety, basta normalizzare la pratica: "Da noi si fa così". La sfida dell’Incubo Etico si fonda su tre domande chiave: quali sono gli incubi etici AI della tua organizzazione? Quali risorse hai per evitarli? Come formarai le persone per usare queste risorse efficacemente?

Queste tre domande sono portatili: puoi applicarle alla singola soluzione AI, al livello di dipartimento (es. HR), o anche all’intera azienda. Tutti dovrebbero essere formati su questi tre punti e sugli scenari da incubo. Ma in caso di sviluppo interno o procurement AI, servono team ENC (Etical Nightmare Challenge): cross-funzionali, con membri HR, data science, legal, risk, vendor, ecc.

Non basta però unirli in una stanza: serve un metodo in sette passi (sviluppato nel libro e usato in consulenza). Si identificano e si valutano le probabilità e impatti degli incubi, per dare priorità. Questi team si creano secondo necessità e aiutano a scalare la capacità organizzativa di anticipare e gestire rischi etici AI, influenzando la cultura.

David Rice: Dal punto di vista delle People Operations, mi sembra qualcosa da fare prima del deployment, non dopo un incidente. Ma molti HR leader si sentono sempre in reazione. Quali consigli per incorporare l’anticipazione nei processi, se non è ancora abitudine?

Reid Blackman: Per i team ENC a livello progetto, il focus è proprio la proattività: anticipare i possibili incubi prima che avvengano, includendo anche strumenti di monitoraggio post-deployment. Ma anche i team di dipartimento devono ragionare proattivamente: non aspettare che accada il peggio, ma domandarsi ora “come evitiamo i nostri incubi?”. Chiariamo che i team ENC devono essere risolutori di problemi, non meri esecutori di regole; la risposta può essere diversa ogni volta e i capi dipartimento dovrebbero abilitare i team di progetto fornendo risorse, inventory di incubi, soluzioni, oppure organizzare tavoli regolari di confronto. Questo è proattivo e orientato alla soluzione.

David Rice: L’AI agentica cambia il calcolo del rischio in modo che pochi leader hanno realizzato: i sistemi non solo rispondono, ma agiscono, concatenano decisioni e agiscono nel mondo a nome dell’organizzazione. Per COO e CPO cambia il tema dell’accountability: cosa significa se qualcosa va storto? Chi è responsabile degli agenti?

Reid Blackman: I team ENC sono il primo livello. Ma in realtà come per un incidente di elicottero: di chi è la colpa? Progettista, manifattura, manutenzione, pilota, ATC? Nell’AI agentica ci sono tanti livelli: il tool a cui l’agente era connesso, il sviluppatore LLM, il provider (Google, Microsoft…), gli sviluppatori interni che modificano la base, ecc. Non c’è una risposta generale come per gli elicotteri: bisogna analizzare caso per caso.

David Rice: E il punto è che l’AI agentica elimina il momento chiave umano della decisione. E lì viviamo l’accountability…

Reid Blackman: Se vuoi, la responsabilità può ricadere su chi ha dato il via libera. Ma con sistemi imprevedibili, non sempre è giusto attribuire tutta la colpa di cose non ragionevolmente prevedibili.

David Rice: Inoltre molti non sanno nemmeno se lavorano a fianco di agenti AI, e c’è un tema di trasparenza e consenso che va oltre la compliance. La fiducia si brucia facilmente, e sorprende che si sia arrivati qui così rapidamente.

Reid Blackman: Ultima cosa: molti executive hanno paura a parlarne coi dipendenti temendo che affrontare i rischi freni l’adozione. Mi è stato chiesto anche di cambiare la parola “incubo” perché sembra troppo negativa. Ma credo sia un errore: uno, perché i problemi esistono e ignorarli li fa solo peggiorare, e due, psicologicamente chi non capisce l’AI ha già ansie e parlare apertamente dei rischi può aiutarli a sentirsi più sicuri e ad adottare la tecnologia in modo più consapevole, piuttosto che minimizzare i rischi.

David Rice: Concordo: dobbiamo smettere di edulcorare il linguaggio. Cambiare le parole non aiuta la realtà né il dibattito. In questo caso, parlare di incubo o di disastro: cosa cambia? Meglio essere diretti.

Reid Blackman: Esatto. Vengo dalla filosofia, il linguaggio dev’essere diretto; non serve sorridere sempre e dire solo quanto sia bella l’AI.

David Rice: Si può ridere sui social, ma riconoscere che pure questi strumenti hanno effetti negativi è onesto. Spesso tendiamo a infantilizzare i dipendenti: sono adulti, vanno trattati da tali con franchezza.

Reid Blackman: Concordo. Ho bambini piccoli e evito il linguaggio da bambini, perché anche i dipendenti possono gestire la verità.

David Rice: E hanno già usato altre tecnologie nuove, quindi se non si danno linee guida chiare, troveranno soluzioni proprie che potrebbero non piacere all’azienda.

Reid Blackman: Esatto. L’esempio di quando la generative AI è uscita sembrava il discorso sulla castità: "Vietato usare l’AI!" E sappiamo che succede: la prima cosa che fanno è usare ChatGPT.

David Rice: Il primo istinto è provarla comunque…

Reid Blackman: Esatto! Preparatevi alle sorprese…

David Rice: Tu dici che spesso gli incubi etici non derivano da malafede, ma da persone benintenzionate che si muovono troppo in fretta senza capire a fondo i sistemi. Una verità scomoda per leader che puntano su velocità e vantaggio competitivo, ma anche per chi la tecnologia la usa ogni giorno. Come convincere il CEO che vede più rischi nel restare indietro e vuole risultati veloci, a prendere atto invece di questa realtà?

Reid Blackman: Non c’è contraddizione. Ho sempre criticato la retorica secondo cui l’etica AI sono i freni dell’auto. Ma oggi, con l’AI agentica, serve davvero un’educazione completa: spiegare entrambi i lati della medaglia. Formare la forza lavoro solo sulle opportunità, e non sui rischi, è assurdo. Per andare davvero più veloce bisogna mostrare come evitare le cadute: è solo buon senso. Se non capiscono quanto l’AI possa andare male, insegnagli come può succedere così useranno il proprio giudizio. L’unico modo per progredire.

David Rice: Ecco una delle riformulazioni più importanti che questa conversazione offre ai leader: il fallimento etico AI capita non solo ai "cattivi" ma anche a chi si muove più in fretta del proprio giudizio. Questo cambia l’intervento.

Reid Blackman: Ben detto: ci si muove più velocemente del giudizio umano.

David Rice: Cambia anche l’intervento: non impone solo nuove regole ma sviluppa la capacità organizzativa di rallentare nei momenti giusti. Nella cultura della velocità, questo è davvero rivoluzionario.

Reid Blackman: Esatto. Così arriva il "muoviti veloce e rompi le cose": o sei amorale o pensi che ricavi e cassa supereranno danni e multe (come Meta). Ma se davvero tieni al brand, non puoi permettertelo. Non è il modo giusto di procedere.

David Rice: Mi piace che tu sfidi la narrazione velocità-vs-etica: è una falsa scelta.

Reid Blackman: Sì. E aneddoticamente: sono tra i più avanti nell’adozione AI, la uso quotidianamente — e curo l’etica! Proprio perché so dove può andare male so anche come verificarne i risultati e fidarmi del mio giudizio. Quindi, tutta l’idea che o vai veloce o non puoi: non sta in piedi.

David Rice: Sfido sempre l’ideologia "muoviti veloce e rompi le cose". Il vero rischio è una crisi pubblica che distrugge la fiducia e l’azienda. Facciamo le cose a un ritmo normale e miglioriamole davvero.

Reid Blackman: Sono d’accordo. Molti cercano la "ragione universale" per cui fare AI governance. Ma per chi non è una colosso come Meta, i motivi ci sono: il tuo brand non reggerebbe uno scandalo, senza entrare nei motivi etici. È banale dirlo: ci sono moltissime buone ragioni per non muoversi senza pensare.

David Rice: Ultima domanda: se un leader C-suite condivide quanto stiamo dicendo e vede i rischi ma sa che i propri framework attuali non bastano, come dev’essere la prima conversazione seria interna, chi ci dev’essere e come condurla?

Reid Blackman: Non serve avere subito molte persone in aula. La sfida dell’Incubo Etico può partire a livello di progetto, dipartimento, divisione. Se c’è una domanda che bisogna porsi è: "Abbiamo mai identificato gli incubi etici, reputazionali, legali legati all’adozione AI?" Scommetto che risponderanno di no. E se non genera un “dobbiamo farlo”, allora nulla li smuoverà.

David Rice: Un punto pratico: non devi per forza costruire un programma etico AI completo da subito, puoi partire in piccolo, anche solo con una prima conversazione onesta su dove si trova l’azienda su questi temi.

Reid Blackman: Adesso lavoriamo coi clienti a modalità pilota per la sfida dell’incubo etico — prima non era possibile col vecchio approccio. Ad esempio: identifichi due-tre team di progetto, li formi, applichi il metodo e in 10 settimane testate la validità dell’approccio. Se funziona, puoi scalare; se no, nessun problema. È molto più semplice iniziare in piccolo rispetto a costruire una policy enterprise da subito — quella non è un’opzione realistica. Puoi e dovresti partire in piccolo.

David Rice: Grazie mille Reid. È stato un piacere, bella chiacchierata.

Reid Blackman: Anche per me, grazie a te.

David Rice: Amici ascoltatori, vi invito a seguire Reid Blackman e il suo libro "La sfida dell’Incubo Etico". È una lettura preziosa ricca di spunti cruciali per tutti noi.

Se non l’avete ancora fatto, iscrivetevi alla newsletter su peoplemanagingpeople.com/subscribe: riceverete podcast e novità direttamente nella vostra casella.

E fino alla prossima volta, abituiamoci a chiederci "Cosa potrebbe andare storto e chi rischia di essere danneggiato?" invece di "Quanto velocemente possiamo consegnare questo progetto?" A presto.