Perché i tradizionali framework di gestione del rischio AI non funzionano più

David Rice: Una dirigente legale di una società Fortune 500 l'ha detto in questo modo: la sua azienda non stava andando a fuoco, ma sembrava che tutti tenessero in mano un lanciafiamme. È in questa situazione che si trovano la maggior parte delle organizzazioni ora: consapevoli del rischio, senza sapere davvero dove puntare il tubo dell'acqua, e il pericolo non viene dall'esterno. È la spinta interna che nessuno sa come fermare.

Nella puntata di oggi, parlo con Reid Blackman, autore de La Sfida dell'Incubo Etico, sul perché i tradizionali framework di governance non sono progettati per l'attuale situazione. I vostri dipendenti stanno già usando l'intelligenza artificiale in modi che non avete previsto. Non potete anticipare come utilizzeranno gli agenti AI, e l'unica leva che molti leader conoscono è limitare l’accesso, che in realtà non è una soluzione.

Reid fa notare qualcosa che taglia molte delle discussioni su questo tema. Muoversi rapidamente e prendere sul serio l’etica dell’AI non sono opposti. Le aziende che trattano la questione come una scelta binaria stanno creando proprio quei fallimenti catastrofici di fiducia che vogliono evitare. E non è necessario creare un programma di etica AI completo dall’oggi al domani.

Si può iniziare a livello di progetto, con due o tre team, un pilota di dieci settimane, anche solo con una conversazione onesta su dove potrebbero nascere gli incubi. Allora qual è la prima domanda che vale la pena farsi nella vostra organizzazione? Che ne dite di questa: ci siamo fermati a identificare quali potrebbero essere gli incubi etici, reputazionali e legali derivanti dal modo in cui stiamo adottando l’AI?

La maggior parte delle organizzazioni, se oneste, risponderanno di no, ed è proprio da lì che bisogna partire. Quindi oggi affronteremo il motivo per cui la governance tradizionale del rischio non è attrezzata per l’AI generativa o per gli agenti. Cosa rende l’AI agentica una sfida di governance fondamentalmente diversa, perché velocità ed etica non sono in contrapposizione e quali siano in realtà i costi del modello “muoviti veloce e rompi le cose”. E infine, come iniziare la Sfida dell’Incubo Etico a livello di progetto.

Sono David Rice, e questo è People Managing People. E se la vostra organizzazione non si è ancora fermata a chiedersi cosa potrebbe andare storto e chi potrebbe essere danneggiato, questa conversazione vi mostra perché non potete più attendere a lungo prima di farvi quella domanda. Iniziamo.

Bene, Reid. Benvenuto allo show, è un piacere averti qui.

Reid Blackman: Grazie per l'invito.

David Rice: Sì, ho qui il libro. Mi piace, penso sia una buona lettura per chiunque stia riflettendo sulle sfide etiche dell’AI.

Reid Blackman: Non è il mio genere, ma sono contento che a te piaccia.

David Rice: Nel testo descrivi una dirigente legale di una società Fortune 500 che diceva che la sua azienda non era in fiamme, ma sembrava che tutti stessero impugnando un lanciafiamme. Mi piace molto questa immagine.

Reid Blackman: Già, è una citazione diretta.

David Rice: È un'immagine straordinaria, vero? Perché cattura proprio ciò che molti leader stanno provando, adesso. Sono consapevoli del rischio, ma davvero non sanno dove indirizzare il “tubo dell’acqua” su questa cosa dell’AI. Secondo te, qual è il motivo strutturale per cui la maggior parte delle organizzazioni è in questa posizione?

E perché la governance tradizionale del rischio non colma questa lacuna?

Reid Blackman: È una domanda importante. Ok, il motivo per cui si sentono così è che ci sono molte ragioni. Una delle principali è che non sanno in quale tipo di problemi possano incorrere i loro dipendenti. Perché la questione, iniziata con l’AI generativa e ora con gli agenti AI – di cui possiamo parlare – è che possono essere usati in tantissimi contesti diversi, da molte persone differenti e per scopi diversi che non si possono prevedere.

Semplicemente non si possono prevedere tutti i modi in cui lo strumento verrà usato. E questo perché, lo sappiamo, queste tecnologie possono assumere comportamenti che violano la privacy, essere di parte o discriminatorie, possono “allucinare” o inventare informazioni. Ci sono già studi legali e grandi società di revisione che hanno consegnato lavori ai clienti con materiale generato da AI ma non veritiero.

Quindi, se unite il fatto che ci sono tanti modi in cui le cose possono andare storte con l’AI, al fatto che non potete prevedere come tutti i vostri dipendenti la utilizzeranno, è ovvio essere preoccupati dal fatto che, ormai, ognuno tiene in mano un lanciafiamme. Se la domanda era perché il modello standard non funziona, mi fermo un momento qui.

David Rice: Ciò che mi colpisce di questa immagine è che mette il pericolo nelle mani di chi dovrebbe guidare, non di una minaccia esterna. È quella spinta interna che nessuno sa più controllare. È un problema di leadership e cultura, oltre che di governance.

Reid Blackman: L'unico modo che conoscono per rallentare è limitare o bandire l’uso degli strumenti.

David Rice: Che però non è una vera soluzione.

Reid Blackman: No, al massimo è un rimedio temporaneo. Diventa ancora più critico con l’AI agentica. Quando chiedete ai dipendenti di “usare questi nuovi sistemi agentici, costruite il vostro agente, la vostra dashboard”, le cose sfuggono rapidamente di mano perché nessuno sa cosa potranno fare e per quali usi li integreranno nei propri processi decisionali.

Metteranno i giusti controlli? Sapranno riconoscere i rischi? Sapranno esercitare il proprio giudizio professionale in un contesto così grigio?

David Rice: È davvero difficile, vero? L’agentica è forse leggermente diversa per il modo in cui deve essere progettata. Ma penso che, quando pensiamo agli LLM e alla GenAI nei luoghi di lavoro, quello che trovo interessante dell’analogia del lanciafiamme è che RH entra nella stanza e