Gli Sforzi di AI nelle Imprese Risolvono il Problema della Fiducia Sbagliato
Definizione di Fiducia: La fiducia varia nelle imprese; una definizione riguarda la sicurezza, mentre le prospettive dei dipendenti sono spesso trascurate.
Prima la Sicurezza: Francis deSouza sottolinea che l’architettura di sicurezza è la base per la fiducia nell’AI nelle organizzazioni.
Bisogni di Trasparenza: L’onestà nelle interazioni tra fornitori e clienti è fondamentale, ma non corrisponde a equità o voce per i dipendenti.
La parola "fiducia" è apparsa dozzine di volte durante due sessioni sull'intelligenza artificiale aziendale a HumanX la scorsa settimana. Da queste sessioni è emerso che "fiducia" non è sempre la stessa parola all'interno dell'organizzazione.
Per Francis deSouza, COO di Google Cloud, la fiducia inizia con l'architettura di sicurezza.
"Non esiste conversazione sull'IA che non sia anche una conversazione sulla sicurezza", ha affermato, spiegando come le aziende debbano confrontarsi con nuove superfici di attacco, minacce agentiche e la necessità di ricostruire le strategie dei dati dalle fondamenta prima di implementare l'IA su larga scala.
Keep Reading—and Keep Leading Smarter
Create a free account to finish this piece and join a community of forward-thinking leaders unlocking tools, playbooks, and insights for thriving in the age of AI.
Have an account? Log In
Quando ha descritto i dipendenti che scaricano strumenti al di fuori della supervisione dell'IT, lo ha inquadrato come un problema di gestione del rischio. La soluzione è una piattaforma autorizzata, governata e auditabile.
In una sessione separata sulla progettazione di sistemi di IA che conquistino la fiducia degli utenti, Wendy Gonzalez di Sama ha offerto un punto d'ingresso diverso. Ha descritto una conversazione appena avuta con un collega poco prima di salire sul palco. La preoccupazione non era la perdita di lavoro. Non è una questione di sicurezza. Nessun modello di minaccia la prende in considerazione.
Non si trattava nemmeno di sapere se questo mi porterà via il lavoro. Era più che altro: se le persone vedono i miei prompt, penseranno che non sono così intelligente?
Il divario è sotto gli occhi di tutti
Questo è il problema. Le implementazioni di IA nelle aziende stanno diventando sempre più sofisticate secondo la definizione tecnica di fiducia — sicurezza, affidabilità, auditabilità, validazione dei modelli. Sono decisamente meno sviluppate dal punto di vista umano: ovvero se i dipendenti credono che i sistemi che influenzano il loro lavoro siano equi, onesti sui propri limiti, e concepiti tenendo conto delle persone che li utilizzano.
Le organizzazioni stanno confondendo i due concetti. Costruisci una piattaforma IA sicura, conforme, ben governata e il problema della fiducia sembra risolto. Quello che è stato risolto è la definizione del vendor che appare negli audit di sicurezza e nei framework di conformità.
La definizione dei dipendenti resta per lo più ignorata, e in molte conversazioni sull'IA aziendale, per lo più non posta.
Christina Casioppo di Vanta ha offerto quella che lei stessa ha definito la definizione più chiara della fiducia aziendale: responsabilità di "fare ciò che sta scritto sulla confezione".
In altre parole, se hai detto che avresti fatto X e invece stai facendo Y, dillo. È uno standard ragionevole, ma è uno standard azienda-a-azienda su come un fornitore guadagna la fiducia di un cliente. Quello che spetta ai dipendenti riceve meno attenzione.
Il momento più sincero della sessione è arrivato quando Casioppo ha descritto l'approccio di Vanta alla trasparenza interna: dire subito alle nuove assunzioni che in caso di conflitto, i clienti vengono prima.
La logica vuole che una dichiarazione preventiva attutisca lo shock successivo nel sentirsi messi in secondo piano. È onesto. Ma le pratiche di trasparenza dell’IA non sono sinonimo di equità, e conoscere il proprio posto nella gerarchia non equivale a poterlo influenzare.
Gonzalez si è avvicinata maggiormente al modello della fiducia dei dipendenti quando ha raccontato di aver permesso a gruppi di lavoratori di testare strumenti diversi, condividere ciò che funzionava e ciò che no, e celebrare entrambi.
Lo ha presentato come un modo per costruire una fiducia autentica invece di imporre una piattaforma dall'alto. È qualcosa di molto diverso dall'imporre l’adozione e misurare i numeri. Ma comunque si ferma all’adozione.
La fiducia, nel senso che i CHRO e i COO dovrebbero davvero considerare, significa qualcosa in più: i dipendenti credono che l’IA venga implementata in modi che tengono conto dei loro interessi, che le decisioni che influenza siano eque e che esista un luogo dove rivolgersi quando non lo sono?
Quando il sistema diventa il decisore
Lo strato agentico rende questa questione ancora più urgente. Gonzalez ha tracciato una distinzione che va dritta al cuore della questione.
Una cosa è fidarsi di un risultato, un'altra è fidarsi di un intero sistema." — Wendy Gonzalez, Sama
Quando l'IA risponde a una domanda, un lavoratore può valutare la risposta. Quando l'IA indirizza il lavoro, segnala le prestazioni o influenza chi ottiene quale opportunità, spesso il lavoratore non può vedere affatto il sistema. Gli standard di trasparenza che hanno senso a livello di modello non si estendono automaticamente alle persone che vivono all'interno dei risultati del modello.
DeSouza ha descritto l'obiettivo a lungo termine come la costruzione di una forza lavoro "bilingue" — fluente sia nella propria funzione che nell'IA. Ha indicato gli hackathon interni di Google, dove il team delle Risorse Umane ha vinto due volte di seguito, come prova che una vasta adozione può produrre una vera padronanza trasversale tra le funzioni.
È un segnale utile. Ma la padronanza di uno strumento non equivale alla fiducia nel sistema a cui appartiene quello strumento. I dipendenti possono essere utenti molto capaci dell'IA e tuttavia non avere alcuna visibilità su come l'IA viene utilizzata per valutare, classificare o riallocarli.
La forza lavoro di successo del futuro sarà bilingue in ogni funzione. Tutti conosceranno la propria funzione e l’IA.
Entrambe le sessioni sono state sostanziose. I relatori sono stati attenti. Ciò che colpisce non è ciò che qualcuno ha sbagliato, ma ciò a cui la conversazione sull'IA in ambito aziendale, nel suo complesso, non ha ancora lasciato spazio.
Sicurezza e conformità sono problemi reali, urgenti e davvero complessi. Ma questi descrivono l'infrastruttura della fiducia, non l'esperienza della stessa. Per i dipendenti a cui viene chiesto di costruire la propria vita lavorativa attorno a questi sistemi, questa distinzione è la vera questione.
