Le domande sulla governance a cui solo le Risorse Umane possono rispondere
Lo strumento di Amazon: Amazon ha abbandonato uno strumento di selezione del personale che mostrava pregiudizi perché addestrato su dieci anni di assunzioni a prevalenza maschile.
Rischio di pregiudizi: La valutazione dei sistemi di IA mancava di attenzione agli esiti equi, favorendo la proliferazione di bias e lacune nella governance.
Ruolo della governance: Le Risorse Umane sono fondamentali nella governance dell’IA per garantire esiti equi e processi trasparenti per i dipendenti.
IA ad alto rischio: L’AI Act europeo classifica l’uso dell’IA nel lavoro come ad alto rischio e impone documentazione rigida e controllo attento.
Sfida per le HR: Le Risorse Umane non hanno autorità nella governance dell’IA e serve sostegno del top management per fissare standard e responsabilità.
Nel 2018, Amazon ha abbandonato uno strumento di apprendimento automatico che stava sviluppando da anni per selezionare i curriculum. Il sistema era stato addestrato su un decennio di dati relativi alle assunzioni che riflettevano la preferenza storica dell'azienda per candidati uomini nei ruoli tecnici.
Il modello aveva imparato da quel modello comportamentale e lo replicava, penalizzando i curriculum che includevano parole come "delle donne" e sfavorendo i laureati di college femminili. Gli ingegneri di Amazon hanno tentato di correggerlo. Non potevano però garantire che il pregiudizio non emergesse in altri modi, e così hanno deciso di chiudere il progetto.
Questa storia viene spesso citata come caso di scuola per evidenziare i rischi di bias dell'IA. Quello che si discute meno è la questione strutturale che solleva: di chi era la responsabilità di accorgersene fin dall'inizio?
Keep Reading—and Keep Leading Smarter
Create a free account to finish this piece and join a community of forward-thinking leaders unlocking tools, playbooks, and insights for thriving in the age of AI.
Have an account? Log In
I team tecnici che costruivano il sistema erano concentrati sul funzionamento dello strumento. Il reparto legale probabilmente si occupava di valutare la responsabilità. Nessuno, a quanto pare, si occupava di verificare che il sistema producesse risultati equi per le persone che stava valutando, almeno non come funzione primaria di governance.
Questo problema non è stato risolto nella maggior parte delle organizzazioni. Anzi, con l'espansione e l'accelerazione dell'adozione dell'IA nelle aziende, sta diventando ancora più difficile da affrontare.
Le Due Domande a Cui si Sta Rispondendo Oggi
La maggior parte dei framework di governance dell'IA aziendale è stata costruita per rispondere a due categorie di domande.
La prima è di tipo legale: quali responsabilità esistono se il sistema fallisce, genera un esito discriminatorio o espone dati regolamentati?
La seconda è tecnica: quali sono le modalità di fallimento, su quali dati è addestrato il sistema, dove sono le vulnerabilità in termini di sicurezza? Entrambe le categorie sono importanti, ma nessuna è sufficiente da sola, perché nessuna è stata progettata con l'obbligo principale di tutelare le persone coinvolte nei processi automatizzati.
Non è una critica al legale o all'IT. Queste funzioni hanno costruito i framework di governance per rispondere alle domande per cui sono state ingaggiate. Il problema è che l'adozione aziendale dell'IA è stata così rapida da superare qualsiasi discussione su chi dovesse prendersi carico delle questioni residue, così la maggior parte delle organizzazioni si è rifatta agli schemi già esistenti.
Secondo il Responsible AI survey di PwC 2025, il 56% dei dirigenti dichiara che i loro team di prima linea — IT, ingegneria, dati e IA — ora guidano gli sforzi sull'IA responsabile. Le risorse umane non compaiono in questa statistica in modo significativo.
Secondo il Governance Survey 2025 di Pacific AI, tre quarti delle organizzazioni hanno definito policy sull'uso dell'IA, ma solo il 36% ha adottato un vero e proprio framework di governance, cioè con ruoli, controlli ed enforcement definiti. La distanza tra un documento di policy e una reale responsabilità funzionale è proprio lo spazio in cui le domande sulle persone rimangono senza risposta.
L'AI Act dell'UE, che ha iniziato a introdurre requisiti di enforcement nel 2024, classifica i sistemi di IA utilizzati in ambito lavorativo e per la gestione del personale come ad alto rischio per categoria. Questa classificazione include strumenti per selezione, valutazione delle prestazioni, attribuzione di compiti e monitoraggio. In sostanza, l'insieme dei sistemi che la maggior parte delle aziende sta ora implementando su larga scala.
La classificazione di alto rischio implica requisiti più rigorosi di documentazione, trasparenza e supervisione umana. Non specifica però chi, all'interno dell'organizzazione, sia responsabile di garantire tali requisiti. La domanda torna quindi all'azienda stessa.
Nella maggior parte delle organizzazioni, la risposta è stata "chi già si occupa della governance". Tipicamente si tratta delle funzioni legale, compliance o sicurezza informatica — cioè quelle con framework già consolidati. Le risorse umane spesso vengono coinvolte come stakeholder o consultate durante l'implementazione. Raramente guidano questi processi.
Le Domande che Vengono Tralasciate
Le domande che determinano se l'IA danneggia effettivamente le persone non coincidono né con il rischio legale né con il fallimento tecnico. Richiedono un punto di partenza diverso.
Questo sistema sta producendo risultati distorti tra gruppi demografici?
Rispondere a questa domanda richiede di sapere che cosa significhi equità in uno specifico contesto lavorativo, non solo cosa sia difendibile legalmente. Sono standard diversi.
Un sistema può essere difendibile dal punto di vista legale e comunque generare risultati sistematicamente peggiori per un gruppo di dipendenti rispetto a un altro. Accorgersene richiede qualcuno che sappia cosa significa un approccio equo in ambito occupazionale e abbia l'autorità per segnalare quando un sistema se ne discosta.
I dipendenti vengono valutati su dati che non comprendono o di cui non sono stati informati della raccolta?
Secondo il sondaggio Owl Labs del 2025 sul posto di lavoro, il 20,5% dei dipendenti non è sicuro che sia in atto un monitoraggio, e il 12,8% non sa cosa viene effettivamente tracciato.
Non si tratta di una questione marginale. Il 61% delle aziende statunitensi ormai utilizza analisi basate sull’IA per misurare la produttività o il comportamento dei dipendenti. Che i dipendenti siano a conoscenza o meno di questa pratica, comprendano come essa influenzi le valutazioni o dispongano di mezzi per contestare ciò che viene prodotto dal sistema, sono tutte questioni riguardanti il rapporto di lavoro. Questi aspetti ricadono nella funzione che detiene la responsabilità della relazione occupazionale.
Chi decide quando una raccomandazione dell’IA viene ignorata e su quali basi?
Nelle organizzazioni in cui gli strumenti di IA influenzano o supportano decisioni su assunzioni, promozioni, valutazioni delle prestazioni o licenziamenti, la questione della deroga è tra le più rilevanti decisioni di governance che un’azienda possa affrontare.
Sbagliare in un senso significa lasciare che le raccomandazioni dell’IA non vengano mai messe in discussione. Sbagliare nell’altro senso rende le uscite del sistema una sorta di teatro consultivo, o un’infrastruttura costosa a cui nessuno dà fiducia.
Calibrare tale soglia richiede comprensione sia di come funziona lo strumento che di come i manager prendono decisioni, dove può introdursi il bias nelle valutazioni umane e come garantire responsabilità quando gli esiti vengono contestati.
Nessuna di queste domande trova un posto nelle tradizionali strutture di governance aziendali. Richiedono competenze specifiche che appartengono all’HR e al design organizzativo, non all’area legale o ingegneristica.
La mappa delle responsabilità
Le competenze dell’HR nella governance dell’IA non sono una questione di preferenze o dinamiche politiche interne. È una conseguenza funzionale. L’HR è la funzione aziendale con l’obbligo primario verso i dipendenti: dalla loro equa gestione allo sviluppo, fino alla tutela dei loro diritti all’interno della relazione lavorativa.
Questo obbligo non viene meno quando entra in gioco l’IA, ma diventa certamente più complesso.
Diverse decisioni sulla responsabilità spettano per natura all’HR e non sono solo una questione di delega.
L’auditing dei bias nell’IA applicata al lavoro è il caso più diretto
I team tecnici possono testare che i modelli si comportino in modo coerente con i dati in ingresso. Solo l’HR può valutare se la coerenza delle prestazioni si traduca in risultati equi nel contesto specifico e se lo strumento di valutazione delle prestazioni che utilizza lo stesso criterio per tutti finisca, in pratica, per produrre distribuzioni di valutazioni che svantaggiano dipendenti in certe mansioni, aree geografiche o gruppi demografici.
Questo richiede accesso ai dati HR, conoscenza del diritto del lavoro e degli standard di equità, oltre alla posizione organizzativa necessaria per intervenire in base a ciò che si scopre.
Obblighi di trasparenza verso i dipendenti
I dipendenti hanno interesse a sapere quando viene utilizzata l’IA per prendere decisioni che li riguardano, quali dati vengono impiegati e come vengono tratte le conclusioni.
In alcune giurisdizioni, possiedono diritti legali a tali informazioni. Che un’organizzazione soddisfi questi obblighi tramite policy, formazione o disegno dei processi, e se li consideri un limite minimo o uno standard autentico, dipende dalle pratiche HR.
Il potere di ignorare le decisioni dell’IA
La progettazione della possibilità di intervento umano è più sfumata ed essenziale di quanto solitamente si riconosca. Decidere quando una persona può o deve ignorare una raccomandazione dell’IA richiede comprendere dove e quando gli strumenti di IA possono fallire, dove il giudizio umano è più affidabile e come inserire elementi di responsabilità nelle decisioni di override, affinché non diventino semplicemente nuove occasioni di bias.
Questo richiede qualcuno che conosca sia lo strumento sia i comportamenti organizzativi che vi ruotano attorno. L’HR, in stretta collaborazione con i team che implementano l’IA, è la funzione più adatta a esercitare questa responsabilità di progettazione.
More Articles
- La tua implementazione dell’IA è una radiografia culturale. La maggior parte dei leader non sta guardando.
- Come Padroneggiare Praticamente le Interazioni con l’IA e Sviluppare un Playbook per l’Intelligenza Artificiale
- Non Perdere la Bussola: Come Evitare che l’Uso dell’IA Diventi un Indicatore di Performance
Tutela del dipendente
Quando qualcuno ritiene che una decisione influenzata dall’IA sia sbagliata, la responsabilità di gestire questa situazione ricade sull’HR. Non solo perché l’HR gestisce i reclami, ma perché la progettazione di strumenti di tutela richiede pensare a come indagare le controversie che coinvolgono output dell’IA, quali prove siano disponibili e quali rimedi siano possibili.
Il settore legale definisce il minimo. Le Risorse Umane definiscono se l'organizzazione lo prende davvero sul serio.
Competenze Tecniche
C'è un'obiezione ragionevole all'idea di una governance dell'IA guidata dalle Risorse Umane, ed è opportuno affrontarla direttamente. Le Risorse Umane spesso non hanno le competenze tecniche per valutare i sistemi di IA.
È vero. Ma l'autorità nella governance e la valutazione tecnica sono cose diverse. Il settore legale non scrive codice e la finanza non gestisce i processi ingegneristici che controlla.
La funzione che detiene un dominio di governance non deve necessariamente svolgere il lavoro tecnico, ma deve avere l'autorevolezza e la competenza per stabilire gli standard, valutare i risultati e chiedere conto agli altri.
Ciò di cui le Risorse Umane hanno bisogno per guidare la governance dell'IA non è un team di informatici. Serve chiarezza sulle domande a cui sono obbligate a rispondere, l'autorità organizzativa per porle e l'accesso alle risorse tecniche e ai dati necessari per rispondere.
Nella maggior parte delle aziende oggi, le Risorse Umane dispongono di versioni limitate di tutti e tre questi aspetti. L'autorità organizzativa spesso è la componente più difficile da costruire, perché richiede ai CHRO di reclamare un territorio di governance che altre funzioni hanno occupato per default.
Questa rivendicazione deve avvenire a livello di C-suite. Un comitato di governance dell'IA composto esclusivamente da legale e IT produrrà quadri di rischio legale e tecnico. Aggiungere le Risorse Umane come partecipanti al quadro di qualcun altro non cambia l'ordine delle domande a cui si risponde.
I CHRO con cui parlo e che hanno costruito una governance efficace dell’IA centrata sulle persone, in genere lo hanno fatto stabilendo chiaramente la responsabilità delle Risorse Umane prima che vengano prese decisioni sul deployment, non cercando di influenzare a posteriori un processo già strutturato attorno ad altre priorità.
Il fallimento dello strumento di selezione Amazon è avvenuto perché l’organizzazione che lo ha sviluppato non aveva una funzione con una chiara titolarità della domanda “questi risultati sono equi per le persone sottoposte a screening?”. Il settore legale si è posto il problema della responsabilità. L’ingegneria si è occupata delle prestazioni. Nessuna delle due domande ha colto cosa stava effettivamente andando storto.
L’IA nelle aziende ora prende o influenza decisioni su chi viene assunto, chi viene promosso, come viene valutata la performance e come viene monitorato il lavoro, su una scala che supera di gran lunga quanto potrebbe fare un singolo manager. Con l'entrata in vigore integrale dell’AI Act UE per i sistemi occupazionali prevista per agosto, questa ambiguità sta diventando una responsabilità in più di un modo.
Le Risorse Umane sono state assunte per proteggere le persone all'interno delle organizzazioni. Ora la governance dell’IA è uno dei principali ambiti in cui questa responsabilità deve essere esercitata. La funzione può rivendicare questo ruolo oppure cederlo a quadri pensati per altre domande.
