La responsabilità si ferma da nessuna parte: all’interno del vuoto di responsabilità dell’IA
La realtà del rifiuto: I sistemi IA stanno rifiutando candidature senza revisione umana, sollevando questioni legali di responsabilità.
Divario di governance: La governance dell’IA manca di una chiara responsabilità, poiché le politiche non assegnano la titolarità sugli impatti decisionali.
Responsabilità dell’IA: I tribunali si interrogano su chi dovrebbe monitorare le decisioni dell’IA, ritenendo i datori di lavoro responsabili per esiti discriminatori causati dall’IA.
Disallineamento delle politiche: Le politiche esistenti non si adattano ai cambiamenti organizzativi, causando problemi di governance con gli strumenti IA.
Implicazioni legali: La legge sull’IA del Colorado stabilisce un precedente per la responsabilità IA, influenzando decisioni occupazionali e standard legali a livello nazionale.
Alle 1:50 del mattino, Derek Mobley ricevette un rifiuto. Aveva inviato la candidatura meno di un'ora prima. Nessun responsabile delle assunzioni aveva esaminato il suo curriculum, nessun recruiter aveva valutato la sua esperienza.
Il sistema lo aveva processato, aveva emesso un verdetto e si era mosso oltre prima che qualcuno in azienda iniziasse la giornata lavorativa. Mobley, che è nero e ha più di quarant'anni, avrebbe presentato oltre cento candidature tramite la piattaforma di Workday, venendo respinto ogni volta.
La causa che ha intentato nel 2023 è ora un'azione collettiva nazionale certificata, che potrebbe coprire centinaia di milioni di candidati. Workday sostiene di non essere il datore di lavoro, il che tecnicamente è vero. Le aziende dicono che non prendevano loro le decisioni, anche questo è tecnicamente vero. Un tribunale federale ha stabilito che il fatto che queste due cose siano vere contemporaneamente è esattamente il problema.
Keep Reading—and Keep Leading Smarter
Create a free account to finish this piece and join a community of forward-thinking leaders unlocking tools, playbooks, and insights for thriving in the age of AI.
Have an account? Log In
Quando una piattaforma esercita giudizio, non solo applicando criteri ma partecipando alla decisione, agisce come agente del datore di lavoro. Di conseguenza, il datore di lavoro eredita la responsabilità. Quello che ora i tribunali stanno sottolineando non è se l'IA abbia preso una decisione sbagliata. Ma chi avrebbe dovuto sorvegliarla.
Questa domanda arriva sulle scrivanie dei CHRO (Chief Human Resources Officer). Non perché se la siano cercata, e certamente non perché abbiano l'autorità, il budget o le strutture giuridiche per dare una risposta. Ma perché qualcuno deve occuparsene, e loro sono la figura più vicina che la maggior parte delle organizzazioni ha a un proprietario del rischio legato alle persone che l’IA sta generando su larga scala.
Responsabilità diffusa, accountability assente
Sean McIntire, Chief Legal Officer di PEBL, ha osservato come le organizzazioni costruiscano politiche sull’IA con sincera attenzione, per poi vederle dissolversi fra il livello esecutivo e chi effettivamente prende le decisioni.
"Responsabilità diffusa, accountability da qualche parte", ha detto durante un panel sui rischi dell’IA a Transform a Las Vegas questa settimana. Sembra una soluzione. Non lo è.
Fa un paragone con il GDPR. Quando quel regolamento entrò in vigore, le aziende si precipitarono a cercare soluzioni. Molte non avevano idea di dove fossero conservati i dati personali, chi li trattasse o quali obblighi effettivi avessero.
Il caos era reale, ma fu anche una funzione di pressione. Le organizzazioni che ne sono uscite con solidi programmi di governance dei dati non sono solo diventate conformi, ma hanno costruito infrastrutture rivelatesi durature.
Secondo McIntire, l’IA si trova nello stesso momento pre-funzione di pressione, e la maggior parte delle aziende si comporta come all’arrivo del GDPR: reagendo alla minaccia superficiale mentre il problema strutturale resta irrisolto.
Questo problema strutturale, detto chiaramente, è il seguente. Gli strumenti di IA sono entrati nel mondo del lavoro principalmente dalla porta dell’efficienza, che conduce a selezioni più rapide, segnali automatizzati sulle performance, benchmarking delle retribuzioni e feedback continui.
Le aziende che li adottano hanno sempre trattato l’approvvigionamento e la governance come problemi separati. Il legale revisionava i contratti. L'IT approvava la sicurezza. La finanza firmava il budget. Alle risorse umane veniva affidato il deployment e si chiedeva di gestirlo.
Ciò che nessuno ha chiaramente stabilito è chi si assume la responsabilità se lo strumento prende una decisione significativa che danneggia qualcuno.
Il modo di porre la questione secondo McIntire coglie il punto esatto. La governance dell’IA, nella maggior parte delle aziende, è deliberatamente diffusa. Esiste una policy. Esiste un gruppo di lavoro. Esistono linee guida sull’uso. Ciò che non esiste è una persona identificata, con sia l’autorità che le risorse, ritenuta responsabile quando qualcosa va storto.
Il comitato non c’è alle 2 del mattino
I dati rendono tutto concreto. Un sondaggio Gartner su più di 1.800 dirigenti ha rilevato che il 55% delle organizzazioni dichiara di avere un board per l’IA o un comitato di supervisione dedicato. Sembra un passo avanti, finché non si guarda alla cifra abbinata fornita da McKinsey: solo il 28% delle organizzazioni afferma che il CEO si assume la responsabilità diretta della supervisione della governance dell’IA.
I consigli d’amministrazione vanno peggio, con solo il 17% che incorpora formalmente la governance dell'IA nelle proprie funzioni di comitato.
I comitati esistono. L’accountability no.
Vittoria Reimers, responsabile delle risorse umane in Juniper Square e ideatrice di uno dei modelli di governance dell’IA più seri dal punto di vista operativo che si possano trovare sul mercato medio, non attribuisce molta importanza ai soli comitati.
La vostra prima linea di difesa sono le persone e i processi. Il comitato di governance semplicemente non sarà presente per la decisione presa da qualcuno in una frazione di secondo alle 2 del mattino.
Ciò a cui fa riferimento è una realtà organizzativa che i framework di governance raramente considerano. Le decisioni che generano il rischio maggiore non vengono prese nelle sale dei comitati. Vengono prese dagli ingegneri che sviluppano funzionalità di modello sotto scadenza, dai manager che agiscono su segnalazioni di performance generate dall'IA per raccomandare un licenziamento, dai recruiter che selezionano candidati tramite strumenti di screening di cui non comprendono appieno la logica sottostante.
L'apparato di governance opera a un livello di astrazione che il lavoro reale non raggiunge.
Reimers ha costruito una risposta pratica a questa dinamica in Juniper Square. Il suo team ha creato quello che hanno chiamato ACE. Si tratta di circa dieci-dodici dipendenti distribuiti nell'organizzazione, che funzionano come consulenti informali sull'IA mantenendo però i propri ruoli regolari.
La proposta era diretta: se stai costruendo qualcosa e non sai se sia sicuro o scalabile, rivolgiti ad ACE. L'adesione l'ha sorpresa. Le persone si sono rivolte ad ACE con costanza, perché finalmente avevano un processo che rispondeva ai veri problemi che affrontavano, non un documento di policy calato dall'alto.
Dedicate molto tempo alla vostra policy di utilizzo, al consiglio di governance, al vostro comitato di governance", ha detto. "Poi dedicate dieci volte tanto alle persone: al loro empowerment, alla loro formazione, alla vostra cultura.
Il modello ACE non risolve la questione della responsabilità ai vertici dell'organizzazione. Ma riesce a fare ciò che la struttura formale di governance non riesce: sposta la responsabilità dove effettivamente vengono prese le decisioni.
Cosa ha ereditato l’HR
Matt Poepsel riflette su questo divario da un punto di vista diverso. Come Vicepresidente di Talent Optimization presso The Predictive Index, lavora a stretto contatto con i leader delle risorse umane che affrontano la distanza tra ciò che l’IA promette e ciò che offre quando viene implementata senza considerare il contesto organizzativo.
Racconta di un periodo della sua carriera da manager in cui gli mancava il contesto necessario per guidare con efficacia — quando ha preso decisioni di cui poi si è pentito, non per cattiva intenzione, ma per informazioni incomplete.
Questo, sostiene, è ciò che sta facendo attualmente l’IA, su vasta scala, in ogni organizzazione che ha implementato uno strumento generico aspettandosi che comprendesse le specificità della propria forza lavoro.
Dicono che dobbiamo mantenere l’uomo nel processo. Io direi che dobbiamo mantenere le risorse umane nel processo. Vedo l’HR affrontare la stessa difficoltà che avevo io quando mi concentravo troppo sulla parte tecnica dell’equazione.
Quella marginalizzazione è in parte strutturale e in parte storica. L’HR ha trascorso anni a cercare di guadagnarsi un posto al tavolo del business. Quando sono arrivati gli strumenti di IA, spesso erano presentati come la via per l’HR di dimostrare il ROI attraverso cicli di assunzione più rapidi, riduzione dei costi di abbandono e automazione della compliance.
Questa impostazione ha reso l’HR un beneficiario del deployment dell’IA, non l'artefice. La discussione sulla governance, dove avveniva, tendeva a coinvolgere legale, IT e finanza. L’HR otteneva gli strumenti. La responsabilità di quegli strumenti ricadeva altrove, o da nessuna parte in particolare.
La critica di Poepsel è netta: un’IA generica non conosce la tua organizzazione. Non conosce la tua cultura, le dinamiche comportamentali, la tua storia, né le popolazioni specifiche su cui prende decisioni.
Ciò che produce sono risultati dal suono plausibile ma privi di quell’indispensabile contesto che ogni HR esperto possiede per istinto. Quando l’IA segnala un'anomalia nelle performance, valuta un candidato, o raccomanda un adeguamento della retribuzione, lo fa su modelli che ignorano chi si trova effettivamente davanti. Il leader HR che è stato nella stanza per tre anni, invece, lo sa.
Se l’IA può farlo, per definizione è una commodity, ha detto Poepsel. "Quello che ci porti tu è la differenziazione.
È una situazione scomoda, ma importante. Il valore delle Risorse Umane in un'organizzazione assistita dall'IA non sta nell’esecuzione: gli strumenti possono farlo più velocemente. Il valore sta nel giudizio: sapere quando il risultato è errato, quando il contesto conta, quando una decisione comporta conseguenze che il modello non può percepire.
Proprio quel giudizio è esattamente ciò che viene eliminato dalle organizzazioni che adottano l’IA senza ridisegnare i processi e i ruoli intorno ad essa.
More Articles
La funzione giuridica vincolante
Il 30 giugno 2026 entrerà in vigore il Colorado AI Act, diventando la prima legge statale negli Stati Uniti a imporre obblighi completi di governance sia agli sviluppatori sia agli utilizzatori di sistemi di IA che influenzano decisioni occupazionali di rilievo.
I requisiti sono significativi. I datori di lavoro devono mantenere programmi documentati di gestione del rischio, condurre valutazioni di impatto annuali, notificare ai dipendenti quando una decisione che li riguarda è stata influenzata dall’IA e segnalare risultati discriminatori al procuratore generale dello Stato.
La legge raccomanda il NIST AI Risk Management Framework come standard operativo di conformità. Si applica indipendentemente dalla dimensione del datore di lavoro.
Il Colorado potrebbe avere un’influenza maggiore qui. Altri stati stanno osservando, e il gruppo di lavoro regolatorio assemblato dal Governatore Jared Polis ha raggiunto un consenso unanime sulle revisioni appena questo mese, il che significa che la forma finale della legge è ancora in evoluzione, ma non la sua ambizione.
Mobley spiega perché questo aspetto è rilevante oltre i confini del Colorado. Il tribunale non aveva bisogno di una legge statale sull’IA per stabilire che Workday poteva essere ritenuta responsabile come agente dei datori di lavoro che utilizzano la sua piattaforma.
La teoria dell’agenzia, secondo cui la partecipazione a una decisione rilevante crea una responsabilità condivisa, viene applicata agli strumenti di IA proprio ora, secondo le attuali leggi federali anti-discriminazione. Un datore di lavoro non deve necessariamente operare in Colorado per dover affrontare l’argomentazione secondo cui ha delegato una decisione di assunzione a un sistema che ha esercitato un vero giudizio, e che quel giudizio ha prodotto un risultato discriminatorio alle 1:50 di notte mentre tutti dormivano.
L’esposizione legale è direttamente legata al vuoto di governance. Un datore di lavoro che non è in grado di dimostrare chi ha revisionato lo strumento di IA prima dell’implementazione, chi lo monitora per pattern discriminatori e chi è responsabile dei suoi risultati non ha alcuna difesa efficace quando una decisione viene contestata. Il comitato aveva fatto una riunione. Nessuno stava controllando.
Ridefinire le responsabilità
Chelsea Gregory, della società di IA in ambito sanitario Suki, ha recentemente supervisionato una revisione del manuale dei dipendenti. Ha offerto al pubblico di Transform un esempio concreto di come il gap di governance si manifesti prima di diventare un problema legale.
Una politica flessibile di PTO che funzionava bene con un piccolo team ha iniziato a generare reclami di equità quando l’azienda è cresciuta. Un manager aveva approvato periodi prolungati di assenza per i nuovi assunti, mentre il personale con maggiore anzianità percepiva l’applicazione della politica come incoerente. Nessuno agiva in malafede. La documentazione semplicemente non aveva tenuto il passo con le dimensioni dell’organizzazione.
La stessa dinamica si verifica con gli strumenti di IA. Politiche pensate per un contesto di implementazione non si trasferiscono automaticamente quando l’organizzazione cresce, la forza lavoro cambia o lo strumento viene aggiornato.
