La tua IA non si presenterà alla deposizione
Rischio Nascosto: Gli strumenti di assunzione IA possono sembrare imparziali mentre non riescono a distinguere i candidati qualificati da quelli irrilevanti o non idonei.
Bias in Cambiamento: Le verifiche dei bias dei fornitori non possono prevedere gli esiti mutevoli perché versioni del modello, ruoli, nomi e dati demografici influenzano i risultati.
Proprietà Umana: Ogni decisione sul personale assistita da IA necessita di un essere umano nominato, responsabile di difendere l'esito davanti a regolatori o ricorrenti.
Test di Competenza: Le organizzazioni dovrebbero testare i sistemi di assunzione IA con curriculum abbinati e pieni di parole chiave prima di fidarsi delle loro raccomandazioni.
Governance Prima di Tutto: Tratta l'acquisto di IA come una decisione di governance, aumentando la spiegabilità e la supervisione in base alle conseguenze di ciascun utilizzo.
Immagina l'ultima decisione di assunzione assistita dall'IA presa dal tuo team. Un candidato segnalato. Un "punteggio di compatibilità" vicino al fondo della lista. Il tuo recruiter è passato oltre.
Ora immagina che quel candidato presenti un reclamo per discriminazione sei mesi dopo e chieda, in una deposizione, esattamente perché è stato respinto. Di chi è il nome sul fascicolo? Il tuo? Quello del recruiter? Quello del fornitore?
Se la tua risposta onesta è "lo ha segnalato l'algoritmo", hai un problema di responsabilità, ed è strutturale. Nessun fornitore lo risolverà per te.
Continua a leggere—e continua a guidare con intelligenza
Crea un account gratuito per terminare la lettura e unirti a una community di leader lungimiranti che sbloccano strumenti, playbook e approfondimenti per prosperare nell'era dell'IA.
Have an account? Log In
Negli ultimi dieci anni ho lavorato come analista di business intelligence presso Amazon e Microsoft. Ho anche trascorso l'ultimo anno ad auditare otto piattaforme commerciali di selezione curriculum tramite IA. Circa 4.000 prove, curriculum identici variati solo per nome del candidato, testati sia per pregiudizi demografici sia per competenza di base.
Quello che ho scoperto è più scomodo della classica storia "l'IA è di parte". Diversi strumenti, lodati come i più neutrali, sono neutrali come un termometro rotto. Producono risultati stabili e bilanciati dal punto di vista demografico perché non sono in grado di distinguere realmente un candidato qualificato da uno non qualificato. Questa è l'apparenza della correttezza posta sopra uno strumento che non funziona.
Chiamo questa dinamica "Illusione di Neutralità", ed è la questione di cui i dirigenti HR dovrebbero preoccuparsi di più, perché è quella che il tuo controllo di bias non può rilevare.
Ora l'IA Costruisce anche Narrazioni
Il contesto del mercato del lavoro conta, soprattutto per ciò che rivela sulle motivazioni. Un'analisi della Fed di New York di settembre 2025 ha rilevato che solo l'1% delle aziende di servizi ha indicato l'IA come causa dei licenziamenti negli ultimi sei mesi, mentre il 35% ha dichiarato di aver ricollocato i dipendenti grazie all'IA.
Eppure un'indagine di Resume.org (sondaggio) su 1.000 responsabili HR, pubblicata a gennaio, ha rilevato che il 59% ammette di enfatizzare l'IA quando spiega blocchi alle assunzioni o licenziamenti perché "funziona meglio con gli stakeholder" rispetto a citare vincoli finanziari.
L'IA viene quindi chiamata non solo a lavorare a livello operativo, ma anche a livello narrativo. Tengilo a mente, perché lo stesso istinto che dà la colpa all'IA per un licenziamento darà la colpa all'IA anche per una scelta di assunzione sbagliata.
Da "Guidati dai dati" a "Trova i dati che mi servono"
La promessa della leadership guidata dai dati era chiara. Ridurre l'affidamento sull'istinto. Portare a galla le prove. Creare tracce documentabili. Quando la disciplina regge, funziona.
Quello che ho osservato accadere negli ultimi cinque anni ha ricevuto molta meno attenzione di quanto meritasse. Gli strumenti non sono mai cambiati. È cambiato il rapporto tra i leader e gli strumenti. La richiesta reale ha smesso di essere "cosa dicono i dati?" ed è diventata "trovami i dati che supportano questa scelta".
L'IA accelera questo passaggio, perché il risultato di un modello è più difficile da contestare di una scelta istintiva del responsabile delle assunzioni. Così, quando qualcosa va storto, la risposta diventa "l'ha evidenziato il sistema". Questa frase è tutto il problema.
I Modelli più Equi non Distinguono i Candidati
Su otto piattaforme, tra cui ChatGPT, Gemini, Copilot e Claude, sono emersi tre schemi ricorrenti.
Il bias è ancora presente, ma è meno prevedibile. Diversi modelli penalizzavano i curriculum semplicemente perché vi era associato un nome di candidato, indipendentemente da quale fosse. Altri favorivano specifici gruppi demografici in alcuni ruoli e li penalizzavano in altri. Un modello ha penalizzato o favorito uno stesso gruppo razziale in modo opposto, a seconda del genere, sullo stesso curriculum.
Il bias cambia a seconda del ruolo e della versione del modello. Il controllo del bias del fornitore non predice come si comporterà lo strumento sulla prossima selezione.
I modelli "più equi" sono spesso i meno competenti. Quando ho provato se i modelli sapessero distinguere un curriculum rilevante da uno irrilevante, diversi non ci sono riusciti. Un modello ha valutato un curriculum da settore servizi pieno di parole chiave finanziarie con 92 su 100 per un ruolo di Direttore Finanziario. Lo stesso curriculum senza quelle parole chiave ha totalizzato 15. Il modello valutava il vocabolario. La qualificazione non è mai entrata in valutazione. Uno strumento così ha smesso di valutare del tutto.
Lo stesso fornitore dà risposte diverse a seconda della versione in uso. Un candidato valutato dalla versione "veloce" di ChatGPT può ottenere un punteggio superiore o inferiore di 15 punti rispetto alla "lenta" lo stesso giorno. La maggior parte degli HR manager non sa quale versione stia usando, né che la cosa sia rilevante.
Questi non sono casi limite. Sono le condizioni operative degli strumenti di recruiting IA attuali.
Responsabilità Scaricata
Le decisioni migliori sono solo una parte del motivo per cui questi strumenti vengono adottati. Servono anche a rendere più facile difendere decisioni difficili. Licenziamenti. Valutazioni di performance. Esclusione di candidati. Decisioni su compensi. Quando l'output del modello è nel file, chi ha firmato può godere di una plausibile negazione che prima non aveva.
Un sondaggio di ResumeBuilder del 2025 rende tutto ciò concreto. Tra i manager che utilizzano l’IA per decisioni sul personale, il 64% la usa per aiutare a determinare i licenziamenti e più di uno su cinque ammette di lasciare spesso che sia l’IA a prendere la decisione finale senza alcun intervento umano.
La ricerca comportamentale è ancora più esplicita. Uno studio di Nature del 2025 condotto da Köbis e colleghi ha rilevato che gli agenti IA eseguivano istruzioni completamente non etiche tra il 58% e il 98% delle volte a seconda del modello, rispetto al 25-40% degli agenti umani a cui erano date le stesse istruzioni.
Le macchine sono molto più disposte delle persone a portare a termine ordini che compromettono l'etica, ed è proprio questa caratteristica che le rende utili come infrastruttura di responsabilità.
La letteratura scientifica ha un nome per il lato umano di questo fenomeno. Madeleine Clare Elish lo ha chiamato "zona di deformazione morale", in cui le persone in prima linea in un sistema automatizzato assorbono la colpa di errori originati da decisioni di progettazione e governance diffuse. Il personale inizia a parlare di "ciò che ha deciso il sistema" invece di "ciò che abbiamo deciso noi", anche quando ha ancora potere discrezionale.
Il nome più chiaro per la dinamica completa è riciclaggio della responsabilità. Il modello prende una decisione che prima richiedeva un giudizio umano difendibile e la trasforma in un output che nessuno deve giustificare. Quando la decisione è errata, la colpa è di tutti e di nessuno, e la tua organizzazione perde la capacità di imparare dai propri errori.
Governance, altrimenti non si consegna
È arrivato il momento che i leader trattino l’acquisizione di soluzioni IA come una decisione di governance e non semplicemente come una decisione IT.
Associa un nome a ogni decisione assistita dall’IA. Come ha recentemente detto un avvocato specializzato in IA a un CIO, l’algoritmo non si presenterà in tribunale. Lo faranno le persone che l’hanno sviluppato, implementato o utilizzato. Prima che qualsiasi strumento IA intervenga su assunzioni, valutazioni delle performance, compensi o licenziamenti, richiedi una risposta a una domanda: quando questo output si rivelerà sbagliato, di chi è il nome sul fascicolo? Non del fornitore. Non del modello. Ma di una persona, abbastanza senior da poter difendere la scelta di fronte a un’autorità di controllo o a un avvocato della controparte.
Proporziona la spiegabilità all’importanza delle decisioni. Un modello che suggerisce contenuti formativi può essere una scatola nera. Un modello che contribuisce a un licenziamento non può esserlo. La maggior parte delle organizzazioni stabilisce uno standard di spiegabilità una sola volta, in fase di acquisizione. Quelle più rigorose lo ricalibrano caso per caso e abbandonano i fornitori che non riescono a soddisfare standard più elevati.
Effettua audit di doppia validazione interni. Gli audit sui bias da parte dei fornitori sono necessari ma non sufficienti. Testa anche la competenza. Lo strumento è davvero in grado di distinguere tra candidati idonei e non idonei per le posizioni richieste dalla tua azienda? Inserisci qualche curriculum non adatto. Qualche curriculum pieno di parole chiave. Confronta i punteggi. Se il modello non rileva la differenza, non può aiutarti, indipendentemente da quanto sembri imparziale.
L’HR è la funzione che i fornitori di IA stanno corteggiando maggiormente, ed è la funzione che dovrà rispondere quando uno di questi strumenti produrrà un risultato indifendibile. La tentazione sarà quella di trattare l’acquisizione come una questione di fornitore. Resisti.
Come ha detto un avvocato del lavoro al Washington Post quando gli algoritmi hanno iniziato a compilare le liste dei licenziamenti: "Non cercate di scaricare la colpa sul software."
Se la tua risposta a una decisione sbagliata presa con l’ausilio dell’IA è "lo ha fatto il sistema", il tuo sistema è diventato il tuo rischio. All’interno della tua organizzazione, una persona deve assumersi la responsabilità di ogni decisione in cui intervengono questi strumenti. Scopri chi è prima che sia una deposizione a farlo.
