Come Sviluppare un Approccio Etico all’IA a Livello Organizzativo

L'IA sta trasformando il luogo di lavoro—ma come possiamo distinguere i casi d’uso reali e pratici dalle tendenze troppo pubblicizzate che non portano risultati concreti? E a quali rischi etici dobbiamo prestare attenzione?

Il conduttore David Rice parla con Jonathan Conradt—ex Principal AI Scientist in Amazon e Consigliere del Consiglio di Amministrazione presso Synerise—sul reale impatto dell’IA nelle risorse umane e nella leadership. Analizzano come l’intelligenza artificiale sta influenzando l’assunzione del personale, il benessere dei dipendenti e il processo decisionale, oltre al ruolo cruciale dell’IA responsabile. Jonathan rivela inoltre perché spesso le aziende investono male nell’IA—e come i leader possono fare scelte più intelligenti.

Punti salienti dell'intervista

  • Conosci Jonathan Conradt [00:52]
    • Jonathan ha una lunga esperienza nel settore tecnologico.
    • Ha lavorato nel team originale di Chrome presso Google, concentrandosi sulle versioni Mac e Linux.
    • Ha gestito il marketing e integrato soluzioni di AI/ML in eBay.
    • Ha trascorso 12 anni in Amazon, dove ha notato che i progetti di AI venivano spesso valutati erroneamente.
    • La leadership di Amazon aveva difficoltà a valutare gli investimenti in AI per mancanza di comprensione.
    • Nel suo ultimo anno in Amazon si è dedicato a formare vicepresidenti e direttori su AI/ML.
    • Ha lasciato Amazon per aiutare le aziende a comprendere meglio le opportunità e i rischi dell’AI.
  • AI nelle Risorse Umane: Applicazioni Pratiche [02:37]
    • L’AI generativa è popolare, ma anche il machine learning tradizionale ha fatto progressi.
    • Un progresso importante è il machine learning automatico (AutoML).
    • L’AutoML automatizza i compiti ripetitivi nella creazione dei modelli.
    • Il pacchetto open-source AutoGluon rende l’AI accessibile a chi possiede conoscenze base di SQL e Python.
    • L’AutoML consente la rapida creazione di modelli di alta qualità che prima richiedevano mesi.
    • L’AI è utile nelle risorse umane per attività come la classificazione dei dipendenti, la previsione dell’attrito e l’identificazione dei candidati per la formazione sulla leadership.
    • Aiuta nelle previsioni numeriche, come il fabbisogno di assunzione e la pianificazione della forza lavoro.
    • Supporta l’analisi delle serie temporali per individuare tendenze stagionali.
    • Si può costruire un modello di livello mondiale con solo tre righe di codice.
  • Considerazioni Etiche sull’AI [05:03]
    • Le risorse umane svolgono un ruolo cruciale nello sviluppo dell’AI, garantendo il rispetto delle normative legali ed etiche.
    • Gli scienziati spesso non hanno expertise su leggi e pregiudizi legati alle risorse umane.
    • I modelli di AI possono involontariamente apprendere e rafforzare pregiudizi storici (ad esempio, favorendo candidati che hanno praticato lacrosse).
    • L’AI responsabile si concentra su equità, trasparenza e gestione etica dei dati.
    • I professionisti delle risorse umane sono preparati a guidare l’equità dell’AI, soprattutto nei modelli di assunzione e promozione.
    • I bias nei modelli di AI per la promozione (ad esempio, favorire laureati Ivy League o uomini) devono essere mitigati.
    • Stanno emergendo regolamentazioni sull’etica dell’AI, con l’UE in prima linea e gli USA che stanno considerando normative.
    • Le risorse umane possono aiutare gli scienziati a comprendere e implementare pratiche di AI responsabile.
    • I modelli AI come ChatGPT non utilizzano direttamente gli input degli utenti per l’addestramento, per evitare di corrompere dati preziosi.
    • Imparano dalle interazioni, ad esempio quando un utente riformula una domanda segnalando insoddisfazione per la risposta.
    • I bias possono emergere se le interazioni riflettono pregiudizi sociali (ad esempio, preferenze di genere, reddito o geografiche).
    • Un esempio (presunto) suggerisce che i modelli di OpenAI abbiano adottato schemi linguistici simili a quelli dei contractor kenioti coinvolti nel reinforcement learning.
    • I bias derivanti dal feedback umano, come la preferenza per risposte più lunghe, hanno influenzato il comportamento del modello.
    • L’AI può favorire involontariamente i modelli comunicativi, gli argomenti o le preferenze dei gruppi di utenti dominanti.
    • I bias nell’AI possono emergere in modi inaspettati, rafforzando schemi provenienti dai gruppi di utenti più attivi.

Per agire correttamente in termini di AI responsabile, occorre rimuovere i fattori che non dovrebbero essere considerati. Non lasciate che il modello veda o tragga deduzioni da elementi che non prendereste in considerazione in una reale promozione.

Jonathan Conradt
  • Parapetti e formazione per dirigenti [12:36]
    • I sistemi di intelligenza artificiale utilizzano modelli di salvaguardia per filtrare richieste dannose o non etiche prima dell’elaborazione.
    • I dipendenti troveranno comunque il modo di usare strumenti di IA se le aziende non offrono un accesso sicuro e autorizzato.
    • Caricare dati aziendali sensibili su modelli di IA pubblici comporta seri rischi di sicurezza.
    • Account aziendali di IA possono offrire ambienti controllati per mitigare i rischi.
    • I dirigenti, nonostante la loro esperienza, possono avere difficoltà a distinguere tra strumenti di IA sicuri e non sicuri.
    • Fornire formazione e strumenti ufficiali di IA può aiutare a prevenire violazioni della sicurezza.
    • Le strategie di adozione dell’IA variano:
      • Primi adottanti: hanno investito molto, affrontato alti rischi e spesso incontrato difficoltà.
      • Ultimi adottanti: scettici e resistenti, rischiano l’obsolescenza.
      • Adottanti rapidi: imparano dai primi, adottano l’IA a costi inferiori e hanno più probabilità di successo.
    • L’IA arriverà a un plateau di performance, permettendo agli adottanti rapidi di raggiungere i primi adottanti.
  • Capire formazione e adozione dell’IA [20:03]
    • Molta gente, professionisti tecnici compresi, non possiede una comprensione profonda dell’apprendimento automatico.
    • L’IA è fondamentalmente una funzione matematica: riceve un input, lo elabora e produce un output.
    • L’IA non "pensa" e non "ricorda" tra un utilizzo e l’altro—esiste solo quando viene chiamata.
    • Le capacità sorprendenti dell’IA derivano da codice aggiuntivo e organizzazione dei dati.
    • La formazione deve essere personalizzata per i diversi ruoli in azienda (utenti, tecnici, dirigenti, ecc.).
    • Un approccio di formazione uguale per tutti non funziona.
    • Le risorse umane devono individuare strategie formative adeguate per i diversi gruppi di dipendenti.
    • I lavoratori, anche quelli non tecnici, hanno bisogno di formazione sull’IA per ridurre la paura e favorire l’adozione.
    • I dirigenti necessitano di una formazione sull’IA diversa da quella dei lavoratori in prima linea.
  • Benessere dei dipendenti e IA [23:20]
    • Jonathan sta collaborando con ricercatori per misurare e migliorare il benessere dei dipendenti tramite l’IA.
    • L’IA è paziente e può fornire feedback concreti ai dipendenti.
    • Il suo lavoro passato con StrengthsFinder di Gallup aveva lo scopo di migliorare la relazione manager-dipendente e il benessere generale.
    • Le valutazioni tradizionali si basano su risposte a scelta forzata, che potrebbero non catturare pienamente il sentimento dei dipendenti.
    • Il nuovo approccio consente ai dipendenti di esprimersi liberamente, aggiungendo preziosi dati qualitativi.
    • L’IA può convertire il testo in vettori matematici, favorendo analisi migliori.
    • Un esperimento passato che utilizzava l’IA per analizzare articoli di ricerca ha migliorato le previsioni del 14%.
    • L’applicazione di strumenti simili ai sondaggi sulla soddisfazione dei dipendenti potrebbe ampliare enormemente la comprensione.
  • Il futuro dell’IA sul lavoro [26:35]
    • I professionisti delle risorse umane utilizzeranno probabilmente agenti di IA per gestire attività complesse, raccogliere informazioni e semplificare i processi.
    • L’IA può fungere da assistente esecutivo, organizzando attività, leggendo email e dando suggerimenti, lasciando però le decisioni finali agli umani.
    • Le IA sono particolarmente efficaci nella sintesi delle informazioni, risultando utili in ruoli come i vicepresidenti che necessitano una visione d’insieme dell’azienda.
    • Assistenti basati su IA (es. i co-piloti di Microsoft) faranno risparmiare tempo e migliorare la comprensione del business.
    • Le aziende possono usare l’IA per aumentare la produttività, ma dovrebbero evitare i tagli al personale; piuttosto, dovrebbero puntare ad aumentare la produzione con la stessa forza lavoro.
    • Le aziende che adottano l’IA per migliorare l’efficienza supereranno i concorrenti che riducono il personale mantenendo lo stesso output.

Le aziende che decidono di ridurre il personale mantenendo comunque lo stesso livello di lavoro verranno schiacciate da quelle che mantengono lo stesso numero di persone ma aumentano drasticamente la quantità di lavoro che riescono a svolgere e il valore che riescono a offrire ai clienti.

Jonathan Conradt

Conosci il nostro ospite

Jonathan Conradt è un esperto affermato nel campo dell’intelligenza artificiale e del machine learning, attualmente Consulente del Consiglio di Amministrazione presso Synerise, un’azienda specializzata in soluzioni di AI e big data. Prima di questo ruolo, è stato Principal AI and Machine Learning Scientist presso Amazon, dove ha sviluppato e insegnato i programmi per la Machine Learning University di Amazon. La sua vasta esperienza include incarichi presso eBay come Direttore della Gestione Prodotto per l’Ingegneria Internet ed Email, in Google come product manager per l’ingegneria del browser web Chrome e in Microsoft come product manager per un prodotto di televisione tramite IP. Jonathan detiene otto brevetti relativi al machine learning e al marketing ed è stato uno dei creatori del noto strumento di gestione StrengthsFinder. È inoltre riconosciuto per i suoi contributi all’automazione del machine learning, in particolare con strumenti come AutoGluon.

Uno dei grandi vantaggi dell’IA è che è molto paziente. Può essere una fonte preziosa d’informazione perché puoi fornirle dati accurati e concreti, e l’IA può rispondere alle persone offrendo loro questo tipo di approfondimenti.

Jonathan Conradt

You may also like