Hoe ontwikkel je een organisatiebrede ethische benadering van AI

AI transformeert de werkplek—maar hoe onderscheiden we echte, praktische toepassingen van overdreven trends die geen resultaten opleveren? En voor welke ethische risico’s moeten we oppassen?

Presentator David Rice praat met Jonathan Conradt—voormalig hoofdwetenschapper op het gebied van AI bij Amazon en adviseur van de raad van bestuur bij Synerise—over de echte impact van AI op HR en leiderschap. Ze bespreken hoe AI vormgeeft aan werving, het welzijn van medewerkers en besluitvorming, evenals de cruciale rol van verantwoorde AI. Jonathan onthult ook waarom bedrijven vaak verkeerd investeren in AI—en hoe leiders slimmere keuzes kunnen maken.

Hoogtepunten uit het interview

  • Maak kennis met Jonathan Conradt [00:52]
    • Jonathan heeft een lange achtergrond in technologie.
    • Werkte in het oorspronkelijke Chrome-team bij Google, waar hij zich richtte op de Mac- en Linux-versies.
    • Leidde de marketing en integreerde AI/ML bij eBay.
    • Werkte 12 jaar bij Amazon, waar hij merkte dat AI-projecten vaak verkeerd werden ingeschat.
    • De leiding van Amazon had moeite om AI-investeringen te beoordelen door een gebrek aan inzicht.
    • Besteedde zijn laatste jaar bij Amazon aan het opleiden van vicepresidenten en directeuren over AI/ML.
    • Verliet Amazon om bedrijven te helpen AI-kansen en -risico's beter te begrijpen.
  • AI in HR: praktische toepassingen [02:37]
    • Generatieve AI is populair, maar ook traditionele machinale leertechnieken hebben vooruitgang geboekt.
    • Een belangrijke vooruitgang is automatisch machinaal leren (AutoML).
    • AutoML automatiseert repetitieve taken bij het maken van modellen.
    • Het opensourcepakket AutoGluon maakt AI toegankelijk voor mensen met basiskennis van SQL en Python.
    • AutoML maakt het mogelijk snel hoogwaardige modellen te maken waarvoor voorheen maanden nodig waren.
    • AI is nuttig in HR voor taken zoals personeelsclassificatie, het voorspellen van personeelsverloop en het identificeren van kandidaten voor leiderschapstraining.
    • Helpt bij numerieke voorspellingen, zoals personeelsbehoeften en personeelsplanning.
    • Ondersteunt tijdreeksanalyse voor het detecteren van seizoensgebonden trends.
    • Kan met slechts drie regels code een model van wereldklasse bouwen.
  • Ethische overwegingen bij AI [05:03]
    • HR speelt een cruciale rol bij de ontwikkeling van AI en zorgt voor naleving van wettelijke en ethische voorschriften.
    • Wetenschappers beschikken vaak niet over expertise op het gebied van HR-gerelateerde wetgeving en vooroordelen.
    • AI-modellen kunnen onbedoeld historische vooroordelen aanleren en versterken (bijvoorbeeld door voorkeur te geven aan kandidaten die lacrosse hebben gespeeld).
    • Verantwoorde AI richt zich op eerlijkheid, transparantie en een ethische omgang met gegevens.
    • HR-professionals zijn goed uitgerust om richting te geven aan eerlijkheid bij AI, vooral bij modellen voor werving en promotie.
    • Vooroordelen in AI bij promotievoorspellingen (bijvoorbeeld voorkeur voor afgestudeerden van Ivy League-universiteiten of mannen) moeten worden beperkt.
    • Regelgeving over AI-ethiek komt op, waarbij de EU het voortouw neemt en de VS wetgeving overweegt.
    • HR kan wetenschappers helpen verantwoorde AI-praktijken te begrijpen en toe te passen.
    • AI-modellen zoals ChatGPT gebruiken invoer van gebruikers niet rechtstreeks voor training om te voorkomen dat waardevolle gegevens worden aangetast.
    • Ze leren van interacties met gebruikers, zoals herformuleerde vragen die ontevredenheid over een antwoord aangeven.
    • Vooroordelen kunnen ontstaan als interacties maatschappelijke vooroordelen weerspiegelen (bijvoorbeeld voorkeuren op basis van geslacht, inkomen of geografie).
    • Een voorbeeld waarover geruchten de ronde doen, suggereert dat de modellen van OpenAI taalpatronen hebben overgenomen die lijken op die van Keniaanse contractanten die betrokken waren bij versterkingsleren.
    • Vooroordelen in menselijke feedback, zoals een voorkeur voor langere antwoorden, beïnvloedden het gedrag van het model.
    • AI kan onbedoeld de spraakpatronen, onderwerpen of voorkeuren van dominante gebruikersgroepen bevoordelen.
    • Vooroordelen in AI kunnen op onverwachte manieren ontstaan en patronen versterken van de demografische groepen die het meest betrokken zijn.

Om het juiste te doen op het gebied van verantwoorde AI, moet je de factoren verwijderen waarmee geen rekening zou moeten worden gehouden. Laat het model geen gegevens zien of conclusies trekken op basis van zaken die je bij een echte promotie niet zou meewegen.

Jonathan Conradt
  • Veiligheidsmaatregelen en opleiding voor leidinggevenden [12:36]
    • AI-systemen gebruiken veiligheidsmodellen om schadelijke of onethische vragen eruit te filteren voordat ze worden verwerkt.
    • Werknemers zullen manieren vinden om AI-tools te gebruiken als bedrijven geen veilige, goedgekeurde toegang bieden.
    • Het uploaden van gevoelige bedrijfsgegevens naar openbare AI-modellen brengt ernstige beveiligingsrisico's met zich mee.
    • Zakelijke AI-accounts kunnen gecontroleerde omgevingen bieden om risico's te beperken.
    • Leidinggevenden kunnen, ondanks hun expertise, moeite hebben om onderscheid te maken tussen veilige en onveilige AI-tools.
    • Het aanbieden van training en officiële AI-tools kan helpen beveiligingslekken te voorkomen.
    • Strategieën voor AI-adoptie verschillen:
      • Vroege gebruikers: Investeerden veel, liepen grote risico's en hadden vaak moeite.
      • Nooitgebruikers: Sceptisch en terughoudend, waardoor ze het risico lopen achterhaald te raken.
      • Snelle volgers: Leren van vroege gebruikers, nemen AI tegen lagere kosten over en zullen waarschijnlijk succesvol zijn.
    • AI zal een prestatieniveau bereiken waarop verdere vooruitgang afvlakt, waardoor snelle volgers vroege gebruikers kunnen inhalen.
  • Inzicht in AI-training en -adoptie [20:03]
    • Veel mensen, waaronder technische professionals, hebben geen diepgaand begrip van machinaal leren.
    • AI is in wezen een wiskundige functie die invoer ontvangt, deze verwerkt en uitvoer produceert.
    • AI "denkt" of "onthoudt" niets tussen gebruiksmomenten door — het bestaat alleen wanneer het wordt aangeroepen.
    • De indrukwekkende mogelijkheden van AI komen voort uit aanvullende code en de organisatie van gegevens.
    • Training moet worden afgestemd op verschillende functies binnen een organisatie (gebruikers, technici, leidinggevenden enzovoort).
    • Een trainingsaanpak die voor iedereen hetzelfde is, zal niet werken.
    • HR moet geschikte strategieën voor AI-training bepalen voor verschillende groepen werknemers.
    • Werknemers, waaronder niet-technisch personeel, hebben AI-onderwijs nodig om angst te verminderen en adoptie mogelijk te maken.
    • Leidinggevenden hebben andere AI-training nodig dan eerstelijnsmedewerkers.
  • Welzijn van werknemers en AI [23:20]
    • Jonathan werkt samen met onderzoekers aan het meten en verbeteren van het welzijn van werknemers met behulp van AI.
    • AI is geduldig en kan werknemers bruikbare feedback geven.
    • Zijn eerdere werk met Gallup's StrengthsFinder was gericht op het verbeteren van de relaties tussen managers en werknemers ten behoeve van het algehele welzijn.
    • Traditionele beoordelingen zijn gebaseerd op gedwongen-keuzeantwoorden, die het sentiment van werknemers mogelijk niet volledig vastleggen.
    • De nieuwe aanpak stelt werknemers in staat zich openlijk te uiten, waardoor waardevolle kwalitatieve gegevens worden toegevoegd.
    • AI kan tekst omzetten in wiskundige vectoren, waardoor betere analyse mogelijk wordt.
    • Een eerder experiment waarbij AI werd gebruikt om onderzoeksartikelen te analyseren, verbeterde de voorspellingen met 14%.
    • Het toepassen van vergelijkbare AI-technieken op onderzoeken naar werknemerstevredenheid zou het inzicht aanzienlijk kunnen verbeteren.
  • De toekomst van AI op de werkplek [26:35]
    • AI-agenten zullen waarschijnlijk door HR-professionals worden gebruikt om complexe taken te helpen beheren, informatie te verzamelen en processen te vereenvoudigen.
    • AI kan optreden als uitvoerend assistent, taken organiseren, e-mails lezen en suggesties geven, terwijl de uiteindelijke beslissingen aan mensen worden overgelaten.
    • AI's zijn bijzonder goed in het synthetiseren van informatie, waardoor ze effectief zijn voor functies zoals vicevoorzitters die een breed overzicht van de organisatie nodig hebben.
    • AI-assistenten (zoals de copiloten van Microsoft) zullen tijd besparen en het inzicht in de bedrijfsvoering verbeteren.
    • Bedrijven kunnen AI gebruiken om de productiviteit te verhogen, maar moeten inkrimping vermijden; in plaats daarvan moeten ze zich richten op het verhogen van de output met hetzelfde personeelsbestand.
    • Bedrijven die AI inzetten om de efficiëntie te verbeteren, zullen concurrenten voorbijstreven die personeel ontslaan maar hetzelfde productieniveau behouden.

De bedrijven die ervoor kiezen om in te krimpen en mensen te ontslaan terwijl ze hetzelfde werk met minder werknemers blijven doen, zullen worden verpletterd door bedrijven die hetzelfde aantal mensen behouden maar de hoeveelheid werk die ze kunnen verzetten en de waarde die ze aan klanten kunnen leveren drastisch verhogen.

Jonathan Conradt

Maak kennis met onze gast

Jonathan Conradt is een ervaren expert op het gebied van kunstmatige intelligentie en machine learning en is momenteel adviseur van de raad van bestuur bij Synerise, een bedrijf dat gespecialiseerd is in AI- en bigdataoplossingen. Voor deze functie was hij Principal AI and Machine Learning Scientist bij Amazon, waar hij het curriculum voor Amazon's Machine Learning University ontwikkelde en onderwees. Zijn uitgebreide ervaring omvat functies bij eBay als Director of Internet and Email Engineering Product Management, bij Google als technisch productmanager voor de Chrome-webbrowser en bij Microsoft als productmanager voor een televisie-over-IP-product. Jonathan heeft acht patenten op het gebied van machine learning en marketing en was een van de bedenkers van de populaire managementtool StrengthsFinder. Hij staat ook bekend om zijn bijdragen aan geautomatiseerd machine learning, met name met tools zoals AutoGluon.

Een van de geweldige dingen aan AI is dat het heel geduldig is. Het kan een waardevolle informatiebron zijn, omdat je het nauwkeurige en bruikbare gegevens kunt geven, waarna de AI op mensen kan reageren en hun dat soort inzichten kan bieden.

Jonathan Conradt

You may also like