Så utvecklar du ett etiskt förhållningssätt till AI i hela organisationen

Jonathan Conradt: [00:00:00] I grunden är AI ett funktionsanrop. Det är som i Excel, där du har en summeringsfunktion. Du använder den och anger listan med kolumner eller rader som du vill addera, och den tar emot det som indata och producerar ett resultat. Och AI är egentligen allt det är.

David Rice: Välkommen till podden People Managing People. Vårt mål är att skapa en bättre arbetsvärld och hjälpa dig att skapa lyckliga, hälsosamma och produktiva arbetsplatser. Jag heter David Rice och är din värd.

Min gäst i dag är Jonathan Conradt. Han lämnade nyligen Amazon, där han arbetade som ledande AI-forskare. Vi ska prata om AI och maskininlärning, och om vad som behöver hända när det gäller utbildning kring de tekniker som integreras i människors dagliga arbete.

Så Jon, välkommen.

Jonathan Conradt: Tack.

David Rice: Till att börja med, berätta lite om dig själv, hur du hamnade där du är och vilken är den största utmaningen du arbetar med just nu?

Jonathan Conradt: Jag har arbetat med teknik under lång tid.

Jag var med i det ursprungliga Chrome-teamet på Google och började där när vi var ungefär [00:01:00] 40 personer. Om du har använt Mac- eller Linux-versionerna av Chrome var det mitt område. Därefter arbetade jag på eBay, där jag ansvarade för marknadsföring och införde AI och maskininlärning, både på och utanför webbplatsen.

Sedan arbetade jag på Amazon i tolv år. Så småningom upptäckte jag att det fanns fantastiska AI-projekt som inte godkändes, samtidigt som ganska dåliga AI-projekt godkändes. Det grundläggande problemet var att Amazon har mycket smarta människor och mycket smarta vice verkställande direktörer.

De är välutbildade, har utmärkta bakgrunder och känner sin verksamhet utan och innan, men AI kom från ett helt annat håll för dem. De visste inte riktigt hur de skulle hantera tekniken eller vad den innebar. De hade svårt att fatta bra beslut om vad de skulle investera i. Därför gick de miste om bra idéer och investerade ibland i sådant som inte skulle fungera särskilt väl.

Under mitt sista år på Amazon bestod det mesta av mitt arbete av att [00:02:00] ta fram läroplaner och utbilda vice verkställande direktörer och chefer över hela världen på Amazon om maskininlärning och AI. Till slut bestämde jag mig för att om det var så rörigt inom Amazon, med dessa människor i ett teknikföretag, hur såg det då ut utanför Amazon?

Därför lämnade jag Amazon och började göra sådant här: försöka hjälpa människor att förstå vad AI är, var de behöver vara försiktiga, var de bör vara offensiva och hur de kan få ut så mycket som möjligt av tekniken.

David Rice: Det är en intressant och mycket aktuell tid att göra det på.

Det finns många saker som jag tror att AI och maskininlärning kan göra. En del av det som företag har riktat blicken mot handlar om att tekniken är den nya, glänsande företeelsen. Många har mycket stora idéer, men det finns också många praktiska lösningar som du och jag talade om innan samtalet, och som kan hjälpa företag att hantera omedelbara behov.

Kan du ge oss några bra exempel på det och berätta var HR kan införa något som ger omedelbar effekt?

Jonathan Conradt: Generativ AI är den där glänsande bollen som fångar allas uppmärksamhet, eller hur? Men traditionell maskininlärning har också gjort stora framsteg under de senaste åren.

En sådan utveckling kallas automatisk maskininlärning. Forskare tittade på sitt arbete och insåg att de i princip följde samma steg varje gång. Därför fanns det möjlighet att automatisera hela processen. Det finns ett mycket bra paket med öppen källkod som heter autogluon.

Det är anmärkningsvärt. När jag tittade på det fick jag nästan en existentiell kris, eftersom jag insåg att någon med hyggliga SQL-kunskaper och lite Python kunde skapa en modell i världsklass över en natt, något som potentiellt skulle ha tagit mig flera månader att bygga.

Det är mycket användbart. Inom HR finns många saker som behöver göras. Du kanske vill klassificera saker, till exempel identifiera personer som skulle ha nytta av ledarskapsutbildning eller medarbetare som [00:04:00] riskerar att lämna organisationen. Sådant kan modellerna göra åt dig.

Det finns också typer av förutsägelser som rör siffror. Hur många CV:n förväntar vi oss att få? Hur många personer behöver vi bemanna lagret med om två veckor? Den typen av numeriska prognoser fungerar också bra. Modellerna kan dessutom hantera tidsserier, vilket är användbart när man vill förstå säsongsvariationer i data.

Jag är inte säker på exakt hur det kopplar till HR, men det finns säkert säsongsvariationer inom HR som man vill hålla koll på. Det anmärkningsvärda är att någon som har tillgång till data i princip kan skapa en modell i världsklass med tre rader kod.

David Rice: Det är verkligen intressant. HR får förstås tillgång till allt mer data hela tiden, särskilt när vi fortsätter att införa alla dessa nya verktyg.

Och jag vet att du tidigare har talat om ansvarsfull AI och sagt att detta är [00:05:00] komplicerat när det gäller HR. Berätta lite om de viktigaste etiska övervägandena kring AI och HR.

Vilka frågor måste vi lösa i modellerna innan vi låter dem spela en större roll i HR-arbetet?

Jonathan Conradt: På Amazon har vi HR-partner som är knutna till olika team och som är bra personer att vända sig till för råd. När vi började arbeta med maskininlärningsmodeller som skulle använda kunddata för att förutsäga saker om kunder blev HR och juridik viktiga samarbetspartner.

Datavetare har kanske läst en kurs i mänsklig forskning för länge sedan på universitetet. För HR är sådana lagar och frågor ständigt aktuella. Därför finns en unik möjlighet för forskare och modellutvecklare att involvera HR och ställa bra frågor.

Hur vill vi hantera kön? Vilka känsliga frågor finns kring etnicitet? HR-personer känner sådant utan och innan, [00:06:00] men samma frågor kan också uppstå inom själva HR-projektet.

Ett klassiskt exempel är att man vill automatisera hanteringen av CV:n när de kommer in i organisationen och klassificera eller sortera dem för att bli effektivare. Där finns risker, eftersom maskininlärningsmodeller fuskar. De är ständiga fuskare och hittar den kortaste vägen till det svar de kan få fram.

Modellen kan exempelvis lära sig att personer som skriver i sitt CV att de spelade lacrosse i gymnasiet historiskt sett har anställts och befordrats inom företaget. Det kan vara en historisk snedvridning, och det är inget man vill använda som filter när man anställer eller intervjuar människor.

Man skulle inte nödvändigtvis förvänta sig att just det ordet skulle bli viktigt för en modell. Men modeller fuskar, som sagt, och hittar alla sådana små samband. [00:07:00] Ansvarsfull AI är därför en hel uppsättning idéer kring hur vi bäst hanterar relationen mellan våra mål och de människor som berörs, till exempel kunder, medarbetare och arbetssökande.

Hur hanterar vi deras data? Hur behandlar vi olika grupper rättvist? Hur förklarar vi på ett ärligt och transparent sätt vad maskininlärningsmodellen gör? Detta är ett intressant etiskt område. HR-personer ägnar redan mycket tid åt att tänka på etik, hur människor ska behandlas väl och hur de ska behandlas korrekt.

Ansvarsfrågor är därför ett fascinerande område för HR och berör många HR-lösningar. Anta att du vill bygga en modell som ska förutsäga vilka av dina nuvarande medarbetare som blir vice verkställande direktörer om sex år. Det är en användbar modell eftersom du vill behålla och utveckla dessa personer.

Samtidigt måste du vara mycket [00:08:00] försiktig när du skapar modellen. Om alla befintliga vice verkställande direktörer i träningsdata huvudsakligen tog examen från elituniversitet eller exempelvis är män, finns alla dessa faktorer i träningsdatan.

För att agera rätt enligt principerna för ansvarsfull AI måste du därför ta bort faktorer som inte ska beaktas. Låt inte modellen se eller dra slutsatser om sådant som du inte skulle ta hänsyn till vid en faktisk befordran.

David Rice: Det är mycket viktigt. Vissa data kan fortsätta att förstärka fördomar. Jag talade nyligen med någon som hänvisade till en studie där kvinnor sades vara 75 procent mindre benägna än män att experimentera med AI. Då tänkte jag: vilken data skapar det?

Jonathan Conradt: Det är intressant. Stora språkmodeller som ChatGPT använder inte direkt det du skriver för att träna modellen. Människor skriver alla möjliga löjliga och hemska saker, och träningsdata är den mest värdefulla resursen för ett AI-företag.

Däremot kan modellerna fånga upp signaler från hur människor interagerar med dem. Om du ställer samma fråga igen på ett något annorlunda sätt kan det vara en signal om att det första svaret inte var tillräckligt bra.

Om det finns köns-, inkomst- eller geografiska fördomar i interaktionerna kan systemet lära sig att ge svar som passar vissa grupper bättre än andra. Det kan även börja efterlikna tränarnas dialekter eller språkbruk. På så sätt kan fördomar smyga sig in i AI på många olika sätt.

David Rice: Fascinerande.

 

En sak som ofta kommer upp är skyddsräcken. När det gäller hur människor använder tekniken talas det ofta om skyddsräcken för medarbetare. Men ibland undrar jag om vi borde ha fler skyddsräcken för chefer, till exempel för att hindra dem från att överinvestera i fel saker.

Hur mycket kan vi faktiskt sätta skyddsräcken kring användningen för medarbetare? Och behöver vi utbilda ledningen om verktygen innan något införs och lämnas över till medarbetarna?

Jonathan Conradt: Det finns mycket att reda ut. På forskningssidan talar vi också om skyddsräcken. Det kan finnas skyddsmodeller som upptäcker våldsamma eller olagliga frågor, till exempel hur man bygger en bomb med gödningsmedel, och avbryter behandlingen innan den dyra bearbetningen fortsätter.

Det finns även ett skydd efter att AI:n har svarat, vars uppgift är att kontrollera att man inte lyckats lura AI:n att avslöja något den inte borde avslöja. Skyddsräcken för medarbetare är en intressant fråga, eftersom alla har en telefon. Om man helt stänger av tillgången kommer människor att hitta andra vägar, eftersom verktygen är värdefulla.

Problemet med att stänga av allt är att medarbetarna då kan använda modeller som organisationen inte har någon insyn i eller kontroll över. De kan exempelvis ladda upp företagets dokument till dessa modeller. Villkoren hos många AI-leverantörer innebär att det du skriver in kan användas av företaget för att förbättra eller utveckla modellen.

Du vill därför inte att någon ska ladda upp affärsplaner, budgetar eller listor över medarbetare. Som tur är går det att skapa bra skyddsräcken. Många AI-tjänster erbjuder företagskonton där data skyddas och inte delas på samma sätt.

Men hur är det med chefer? De kan vara lika benägna som alla andra att ladda upp känsliga dokument, kanske ännu mer. Det kan också vara svårt att veta var AI:n faktiskt körs och om den finns i den egna IT-miljön eller hos en extern aktör på internet.

Chefer är experter på sitt arbete, men de är inte nödvändigtvis IT-personer. Därför är det en god idé att ge dem tillgång till ett användbart, officiellt och välskyddat verktyg som loggar användningen.

När det gäller större projekt, som att ersätta hela kundtjänstavdelningen med AI, behöver man vara försiktig. De tidiga företagen som satsade snabbt tog stora risker och hade ofta betydande problem. Organisationer som följer efter har möjlighet att se vad som fungerar på marknaden, till lägre kostnad.

Ett bra första steg är att bygga en modell som skiljer mellan dyra och allvarliga problem som kräver återhämtning och enkla frågor som är lätta att besvara, till exempel hur man ändrar sitt lösenord.

Det finns tre typer av företag: tidiga användare, företag som aldrig vill använda tekniken och snabba följare. De tidiga användarna har tagit stora risker. De som aldrig vill använda AI riskerar stora problem, eftersom detta mer liknar elektricitetens genombrott än en kortvarig trend. De snabba följarna kan studera data, mäta effekterna och starta pilotprojekt.

David Rice: Lärandekurvan och växtvärken blir kanske inte lika svår, eftersom mycket redan har hänt.

Hur mycket grundläggande förståelse har människor av hur maskininlärning fungerar? Vad kan vi göra för att förbättra det på kort sikt genom utbildning och utveckling?

Jonathan Conradt: De har inte någon särskilt god förståelse, och det gäller även många tekniskt kunniga personer. AI är i grunden ett funktionsanrop. Den tar emot indata, bearbetar den och producerar ett resultat.

Den är inte medveten mellan användningarna. Den funderar inte på vad den nyss sade och planerar inte mot dig. Den existerar i praktiken bara i det ögonblick då den används.

Många av de imponerande funktionerna beror dessutom på kompletterande kod som organiserar data kring AI:n. Det är ungefär som att förvänta sig att alla ska förstå exakt hur ett bränsleinsprutningssystem fungerar. De flesta vet inte ens vad det betyder, men kan ändå köra bil.

Vi behöver hjälpa varje grupp inom organisationen att nå rätt förståelsenivå. Vissa ska vara användare, andra tekniker, vissa arbetar på djupet med tekniken och andra får bara nytta av resultatet utan att interagera med systemet.

HR ansvarar ofta för utbildning och måste avgöra vilka som behöver utbildas och vilken typ av utbildning som krävs. En enda standardlösning för hela organisationen kommer inte att fungera.

När jag var på Amazon funderade jag på hur vi skulle utbilda personer som kör lastbilar eller packar produkter. De är hårt arbetande och smarta, men inte nödvändigtvis tekniska. Utbildningen måste möta deras behov, besvara deras frågor och minska rädslan för AI. Utbildning på ledningsnivå ser däremot helt annorlunda ut.

David Rice: En sak som många verkar intresserade av är att använda tekniken för medarbetares välbefinnande. Jag har talat med någon som använde röstteknik för att upptäcka utbrändhet eller stress, och vi har många typer av data som kan ge beteendemässiga indikatorer.

Hur tror du att detta kommer att förändra vårt sätt att arbeta med medarbetares välbefinnande?

Jonathan Conradt: Jag arbetar just nu med två forskare på ett sätt att inte bara mäta medarbetares välbefinnande utan också förbättra det över tid. En av AI:s stora fördelar är att den är mycket tålmodig.

Den kan vara en värdefull informationskälla eftersom du kan ge den korrekt och användbar information, och AI:n kan svara människor och ge dem sådana insikter.

Tidigare arbetade jag på Gallup och hjälpte till att utveckla StrengthsFinder. Syftet var att hjälpa chefer att förstå sina medarbetare och skapa bättre relationer, större stöd och mer välbefinnande i organisationen.

I dag försöker vi använda AI för att på ett mer interaktivt sätt förstå hur människor mår. Många bedömningar kräver att man klickar i rutor, men det är inte alltid säkert att svaren tolkas på det sätt man avsåg.

Därför ger vi medarbetare möjlighet att uttrycka sig med egna ord. Vad tänkte du på när du gick igenom det avsnittet? Vad tyckte du var viktigast? Vad önskar du att vi hade förstått av det du sade? Den texten kan vara mycket värdefull.

Jag skapade en gång en maskininlärningsmodell som tog forskningsartiklar och försökte förutsäga om jag skulle tycka att de var intressanta. Sedan använde jag AI för att omvandla titlar och sammanfattningar till matematiska objekt, vektorer. När jag lade till den informationen förbättrades modellen med 14 procent.

Om en medarbetarundersökning kan tolka öppna svar och ge 14 procent bättre förståelse av medarbetarna kan det därför vara mycket betydelsefullt.

David Rice: Med det i åtanke, vilken outnyttjad potential ser du i den data vi har och i de verktyg som människor får större tillgång till? Kan vi använda tekniken för att förändra hur ledare ser på arbetet, företaget och medarbetarnas erfarenheter?

Jonathan Conradt: En av de vanligaste frågorna jag får är om man kan lägga ut HR eller juridik på en AI-agent. Jag tror att de som främst kommer att använda HR-agenter är befintliga HR-personer, eftersom deras arbete är mycket komplext.

En agent är en AI som kan göra saker på egen hand: be om information, hämta data från en databas eller applikation och göra en webbsökning. I praktiken kan alla få en personlig administrativ assistent som hanterar delar av arbetsvardagen.

När du får ett mejl med en fråga kan agenten läsa det, ordna informationen du behöver och föreslå saker att tänka på i svaret. Men du fattar besluten som människa. Du kan ändra formuleringen eller korrigera AI:n om den har missförstått något.

AI är särskilt bra på att ersätta delar av det arbete som vice verkställande direktörer gör, eftersom det handlar om att sammanställa information. Hela organisationen samlar in information som sedan förs uppåt, och ledningen fattar strategiska beslut utifrån den breda bilden.

Jag tror att vi börjar med sådana lösningar som Microsoft kallar copiloter, eller AI-assistenter. De kommer att spara tid och ge en bättre förståelse av verksamheten.

Om AI gör programmerare mer produktiva bör företag inte automatiskt minska antalet programmerare. I stället kan de göra mer för kunderna och få fler idéer genomförda. Företag som väljer att minska personalstyrkan och göra samma mängd arbete med färre personer kommer att överträffas av företag som behåller lika många medarbetare men ökar mängden arbete och värde de kan skapa för kunderna.

David Rice: Jag gillar det.

Jonathan, tack för att du var med oss i dag. Innan vi avslutar finns det två saker jag alltid gör med varje gäst. Först vill jag ge dig möjlighet att berätta var människor kan få kontakt med dig och om det är något du arbetar med som du vill lyfta fram.

Jonathan Conradt: Vi kommer att tillhandahålla en länk där du kan boka ett 15-minuterssamtal med mig om vad du vill. Berätta om företaget du arbetar för och problemen du försöker lösa. Jag älskar att lära mig om nya företag och hjälpa dem att förstå hur de kan använda maskininlärning och AI.

David Rice: Det länkas i beskrivningen av avsnittet. Du kan också få kontakt med Jon på LinkedIn.

Den andra saken är att vi har startat en liten tradition i podden. Du får ställa en fråga till mig, om ämnet eller om något helt annat.

Jonathan Conradt: Jag är nyfiken på hur AI har påverkat dig och podden, eftersom AI gör ett bra arbete med videoredigering och liknande.

David Rice: När det gäller podden är det otroligt vad AI ibland kan göra med ljud. Den hjälper oss att effektivisera ljudarbetet. Den största förändringen i mitt arbete har dock varit innehållsskapandet och hur snabbt processen har förändrats, från en idé till en färdig struktur och ett helt avsnitt.

Jonathan Conradt: Det är anmärkningsvärt, eller hur? Redigering av såpoperor och reality-tv har till synes revolutionerats över en natt. AI kan göra den första grovredigeringen automatiskt, vilket är fantastiskt.

David Rice: Det är otroligt. Jag är säker på att alla större filmstudior investerar kraftigt.

Jonathan Conradt: Det var trevligt att träffa dig, David.

David Rice: Det var ett fantastiskt samtal. Tack för att du ville vara med. Förhoppningsvis kan vi göra om det någon gång.

Jonathan Conradt: Tack.

David Rice: Till alla lyssnare: om ni inte redan har gjort det, gå till peoplemanagingpeople.com/subscribe och prenumerera på nyhetsbrevet. Vi hörs nästa gång. Fortsätt [00:33:00] att experimentera.