Överlämningen mellan människa och AI är mer komplicerad än företag tror

David Rice: De flesta samtal om AI i stora företag börjar med samma fråga: Vad kan vi automatisera? Men det är fel utgångspunkt. I dagens program talar jag med Paula Goldman, Chief Ethical and Humane Use Officer på Salesforce, om skillnaden mellan att utforma för automatisering och att utforma för samarbete mellan människor och AI.

Det är inte samma sak. Automatisering frågar vilka steg man kan ta bort. Samarbete frågar vilket arbete som nu kan bli möjligt när människor har fått en ny förmåga till sitt förfogande. Överlämningen mellan AI och människor är inte heller så tydlig som vi gärna låtsas. När kunder är arga vill de tala med en människa. När de skäms föredrar de ofta AI.

Generella antaganden om var den gränsen ska gå kommer att kosta organisationer förtroende på sätt som är svåra att återhämta sig från. Paulas centrala argument är att om AI blir kraftfullare blir omdöme och relationsskapande viktigare, inte mindre viktiga. Produktivitet är ett mellanresultat. Den mer intressanta frågan är vad man gör med den kapacitet som skapas.

Så i dag går vi igenom varför ett fokus på automatisering får ledare att missa hur mänskligt arbete skapar värde, hur man kan tänka kring överlämningen mellan AI och människor i sina specifika användningsområden, varför alla medarbetare nu förväntas hantera AI med samma brist på utbildning som chefer en gång fick, och hur det faktiskt ser ut att utforma arbetet för mänskligt välbefinnande.

Jag heter David Rice. Det här är People Managing People, och om din AI-strategi är organiserad kring vad du kan automatisera snarare än vad arbetet skulle kunna bli, kommer det här samtalet att omformulera hela frågan för dig. Nu sätter vi igång.

Möt Teamflect, den högst betygsatta plattformen för prestationshantering och medarbetarengagemang, byggd för Microsoft Teams.

Över tusen organisationer litar på oss. En lättanvänd lösning med kapacitet för stora företag. Besök Teamflect.com för att läsa mer.

Nåväl, Paula, välkommen till dagens program.

Paula Goldman: Tack för att jag fick komma.

David Rice: Jag ville börja samtalet med att konstatera att mycket av samtalet om AI i stora företag fortfarande börjar med någon variant av: ”Vad kan vi automatisera?”

Du hävdar att det i grunden är olika saker att utforma för automatisering och att utforma för samarbete mellan människor och AI. Om vi börjar med automatisering som målet, vad får det ledare att missa när det gäller mänskligt arbete och hur det skapar värde?

Paula Goldman: Tack. Jag tycker att du formulerade frågan väldigt väl, och jag tror att den består av några delar.

En del handlar helt enkelt om skillnaden mellan ett omvälvande resultat och en liten effektivitetsökning. Vi behöver fråga: ”Vad gör AI möjligt för våra verksamheter? Hur kan vi glädja våra kunder och medarbetare ännu mer?” Men på en mer grundläggande nivå handlar frågan också om att inse var mänsklig interaktion är avgörande för att ett resultat ska bli framgångsrikt.

Där kopplingen mellan den som svarar i telefon och den som ringer exempelvis kan vara skillnaden mellan en mycket besviken kund och en nöjd kund, eller där mänsklig coachning av en medarbetare kan vara skillnaden mellan motivation och utveckling och motsatsen.

Och jag tror att vi kraftigt har underskattat varför det är viktigt. AI är så kraftfullt. Det finns så mycket vi kan göra med det. Men den rätta frågan är: hur får vi människor och AI att arbeta bra tillsammans för att uppnå ansvarsfulla och exceptionella resultat, inte bara var vi kan koppla in AI?

David Rice: En del av vårt problem är att effektivitet och värde tenderar att vara nästan synonyma i våra huvuden, men ett arbetsflöde kan bli dramatiskt effektivare och samtidigt sämre på att skapa sådant som spelar roll: förtroende, lärande, kreativitet och omdöme. Automatisering behandlar ofta det befintliga arbetsflödet som analysenheten.

Vilka steg kan vi ta bort? Samarbete ställer en annan fråga: ”Vad skulle det här arbetsflödet kunna bli nu när människor har fått en ny typ av förmåga till sitt förfogande?”

Paula Goldman: Jag tycker att du uttryckte det väldigt väl.

David Rice: Jag tror att detta är särskilt relevant för HR-chefer, eftersom en ekonomichef kommer att se att tjugo procent av kapaciteten frigörs.

HR måste fråga vad som händer med yrkeskunskapen och det organisatoriska systemet kring den kapaciteten. Det här är en av de stora saker vi måste brottas med just nu. Du har talat om att utforma överlämningen mellan AI och människor. Men den gränsen är inte så enkel som att AI hanterar rutinuppgifter och människor hanterar komplext arbete.

Vi säger det, men jag tror inte att det är så tydligt. Ibland föredrar människor faktiskt AI i mycket känsliga situationer, medan andra till synes enkla ögonblick i hög grad är beroende av mänsklig kontakt. Hur bör organisationer enligt dig avgöra var gränsen ska gå, i stället för att göra generella antaganden?

Paula Goldman: Det är inte så att den förenklade sanningen – låt AI hantera rutinen och människor hantera det komplexa – är fel. Det är faktiskt en ganska bra utgångspunkt. Men när man börjar titta på enskilda användningsområden blir det mycket intressantare. Ta kundservice som exempel.

Det stämmer att om AI aldrig har sett en fråga tidigare och inte har några uppgifter om svaret, bör AI förmodligen inte hantera den. Men det finns också andra tumregler. Om något är starkt reglerat, som hos One Eight Hundred Accountant, som ger ekonomisk rådgivning till småföretag, vill de att en människa hanterar ärendet om det gäller ett reglerat område som skatterådgivning.

Men om man börjar tänka på kundens känslor eller den emotionella kopplingen blir det verkligen intressant. Det finns mängder av studier och data som visar att arga kunder vanligtvis vill tala med en person. När de skäms, exempelvis på grund av ett medicinskt tillstånd eller något de inte vill känna sig dömda för, finns det en viss tendens att föredra AI.

Det är därför viktigt att förstå dessa mönster och preferenser: var människor vill tala med människor och var de inte vill det. Kundservice handlar inte bara om effektivitet. Det är där man behåller kunden eller förlorar den.

Och man får inte många chanser till det. Därför tror jag att vi bara har börjat förstå hur samarbete fungerar i praktiken och att det är mycket viktigt att uppmärksamma den mänskliga sidan.

David Rice: Kanske är skillnaden inte så enkel som att något är enkelt eller komplext, utan snarare vad människor vill få ut av interaktionen. Du nämnde att arga kunder vill tala med en människa. Om de känner skam eller är rädda för att bli dömda kan AI kännas lite psykologiskt säkrare än en person.

Det antyder att organisationer behöver användarundersökningar, inte bara processkartläggning, innan de avgör var människor ska ingå. Gränsen är inte heller permanent. Människor kan först vilja ha mänsklig bekräftelse och senare bli bekväma med AI, eller tvärtom.

Jag undrar därför om den emotionella konsekvensen egentligen är en bättre variabel än uppgiftens komplexitet.

Paula Goldman: Jag tycker att båda variablerna är mycket viktiga, och att organisationer ignorerar den mänskliga kontakten på egen risk.

Jag tror att båda är värdefulla faktorer. Jag tror också att du har rätt i att saker kommer att förändras. Med tiden kan människor bli mer vana vid att interagera med AI, samtidigt som AI naturligtvis blir bättre och kraftfullare. Men människor kan också komma att värdera mänsklig kontakt ännu högre.

När konsumenter och medarbetare använder AI mer och låter AI sålla bland det som når dem – marknadsföringsbudskap och annat – kommer vi att få färre mänskliga kontaktpunkter, och de kommer att betyda mycket mer.

Det är svårt att förutsäga hur allt kommer att utvecklas, men efter att ha skrivit boken känner jag mig mycket säker på att vi underskattar betydelsen av den mänskliga sidan av interaktionen.

David Rice: Du berättade en bra historia för mig när vi pratade inför detta, om socialarbetare som motsatte sig ett AI-verktyg som skulle göra att de slapp åka tillbaka till kontoret efter fältbesök. Ledningen såg resan som ineffektivitet.

Arbetarna såg den som platsen där de tillsammans bearbetade svåra fall. För mig är det en större lärdom för HR-chefer: hur skiljer man slöseri från de till synes ineffektiva mänskliga interaktioner som faktiskt påverkar förtroende, lärande, omdöme och motståndskraft mest?

Paula Goldman: Det var ett bra exempel på vikten av att verkligen förstå ritualen i det som sker. När människor åker ut i fält möter de ibland svåra eller helt nya situationer. Ibland kan arbetet också vara känslomässigt krävande. De vill återvända och bearbeta och lära sig tillsammans, eftersom en kollega kanske har erfarenhet av något liknande.

Frågan är inte om AI kan hjälpa till att ta anteckningar eller genomföra processen, utan hur tekniken bäst kan stödja både effektiviteten och det gemensamma lärandet. En liten justering – att verkligen förstå att målet inte bara är att spara tid utan också att öka lärandet i teamet – kan göra en enorm skillnad.

Målet är att få fram de bästa svaren för de människor som får stöd genom socialarbetarna och liknande roller. Det är en liten förändring som kan göra stor skillnad. I det fall jag berättade om kom det från ett kommunfullmäktige i Storbritannien, där pilotprojektet helt enkelt avvisades.

Återigen hade en liten justering mot ett mer människocentrerat införande kunnat rädda både effektiviteten och allt lärande som följde med den.

David Rice: Vi har i årtionden talat om friktion som något dåligt och om hur den ska tas bort. Nu ger AI oss en aldrig tidigare skådad förmåga att faktiskt göra det.

Men jag tror att vi kommer att upptäcka allt fler exempel på positiv friktion. Resan tillbaka till kontoret såg ut som transportslöseri på en processkarta, men i verkligheten var den kollegial handledning, möjlighet att varva ner tillsammans och dela informell kunskap.

Jag tror att liknande exempel finns överallt: juniora medarbetare som råkar höra seniora kollegor, samtalen efter möten och att fråga personen bredvid hur den skulle ha hanterat något. Dessa interaktioner är osynliga, men ovärderliga för avkastning på investeringar och medarbetarutveckling.

Paula Goldman: Jag håller med. På Salesforce kallar vi detta medveten friktion. AI och teknik är mycket kraftfulla och kan ta fram svar inom många områden. Men på vissa platser är skillnaden mellan ett lyckat och ett misslyckat resultat att en människa ingriper med sitt omdöme.

En stor del av min tid går åt till att identifiera de ögonblick då man verkligen vill få någon att stanna upp och titta en gång till. Det kan vara ett beslut med stora konsekvenser, exempelvis när AI rekommenderar något i samband med anställningsurval eller kreditbedömning, där mänsklig tillsyn behövs.

Det kan också vara så enkelt som att man verkligen vill att någon ska vara engagerad, eftersom det kommer att göra stor skillnad. Det måste göras mycket varsamt, men idén att friktion alltid är dålig stämmer inte. På vissa platser behöver vi definitivt friktion i systemet.

David Rice: Jag har hört någon kalla detta ”bärande ineffektivitet”, vilket jag tyckte var ett roligt uttryck.

Bör det vara HR-chefens ansvar att identifiera vilka ineffektiviteter som egentligen fyller en viktig funktion innan AI-omvandlingen tar bort dem?

Paula Goldman: HR:s roll är mycket viktig när det gäller att hjälpa alla olika funktioner i ett företag att använda AI på ett sätt som ger bästa möjliga resultat. Samtidigt måste frågan delegeras till varje funktion, eftersom de känner sin verksamhet bäst.

Marknadsorganisationen vet exempelvis var fingertoppskänsla och mänsklig autenticitet verkligen spelar roll i budskapen och var AI kan användas för att personalisera ett budskap på tjugotusen olika sätt för tjugotusen olika kunder.

Det är kombinationen som är intressant. AI finns plötsligt överallt, inte bara i en eller två appar. I Salesforce-sammanhang är AI djupt integrerat i allt vi gör, inom varje funktion.

Därför behöver man experter inom de olika funktionerna som kan avgöra vilka användningsområden som är viktigast. HR behöver samtidigt se till att mänsklig expertis finns kvar och är central för att skapa bästa möjliga resultat.

David Rice: Medarbetare kan inte bara vara mottagare av AI-omvandlingen. De vet saker om arbetet som de som utformar förändringarna kanske inte känner till. Organisationer kan inte heller göra om varje arbetsflöde genom kommittébeslut. Hur ser meningsfullt medarbetardeltagande ut utan att transformationen bromsas så mycket att ledningen blir obekväm?

Paula Goldman: Medarbetare bör ha en plats vid bordet. Historien om socialarbetarna är ett bra exempel på varför det är kontraproduktivt att inte involvera dem. Det finns sätt att göra detta som faktiskt påskyndar resultaten och gör att man kan upptäcka problem innan de blir stora.

Vi använder till exempel hackaton där medarbetare tar fram idéer om hur AI kan användas. Ett av mina favorite exempel är neurodivergenta medarbetare som undersökte hur AI kunde användas i Slack så att de inte överväldigades av alla informationsflöden. Deras idéer ledde till fokusläget i Slack.

Det handlar inte bara om hackaton, utan också om att be om återkoppling i applikationen, involvera människor i idéarbetet kring vilka appar som är viktiga och lyssna på återkopplingen. Målet är inte bara att lansera AI och säga att alla måste använda den, utan att förstå hur människor använder den i sitt dagliga arbete för att uppnå bättre resultat.

Människorna närmast arbetet vet ofta bäst hur det ska göras.

David Rice: Det finns en stor skillnad mellan att medarbetare har vetorätt och att de bidrar med designinformation. Frontlinjemedarbetare känner ofta till kringgåenden och regler som inte syns i standardrutinerna. De har så kallade skuggarbetsflöden.

Paula Goldman: Precis. Ibland kan AI fånga upp denna tysta kunskap och göra den mer tillgänglig. Men mycket kommer inte att dyka upp eftersom det inte är uttryckligen dokumenterat. Det kan handla om att läsa av rummet eller förstå hur något har gjorts i många år. Därför vill man ha tillgång till den expertisen.

David Rice: Jag skulle beskriva det mindre som deltagande och mer som kravinsamling. Människor är mer benägna att använda ett system när de känner igen sin verklighet i utformningen.

Paula Goldman: Absolut. Det är ett utmärkt sätt att beskriva det.

David Rice: Hur skiljer man legitim kunskap från frontlinjen från motstånd som egentligen bara betyder ”jag vill inte att mitt arbete ska förändras”?

Paula Goldman: Vi går igenom en enorm förändring i hur vi arbetar. Förändring är svårt. Därför är det viktigt att involvera människor, ge dem en plats vid bordet och förstå kraven. Det leder till bättre resultat eftersom människor ombeds förändra sitt sätt att arbeta.

Det är lätt att underskatta den stora känslomässiga kurva de går igenom och den kunskap som behöver tas till vara. Man behöver fråga vad som måste förbli mänskligt och lyssna på var omdöme, relationsskapande och hantering av undantagsfall gör stor skillnad.

Alla åsikter behöver inte avgöra resultatet, men de måste tas på allvar. Att involvera människor i utformningen av hur arbetet ska se ut gör stor skillnad. Människor behöver få möjlighet att följa med och se att förändringen faktiskt gör arbetet bättre. Det är förändringsledning.

David Rice: Det finns ytterligare en dimension av samarbete mellan människor och AI. Om vi systematiskt överlåter vissa kognitiva uppgifter till AI förändrar vi inte bara arbeten, utan kanske också hur människor utvecklar expertis och formar det som kommer ut ur arbetsplatsen.

Hur bör ledare tänka kring vad människor behöver fortsätta göra? Inte för att AI inte kan göra det, utan för att det är genom att göra det som människor utvecklar det omdöme de behöver för att lyckas i sina roller. Det finns en skillnad mellan om AI kan utföra en uppgift och om människor bör sluta utföra den.

Paula Goldman: Skillnaden mellan ”kan” och ”bör” är mycket viktig. I kundservice och många andra sammanhang kan den skillnaden vara avgörande för om resultatet blir lyckat eller misslyckat.

Ur ett HR-perspektiv tänker jag på teknik som hjälper chefer att göra mer genomarbetade prestationsbedömningar och ge bättre återkoppling. AI kan hjälpa till att samla in information, men chefen måste ta ansvar för bedömningen och själv ge den. Det är skillnaden mellan motivation och brist på motivation.

Därför uppmuntrar man en chef att oftare stämma av med sitt team i stället för att låta AI göra det. Frågan om hur man utvecklar expertis är också avgörande. Det är därför vi ser ett ökat intresse för lärlingskap, utbildning och färdigheter.

Det här kommer att se annorlunda ut om fem eller tio år. När kalkylprogrammen kom oroade sig människor för att förlora kunskap om beräkningar. Man behöver fortfarande kunna grunderna, men lär sig sedan att använda tekniken och kontrollera resultaten.

Vi ser också nya roller där man lär sig grunderna genom att övervaka AI. Man kan exempelvis se vilka inkommande frågor AI hanterar bra, var den misslyckas och hur den kan förbättras. Nya sätt att lära sig verksamheten kommer att växa fram eftersom AI förändrar hur arbete utförs.

David Rice: Vissa uppgifter kan behöva förbli avsiktligt mänskliga som utbildningsuppgifter, även om AI kan utföra dem snabbare. Det skapar dock en ekonomisk fråga: vem betalar för den utvecklingsrelaterade ineffektiviteten?

Paula Goldman: Jag tycker att det är fel sätt att beskriva effektivitet. Vi talar om att människor lär sig hantera AI-system. Det finns många exempel på varför denna hantering, detta omdöme och denna tillsyn gör stor skillnad för resultatet.

Det handlar inte om ineffektivitet. Om man gör en stor investering i AI måste man ha människor som både känner verksamheten och kan avgöra vilka uppgifter som ska delegeras till AI och vilka som inte ska det. Utan den kombinationen lägger man pengar på ett problem utan att lösa det.

David Rice: Många AI-affärsfall är bra på att fånga det som försvinner: sparade timmar, automatiserade uppgifter och frigjord kapacitet. De är sämre på att mäta det som kan försvinna samtidigt: tyst kunskapsöverföring, relationer, omdöme, mentorskap och informella stunder då människor tillsammans förstår svårt arbete.

Underskattar vår nuvarande definition av avkastning på AI systematiskt den mänskliga sidan av arbetet?

Paula Goldman: Den förändras, men ja. Därför börjar vi mäta avkastningen på AI utifrån resultat i stället för enbart sparade timmar. Hur många kundsamtal löstes faktiskt? Förbättrades människors färdigheter genom utbildning? Om AI används juridiskt, förbättras kvaliteten på inlagorna, eller skapas bara fler felaktiga svar?

När man använder mer heltäckande mått tar man hänsyn till både vad AI klarar och inte klarar, var människor behöver ingå i processen och var mänskligt omdöme krävs. Då gör man bättre teknik-investeringar och får en tydligare plan för hur människors arbeten kan utvecklas på ett spännande och stärkande sätt.

David Rice: Vi ser en asymmetri där nyttan bokförs nu medan kostnaden för förlorad förmåga skjuts på framtiden. Sparade timmar kan mätas direkt, men svagare omdöme kanske inte upptäcks förrän om ett eller två år.

Paula Goldman: Eller kundnöjdhet. AI kan svara på alla kundfrågor utan att kunden faktiskt köper något eller är nöjd med servicen. AI är kraftfullt och kan göra mycket, men man måste mäta på rätt sätt för att hitta balansen och förstå var människor behöver ingripa.

David Rice: Vad skulle du faktiskt mäta för att kunna visa långsiktiga effekter och få med rätt saker i ett stort transformationsbudgetunderlag?

Paula Goldman: Ur kundperspektiv bör man mäta sparade timmar, kundnöjdhet, kundbortfall och hur många kunder som konverterar från försäljningsinsatser, oavsett om de är AI-assisterade eller inte. Det är inte nya mått. Det är heltäckande sätt att mäta verksamheten som vi redan använder.

Man behöver en blandning av strategier. Kunden ska kunna ställa frågor om produkten på webbplatsen och få hjälp. En enkel transaktion kan genomföras online, medan en svårare fråga bör eskaleras till en person som kan slutföra affären och hjälpa kunden att förstå problemet.

Vi behöver inte nya mått. Vi behöver tillämpa de befintliga måtten på ett sansat sätt.

David Rice: Du sade något jag verkligen tyckte om: ”Tekniken är kraftfull, men den är inte huvudpersonen. Det är vi.” Om vi tar det på allvar kan målet med AI-omvandlingen inte bara vara att göra människor mer produktiva. Vad bör organisationer vilja att människor blir bättre på när maskinerna blir mer kapabla?

Paula Goldman: Jag skrev en bok eftersom många smarta människor började undra om de fortfarande spelar någon roll och om människor håller på att bli överflödiga. Genom mina samtal med kunder och genom att observera tekniken över tid blev det tydligt att motsatsen gäller.

När AI blir kraftfullare blir omdöme och relationsskapande allt viktigare. Vi blir alla chefer för AI. Vi blir förstärkta, men för att lyckas måste vi förstå vad tekniken är bra och dålig på och veta när vi ska ingripa.

Det handlar inte om att bygga en snabbare häst, utan om att föreställa sig vad som blir möjligt när AI kan personalisera interaktioner i stor skala, svara på kundernas första frågor eller ge medarbetare all information de behöver om förmåner.

Detta kommer att bli en grundförväntan. Det viktiga är att människor i dessa roller vet hur de kan utnyttja effektiviteten och sedan göra något bättre för kunder och medarbetare. Därför behöver människor inte bara vara kunniga inom AI, utan också ha mandat att använda sitt omdöme och tänka nytt.

Inte en snabbare häst, utan en omformad verksamhet. Det är därför jag brinner så mycket för hela den här diskussionen.

David Rice: Jag hör fler ledare förstå att detta är ett val inom organisationsdesign, inte bara en oundviklig följd av att tekniken kommer in på arbetsplatsen. Ledare inser att de inte har alla svar. En bra ledare kan ställa rätt frågor och bygga förtroende så att människor känner sig fria att ta ansvar.

Produktivitet är ett mellanresultat, inte slutmålet. Den mer intressanta frågan är vad vi gör med den kapacitet som skapas.

Paula Goldman: Det stämmer. Produktivitet är naturligtvis mycket viktigt, men man behöver också människor som övervakar AI och förstår gränserna för när AI och människor ska ingripa. Man behöver människor som har mandat att tänka om och hålla kunder och medarbetare i centrum.

Det är de företagen som kommer att lyckas.

David Rice: När AI tar bort rapportering och administrativt arbete förändras chefsrollen. Man vill kanske att chefen ska bli en bättre coach och få ut mer av sina direktrapporterande medarbetare.

Det skapar ett annat ramverk för vad man söker hos en chef. Tidigare blev man ofta chef för att man var bra på sitt individuella arbete, trots att man inte hade rätt personlighet eller färdigheter för att coacha.

Paula Goldman: Vi befinner oss nu i ett läge där nästan varje medarbetare förväntas hantera AI, med ungefär samma brist på utbildning som chefer ofta fick. Det var en av mina drivkrafter när jag skrev boken.

Din poäng om chefer är också viktig. När jag började skriva boken hjälpte min dåvarande chef, John Stormer, mig genom att skicka poddavsnitt och nyhetsartiklar och genom att diskret visa att idén var viktig. Det gav mig självförtroendet att föra ut perspektivet i världen.

Vi underskattar hur mycket sådan kontakt betyder. Ingen bad mig skriva boken. Den växte fram ur inspiration och kontakt som vårdades av honom och många andra i min omgivning. Det är sådant vi inte vill förlora när AI blir kraftfullare.

Det är sådant vi vill bygga in och göra vanligare. Den möjligheten ger mig gåshud.

David Rice: Paula, det här var ett fantastiskt samtal. Tack för att du tog dig tid.

Paula Goldman: Tack för att jag fick vara med och tack för så bra frågor. Jag tyckte verkligen om det.

David Rice: Lyssnare, om ni inte redan har gjort det bör ni gå över och kolla in vår AI Signal. Varje vecka gör vi en ledarskapsgenomgång med det viktigaste du behöver tänka på, en fråga att ställa på nästa ledningsmöte eller ett verktyg för att bedöma arbetet som pågår just nu.

Anmäl dig till det. Och tills nästa gång: tänk på möjligheterna. Här omformar vi arbetet.

Genomför prestationsbedömningar och ta med insikter om medarbetarengagemang till ditt favoritverktyg för AI. Anslut Teamflect till ChatGPT, Claude eller valfri språkmodell för att kontrollera mål, skriva bedömningar, utvärdera återkoppling, skapa uppgifter och mycket mer – allt genom en enkel chatt. Prova Teamflect gratis nu.