Överlämningen mellan människa och AI är mer komplicerad än företag tror

David Rice: De flesta samtal om AI i stora företag börjar med samma fråga: Vad kan vi automatisera? Men det är fel utgångspunkt. I dagens program talar jag med Paula Goldman, Chief Ethical and Humane Use Officer på Salesforce, om skillnaden mellan att utforma för automatisering och att utforma för samarbete mellan människor och AI.

Det är inte samma sak. Automatisering frågar vilka steg man kan ta bort. Samarbete frågar vilket arbete som nu kan bli möjligt när människor har en ny förmåga till hands. Överlämningen mellan AI och människor är inte heller så tydlig som vi gärna låtsas. När kunder är arga vill de tala med en människa. När de känner sig generade föredrar de ofta AI.

Breda antaganden om var den gränsen går kommer att kosta organisationer förtroende på sätt som är svåra att återvinna. Paulas huvudargument är att när AI blir kraftfullare blir omdöme och relationsskapande viktigare, inte mindre viktiga. Produktivitet är ett mellanresultat. Den mer intressanta frågan är vad man gör med den kapacitet som skapas.

Så i dag tar vi upp varför en start med automatisering får ledare att missa hur mänskligt arbete skapar värde, hur man kan tänka kring överlämningen mellan AI och människor för sina specifika användningsområden, varför varje medarbetare nu förväntas hantera AI med samma brist på utbildning som chefer en gång fick, och hur det faktiskt ser ut att utforma arbetet för mänskligt välbefinnande.

Jag heter David Rice. Det här är People Managing People, och om din AI-strategi är organiserad kring vad du kan automatisera snarare än vilket arbete som skulle kunna bli möjligt, kommer det här samtalet att förändra hela frågeställningen för dig. Då kör vi.

Möt Teamflect, den högst rankade plattformen för prestationshantering och medarbetarengagemang, byggd för Microsoft Teams.

Över tusen organisationer litar på oss. En lättanvänd men samtidigt företagsanpassad lösning. Besök Teamflect.com för att lära dig mer.

Paula, varmt välkommen till dagens program.

Paula Goldman: Tack för att jag fick komma.

David Rice: Jag ville börja samtalet med att konstatera att mycket av samtalet om AI i stora företag fortfarande börjar med någon variant av: ”Vad kan vi automatisera?”

Du hävdar på sätt och vis att det är två fundamentalt olika saker att utforma för automatisering och att utforma för samarbete mellan människor och AI. Om vi börjar med automatisering som mål, vad får det ledare att missa om mänskligt arbete och hur det skapar värde?

Paula Goldman: Tack. Jag tycker att du formulerade frågan väldigt bra, och jag tror att det finns flera delar i den.

En del handlar helt enkelt om skillnaden mellan ett omvälvande resultat och en mindre effektivitetsökning. Vi behöver fråga: ”Vad gör AI möjligt för våra verksamheter? Hur kan vi glädja våra kunder och medarbetare ännu mer?” Men på en mer grundläggande nivå handlar frågan också om att inse var mänsklig interaktion är avgörande för resultatet.

Där kopplingen mellan den som svarar i telefon och den som ringer, till exempel, kan vara skillnaden mellan en mycket besviken kund och en nöjd kund, eller där mänsklig coachning av en medarbetare kan vara skillnaden mellan motivation och utveckling och motsatsen.

Jag tror att vi har underskattat varför det är viktigt. AI är mycket kraftfullt. Det finns så mycket vi kan göra med det. Men den rätta frågan är: hur får vi människor och AI att arbeta bra tillsammans för att skapa ansvarsfulla och exceptionellt goda resultat, inte bara var vi kan koppla in AI?

David Rice: Ett av våra problem är ibland att effektivitet och värde tenderar att bli nästan synonyma i våra huvuden. Men ett arbetsflöde kan bli dramatiskt effektivare och samtidigt sämre på att skapa sådant som spelar roll: förtroende, lärande, kreativitet och omdöme. Automatisering tenderar att behandla det befintliga arbetsflödet som analysenheten.

Vilka steg kan vi ta bort? Samarbete ställer en annan fråga: ”Vad skulle det här arbetsflödet kunna bli nu när människor har tillgång till en ny typ av förmåga?”

Paula Goldman: Jag tycker att du uttryckte det väldigt väl.

David Rice: Jag tror att det här är särskilt relevant för personalchefer, eftersom en ekonomichef kommer att se att tjugo procent av kapaciteten frigörs.

HR behöver fråga vad som händer med yrkeskompetensen och det organisatoriska systemet kring den kapaciteten. Det här är en av de stora sakerna vi måste brottas med just nu. Du har talat om att utforma överlämningen mellan AI och människor. Men den gränsen är inte så enkel som att AI hanterar rutinuppgifter och människor hanterar komplexa uppgifter.

Vi säger så, men jag tror inte att det är så tydligt. Ibland föredrar människor faktiskt AI för mycket känsliga interaktioner, medan andra till synes enkla ögonblick i hög grad är beroende av mänsklig kontakt. Hur bör organisationer avgöra var gränsen ska gå i stället för att göra breda antaganden?

Paula Goldman: Det är inte så att den tumregeln – låt AI hantera det rutinmässiga och människor det komplexa – är fel. Det är faktiskt en ganska bra utgångspunkt. Men när man börjar titta på enskilda användningsområden blir det mycket intressant.

Ta kundservice som exempel. Om AI aldrig har sett en fråga tidigare och inte har några uppgifter om svaret bör AI förmodligen inte hantera den. Men det finns fler tumregler. Om något är hårt reglerat, till exempel ekonomisk rådgivning till småföretag, vill man att en människa hanterar det när det gäller ett reglerat område som skatterådgivning.

Men om man börjar tänka på kundernas känslor och den emotionella kopplingen blir det verkligen intressant. Många studier och mycket data visar att arga kunder i allmänhet vill tala med en person. När de känner sig generade – kanske på grund av ett medicinskt tillstånd eller något de inte vill känna sig dömda för – finns det en viss preferens för AI.

Därför är det viktigt att förstå de här trenderna och preferenserna: var människor vill tala med människor och var de inte vill det. Inom kundservice är det inte bara en effektivitetsfråga. Det är här man behåller kunden eller inte.

Man får inte många chanser. Det är därför vi bara har börjat skrapa på ytan av hur samarbete fungerar i praktiken. Att uppmärksamma den mänskliga sidan är mycket viktigt.

David Rice: Kanske är skillnaden inte så enkel som rutin kontra komplexitet, utan snarare vad människor vill få ut av interaktionen. När de är arga vill de tala med en människa. Om de känner sig generade eller rädda för att bli dömda kan AI kännas psykologiskt tryggare än en person.

Det antyder att organisationer behöver användarundersökningar, inte bara processkartläggning, innan de avgör var människor ska finnas med. Gränsen är inte heller permanent. Människor kan först vilja ha mänsklig bekräftelse och senare bli bekväma med AI, eller tvärtom.

Det är alltså delvis en fråga om val. Vi använder uppgiftens komplexitet som en ersättning för frågan om var människor skapar värde. Tror du att den känslomässiga konsekvensen faktiskt är en bättre variabel?

Paula Goldman: Jag tror att båda variablerna är mycket viktiga och att människor ignorerar den mänskliga kontakten på egen risk.

Båda sakerna behöver vägas in. Du har också rätt i att det kommer att förändras. Med tiden kan människor vänja sig mer vid att interagera med AI, och AI blir uppenbarligen allt bättre och kraftfullare. Men människor kan också komma att värdera mänsklig kontakt ännu högre.

När konsumenter och medarbetare använder AI mer och låter AI filtrera bort det som når dem – marknadsföringsbudskap och så vidare – får vi färre mänskliga kontaktpunkter, och de kommer att spela mycket större roll.

Det är svårt att förutsäga hur allt kommer att utvecklas, men efter att ha skrivit boken känner jag mig mycket säker på att vi underskattar betydelsen av den mänskliga sidan av interaktionen.

David Rice: Du berättade en fantastisk historia när vi talade före programmet om socialarbetare som motsatte sig ett AI-verktyg som skulle bespara dem resan tillbaka till kontoret efter fältbesök. Ledningen såg resan som ineffektivitet.

Medarbetarna såg den som platsen där de tillsammans bearbetade svåra fall. För mig är det en mycket större lärdom för personalchefer. Hur skiljer man slöseri från de till synes ineffektiva mänskliga interaktioner som faktiskt påverkar förtroende, lärande, omdöme och motståndskraft mest?

Paula Goldman: Det var ett bra exempel på vikten av att verkligen förstå den ritual som finns i arbetet. När man arbetar ute på fältet möter man svåra fall. Ibland ser man saker man aldrig har sett tidigare, och ibland tar arbetet en känslomässig vägtull.

Man vill gå tillbaka och bearbeta och lära sig tillsammans, eftersom en kollega kanske har erfarenhet av något liknande. AI kan hjälpa till med anteckningar och processer, men frågan är hur man samtidigt stöder effektiviteten och det gemensamma lärandet.

Det kräver en liten förändring: att förstå att målet inte bara är att spara tid utan att öka lärandet i teamet och hitta de bästa svaren för de människor som får stöd genom handläggarna. Den lilla förändringen kan göra en enorm skillnad.

David Rice: Vi har i årtionden talat om friktion som något dåligt som ska tas bort. AI ger oss nu en tidigare oöverträffad förmåga att göra det.

Men vi kommer sannolikt att upptäcka mer positiv friktion. Resan tillbaka till kontoret såg ut som transportslöseri på en processkarta, men i verkligheten var den kollegial handledning, möjlighet att varva ner tillsammans och att dela informell kunskap.

Liknande exempel finns överallt: yngre medarbetare som hör seniora kollegor samtala, diskussionerna efter möten och att fråga någon bredvid hur de skulle hantera en situation. Interaktionerna är osynliga men ovärderliga för avkastning på investeringar och medarbetarutveckling.

Paula Goldman: Jag håller med. På Salesforce kallar vi det här medveten friktion. AI och teknik är mycket kraftfulla och kan ta fram svar inom många områden. Men på vissa platser är skillnaden mellan ett lyckat och ett misslyckat resultat att en människa ingriper med sitt omdöme.

Jag ägnar mycket tid åt att identifiera de ögonblick då man verkligen vill uppmuntra någon att ta en andra titt. Det kan handla om ett beslut med stora konsekvenser, exempelvis vid anställningsgranskning eller lånebedömning, där man vill ha mänsklig tillsyn.

Det kan också vara så enkelt som att man vill att någon ska vara engagerad, eftersom det gör stor skillnad. Det måste göras mycket försiktigt, men tanken att friktion alltid är dålig stämmer inte. På vissa platser behöver vi definitivt friktion i systemet.

David Rice: Jag har hört någon kalla det här ”bärande ineffektivitet”, vilket jag tyckte var ett roligt uttryck. Men är det personalchefens uppgift att identifiera vilka ineffektiviteter som faktiskt är värdefulla innan AI-transformationen tar bort dem?

Paula Goldman: HR:s roll är oerhört viktig för att hjälpa alla funktioner i ett företag att använda AI på ett sätt som ger bästa möjliga resultat. Men frågan måste också delegeras till varje funktion, eftersom de vet var mänsklig autenticitet och omdöme spelar störst roll.

Marknadsfunktionen vet var mänsklig äkthet behövs i budskapen och var AI kan personalisera ett budskap på tjugo tusen olika sätt för tjugo tusen kunder. Man behöver hitta rätt kombination av båda.

AI finns nu överallt, inte bara i en eller två appar. Det är djupt integrerat i allt vi gör inom varje funktion. Därför behöver man experter inom funktionerna som avgör vilka användningsområden som är viktigast, medan HR måste se till att mänsklig expertis finns kvar och står i centrum.

David Rice: Medarbetare kan inte bara vara mottagare av AI-transformationen. De vet saker om arbetet som de som utformar förändringarna kanske inte känner till. Organisationer kan inte heller göra om varje arbetsflöde genom kommittéer. Hur ser meningsfullt medarbetardeltagande ut utan att transformationen bromsas så mycket att ledningen blir obekväm?

Paula Goldman: Medarbetare bör ha en plats vid bordet. Historien om socialarbetarna visar varför det är kontraproduktivt att inte involvera dem. Det finns sätt att göra det som faktiskt påskyndar resultaten och upptäcker problem innan de blir stora.

Vi arbetar exempelvis med hackaton där medarbetare tar fram idéer om hur AI kan användas. Neurodivergenta medarbetare utvecklade idéer om hur AI i Slack kunde minska känslan av att överväldigas av all information. De idéerna ledde till fokusläget i Slack.

Det handlar inte bara om hackaton. Det handlar också om att be om återkoppling i applikationen, involvera människor i idéarbetet kring vilka appar som blir viktiga och faktiskt lyssna på återkopplingen.

Målet är inte bara att lansera AI och säga att den måste användas. Det viktiga är hur människor använder den i sitt dagliga arbete för att skapa bättre resultat. De som står närmast arbetet vet ofta bäst hur det ska göras.

David Rice: Det finns en tvekan inför detta, men man måste skilja mellan att medarbetare har vetorätt och att de bidrar med designkunskap. Frontlinjemedarbetare känner ofta till kringlösningar och regler som inte syns i standardiserade arbetsinstruktioner. De har så kallade skuggarbetsflöden.

Paula Goldman: Precis. Ibland kan AI fånga upp tyst kunskap och göra den mer tillgänglig, vilket är bra. Men mycket kommer inte att dyka upp eftersom det inte är uttryckligen dokumenterat. Det kan handla om att läsa av rummet eller förstå hur något har gjorts i många år. Därför vill man ha den expertisen.

David Rice: Jag skulle beskriva det mindre som deltagande och mer som kravinsamling. Människor använder ett system oftare när de känner igen sin verklighet i utformningen. Hur skiljer man legitim kunskap från motstånd som egentligen bara betyder ”jag vill inte att mitt arbete ska förändras”?

Paula Goldman: Vi genomgår en enorm förändring av hur vi arbetar. Förändring är svårt, och därför leder det ofta till bättre resultat att involvera människor och verkligen förstå deras perspektiv.

Vi ber människor förändra hur de arbetar, och det är lätt att underskatta den känslomässiga kurva de går igenom. Man behöver lyssna på vad som bör förbli mänskligt och förstå var omdöme, relationsskapande och hantering av undantagsfall gör stor skillnad.

Att involvera människor i utformningen av hur arbetet ska se ut är avgörande. De behöver få följa med på resan och se att arbetet faktiskt kommer att bli bättre. Det är förändringsledning.

David Rice: En annan dimension av samarbete mellan människor och AI är att vi, om vi systematiskt överlämnar vissa kognitiva uppgifter till AI, inte bara utformar om jobb. Vi kan också förändra hur människor utvecklar expertis och sin förmåga att påverka det som kommer ut ur arbetsplatsen.

Hur bör ledare tänka kring vad människor behöver fortsätta göra – inte för att AI inte kan göra det, utan för att det är genom att göra det som människor utvecklar det omdöme de behöver för att lyckas?

Paula Goldman: Skillnaden mellan vad AI kan göra och vad AI bör göra är mycket viktig. Inom kundservice och andra områden kan den skillnaden vara skillnaden mellan framgång och misslyckande.

Ur ett HR-perspektiv kan teknik hjälpa chefer att samla in mer fullständiga underlag för prestationssamtal och ge bättre återkoppling. Men det är skillnad mellan att AI hjälper till att samla information och att chefen tar ansvar för bedömningen och framför den. Det påverkar skillnaden mellan motivation och brist på motivation.

Frågan om hur expertis utvecklas är också avgörande. Därför ser vi ett uppsving för lärlingskap, utbildning och kompetensutveckling. Om fem eller tio år kan frågan se annorlunda ut. Man behöver fortfarande kunna grunderna, men man lär sig också att kontrollera resultat och förstå vad man kan lita på.

Nya roller kommer att växa fram där man lär sig grunderna genom att övervaka AI. Man ser var den fungerar, var den inte fungerar och hur den kan förbättras. Eftersom AI förändrar hur arbetet utförs kommer nya sätt att lära sig verksamheten att behöva växa fram.

David Rice: Vissa uppgifter kan behöva förbli medvetet mänskliga som utbildningsuppgifter, även om AI kan utföra dem snabbare. Då uppstår en ekonomisk fråga: vem betalar för utvecklingsineffektiviteten?

Paula Goldman: Det är fel sätt att beskriva effektivitet. Vi talar om att människor lär sig hantera AI-system, och det finns många exempel på varför den ledningen, det omdömet och den tillsynen gör stor skillnad.

Det handlar inte om ineffektivitet. Man gör en stor investering i AI och behöver människor som både känner verksamheten och vet vilka uppgifter som ska delegeras till AI. Utan det kastar man pengar på ett problem utan att lösa det.

David Rice: De flesta affärsfall för AI är ganska bra på att fånga det som försvinner: sparade timmar, automatiserade uppgifter och skapad kapacitet. De är sämre på att mäta det som också kan försvinna: tyst kunskapsöverföring, relationer, omdöme, mentorskap och de informella ögonblick då människor tillsammans förstår svårt arbete.

Undervärderar vår nuvarande definition av AI-avkastning systematiskt den mänskliga sidan av arbetet?

Paula Goldman: Den håller på att förändras, men ja. Därför börjar vi mäta AI-avkastning utifrån resultat i stället för enbart sparade timmar. Hur många kundsamtal löstes faktiskt? Förbättrades människors färdigheter? Blev kvaliteten på juridiska underlag bättre?

När man använder mer heltäckande mått tar man hänsyn till både vad AI kan och inte kan göra, var människor behöver vara med i processen och var mänskligt omdöme behövs. Då gör man bättre investeringar i tekniken och får en tydligare väg för hur människors jobb kan utvecklas på ett spännande och stärkande sätt.

David Rice: Fördelen med sparade timmar syns direkt. Om omdömet blir svagare kanske man inte upptäcker det förrän om ett eller två år. Fördelen bokförs nu medan kostnaden för förlorad förmåga skjuts på framtiden. Därför måste vi mäta annorlunda.

Paula Goldman: AI kan besvara alla kundfrågor, men det betyder inte att kunden genomför köpet eller är nöjd med servicen. Man måste mäta på rätt sätt och hitta balansen mellan var människor behöver ingripa och varför det spelar roll.

David Rice: Vad skulle du faktiskt mäta om du ville visa de långsiktiga effekterna i ett stort transformationsprojekt?

Paula Goldman: Ur kundperspektiv ska man mäta sparade timmar, men också kundnöjdhet, kundbortfall och hur många kunder som konverterar från försäljningsinsatserna. Inget av detta är nya mått. Det är heltäckande sätt att mäta verksamheten.

Man behöver en blandning av strategier. Kunden ska kunna ställa vilken fråga som helst om produkten och få hjälp. En enkel transaktion kan genomföras online, medan en svårare fråga kan eskaleras till en person som kan slutföra affären och hjälpa kunden att omformulera problemet.

Vi behöver inte nödvändigtvis nya mått. Vi behöver använda de befintliga måtten på ett balanserat sätt.

David Rice: Du sa något som jag tyckte mycket om: ”Teknik är kraftfull, men den är inte huvudpersonen. Det är vi.” Om vi tar det på allvar kan målet med AI-transformation inte bara vara att göra människor mer produktiva. Vad bör organisationer vilja att människor blir bättre på när maskiner blir mer kapabla?

Paula Goldman: Jag skrev en bok eftersom många smarta människor började fråga sig om de fortfarande spelar någon roll och om människor håller på att bli överflödiga. Genom alla mina samtal och genom att observera tekniken över tid blev det tydligt att motsatsen är sann.

När AI blir kraftfullare blir omdöme och relationsskapande allt viktigare. Vi blir alla ansvariga för att hantera AI. Vi behöver förstå vad tekniken är bra och dålig på och kunna ingripa när det behövs.

Det handlar inte om att bygga en snabbare häst, utan om att föreställa sig vad som blir möjligt när AI kan personalisera interaktioner i enorm skala, besvara alla första frågor från kunder eller ge alla medarbetare den information de behöver om förmåner.

Detta kommer att bli grundläggande förväntningar. Det viktiga är att människor i de här rollerna vet hur de ska utnyttja effektiviteten och sedan göra något bättre för kunder och medarbetare. Därför behöver vi människor som inte bara är kunniga om AI utan också har mandat att använda sitt omdöme och tänka nytt.

Det här är ögonblicket vi befinner oss i: inte en snabbare häst, utan en omgestaltad verksamhet.

David Rice: Jag hör fler ledare förstå att det här är ett val inom organisationsdesign, inte bara en oundviklig konsekvens av tekniken. Ledare behöver inte ha alla svar. En bra ledare kan ställa rätt frågor, använda sitt omdöme, rama in problem och bygga förtroende så att människor känner sig fria att ta ansvar.

Produktivitet är alltså ett mellanresultat. Den intressantare frågan är vad vi gör med kapaciteten som skapas.

Paula Goldman: Det stämmer. Produktivitet är mycket viktigt, men det är inte hela bilden. Vi har sett många AI-misslyckanden. Man behöver människor som övervakar systemen och förstår gränserna för var AI bör ingripa och var människor bör göra det.

Man behöver också människor som får mandat att tänka om, hålla kunder och medarbetare i centrum och skapa bättre resultat snabbare. Det är de företagen som jag tror kommer att lyckas.

David Rice: När jobb utformas om kan AI ta bort rapportering och administrativt arbete från chefer. Då vill man något annat av chefen: att hen blir en bättre coach och får ut mer av sina direktrapporterande medarbetare.

Det skapar också ett nytt sätt att se på vem som bör bli chef. Att vara bäst på sitt individuella arbete innebär inte automatiskt att man är bäst på att coacha andra. Om någon är bra på att dela kunskap och hjälpa människor att hitta bättre sätt att arbeta kan det vara en utmärkt chef.

Paula Goldman: Vi ber nu nästan varje medarbetare att hantera AI, med ungefär samma brist på utbildning som chefer en gång fick. Det var en av mina drivkrafter när jag skrev boken.

En chef jag hade när jag började skriva boken försökte inte styra om idén eller säga att den var dålig. Han gav näring åt min fantasi, skickade poddar och nyhetsartiklar och förmedlade lugnt att idén var viktig. Det gav mig självförtroendet att föra ut perspektivet i världen.

Vi underskattar hur mycket den typen av kontakt betyder. Det är sådant vi inte vill förlora när AI blir allt kraftfullare. Vi vill utforma arbetet så att detta inte bara bevaras utan blir vanligare.

David Rice: Vi är helt överens. Paula, det här var ett fantastiskt samtal. Tack för att du tog dig tid.

Paula Goldman: Tack för att jag fick vara med och tack för så bra frågor. Jag tyckte mycket om det.

David Rice: Lyssnare, om ni inte redan har gjort det bör ni gå till AI Signal. Varje vecka får ni en ledarskapsbriefing med den viktigaste saken att tänka på, en fråga att ställa vid nästa ledningsmöte eller ett verktyg för att bedöma det arbete som pågår.

Anmäl dig och tills vi hörs igen: tänk på möjligheterna. Vi utformar om arbetet här.

Genomför prestationssamtal och ta med insikter om medarbetarengagemang till ditt favoritverktyg för AI. Anslut Teamflect till ChatGPT, Claude eller valfri stor språkmodell för att kontrollera mål, skriva omdömen, utvärdera återkoppling, skapa uppgifter och mycket mer – allt genom en enkel chatt. Prova Teamflect gratis redan i dag.