Overdragelsen mellem mennesker og AI er mere kompliceret, end virksomheder tror

David Rice: De fleste samtaler om AI i store virksomheder begynder med det samme spørgsmål: Hvad kan vi automatisere? Men det er det forkerte sted at begynde. I dagens program taler jeg med Paula Goldman, Chief Ethical and Humane Use Officer hos Salesforce, om forskellen mellem at designe til automatisering og at designe til samarbejde mellem mennesker og AI.

Det er ikke det samme. Automatisering spørger, hvilke trin man kan fjerne. Samarbejde spørger, hvad arbejdet kan blive til, nu hvor mennesker har fået en ny kapacitet til rådighed. Overdragelsen mellem AI og mennesker er heller ikke så klar, som vi gerne vil lade som om. Når kunder er vrede, vil de tale med et menneske. Når de er flove, foretrækker de ofte AI.

Generelle antagelser om, hvor grænsen går, kommer til at koste organisationer tillid på måder, som er svære at genopbygge. Paulas centrale argument er, at efterhånden som AI bliver mere kraftfuld, bliver dømmekraft og relationsopbygning vigtigere, ikke mindre. Produktivitet er et mellemresultat. Det mere interessante spørgsmål er, hvad man gør med den kapacitet, som produktiviteten skaber.

I dag gennemgår vi derfor, hvorfor et fokus på automatisering får ledere til at overse, hvordan menneskeligt arbejde skaber værdi, hvordan man kan tænke over overdragelsen mellem AI og mennesker i sine konkrete anvendelser, hvorfor alle medarbejdere nu bliver bedt om at lede AI med den samme mangel på oplæring, som ledere tidligere fik, og hvordan design til menneskelig trivsel faktisk ser ud i praksis.

Jeg hedder David Rice. Dette er People Managing People, og hvis din AI-strategi er organiseret omkring, hvad du kan automatisere, i stedet for hvad arbejdet kan blive til, vil denne samtale ændre hele din måde at se spørgsmålet på. Lad os komme i gang.

Mød Teamflect, den bedst bedømte platform til performance management og medarbejderengagement, udviklet til Microsoft Teams.

Over tusind organisationer har tillid til os. En brugervenlig løsning i virksomhedsklasse. Besøg Teamflect.com for at få mere at vide.

Paula, velkommen til dagens program.

Paula Goldman: Tak, fordi jeg måtte komme.

David Rice: Jeg vil gerne begynde samtalen med, at en stor del af samtalen om AI i virksomheder stadig starter med en eller anden version af: "Hvad kan vi automatisere?"

Du argumenterer for, at det grundlæggende er to forskellige ting at designe til automatisering og at designe til samarbejde mellem mennesker og AI. Hvis vi begynder med automatisering som målet, hvad får det så ledere til at overse om menneskeligt arbejde og den måde, det skaber værdi på?

Paula Goldman: Tak. Jeg synes, du formulerede spørgsmålet rigtig godt, og jeg tror, der er flere dele i det.

Den ene handler om forskellen mellem et transformerende resultat og et mindre løft i effektiviteten. Vi bør spørge: "Hvad gør AI muligt for vores virksomheder? Hvordan kan vi glæde vores kunder og medarbejdere endnu mere?" Men på et mere grundlæggende niveau handler spørgsmålet også om at anerkende, hvor menneskelig interaktion er afgørende for resultatets succes.

For eksempel kan forbindelsen mellem den person, der tager telefonen, og den person, der ringer ind, være forskellen mellem en meget skuffet kunde og en begejstret kunde. Eller menneskelig coaching af en medarbejder kan være forskellen mellem motivation og udvikling og det modsatte.

Vi har i høj grad undervurderet, hvorfor det er vigtigt. AI er meget kraftfuld, og der er så meget, vi kan gøre med den. Men det rigtige spørgsmål er: Hvordan får vi mennesker og AI til at arbejde godt sammen, så vi opnår ansvarlige og ekstraordinære resultater – ikke bare hvor vi kan indsætte AI?

David Rice: En del af vores problem er, at effektivitet og værdi ofte bliver næsten synonyme i vores hoveder. Men en arbejdsgang kan blive dramatisk mere effektiv og samtidig blive dårligere til at skabe det, der betyder noget: tillid, læring, kreativitet og dømmekraft.

Automatisering behandler typisk den eksisterende arbejdsgang som analyseenheden: Hvilke trin kan vi fjerne? Samarbejde stiller et andet spørgsmål: "Hvad kan denne arbejdsgang blive til, nu hvor mennesker har fået en ny form for kapacitet til rådighed?"

Paula Goldman: Det synes jeg, du siger rigtig godt.

David Rice: Det er særligt relevant for HR-direktører, fordi en økonomidirektør vil se, at tyve procent af kapaciteten er frigivet. HR er nødt til at spørge, hvad der sker med jobekspertisen og det organisatoriske system omkring den kapacitet.

Du har talt om at designe overdragelsen mellem AI og mennesker. Men grænsen er ikke så enkel som, at AI håndterer rutinearbejde, mens mennesker håndterer komplekst arbejde. Nogle mennesker foretrækker faktisk AI til meget følsomme interaktioner, mens andre tilsyneladende simple øjeblikke afhænger enormt af menneskelig kontakt. Hvordan bør organisationer afgøre, hvor grænsen går, i stedet for at lave generelle antagelser?

Paula Goldman: Det er ikke sådan, at den tommelfingerregel – lad AI håndtere rutinen og mennesker håndtere det komplekse – er forkert. Det er faktisk et ganske godt udgangspunkt. Men når man begynder at se på konkrete anvendelser, bliver det meget interessant.

Tag kundeservice som eksempel. Hvis AI aldrig har set et spørgsmål før og ikke har data om svaret, bør den sandsynligvis ikke håndtere det. Hvis noget er stærkt reguleret, vil man måske også have et menneske til at håndtere det. Men når man tænker på kundernes følelser og den følelsesmæssige forbindelse, bliver det endnu mere interessant.

Mange undersøgelser viser, at vrede kunder som regel vil tale med en person. Når kunder er flove – måske på grund af en medicinsk tilstand eller noget, de ikke ønsker at blive dømt for – kan de have en svag præference for AI.

Det er vigtigt at forstå disse tendenser og præferencer: Hvor vil mennesker tale med mennesker, og hvor vil de ikke? Kundeservice handler ikke kun om effektivitet. Det er her, man enten fastholder kunden eller mister kunden.

David Rice: Måske er forskellen ikke så enkel som simpelt versus komplekst. Måske handler det i virkeligheden om, hvad folk ønsker fra interaktionen. Hvis de føler flovhed eller frygt for at blive dømt, kan AI føles psykologisk mere tryg end et menneske.

Det tyder på, at organisationer har brug for brugerundersøgelser, ikke kun proceskortlægning, før de beslutter, hvor mennesker skal indgå. Grænsen er heller ikke permanent. Folk kan først ønske menneskelig tryghed og senere blive fortrolige med AI – eller det modsatte kan ske.

Paula Goldman: Jeg synes, begge dele er vigtige variabler, og organisationer ignorerer sandsynligvis den menneskelige forbindelses betydning på egen risiko.

Tingene vil også ændre sig. Med tiden kan mennesker blive mere vant til at interagere med AI, og AI bliver naturligvis stadig bedre og mere kraftfuld. Men det kan også ske, at mennesker kommer til at værdsætte menneskelig kontakt endnu mere.

Efterhånden som forbrugere og medarbejdere bruger AI mere til at sortere i det, der kommer deres vej – markedsføringsbudskaber og så videre – får vi færre menneskelige kontaktpunkter. Derfor kan de komme til at betyde meget mere.

Jeg er meget sikker på, at vi undervurderer betydningen af den menneskelige side af interaktionen.

David Rice: Du fortalte mig en god historie om socialarbejdere, som modsatte sig et AI-værktøj, der skulle spare dem for turen tilbage til kontoret efter feltbesøg. Ledelsen så turen som ineffektivitet, mens medarbejderne så den som det sted, hvor de sammen bearbejdede vanskelige sager.

Hvordan skelner HR-direktører mellem spild og de tilsyneladende ineffektive menneskelige interaktioner, der faktisk påvirker tillid, læring, dømmekraft og robusthed mest?

Paula Goldman: Det er et godt eksempel på betydningen af virkelig at forstå den arbejdsgang og det ritual, der ligger bag. Når man arbejder ude i felten, møder man vanskelige sager. Nogle gange ser man noget, man aldrig har set før, eller oplever en følelsesmæssig belastning. Man vil gerne tilbage og bearbejde og lære sammen, fordi en kollega måske har prøvet noget lignende.

AI kan godt hjælpe med at tage noter eller understøtte processen. Men spørgsmålet er, hvordan man både støtter effektiviteten og den fælles læring. Målet er ikke kun at spare tid; det er også at øge læringen i teamet, finde de bedste svar og hjælpe de mennesker, som medarbejderne støtter.

En lille ændring i forståelsen af målet kan gøre en enorm forskel. Man bør ikke bare implementere teknologien for at spare tid, men for at skabe bedre læring og bedre resultater.

David Rice: Vi har i årtier talt om friktion som noget dårligt, der skal fjernes. AI giver os nu en hidtil uset mulighed for faktisk at gøre det. Men vi kommer sandsynligvis til at opdage, at der findes positiv friktion.

Turen tilbage til kontoret lignede transportspild på et proceskort. I virkeligheden var den faglig sparring, mulighed for at koble af sammen og uformel videndeling. Det samme gælder yngre medarbejdere, der overhører erfarne kolleger, samtaler efter møder og spørgsmål til den person, der sidder ved siden af.

Disse interaktioner er usynlige, men uvurderlige for afkastet af investeringer og medarbejderudviklingen.

Paula Goldman: Det er jeg enig i. Hos Salesforce kalder vi det bevidst friktion. Teknologi er meget kraftfuld, men der findes øjeblikke, hvor forskellen mellem et vellykket og et mislykket resultat er, at et menneske træder ind med dømmekraft.

Det kan være en beslutning med store konsekvenser, hvor AI kommer med en anbefaling, eller det kan være så enkelt, at man ønsker, at nogen er engageret. Man skal gøre det meget omhyggeligt, men det er ikke universelt sandt, at friktion er dårlig. Nogle steder har vi brug for friktion i systemet.

David Rice: Jeg har hørt nogen kalde det bærende ineffektivitet. Hvem har ansvaret for at identificere, hvilke ineffektiviteter der faktisk understøtter arbejdet, før AI-transformationen fjerner dem?

Paula Goldman: HR's rolle er afgørende for at hjælpe alle funktioner i en virksomhed med at bruge AI på en måde, der skaber de bedste resultater. Samtidig skal dette ansvar også ligge hos de enkelte funktioner, fordi de kender deres arbejde bedst.

Marketing ved for eksempel, hvor smag, kreativitet og menneskelig autenticitet betyder noget, og hvor AI blot kan personalisere et budskab på tusindvis af måder. Det kræver både fagekspertise og HR's fokus på, at menneskelig ekspertise forbliver central.

David Rice: Medarbejdere kan ikke blot være modtagere af AI-transformationen. De ved ting om arbejdet, som de personer, der designer transformationen, måske ikke ved. Hvordan ser meningsfuld medarbejderdeltagelse ud uden at sænke transformationen så meget, at ledelsen bliver utilpas?

Paula Goldman: Medarbejdere bør have en plads ved bordet. Det betyder ikke, at enhver holdning bestemmer resultatet, men deres viden kan få problemer frem i lyset, før de bliver store.

Vi bruger blandt andet hackathons, hvor medarbejdere udvikler idéer til, hvordan AI kan anvendes. Neurodivergente medarbejdere hjalp for eksempel med at udvikle en måde at bruge AI i Slack på, så de ikke blev overvældet af informationsmængden. Idéerne blev senere brugt i Slacks fokustilstand.

Det handler også om at indsamle feedback i applikationen, involvere medarbejdere i idéudviklingen og lytte til deres erfaringer. De mennesker, der er tættest på arbejdet, ved ofte bedst, hvordan teknologien kan skabe bedre resultater.

David Rice: Der er forskel på, at medarbejdere har vetoret, og at de bidrager med designviden. Frontlinjemedarbejdere kender ofte uformelle løsninger og regler, som ikke fremgår af standardprocedurerne. De har skjulte arbejdsgange.

Paula Goldman: Præcis. Nogle gange kan AI opfange den tavse viden og gøre den mere tilgængelig. Andre gange er det noget, der aldrig bliver eksplicit kodificeret: at læse rummet eller forstå, hvordan noget er blevet gjort i årevis. Den ekspertise vil man gerne bevare.

David Rice: Jeg vil snarere kalde det kravindsamling end deltagelse eller konsultation. Folk er mere tilbøjelige til at bruge et system, når de kan genkende deres virkelighed i designet. Men hvordan skelner man mellem legitim viden fra frontlinjen og modstand, der grundlæggende siger: "Jeg vil ikke have, at mit arbejde ændrer sig"?

Paula Goldman: Vi gennemlever en enorm forandring i måden, vi arbejder på. Forandring er vanskelig, og derfor er det endnu en grund til at involvere mennesker og give dem en plads ved bordet.

Vi beder folk om at ændre den måde, de arbejder på, og det er let at undervurdere den følelsesmæssige rejse, de gennemgår. Man bør spørge, hvad der skal forblive menneskeligt, og hvor dømmekraft, relationsopbygning og håndtering af særlige tilfælde gør en forskel.

Det betyder ikke, at alle holdninger bestemmer resultatet. Men når medarbejdere inddrages i at definere, hvordan arbejdet skal se ud, bliver resultatet bedre. De skal kunne se, at ændringen faktisk gør arbejdet bedre. Det er forandringsledelse.

David Rice: Der er også en anden dimension ved samarbejdet mellem mennesker og AI. Hvis vi systematisk overlader bestemte kognitive opgaver til AI, redesigner vi ikke kun jobs. Vi kan også være i gang med at redesigne, hvordan mennesker udvikler ekspertise og former det, der kommer ud af arbejdspladsen.

Hvordan bør ledere tænke over, hvad mennesker skal blive ved med at gøre – ikke fordi AI ikke kan gøre det, men fordi det at gøre det er sådan, mennesker udvikler den dømmekraft, de har brug for i deres roller? Der er forskel på, om AI kan udføre en opgave, og om mennesker bør holde op med at udføre den.

Paula Goldman: Den forskel er meget vigtig. I kundeservice og mange andre sammenhænge kan forskellen mellem "kan" og "bør" være forskellen mellem succes og fiasko.

I HR kan AI for eksempel hjælpe med at indsamle oplysninger til en grundigere performancevurdering. Men lederen skal stadig tage ansvar for vurderingen og selv levere den. Det gør forskellen mellem motivation og det modsatte. Derfor giver det ikke mening at lade AI følge op på teamet i stedet for lederen.

Spørgsmålet om ekspertiseudvikling er også afgørende. Det er en af grundene til, at vi ser en fornyet interesse for lærlingeordninger, oplæring og kompetencer.

Om fem eller ti år vil spørgsmålet måske se anderledes ud. Da regnearket kom, var der bekymring for, at mennesker ville miste ekspertisen i at udføre beregninger. Man skal stadig kende det grundlæggende, men man lærer også teknologien at kende, finder måder at kontrollere resultaterne på og forstår, hvad man kan stole på.

Der opstår nye roller, hvor man lærer det grundlæggende ved at føre tilsyn med AI. Man lærer virksomheden at kende ved at se, hvor AI fungerer, hvor den ikke fungerer, og hvordan den kan forbedres.

David Rice: Nogle opgaver kan være nødt til bevidst at forblive menneskelige som træningsopgaver, selv om AI kan udføre dem hurtigere. Det skaber dog et vanskeligt økonomisk spørgsmål: Hvem betaler for den udviklingsmæssige ineffektivitet?

Paula Goldman: Jeg synes, det er den forkerte måde at indramme effektivitet på. Mennesker skal lære at lede AI-systemer. Den ledelse, dømmekraft og overvågning gør en enorm forskel for resultatet.

Når man investerer stort i AI, skal man have mennesker, der både kender virksomheden og ved, hvilke opgaver der skal delegeres til AI. Uden det kaster man penge efter et problem uden at løse det.

David Rice: De fleste AI-businesscases er gode til at indfange det, der forsvinder: sparede timer, automatiserede opgaver og frigjort kapacitet. De er dårligere til at måle det, der kan forsvinde sammen med det: tavs vidensoverførsel, relationer, dømmekraft, mentoring og de uformelle øjeblikke, hvor mennesker sammen skaber mening i vanskeligt arbejde.

Undervurderer vores nuværende definition af AI-afkast systematisk den menneskelige side af arbejdet?

Paula Goldman: Den er under forandring, men ja. Derfor begynder vi at måle AI-afkast på resultater i stedet for kun på antallet af sparede timer. Hvor mange kundehenvendelser blev faktisk løst? Blev medarbejdernes kompetencer forbedret? Blev kvaliteten af juridiske dokumenter bedre?

Når man anvender mere helhedsorienterede mål, tager man højde for både det, AI kan, og det, den ikke kan. Man ser også, hvor mennesker skal være med i processen, hvor ting skal dobbelttjekkes, og hvor medarbejdere skal lære arbejdet, mens de udfører det.

David Rice: Hvad ville du konkret måle, hvis du ville vise de langsigtede konsekvenser af en stor transformation?

Paula Goldman: Fra kundens perspektiv bør man måle sparede timer, men også kundetilfredshed, kundeafgang og hvor mange kunder der konverterer fra salgsindsatsen. Det er ikke nye målepunkter. Det er helhedsorienterede måder, vi allerede måler virksomheden på.

Man kan lade kunden stille et enkelt spørgsmål online og gennemføre en simpel transaktion. Hvis problemet er vanskeligere, skal det eskaleres til en person, som kan afslutte handlen og hjælpe kunden med at forstå problemet. Vi har ikke nødvendigvis brug for nye målepunkter; vi skal anvende de eksisterende målepunkter på en afbalanceret måde.

David Rice: Du sagde tidligere: "Teknologien er kraftfuld, men den er ikke hovedpersonen. Det er vi." Hvis vi tager det alvorligt, kan målet med AI-transformation ikke blot være at gøre mennesker mere produktive. Hvad bør organisationer ønske, at mennesker bliver bedre til, efterhånden som maskinerne bliver mere kompetente?

Paula Goldman: Da jeg skrev min bog, mødte jeg mange mennesker, som var nervøse og spurgte: "Betyder vi stadig noget? Bliver mennesker overflødige?"

Mine erfaringer med teknologi viser det modsatte. Efterhånden som AI bliver mere kraftfuld, bliver dømmekraft og relationsopbygning vigtigere. Vi bliver alle ledere af AI. Vi bliver forstærket, men for at kunne bruge den forstærkning skal vi forstå, hvad teknologien er god og dårlig til, og vide, hvornår vi selv skal træde ind.

Det handler ikke om at bygge en hurtigere hest, men om at forestille sig, hvad der bliver muligt, når AI kan personalisere interaktioner i stor skala, besvare kundernes første spørgsmål eller give medarbejdere oplysninger om deres personalegoder.

Det bliver grundlæggende forventninger. Det, der betyder noget, er mennesker, som ved, hvordan de udnytter effektiviteten og derefter gør noget bedre for kunderne eller medarbejderne. Derfor skal mennesker ikke kun være fortrolige med AI; de skal også have tillid til deres egen dømmekraft og mulighed for at tænke nyt.

Det er det øjeblik, vi befinder os i: ikke en hurtigere hest, men en gentænkt virksomhed.

David Rice: Flere ledere begynder at se dette som et valg inden for organisationsdesign og ikke blot som en uundgåelig følge af, at teknologien kommer ind på arbejdspladsen. Produktivitet er et mellemresultat, men ikke nødvendigvis det endelige mål. Det mere interessante spørgsmål er, hvad vi gør med den kapacitet, der bliver skabt.

Paula Goldman: Det er præcis rigtigt. Produktivitet er naturligvis meget vigtig, men vi har også brug for mennesker, der kan føre tilsyn med AI, forstå dens grænser og gentænke arbejdet. De virksomheder, der holder kunder og medarbejdere i centrum, er efter min mening dem, der kommer til at vinde.

David Rice: Jobs bliver allerede redesignet. Hvis AI fjerner rapportering og administrativt arbejde fra lederrollen, kan man i stedet ønske, at lederen bliver en bedre coach og får mere ud af sine direkte medarbejdere.

Paula Goldman: Vi beder nu næsten alle medarbejdere om at lede AI – med en lignende mangel på oplæring, som ledere tidligere blev udsat for. Det er en af mine motivationer for at skrive bogen.

En god leder behøver ikke nødvendigvis at give svarene. Min egen leder gav næring til min forestillingsevne, sendte mig podcasts og artikler og viste stille og roligt, at idéen var vigtig. Den forbindelse gav mig modet til at skrive bogen. Det er den slags, vi ikke må miste, når AI bliver mere kraftfuld. Vi bør faktisk designe mere af det ind i arbejdet.

David Rice: Paula, det var en fantastisk samtale. Tak, fordi du ville bruge tid sammen med os i dag.

Paula Goldman: Tak, fordi jeg måtte komme, og tak for de gode spørgsmål. Jeg nød det.

David Rice: Kære lyttere, hvis I ikke allerede har gjort det, bør I gå over og tilmelde jer vores AI Signal. Hver uge sender vi en briefing til ledere med det vigtigste, du skal tænke over i denne uge: et spørgsmål, du kan stille på det næste ledermøde, eller et værktøj til at vurdere det arbejde, der foregår lige nu.

Tilmeld dig, og indtil næste gang: Tænk på mulighederne. Vi gentænker arbejdet her.

Gennemfør performancevurderinger, og bring indsigter om medarbejderengagement ind i dit foretrukne AI-værktøj. Forbind Teamflect med ChatGPT, Claude eller en hvilken som helst stor sprogmodel for at kontrollere mål, skrive vurderinger, evaluere feedback, oprette opgaver og meget mere – alt sammen gennem en enkel chat. Prøv Teamflect gratis nu.