De overdracht tussen mens en AI is ingewikkelder dan bedrijven denken

David Rice: De meeste gesprekken over AI in bedrijven beginnen met dezelfde vraag: Wat kunnen we automatiseren? Maar dat is de verkeerde plek om te beginnen. In de aflevering van vandaag praat ik met Paula Goldman, Chief Ethical and Humane Use Officer bij Salesforce, over het verschil tussen ontwerpen voor automatisering en ontwerpen voor samenwerking tussen mens en AI.

Dat zijn niet hetzelfde. Automatisering vraagt welke stappen je kunt weghalen. Samenwerking vraagt welk werk mogelijk wordt nu mensen een nieuwe mogelijkheid tot hun beschikking hebben. De overdracht tussen AI en mensen is ook niet zo duidelijk als we graag doen geloven. Wanneer klanten boos zijn, willen ze een persoon spreken. Wanneer ze zich schamen, geven ze vaak de voorkeur aan AI.

Algemene aannames over waar die grens ligt, zullen organisaties vertrouwen kosten op manieren waarvan het moeilijk is om te herstellen. Paula's kernpunt is dat naarmate AI krachtiger wordt, beoordelingsvermogen en het opbouwen van relaties belangrijker worden, niet minder. Productiviteit is een tussentijds resultaat. De interessantere vraag is wat je doet met de capaciteit die daardoor ontstaat.

Vandaag bespreken we waarom beginnen met automatisering ervoor zorgt dat leiders missen hoe menselijk werk waarde creëert, hoe je moet nadenken over de overdracht tussen AI en mensen voor jouw specifieke toepassingen, waarom van iedere werknemer nu wordt gevraagd om AI te managen met hetzelfde gebrek aan training dat managers vroeger kregen, en hoe ontwerpen voor menselijk floreren er in de praktijk uitziet.

Ik ben David Rice. Dit is People Managing People. En als jouw AI-strategie draait om wat je kunt automatiseren in plaats van om wat werk zou kunnen worden, zal dit gesprek de hele vraag voor je herformuleren. Laten we beginnen.

Maak kennis met Teamflect, het best beoordeelde platform voor prestatiebeheer en werknemersbetrokkenheid, gebouwd voor Microsoft Teams.

Vertrouwd door meer dan duizend organisaties. Een gebruiksvriendelijke oplossing van ondernemingsniveau. Ga naar Teamflect.com voor meer informatie.

Paula, welkom bij de aflevering van vandaag.

Paula Goldman: Bedankt dat je me hebt uitgenodigd.

David Rice: Ik wilde het gesprek beginnen met het feit dat veel gesprekken over AI in bedrijven nog steeds beginnen met een variant van: "Wat kunnen we automatiseren?"

Je betoogt dat ontwerpen voor automatisering en ontwerpen voor samenwerking tussen mens en AI fundamenteel verschillende zaken zijn. Als we automatisering als doel nemen, wat missen leiders dan over menselijk werk en de manier waarop het waarde creëert?

Paula Goldman: Dank je. Ik denk dat je die vraag heel goed hebt geformuleerd, en ik denk dat er verschillende onderdelen aan zitten.

Een daarvan is simpelweg het verschil tussen een transformerend resultaat en een kleine efficiëntieverbetering. We zouden ons moeten afvragen: "Wat maakt AI mogelijk voor onze bedrijven? Hoe kunnen we onze klanten, werknemers enzovoort nog meer verrassen en tevredenstellen?" Maar op een fundamenteler niveau gaat de vraag er ook over dat we erkennen waar menselijke interactie essentieel is voor het succes van een resultaat.

Waar de verbinding tussen iemand die de telefoon opneemt en iemand die belt bijvoorbeeld het verschil maakt tussen een diep teleurgestelde klant en een tevreden klant, of waar menselijke coaching van een werknemer het verschil maakt tussen motivatie en groei enerzijds en het ontbreken daarvan anderzijds.

We hebben sterk onderschat waarom dat belangrijk is. AI is enorm krachtig. We kunnen er ontzettend veel mee doen. Maar de juiste vraag is: hoe zorgen we ervoor dat mensen en AI goed samenwerken om verantwoorde en buitenproportionele resultaten te bereiken, in plaats van alleen te vragen waar we AI kunnen invoegen?

David Rice: Een deel van ons probleem is dat efficiëntie en waarde in ons hoofd vaak bijna synoniem zijn. Maar een werkproces kan dramatisch efficiënter worden en tegelijkertijd slechter worden in het voortbrengen van zaken die ertoe doen: vertrouwen, leren, creativiteit en beoordelingsvermogen. Automatisering behandelt het bestaande werkproces doorgaans als de analyseeenheid.

Welke stappen kunnen we verwijderen? Samenwerking stelt volgens mij een andere vraag: "Wat zou dit werkproces kunnen worden nu mensen een nieuw soort mogelijkheid tot hun beschikking hebben?"

Paula Goldman: Dat heb je heel goed gezegd.

David Rice: Dit is vooral relevant voor HR-directeuren, omdat een financieel directeur twintig procent vrijgekomen capaciteit zal zien. HR moet zich afvragen wat er met de vakkennis en het organisatiesysteem rond die capaciteit gebeurt.

Je hebt gesproken over het ontwerpen van de overdracht tussen AI en mensen. Maar die grens is niet zo eenvoudig als AI die routinematig werk afhandelt en mensen die complex werk afhandelen.

We zeggen dat wel, maar volgens mij is het niet zo helder. Soms geven mensen juist de voorkeur aan AI voor zeer gevoelige interacties, terwijl andere mensen in ogenschijnlijk eenvoudige situaties enorm afhankelijk zijn van menselijke verbinding. Hoe zouden organisaties volgens jou moeten bepalen waar die grens ligt, in plaats van er algemene aannames over te maken?

Paula Goldman: Het is niet zo dat de stelregel "laat AI het routinematige doen en mensen het complexe" onjuist is. Het is eigenlijk een redelijk goed uitgangspunt. Maar zodra je naar afzonderlijke toepassingen kijkt, wordt het heel interessant.

Neem klantenservice. Als AI een vraag nog nooit heeft gezien en geen gegevens heeft over het antwoord, zou het die waarschijnlijk niet moeten afhandelen. Maar er zijn ook andere vuistregels. Als iets sterk gereguleerd is, zoals belastingadvies voor kleine bedrijven, willen mensen dat een mens het afhandelt.

Als je vervolgens kijkt naar klantemoties of emotionele verbinding, wordt het nog interessanter. Veel onderzoeken en gegevens laten zien dat klanten wanneer ze boos zijn meestal met een persoon willen praten. Wanneer ze zich schamen, bijvoorbeeld vanwege een medische aandoening of iets waarvoor ze niet beoordeeld willen worden, bestaat er juist een lichte voorkeur voor AI.

Daarom is het belangrijk om die trends en voorkeuren te begrijpen: waar mensen met mensen willen praten en waar niet. Klantenservice gaat immers niet alleen over efficiëntie; het bepaalt ook of je een klant behoudt.

David Rice: Misschien is het onderscheid dus niet zo eenvoudig als eenvoudig versus complex, maar gaat het om wat mensen van de interactie willen.

Dat suggereert dat organisaties gebruikersonderzoek nodig hebben, niet alleen proceskaarten, voordat ze bepalen waar mensen nodig zijn. Die grens is ook niet permanent. Mensen willen aanvankelijk misschien menselijke geruststelling en raken later vertrouwd met AI, of andersom.

We gebruiken taakcomplexiteit als maatstaf voor waar mensen waarde toevoegen. Denk je dat emotionele gevolgen een betere variabele zijn?

Paula Goldman: Ik denk dat beide variabelen heel belangrijk zijn. Mensen negeren de menselijke kant van verbinding waarschijnlijk tot hun eigen nadeel.

Ik denk ook dat je gelijk hebt dat dingen veranderen. Mensen raken na verloop van tijd misschien meer gewend aan interactie met AI, en AI wordt steeds beter en krachtiger. Maar het kan ook gebeuren dat mensen menselijke verbinding juist meer gaan waarderen.

Naarmate consumenten en werknemers AI vaker gebruiken om binnenkomende informatie, marketingboodschappen en dergelijke te filteren, zullen we steeds minder menselijke contactmomenten hebben. Daardoor zullen die momenten veel belangrijker worden.

Na het schrijven van het boek ben ik er zeer van overtuigd dat we het belang van de menselijke kant van interactie onderschatten.

David Rice: Je vertelde me eerder een geweldig verhaal over maatschappelijk werkers die zich verzetten tegen een AI-hulpmiddel dat ervoor was ontworpen om hen na veldbezoeken een terugkeer naar kantoor te besparen. De leiding zag die rit als inefficiëntie. De medewerkers zagen die rit als de plek waar ze moeilijke zaken gezamenlijk verwerkten.

Hoe onderscheid je verspilling van ogenschijnlijk inefficiënte menselijke interacties die juist het meeste effect hebben op vertrouwen, leren, beoordelingsvermogen en veerkracht?

Paula Goldman: Dat was een goed voorbeeld van het belang van het begrijpen van het ritueel. Mensen gaan het veld in en krijgen te maken met moeilijke zaken. Soms zien ze dingen die ze nog nooit eerder hebben gezien. Soms hebben die ervaringen een emotionele impact. Ze willen teruggaan, samen verwerken wat er is gebeurd en leren, omdat een collega misschien al eerder iets vergelijkbaars heeft meegemaakt.

AI kan helpen om aantekeningen te maken of een proces uit te voeren. De vraag is hoe je zowel efficiëntie als gezamenlijk leren het beste ondersteunt. Een kleine verschuiving in het begrijpen van het doel — niet alleen tijd besparen, maar het leren binnen het team vergroten — kan een ongelooflijk verschil maken.

David Rice: We hebben tientallen jaren gesproken over wrijving als iets slechts dat verwijderd moet worden. AI geeft ons nu ongekende mogelijkheden om dat daadwerkelijk te doen.

Maar we zullen waarschijnlijk steeds meer voorbeelden zien van positieve wrijving. De rit terug naar kantoor leek op een proceskaart misschien verspilling van transport. In werkelijkheid was het collegiale begeleiding, de mogelijkheid om samen tot rust te komen en informele kennis te delen.

Paula Goldman: Daar ben ik het mee eens. Bij Salesforce noemen we dit bewuste wrijving. AI en technologie zijn zeer krachtig en kunnen antwoorden geven op veel verschillende gebieden. Maar op sommige momenten maakt het verschil tussen succes en mislukking een mens die met beoordelingsvermogen ingrijpt.

Soms wil je iemand aanmoedigen om nog een keer goed te kijken, bijvoorbeeld bij een ingrijpende beslissing die AI aanbeveelt in een sollicitatieprocedure of bij het beoordelen van iemand voor een lening. Soms wil je gewoon dat iemand betrokken blijft. Het idee dat wrijving altijd slecht is, klopt dus niet. Op bepaalde plaatsen hebben we wrijving in het systeem absoluut nodig.

David Rice: Ik hoorde iemand dit ooit "dragende inefficiënties" noemen. Moet de HR-directeur bepalen welke inefficiënties dat zijn voordat AI ze wegneemt?

Paula Goldman: De rol van HR is essentieel om verschillende functies binnen een bedrijf te helpen AI zo te gebruiken dat de beste resultaten ontstaan. Tegelijkertijd moet die vraag ook worden belegd bij elke functie, omdat de mensen daar weten waar menselijke authenticiteit en beoordelingsvermogen echt belangrijk zijn.

Marketing weet bijvoorbeeld waar menselijke authenticiteit ertoe doet in boodschappen en waar AI eenvoudig twintigduizend gepersonaliseerde varianten kan maken. Je hebt beide nodig: experts in de functies om de belangrijkste toepassingen te bepalen, en HR om ervoor te zorgen dat menselijke expertise centraal blijft staan.

David Rice: Werknemers kunnen niet alleen ontvangers zijn van AI-transformatie. Ze beschikken over informatie over het werk die de ontwerpers van die transformatie misschien niet hebben. Hoe ziet betekenisvolle werknemersparticipatie eruit zonder de transformatie zo te vertragen dat leidinggevenden zich er ongemakkelijk bij gaan voelen?

Paula Goldman: Werknemers moeten aan tafel zitten. Dat leidt vaak juist tot snellere resultaten en helpt problemen te voorspellen voordat ze groot worden.

Bij Salesforce organiseren we bijvoorbeeld hackathons waarin werknemers ideeën ontwikkelen voor het gebruik van AI. Neurodivergente werknemers onderzochten hoe AI in Slack kon worden gebruikt om de hoeveelheid informatie minder overweldigend te maken. Die ideeën werden uiteindelijk gebruikt voor de focusmodus in Slack.

Het gaat niet alleen om hackathons. Het gaat ook om feedback vragen in toepassingen, mensen betrekken bij het bepalen welke toepassingen belangrijk zijn en daadwerkelijk naar die feedback luisteren. De kern is niet AI uitrollen en zeggen dat iedereen het moet gebruiken, maar begrijpen hoe mensen het in hun dagelijkse werk gebruiken om betere resultaten te behalen.

David Rice: Er is een verschil tussen vetorecht voor werknemers en het leveren van ontwerpinformatie. Voor medewerkers op de werkvloer geldt vaak dat zij omwegen, informele regels en verborgen werkprocessen kennen die niet in standaardprocedures staan.

Paula Goldman: Precies. Soms kan AI die impliciete kennis oppikken en toegankelijker maken. Maar er is ook veel kennis die niet expliciet is vastgelegd: een situatie kunnen aanvoelen, begrijpen hoe iets al jaren wordt gedaan en weten hoe je ermee omgaat. Die expertise wil je behouden, omdat ze tot veel betere resultaten leidt.

David Rice: Ik zou het minder zien als participatie en meer als het verzamelen van vereisten. Mensen gebruiken een systeem eerder wanneer ze hun werkelijkheid in het ontwerp herkennen. Hoe onderscheid je legitieme kennis van medewerkers op de werkvloer van weerstand die eigenlijk zegt: "Ik wil niet dat mijn baan verandert"?

Paula Goldman: We maken een enorme verandering door in de manier waarop we werken. Verandering is moeilijk. Daarom leidt mensen betrekken en hen een plaats aan tafel geven vaak tot betere resultaten. We vragen mensen immers om hun manier van werken te veranderen, en dat heeft een grote emotionele impact.

Je moet onderzoeken wat menselijk moet blijven en waar beoordelingsvermogen, relatieopbouw of het behandelen van uitzonderingen een groot verschil maken. Niet elke mening bepaalt de uitkomst, maar er echt naar luisteren en begrijpen waar die waarde zit, maakt een groot verschil. Mensen moeten worden meegenomen in de verandering en zien dat het werk er daadwerkelijk beter van wordt. Dat is verandermanagement.

David Rice: Als we bepaalde cognitieve taken systematisch aan AI overdragen, herontwerpen we niet alleen banen. Misschien herontwerpen we ook de manier waarop mensen expertise ontwikkelen en invloed hebben op wat er uit de werkplek voortkomt.

Hoe moeten leiders bepalen wat mensen moeten blijven doen, niet omdat AI het niet kan, maar omdat mensen juist door het te doen het beoordelingsvermogen ontwikkelen dat ze nodig hebben om succesvol te zijn?

Paula Goldman: Het onderscheid tussen wat AI kan doen en wat AI zou moeten doen is heel belangrijk. AI kan bijvoorbeeld informatie verzamelen voor een beoordelingsgesprek, maar een manager moet verantwoordelijkheid nemen voor de inhoud en het gesprek zelf voeren. Dat maakt het verschil tussen motivatie en het ontbreken daarvan.

Ook expertiseontwikkeling is cruciaal. Daarom zien we hernieuwde belangstelling voor leerlingstelsels, training en vaardigheden. In de toekomst zullen mensen de basis misschien leren door AI te begeleiden, te begrijpen waar het goed en minder goed in is en te leren hoe ze de resultaten controleren.

David Rice: Sommige taken moeten misschien bewust menselijk blijven als trainingstaken, ook al kan AI ze sneller uitvoeren. Dat leidt tot een ongemakkelijke economische vraag: wie betaalt voor die ontwikkelingsinefficiëntie?

Paula Goldman: Dat is geen inefficiëntie. Je investeert in mensen die AI-systemen kunnen beheren, het bedrijf begrijpen en kunnen beoordelen welke taken ze wel of niet aan AI moeten delegeren. Zonder die mensen gooi je geld naar een probleem zonder het op te lossen.

David Rice: AI-businesscases meten meestal goed wat verdwijnt: bespaarde uren, geautomatiseerde taken en vrijgekomen capaciteit. Ze meten minder goed wat mogelijk mee verdwijnt: impliciete kennisoverdracht, relaties, beoordelingsvermogen, mentoring en informele momenten waarin mensen samen betekenis geven aan moeilijk werk.

Paula Goldman: Dat verandert, maar je hebt gelijk. We beginnen AI-rendement steeds meer te meten aan de hand van resultaten in plaats van alleen aan de hand van bespaarde uren. Hoeveel klantvragen zijn daadwerkelijk opgelost? Zijn de vaardigheden van mensen verbeterd? Is de kwaliteit van juridische stukken meetbaar toegenomen?

Wanneer je holistische maatstaven gebruikt, houd je rekening met wat AI wel en niet kan, waar mensen in de lus nodig zijn en waar menselijk beoordelingsvermogen of leren tijdens het werk nodig is. Uiteindelijk zullen we bredere bedrijfsresultaten meten en betere investeringen doen in technologie. Ook krijgen we een duidelijker beeld van hoe banen zich op een aantrekkelijke en versterkende manier moeten ontwikkelen.

David Rice: We zien meetbare voordelen nu, terwijl de kosten van verminderde capaciteit of zwakker beoordelingsvermogen misschien pas jaren later zichtbaar worden. Er is een asymmetrie: het voordeel wordt nu geboekt, maar de kosten voor capaciteitsontwikkeling worden uitgesteld.

Paula Goldman: AI kan al je vragen van klanten beantwoorden, maar dat betekent niet dat je de deal sluit of dat de klant tevreden is. Je moet meten op de juiste manier, zodat duidelijk wordt waar mensen moeten ingrijpen en waarom dat ertoe doet.

David Rice: Wat zou je dan daadwerkelijk meten om de langetermijneffecten zichtbaar te maken?

Paula Goldman: Vanuit klantperspectief meet je niet alleen bespaarde uren, maar ook klanttevredenheid, klantverloop en hoeveel klanten uiteindelijk converteren. Dat zijn geen nieuwe meetwaarden. Het zijn holistische manieren waarop we ons bedrijf al meten. We moeten ze gewoon consequent toepassen en nuchter blijven.

David Rice: Je zei eerder: "Technologie is krachtig, maar niet de hoofdrolspeler. Wij zijn dat." Als we dat serieus nemen, kan het doel van AI-transformatie niet alleen zijn om mensen productiever te maken. Waarin zouden organisaties willen dat mensen beter worden naarmate machines capabeler worden?

Paula Goldman: Ik schreef mijn boek omdat ik merkte hoeveel mensen zich afvroegen: "Doen we er nog toe? Worden mensen overbodig?" Maar naarmate AI krachtiger wordt, worden beoordelingsvermogen en relatieopbouw juist belangrijker. We worden allemaal managers van AI.

We moeten begrijpen waar technologie goed en minder goed in is en vervolgens op het juiste moment ingrijpen. Dit gaat niet over een sneller paard, maar over een opnieuw uitgevonden bedrijf. AI kan interacties op grote schaal personaliseren, eerstelijnsvragen beantwoorden en werknemers informatie geven over hun arbeidsvoorwaarden. Dat wordt de nieuwe basis.

Wat ertoe doet, is dat mensen weten hoe ze die efficiëntie kunnen benutten om iets beters te doen voor klanten en werknemers. Daarom moeten mensen niet alleen vaardig zijn in AI, maar ook worden aangemoedigd om hun beoordelingsvermogen te gebruiken en nieuwe mogelijkheden te bedenken.

David Rice: Ik hoor steeds meer leiders beseffen dat dit een keuze in organisatieontwerp is, niet alleen een onvermijdelijk gevolg van technologie. Productiviteit is een tussentijds resultaat. De interessantere vraag is wat we doen met de capaciteit die hierdoor ontstaat.

Paula Goldman: Dat klopt. Productiviteit is uiteraard belangrijk. Maar na alle AI-mislukkingen hebben we mensen nodig die toezicht houden, de grenzen begrijpen en de technologie opnieuw kunnen inzetten terwijl klanten en werknemers centraal blijven staan. Dat zijn volgens mij de bedrijven die zullen winnen.

David Rice: Banen worden opnieuw ontworpen. Als AI rapportage- en administratief werk van managers overneemt, verwachten we iets anders van managers: dat ze betere coaches worden en meer uit hun directe medewerkers halen.

Paula Goldman: We vragen nu bijna iedere werknemer om AI te managen, met ongeveer hetzelfde gebrek aan training dat managers vroeger kregen. Dat was een van mijn motivaties om dit boek te schrijven.

Een goede manager voedt iemands verbeelding, geeft vertrouwen en helpt iemand geloven dat een idee belangrijk is. Zulke verbinding willen we niet verliezen wanneer AI krachtiger wordt. We moeten die verbinding juist bewust ontwerpen en vaker mogelijk maken.

David Rice: Paula, dit was een geweldig gesprek. Bedankt dat je tijd voor ons hebt gemaakt.

Paula Goldman: Bedankt dat je me hebt uitgenodigd en zulke goede vragen hebt gesteld. Ik vond het geweldig.

David Rice: Luisteraars, als je dat nog niet hebt gedaan, ga dan zeker naar AI Signal. Elke week bieden we een briefing voor leidinggevenden met het ene onderwerp waar je die week over moet nadenken, een vraag die je tijdens je volgende leiderschapsvergadering kunt stellen of een hulpmiddel om het huidige werk te beoordelen.

Schrijf je daarvoor in. Tot de volgende keer: denk aan de mogelijkheden. Hier herontwerpen we werk.

Voer beoordelingsgesprekken uit en voeg inzichten over werknemersbetrokkenheid toe aan je favoriete AI-hulpmiddel. Koppel Teamflect aan ChatGPT, Claude of een ander groot taalmodel om doelen te controleren, beoordelingen te schrijven, feedback te evalueren, taken te maken en meer — allemaal via een eenvoudige chat. Probeer Teamflect nu gratis.