Wat AI-toezicht je niet kan vertellen over je werknemers

David Rice: Niemand begint met het plan om een surveillancesysteem voor werknemers op te bouwen. Het begint als optimalisatie, productiviteitsverbetering en tijdbeheer. Dat klinkt op zichzelf positief, toch? En dan overschrijd je geleidelijk, zonder dat iemand daar bewust voor kiest, een grens. In de aflevering van vandaag praat ik met Lynn Parramore, directeur Bijzondere Projecten bij het Institute for New Economic Thinking, over waar die grens ligt en waarom AI die moeilijker zichtbaar maakt.

Lynns centrale argument is dat toezicht op de werkvloer berust op een gebrekkige aanname: dat alles wat belangrijk is op het werk meetbaar is. Een collega helpen, goed beoordelingsvermogen, morele moed en creativiteit verschijnen niet in een toetsaanslaglogboek, maar juist die eigenschappen maken iemand vaak echt waardevol. Wanneer je mensen reduceert tot verzamelingen datapunten, verander je wat je daadwerkelijk aanstuurt.

En toezicht is niet neutraal. Op het moment dat je besluit iemand voortdurend in de gaten te houden, heb je al een aanname over die persoon gemaakt, en werknemers voelen dat. Het tast vertrouwen aan. En vertrouwen is, zoals Lynn aangeeft, de spil waar al het andere om draait: betrokkenheid, innovatie en behoud van personeel. Vandaag bespreken we dus waar legitiem toezicht eindigt en surveillance begint, waarom de aanname dat alles wat belangrijk is meetbaar is gebrekkig is, de omgekeerde relatie tussen de intensiteit van toezicht en vertrouwen, en waarom leiders filosofisch over AI moeten nadenken, niet alleen praktisch.

Ik ben David Rice. Dit is People Managing People, en als jouw organisatie toezicht op werknemers behandelt als een productiviteitstool, is dit gesprek je tijd waard. Laten we erin duiken.

Als je eigenaar bent van een klein bedrijf en je eerste werknemer in dienst neemt, kan loonadministratie aanvoelen als een grote stap. QuickBooks Workforce maakt het eenvoudiger door loonadministratie, directe stortingen en het beheer van werknemersgegevens op één plek te vereenvoudigen. Je werknemers kunnen hun eigen loonstroken en belastingformulieren openen via een zelfbedieningsportaal, waardoor je tijd en papierwerk bespaart. Als je minder tijd aan loonadministratie wilt besteden en meer tijd aan de groei van je bedrijf, bekijk dan QuickBooks Workforce.

Lynn, welkom bij de show!

Lynn Parramore: Bedankt dat je me hebt uitgenodigd.

David Rice: We hadden het hier vooraf over. We hebben werk altijd op de een of andere manier gemeten, maar AI verandert fundamenteel de schaal en eigenlijk ook de intimiteit van wat mogelijk is.

Ik ben benieuwd naar jouw mening: wanneer houdt het meten van werk op te gaan over het verbeteren van prestaties en wordt het gewoon surveillance?

Lynn Parramore: Het is een vraag waar we allemaal mee worstelen, zowel aan de kant van werknemers als aan die van werkgevers. Ik moet beginnen met te zeggen dat er goede toepassingen zijn van algoritmisch toezicht of AI-gestuurde surveillance, hoe je het ook wilt noemen.

Denk bijvoorbeeld aan vermoeidheidsdetectie. We kunnen ons voorstellen dat een piloot draagbare apparaten gebruikt om vermoeidheid te detecteren. De meesten van ons zouden waarschijnlijk zeggen: oké, dat is logisch. Er zijn AI-apparaten die kunnen helpen bij ergonomische coaching. Als iemand zwaar tilt, kan zo’n apparaat detecteren welke bewegingen waarschijnlijker tot letsel leiden.

Er zijn ook toepassingen voor cyberbeveiliging. Er zijn dus situaties waarin deze technologie nuttig kan zijn zonder als een inbreuk op de privacy te voelen. Maar het moet een duidelijk, legitiem doel hebben, en de werkgever moet alleen de noodzakelijke gegevens verzamelen, niet zeggen dat de gegevens voor het ene doel worden verzameld en ze vervolgens voor iets anders gebruiken.

Werknemers moeten transparant kunnen zien welke gegevens worden verzameld, hoe dat gebeurt en hoe die gegevens worden opgeslagen. Bovendien moet er bij alle besluitvorming die uit deze gegevens kan voortkomen een mens betrokken blijven, of het nu gaat om promotie, disciplinaire maatregelen of ontslag.

Je wilt niet dat systemen automatisch consequenties toepassen. Daar begint het problematisch te worden. Denk aan voortdurende webcam-surveillance, het verzamelen van gegevens over elke afzonderlijke toetsaanslag of muisbeweging, of het elke twintig seconden maken van schermafbeeldingen.

Dit zijn toepassingen die terechtkomen in de categorie inbreuk op de privacy en die echt een negatieve invloed kunnen hebben op de prestaties van werknemers.

David Rice: Interessant, toch? Ik heb het gevoel dat dit geleidelijk gebeurt. Volgens mij zegt niemand aan het begin: we gaan ons personeelsbestand surveilleren.

Het is eerder: laten we de productiviteit verbeteren, ons richten op tijdbeheer en al die andere zaken. Het klinkt als optimalisatie, dus het klinkt vanzelfsprekend positief. Maar uiteindelijk wordt er toch een grens overschreden. Ik vraag me af of dat komt doordat leiders zo gefocust raken op de gegevens die ze verzamelen dat ze niet meer vragen of het verzamelen van die gegevens verandert hoe mensen zich gedragen, of dat de gegevens überhaupt de moeite waard zijn om te verzamelen.

Lynn Parramore: Absoluut. Het komt voort uit een heel menselijke impuls: we maken ons zorgen over wat we niet kunnen zien. Dat is gewoon een natuurlijke menselijke neiging. Werkgevers hebben zich altijd zorgen gemaakt over wat er gebeurt wanneer ze niet kunnen zien wat er gaande is, en dat gaat eigenlijk terug tot veranderingen tijdens de Industriële Revolutie.

Stel dat je vóór de Industriële Revolutie in een schoenmakerswerkplaats werkte. Je baas zat daar vlak naast je en kon zien wat je deed. Misschien keek die persoon over je schouder, maar er was geen grote vraag over wat er gebeurde. Zodra er fabrieken en grotere personeelsbestanden kwamen, begonnen werkgevers zich zorgen te maken over wat er gebeurde buiten hun directe zicht.

Aan het einde van de achttiende eeuw ontstond het idee van het panopticon, waar sommige mensen bekend mee zijn. De filosoof Jeremy Bentham wordt ermee geassocieerd, maar het was eigenlijk zijn broer Samuel die het concept bedacht. Hij werkte voor een Russische staatsman en zij hadden problemen in fabrieken.

Mensen werden dronken en raakten betrokken bij vechtpartijen. Het was complete chaos. Samuel Bentham bedacht daarom een fabrieksontwerp met in het midden een ruimte vanwaar iemand de werknemers kon observeren. Zij waren in een cirkel rond die centrale observatietoren geplaatst en wisten niet noodzakelijk wanneer ze werden bekeken.

Dat hield iedereen scherp en verminderde een deel van de chaotische activiteiten. Jeremy Bentham ontwikkelde later een vergelijkbaar ontwerp voor een gevangenis, en ik denk dat de associatie daar ongemakkelijk wordt. Waar worden we voor bekeken, en met welk doel? Surveillance kan de aannames die je over mensen hebt veranderen.

Het verschuift van: ‘Dit is een werknemer die te goeder trouw werkt’ naar: ‘Dit is iemand die ik voortdurend moet bekijken, controleren en wiens gedrag ik moet monitoren.’ Dat zijn twee verschillende perspectieven, met uiteraard verschillende gevolgen voor de werknemer. Het is een dunne lijn, maar niemand vindt het prettig om zich voortdurend gecontroleerd en gewantrouwd te voelen.

Dat vermindert het gevoel van psychologische veiligheid en heeft allerlei negatieve gevolgen. Niemand wil zich op het werk voelen alsof hij in een gevangenis zit.

David Rice: Ja, de betrokkenheid is al laag genoeg zonder dat je het gevoel hebt dat je echt in een gevangenis zit. Dat helpt dus niet.

Lynn Parramore: Nee. En sommige technologische ontwikkelingen hebben het mogelijk gemaakt om zaken op een veel gedetailleerder niveau te monitoren, ook dingen waarvan we nooit hadden verwacht dat werkgevers ze zouden volgen.

Het volgen van emoties is een van die zeer controversiële gebieden. Je kunt draagbare apparaten of andere vormen van webcammonitoring gebruiken om emoties in stemgebruik of lichaamsbewegingen te detecteren. Het is moeilijk je een situatie voor te stellen waarin dat op een manier wordt toegepast waardoor werknemers zich comfortabel voelen.

Misschien zou er een vrijwillig coachingsprogramma kunnen zijn. Stel dat je op een alarmcentrale werkt en tijdens een gesprek kalm moet blijven. Tijdens je training zou je er vrijwillig voor kunnen kiezen om door een AI-programma te laten beoordelen hoe stabiel je emotionele niveau tijdens het gesprek blijft.

Maar zelfs dan is het sleutelwoord vrijwillig, en dit mag niet over disciplinaire maatregelen gaan. Het mag er niet om gaan jou als werknemer te beoordelen, omdat problemen ontstaan doordat we emoties niet allemaal op dezelfde manier uiten. Dat hangt af van ons geslacht, onze leeftijd, etnische achtergrond, culturele achtergrond en allerlei andere factoren.

Psychologen en sociologen hebben deze gegevensverzameling rond emoties onderzocht en vastgesteld dat ze in veel gevallen niet erg nauwkeurig is. Je wilt dus echt niet dat er oordelen over werknemers worden geveld, zowel omdat de gegevens onnauwkeurig zijn als omdat het voor werknemers zeer indringend voelt.

David Rice: Ja, interessant.

We hebben mensen in deze show gehad die spraken over een welzijnsperspectief op veel hiervan. Organisaties rechtvaardigen het dan door te zeggen dat het om welzijn of ondersteuning van werknemers gaat. Maar jij stelt dat er bijna een omgekeerde relatie bestaat tussen dit soort surveillance en vertrouwen, en dat dit het welzijn van mensen op allerlei manieren beïnvloedt.

Waarom leidt vaker meten ertoe dat mensen minder vertrouwen? Of beter gezegd: waarom is dat zo?

Lynn Parramore: Ik denk dat het teruggaat naar het idee dat het gebaseerd is op aannames over de mensen die voor je werken. Komen ze opdagen met de bedoeling goed werk te leveren? Handelen ze te goeder trouw?

Of zijn het mensen die je voortdurend wilt bekijken, hun gedrag wilt micromanagen en hen wilt veranderen in verzamelingen datapunten? Dat gaat terug naar het fundamentele idee van wat een werknemer eigenlijk is. Zijn we slechts verzamelingen datapunten? Is alles wat we op het werk belangrijk doen meetbaar?

Mensen die overdreven enthousiast zijn over werknemerssoftware of algoritmisch toezicht en management nemen soms aan dat alles meetbaar is. Alles wat belangrijk is aan het werk van een werknemer zou meetbaar zijn. Maar raad eens? Een collega helpen is misschien niet meetbaar.

Goed beoordelingsvermogen, creativiteit en morele moed zijn ook niet meetbaar. Er zijn allerlei zaken die vaak ‘impliciete kennis’ worden genoemd. Die kunnen simpelweg niet worden gemeten, maar ze zijn allemaal ontzettend belangrijk voor een goede werknemer. Ik denk dus dat enthousiasme voor dit soort toezicht soms verdringt wat een werknemer daadwerkelijk goed maakt.

David Rice: Het is interessant: hoe meer we gedrag met technologie proberen te verifiëren, hoe minder ruimte er overblijft voor vertrouwen.

Lynn Parramore: Ja.

David Rice: Vertrouwen is ongelooflijk moeilijk te meten, maar het ligt onder bijna alles wat we belangrijk vinden op de werkvloer: betrokkenheid, innovatie, behoud van personeel en al die andere zaken.

Vertrouwen is de spil daarvan. Zodra mensen het gevoel krijgen dat ze voortdurend worden beoordeeld, vooral door iets dat alwetend lijkt, ontstaat er veel ongemak. Je weet niet waar het precies naar kijkt en vraagt je af waarom je werkgever dat überhaupt wil weten.

Lynn Parramore: Precies. En dit speelt zich af in echte situaties.

JPMorgan Chase kondigde aan dat het monitoringssystemen voor junior bankiers zou invoeren. Zij hadden problemen gehad met junior bankiers die extreem lange uren maakten en met de grote druk om op een manier te werken die veel stress en vermoeidheid veroorzaakte. Dat is begrijpelijk. Ze introduceerden het programma als een welzijnstool, wat heel positief klinkt. Maar wanneer het elke toetsaanslag van een werknemer meet en dat voortdurend doet, wordt het iets anders, en werknemers zijn daar niet noodzakelijk blij mee.

Hoe stem je in met dit soort toezicht? Is het echt een keuze wanneer je de baan aanneemt, vooral als je een junior werknemer bent? Welke keuze heb je dan werkelijk? Dat creëert spanning. Er zijn aanwijzingen dat bepaalde vormen van toezicht, vooral voortdurend toezicht, stress juist kunnen verhogen in plaats van welzijn te bevorderen.

Het kan angst en anticiperende stress vergroten: ‘Als ik een paar minuten niets doe op mijn computer omdat ik misschien over een probleem nadenk, word ik dan gemarkeerd?’ Er ontstaat een voortdurend gevoel bekeken te worden, zonder precies te weten hoe de informatie wordt gebruikt of of die ergens zal uitlekken.

Er zijn echte gevallen geweest waarin werknemersgegevens via algoritmisch toezicht werden verzameld en vervolgens uitlekten. In 2025 was er een geval met een bedrijf genaamd WorkComposer. Dat bedrijf maakte software die op computers van werknemers werd geïnstalleerd om hen te monitoren. Die gegevens werden gecompromitteerd, werden openbaar en dat was niet de bedoeling.

Een deel van dat materiaal bestond uit onbewerkte webcambeelden van werknemers en wat zij op het werk deden. Niemand wil dat dergelijk materiaal publiek rondzwerft en voor willekeurige doeleinden wordt gebruikt. Het kan gaan om een onbedoeld datalek of een hack. De informatie kan voor kwaadaardige doeleinden worden gebruikt. Werkgevers zeggen soms: ‘Alleen deze afdeling krijgt toegang tot de gegevens’, waarna interne lekken aantonen dat de informatie veel breder werd gebruikt.

Zo groeit het wantrouwen als een sneeuwbal. Uiteindelijk krijg je een personeelsbestand dat zijn intrinsieke motivatie kwijt is, zich minder loyaal voelt aan de werkgever en misschien op zoek gaat naar een andere baan.

David Rice: Toen we vooraf praatten, viel één punt van jou echt op: algoritmen kunnen gedrag meten, maar niet de intentie, het beoordelingsvermogen of de context. Dat is belangrijk. Als je alles bekijkt wat ik doe, weet je dan waarom ik het doe?

Hoe vaak hebben mensen het gevoel gehad dat hun baas niet echt begrijpt wat ze doen? Dat is volgens mij heel gebruikelijk. In een werkplek die steeds meer datagedreven wordt, vraag ik me af of we beginnen te verwarren wat meetbaar is met wat er daadwerkelijk toe doet.

Lynn Parramore: Ja, en er is ook de vraag: alleen omdat je iets kunt meten, moet je het dan ook meten? Wat zijn de onbedoelde gevolgen van die meting? Een eenvoudig voorbeeld: er zijn monitoringssystemen die bijhouden hoe lang een klantenservicemedewerker met een klant belt. Die medewerker wordt gemarkeerd wanneer gesprekken langer duren dan de tijd die als optimaal is vastgesteld.

Maar een goede werknemer kan juist langer met een klant praten omdat die klant een ingewikkeld probleem heeft. Als de werknemer wordt bestraft voor langere gesprekken, gaat die dan de klant doorsturen naar iemand anders? Wordt het gesprek dan voortijdig beëindigd?

Al snel krijg je zowel ontevreden klanten als ontevreden werknemers. Er bestaat nooit een oplossing die voor iedereen past. Wat je meet houdt geen rekening met intentie, in dit geval de intentie van een werknemer om een klant door een moeilijk probleem heen te helpen. Het houdt ook geen rekening met context of nuance.

Misschien heeft iemand een slechte dag. Dat gebeurt ook op het werk. Word je daarvoor gemarkeerd? Verschijnt die informatie op het dashboard van je werkgever en word je op manieren benadeeld die je niet eens kunt zien? Je weet misschien niet op welke dag de gegevens zijn verzameld, hoe dat gebeurde of met welk doel.

Uiteindelijk leidt dat volgens mij tot een echte vertrouwensbreuk tussen werkgever en werknemer.

David Rice: Je noemde nuance. Voor mij wordt dat steeds belangrijker in de wereld van vandaag, omdat veel van onze gesprekken en reacties nuance missen. Het onderscheid tussen informatie en begrip is enorm belangrijk.

Leiderschap heeft altijd gedraaid om het interpreteren van nuance: waarom iets gebeurde, niet alleen dát het gebeurde. Ik denk dat we op een punt zijn aangekomen waarop we data bijna fetisjeren. Daardoor bestaat het gevaar dat leiders volledige data verwarren met volledig begrip, terwijl het in werkelijkheid slechts informatie is.

Lynn Parramore: Absoluut. Een deel hiervan komt voort uit een beweging uit het begin van de jaren 2000. Alex Pentland van MIT ontwikkelde draagbare apparaten. Veel hiervan kwam uit het leger en de sportwereld. Je kon een apparaat gebruiken om te volgen hoe een honkbalwerper op het veld functioneerde of hoe iemand tijdens een militaire operatie werd belast.

Dat is interessante informatie die nuttig en zelfs voordelig kan zijn voor de persoon die wordt gemeten. Maar wanneer je dat overdraagt naar het gewone personeelsbestand, bijvoorbeeld naar bankmedewerkers of klantenservicemedewerkers, werkt het niet altijd zoals je wilt of verwacht, en het is niet altijd daadwerkelijk nuttig.

Het feit dat veel hiervan uit het leger en gevangenissen komt, geeft ook een idee van waarom het op de werkvloer indringend en problematisch kan aanvoelen. Mensen geven om hun privacy. Als mensen maken we ons zorgen over wat we niet kunnen zien, maar we maken ons ook zorgen dat we te veel worden bekeken.

De Europese Unie heeft strengere wetten die privacy als een fundamenteel recht op de werkvloer beschermen. Er zijn veel meer beperkingen op het verzamelen van gegevens. De werkgever moet een gerechtvaardigde reden aantonen en de gegevensverzameling moet zo beperkt mogelijk zijn. De verzameling moet doelgericht en beperkt zijn, en werknemers hebben het recht om de verzamelde gegevens ter discussie te stellen of aan te vechten.

Het moet zeer transparant zijn. In sommige gevallen moet de werkgever werkoverlegorganen of vakbonden raadplegen over de manier waarop programma’s worden ingevoerd. In de Verenigde Staten is de situatie veel versnipperder en verwarrender. Er is geen algemene privacywet voor de werkplek. De standaardaanname is dat een bedrijf je mag monitoren zolang het apparaat eigendom van het bedrijf is.

Dat werd tijdens de pandemie een steeds groter probleem. Meer mensen werkten vanuit huis en werkgevers dachten: ‘Het maakt ons behoorlijk nerveus dat al die mensen vanuit hun woonkamer werken. In sommige gevallen bevestigen we dus gewoon een apparaat aan de laptop van het bedrijf en monitoren we hen de hele dag.’ Er waren programma’s die werknemers zelfs verplichtten een reden in te voeren wanneer ze naar het toilet gingen of vijf minuten pauze namen.

De pandemie werd zo een excuus om dit soort toezicht sterk uit te breiden. Het gebeurde zo snel dat de wet het niet heeft kunnen bijhouden, en volgens mij lopen we achter.

Het systeem is versnipperd en verschilt per staat. In sommige staten, zoals Californië of New York, waar ik woon, bestaan beperkingen. In andere staten is het veel vrijer en zijn er allerlei mazen en uitzonderingen over wat een werkgever mag doen. Er bestaat een soort aanname dat een werkgever alles met een apparaat mag doen zolang hij eigenaar van dat apparaat is.

En dat wordt echt een probleem.

David Rice: De pandemie was in zekere zin geweldig, want ik houd net als ieder ander van werken op afstand, maar er waren ook kosten aan verbonden. Het opende een hele doos van Pandora. Voorheen vertrouwden we gewoon op een manager die over iemands schouder keek.

Nu zijn er zoveel verschillende dingen die over je schouder kunnen meekijken dat het-

Lynn Parramore: Ja. De vraag is: wat meet je werkelijk? Als je meet hoeveel verkopen die dag zijn afgerond, maakt het dan echt uit of iemand ’s ochtends drie keer naar het toilet is geweest? Wat is het doel van de gegevens die worden verzameld?

Als je ermee overdrijft of er niet transparant over bent, zullen werknemers zich verzetten en manieren vinden om het systeem te bespelen. Dat brengt ons terug bij Frederick Taylor. Als je in de jaren 1880 in Philadelphia bij een staalbedrijf werkte, kon je deze man op de werkvloer zien. Ze noemden hem Speedy Taylor omdat hij altijd een stopwatch vasthield. Hij probeerde de activiteiten op de fabrieksvloer op te delen in zeer specifieke, meetbare eenheden om het werk sneller te maken.

Dat werkte tot op zekere hoogte. Maar werknemers raakten er gefrustreerd door en begonnen met het systeem te knoeien. Ze zetten de klok terug wanneer hij de kamer verliet en deden allerlei andere dingen. Tijdens de pandemie zagen we iets vergelijkbaars. Mensen vonden manieren om hun muis te bewegen zodat het leek alsof die voortdurend werd gebruikt.

David Rice: Ja, de muisjiggler.

Lynn Parramore: Ja, de muisjiggler. Ik las zelfs een grappig verhaal over iemand die een ananas voor zijn laptop zette. Die zag eruit als een mensenhoofd en voldeed zo aan de gegevensverzameling.

Dat soort dingen gebeurt dus. Mensen hebben een aangeboren weerstand tegen indringend en invasief toezicht, en dat zal niet veranderen. Dat is gewoon de menselijke natuur.

David Rice: Een korte onderbreking. Is je loonadministratie ingewikkelder geworden naarmate je bedrijf groeide? Misschien beheer je vaste werknemers naast opdrachtnemers, combineer je verschillende betaalroosters of werk je in meerdere staten.

QuickBooks Workforce helpt deze groeipijnen te vereenvoudigen met geautomatiseerde loonadministratie, belastingberekeningen, ondersteuning bij naleving en hulpmiddelen om je team nauwkeurig en op tijd te betalen. Als je loonadministratie complexer wordt, ontdek dan hoe QuickBooks Workforce kan helpen om die processen te stroomlijnen.

Het is interessant dat je Taylor noemt. Wetenschappelijk management is al meer dan een eeuw oud, maar het lijkt erop dat het nu opnieuw wordt ingevoerd op een heel andere schaal. We lijken enkele lessen uit die periode te zijn vergeten. Het terugzetten van klokken is schaduwactiviteit. Dat is precies wat het is.

Dit soort toezicht creëert ontzettend veel schaduwactiviteit. Dat is menselijke natuur. Sommige mensen zeggen: ‘Je moet er gewoon transparant over zijn en uitleggen waarom je het doet.’ Natuurlijk moet je dat doen, maar dat betekent niet dat iedereen ermee akkoord gaat.

Lynn Parramore: Nee, zeker niet.

En zelfs als werknemers meewerken, krijg je misschien niet de beste prestaties van hen. Een algoritme kan weten hoe lang je over een taak hebt gedaan, maar weet het ook dat je extra tijd nodig had omdat je een collega probeerde te helpen? Nee. Maar dat is juist het soort gedrag dat je van een werknemer wilt zien.

We moeten onze menselijkheid erkend zien, en dat staat haaks op bepaalde vormen van observatie. We moeten erkenning krijgen voor onze intenties, onze goede trouw en onze complexiteit. Hoe complexer de activiteit, hoe moeilijker het is om die terug te brengen tot afzonderlijk meetbare eenheden. We moeten erkennen wat ons menselijk maakt.

Zijn we als werknemers mensen die groeien en leren, of zijn we invoerwaarden? We moeten ook de mogelijkheid hebben om fouten te maken zonder door een algoritme te worden ontslagen, door deze onzichtbare leidinggevende die we niet kunnen zien en waarvan we niet weten wat die meet. Veel hiervan komt neer op wat ons menselijk maakt en wat ons laat floreren. Bepaalde vormen van algoritmisch management en werknemerssoftware staan haaks op wat we weten over mensen.

David Rice: Begrijpt zo’n systeem dat je vorige week je hond moest laten inslapen? Begrijpt het dat je ruzie had met je zus? Nee. Dat is het probleem. We halen managementlagen weg om er iets voor in de plaats te zetten dat niet begrijpt wie we zijn of waarom we ons gedragen zoals we doen.

Lynn Parramore: Absoluut.

Ik schrijf en onderzoek veel, en een van mijn belangrijkste activiteiten overdag ziet eruit als voor me uit staren en niets doen. In werkelijkheid ben ik aan het nadenken. Misschien loop ik rondjes door mijn appartement omdat dat me helpt denken.

Hoe moet een algoritmisch managementsysteem dat registreren? Waarschijnlijk markeert het mij. Veel van wat nodig is om ons werk goed te doen past niet in die afzonderlijke eenheden en systemen. Dat zal nooit veranderen.

David Rice: Het zal niet begrijpen dat ik veel pretzels eet, maar daar is een reden voor.

Zo denk ik dingen uit.

Lynn Parramore: Het is grappig dat je dat zegt, want werknemers klaagden over sommige algoritmische systemen die tijdens de pandemie werden geïnstalleerd omdat die niet wilden dat werknemers tijdens het werk aten. Als je met klanten telefoneert, wil natuurlijk niemand dat je ondertussen pretzels zit te kauwen.

Maar als het gesprek voorbij is, waarom zou een pretzel dan een probleem zijn? Het maakt ons ook kinderlijk afhankelijk. We worden gecontroleerd wanneer we naar het toilet gaan en wanneer we een pretzel willen eten. Dat is vernederend en neemt onze waardigheid als werknemers en mensen weg.

David Rice: Niemand wordt graag door een proces heen gemicromanaged, laat staan dat hem wordt verteld wanneer hij wel en niet mag eten. Het is alsof iemand zegt: ‘Wat is dit, lunchtijd? Is dit de basisschool? Ik eet wanneer ik wil.’

Lynn Parramore: Elke ouder van een tiener worstelt volgens mij met de grens tussen wat je wilt monitoren en wat de gevolgen van die monitoring zullen zijn.

Op een bepaald moment moeten we bij iedereen die we vertrouwen een zekere mate van onzekerheid accepteren. Er zijn legitieme doelen voor toezicht. Als je kind bijvoorbeeld dronken achter het stuur heeft gezeten, kan het logisch zijn om het zes maanden lang het alcoholgehalte in de auto te laten testen.

Maar als je dat eindeloos blijft doen en je kind nooit kan aantonen dat het vertrouwen is teruggewonnen, ontstaat er een breuk in de relatie. Ik wil een leidinggevende op het werk niet gelijkstellen aan een ouder. Volgens mij is dat juist het probleem. We zijn geen ouder en kind; we zijn mensen die samenwerken, en een bepaalde mate van onderling vertrouwen is nodig om het werk gedaan te krijgen.

David Rice: Om er nog een sportvoorbeeld bij te halen: het lijkt meer op een coach. Je geeft spelers een instelling en een plan, stuurt ze het veld op, maar daarna moet je ze hun ding laten doen. Je moet ze zichzelf laten uitdrukken en hun talent laten benutten.

Lynn Parramore: Zelfs bij topsporters geldt dat. Niet alles is Moneyball. Niet alles draait om optimalisatie. Ook sportteams kregen weerstand tegen programma’s die precies wilden bijhouden hoeveel iemand elke nacht sliep. Misschien is daar in bepaalde situaties een legitiem doel voor, maar elke nacht en voortdurend wordt het indringend.

Als je GPS-tracking op een auto gebruikt voor iemand die tijdens werktijd leveringen doet, kan dat logisch zijn. Maar buiten werktijd gaat het veel te ver en zullen mensen zich verzetten. Omdat de wetten in de Verenigde Staten zo versnipperd zijn, ontstaat er steeds meer activisme. Werknemers uiten gezamenlijk hun ongemak over deze systemen.

We horen de laatste tijd over werknemers van Meta die zich grote zorgen maken over de invoering van algoritmisch toezicht. In dit geval wordt het toezicht gebruikt om AI-systemen te leren wat werknemers doen. Dat voegt een extra laag ongemak toe. Word ik gemonitord zodat dit AI-systeem uiteindelijk mijn baan kan overnemen?

Dat maakt mensen echt ongemakkelijk. We bevinden ons op een interessant punt en moeten beslissen waar de grens ligt. In de Verenigde Staten lopen we achter en hebben we betere privacybescherming nodig, evenals meer mogelijkheden voor werknemers om deel te nemen aan het gesprek.

Als werknemers betrokken zijn bij de manier waarop programma’s worden ingevoerd en bij wat ze onder welke omstandigheden zullen monitoren, wordt het programma veel succesvoller. Werknemers zijn niet tegen elke vorm van toezicht. Als iemand op het werk vooringenomen wordt behandeld of een leidinggevende heeft die hem niet mag, kan het meten van prestaties soms helpen om bewijs te leveren dat die persoon goed werk doet.

Toezicht kan dus ook worden ingezet om de rechten van werknemers te ondersteunen. Het zijn hulpmiddelen die verschillende kanten op kunnen gaan, afhankelijk van de intentie van de werkgever. Het is één ding om een assistent of helper in de vorm van een AI-programma te hebben. Het is iets heel anders om een onzichtbare leidinggevende te hebben, en vrijwel niemand wil dat.

David Rice: Dit is uiteindelijk een gesprek over ethiek en filosofie. Je moet op dit moment filosofisch over deze zaken nadenken, omdat bedrijven goed kunnen zijn voor de samenleving, maar ook heel slecht. Ze zijn niet vanzelfsprekend goed.

Lynn Parramore: Dat hebben we gezien bij de tabaksindustrie. We weten allemaal hoe schadelijk bepaalde bedrijfsactiviteiten voor de samenleving kunnen zijn. We hebben dat op de harde manier geleerd en zouden die les niet steeds opnieuw moeten leren.

David Rice: En toch doen we dat. We hebben het gezien bij socialmediabedrijven, bij verschillende advertentiebedrijven en door de jaren heen bij allerlei technologiebedrijven.

Lynn Parramore: Dat is ook een vertrouwenskwestie met het grote publiek. Mensen in Silicon Valley zijn misschien verrast door de publieke weerstand tegen AI in het algemeen. De zorgen over surveillance maken daar een groot deel van uit.

We zijn al eerder bedrogen. Bedrijven hebben ons verteld dat iets volkomen veilig en nuttig was, waarna dat niet waar bleek te zijn. We weten inmiddels zelfs niet meer welk onderzoek we kunnen vertrouwen. Onderzoekers die aan universiteiten aan AI werkten, raakten hun baan kwijt en gingen bij private bedrijven werken.

In onderzoekspapers over AI-surveillance staat vaak iemand uit het bedrijfsleven als mede-auteur. Dat is ook problematisch en doet denken aan onderzoeken die door R.J. Reynolds werden gefinancierd en beweerden dat nicotine niet verslavend was.

Er is wantrouwen ontstaan rond technologie en de vraag hoe die ons als werknemers zal helpen. Zal hogere productiviteit leiden tot hogere lonen en minder werk? Die beloften zijn de afgelopen veertig of vijftig jaar niet waargemaakt.

Mensen zijn dus begrijpelijkerwijs nerveus, vooral gezien de snelheid en de schaal waarop dit gebeurt.

David Rice: Je maakte eerder een interessant punt over jongere werknemers. Leiders moeten begrijpen dat deze generatie zowel idealistisch als openlijk sceptisch is.

In tegenstelling tot eerdere vormen van technologie op de werkvloer is AI moeilijker te omarmen voor veel leden van Generatie Z. Ze staan er soms zelfs vijandig tegenover. Waarom reageert deze generatie zo anders en wat moeten leiders daarmee doen?

Lynn Parramore: Het is een interessant verschijnsel. Kijk naar wat de oudere kant van Generatie Z heeft meegemaakt. Hun leven begon met geopolitieke onrust die een generatie lang onbekend was geweest. Ze maakten 11 september mee, de financiële crisis en de ene crisis na de andere.

De eenentwintigste eeuw is tot nu toe behoorlijk turbulent geweest. Deze jongeren hebben een gevoel van instabiliteit ervaren. Ze maakten de Grote Recessie mee en kregen steeds te horen dat sociale stijging in de Verenigde Staten vastloopt en dat zij het niet noodzakelijk beter zullen doen dan hun ouders.

Nu wordt hun verteld: je hebt hard gewerkt, bent naar de universiteit gegaan en staat op het punt je diploma te halen en de arbeidsmarkt te betreden, maar misschien zijn er geen startersbanen meer voor je. Misschien is er in deze economie geen behoefte aan jou.

De economie is al moeilijk genoeg. Er is inflatie en er gebeurt van alles dat tegenwind vormt voor deze jongeren. Het is begrijpelijk dat ze van streek zijn. AI wordt hun opgedrongen voordat ze tijd hebben gehad om zich aan te passen, en soms krijgen ze te horen dat hun studierichting niet langer relevant is.

Ze weten niet hoe hun loopbaan of het vak waarvoor ze zijn opgeleid er over vijf jaar, of misschien zelfs over zes maanden, uitziet. Dat is een beangstigende situatie. Ze hebben al gezien hoe Silicon Valley hen heeft verraden met sociale media, het verzamelen van hun gegevens en schadelijke vormen van reclame.

Ze zijn daar alert op. Als je hen vertelt dat AI het beste is sinds gesneden brood en hun leven gemakkelijker zal maken, geloof ik niet dat ze dat zomaar aannemen. Daar hebben ze goede redenen voor.

David Rice: Deze generatie is opgegroeid met technologie. Het zijn geen luddieten en ze zijn niet tegen technologie. Ze hebben over het algemeen alles omarmd wat hun werd aangeboden. Ze zijn waarschijnlijk de technologisch meest vaardige generatie die we ooit hebben gehad.

Lynn Parramore: Ja.

David Rice: Hun scepsis gaat volgens mij niet over AI zelf, maar over waar de grens ligt tussen nuttig en indringend, en of ze de mensen vertrouwen die het ontwikkelen en beheren.

Ik kom steeds bij dezelfde vraag uit: vertrouw je de mensen die het nu ontwikkelen en beheren? Vertrouwde je Mark Zuckerberg en de andere directeuren van socialmediabedrijven? We zijn zo vaak benadeeld door slechte leiders en mensen met slechte bedoelingen.

Sociale media werden in hun leven veel eerder verweven dan in het mijne. Waarvoor werden die grotendeels gebruikt? Om hen eindeloos te laten scrollen, in een negatieve lus te houden en zich slecht over zichzelf te laten voelen.

Lynn Parramore: Precies. Wanneer een werkgever zegt: ‘We verzamelen deze gegevens over je, maar de opslag is beveiligd’, denken mensen: echt? Elk nieuwsbericht gaat over een groot datalek. Waarom zou iemand dat vertrouwen? ‘We doen dit voor je welzijn.’ Echt?

‘Deze technologie gaat de mensheid redden.’ Echt? Jongeren laten zich op dit moment niet meer zo gemakkelijk overtuigen en verzetten zich. Als de economie hun weinig biedt, waarom zouden ze er loyaal aan zijn? Als je zegt dat ze misschien niet eens een baan of carrière zullen hebben en in feite vervangbaar zijn, waarom zouden ze zich dan niet verzetten?

Het is een natuurlijke reactie. Deze generatie studeert af in een ongekende situatie van onzekerheid rond klimaatverandering, politieke onrust en technologische vooruitgang.

Ik sprak onlangs met een jonge vrouw die haar eerste baan als verpleegkundige had. Ze was opgeleid als verpleegkundige en had al het beoordelingsvermogen, de goede intenties en de morele moed die haar keuze voor het vak hadden gevormd. Nu kreeg ze een algoritmisch programma dat bepaalde welke patiënten in het ziekenhuis valgevaar liepen.

Het programma gebruikt verschillende datapunten om te beoordelen wie risico loopt. Als iemand risico loopt, moeten allerlei protocollen worden gevolgd. Dat klinkt goed, behalve dat zij en haar collega-verpleegkundigen weten dat het soms fout zit en dat zij het niet kunnen overschrijven. Ze moeten manieren vinden om rond het programma heen te werken en tegelijk hun patiënten veilig te houden.

Dat is niet wat we willen dat mensen ervaren wanneer ze de arbeidsmarkt betreden: dat hun menselijke beoordelingsvermogen volledig wordt overschreven. Als je het moreel onmiddellijk wilt verlagen, is dat een goede manier. Bovendien gaat het hier om de veiligheid van mensen en mogelijk om leven en dood. Dat kun je niet aan een algoritme overlaten.

David Rice: Als oudere millennial kwam ik na de crisis van 2008 van school, maar ik had ten minste jaren de tijd om ervaring en deskundigheid op te bouwen. Geen wonder dat jongeren geen vertrouwen hebben. Alles lijkt een leugen te zijn geweest. Jarenlang werd hun verteld dat ze zich moesten specialiseren, goed moesten worden in wiskunde en wetenschap en moesten leren programmeren. Nu krijgen ze te horen dat zachte vaardigheden belangrijk zijn.

Lynn Parramore: En wat moet je daar dan mee? Je hebt een technische opleiding gevolgd en staat op het punt de arbeidsmarkt te betreden, waarna men zegt dat het eigenlijk fijn zou zijn als je filosofie had gestudeerd. Je kunt vier jaar opleiding niet zomaar terugdraaien.

We zullen zeker praten over het aanpassen van curricula en verwachtingen, maar wat doen we voor degenen bij wie de spelregels zijn veranderd en het tapijt onder de voeten is weggetrokken? Zij verdienen steun van de samenleving, omscholing en onderwijsprogramma’s.

Dat klinkt misschien als de New Deal onder FDR, maar de schaal van het probleem is groot en de reactie van de samenleving moet dat ook zijn. Je kunt niet een hele generatie voor de bus gooien. Als je een groep jongeren zonder hoop, verwachtingen of middelen creëert, kan dat een explosieve situatie worden.

David Rice: Tegen de tijd dat alles achter de rug is en het stof is neergedaald, gaat het misschien om vijf tot tien afstudeerklassen. Dat zijn veel opgeleide werknemers die hun weg moeten vinden. Het wordt onmogelijk om dit zonder chaos te laten verlopen.

Lynn Parramore: Nee, maar het hoeft niet zo pijnlijk te zijn als we er niet slimmer op reageren. Neem een groot bedrijf als Microsoft. De directeur verdiende vorig jaar honderd miljoen dollar terwijl het bedrijf werknemers ontslaat. Waarom gebruiken ze niet een deel van die middelen, of het geld dat ze besteden aan aandeleninkoop, om de werknemers die ze hebben ontslagen om te scholen?

We moeten onze verwachtingen veranderen over wat leiders doen. Een beursbedrijf heeft een door de samenleving verleende rechtsvorm en is haar iets verschuldigd. Het is ook iets verschuldigd aan de mensen die het werk hebben gedaan waardoor het bedrijf succesvol is geworden. Niet alleen aandeelhouders horen van de voordelen te profiteren.

Sinds de uitbundige jaren tachtig hanteren we de gedachte dat het doel van een onderneming is om aandeelhouders rijker te maken. Ik hoop dat de slinger zo ver die kant op is gegaan dat hij nu terug begint te bewegen en dat we opnieuw gaan beoordelen wat we als samenleving verwachten van bedrijfsleiders en ondernemingen.

In de jaren vijftig en zestig waren de verwachtingen anders. Leiders werden aan andere normen gehouden en spraken publiekelijk over hun verantwoordelijkheid tegenover meerdere belanghebbenden: werknemers, gemeenschappen en anderen.

David Rice: De slinger is misschien nog niet de beste metafoor. Het lijkt meer op zo’n kermisattractie die heen en weer gaat en uiteindelijk helemaal rond draait, zodat je even ondersteboven hangt en denkt dat je zult sterven.

Dat is ook een mogelijkheid waarop we ons moeten voorbereiden. Misschien moet de samenleving uiteindelijk veranderen hoe ondernemingen hun status krijgen. Ooit moest je aantonen dat je een publiek belang diende om een onderneming te mogen oprichten en de bijbehorende voordelen te krijgen.

Nu kun je online een bedrag betalen en ben je een onderneming. Dat is te ver doorgeschoten. Een verandering zou alles op zijn kop zetten, maar misschien komen we daarna uit bij een situatie die beter aansluit bij wat we bespreken.

Lynn Parramore: Precies. Waar dient een onderneming voor? Niet alleen om een paar mensen rijk te maken en biljonairs voort te brengen. Dat is uiteindelijk niet goed voor de samenleving en werkt niet goed samen met democratie.

We willen ondernemingen die goede producten en diensten maken, geen fraude plegen om de aandelenkoers op te drijven en hun winsten en middelen niet uitsluitend gebruiken om een paar mensen rijker te maken die het werk niet eens werkelijk doen. Volgens mij kunnen de meeste mensen het daarover eens zijn, ongeacht hun politieke positie.

Mensen als Bernie Sanders noemen het denken in aandeelhouderswaarde een probleem, maar ook J.D. Vance spreekt erover. Het is dus niet iets dat bij één partij hoort. Iedereen begint te zien dat het systeem uit balans is geraakt.

Met AI wordt de vraag urgenter, omdat dit zo snel gebeurt en er zulke grote beloften worden gedaan over wat de technologie kan, terwijl er zoveel vragen zijn over de schade. Datacenters zijn daar slechts één voorbeeld van. Eén faciliteit van een zogenoemde hyperscaler kan evenveel energie gebruiken als een klein land. In Noord-Virginia zijn er al honderden.

Wat doet dat met elektriciteitsprijzen, vervuiling en waterverbruik? Hoe moeten boeren hiermee omgaan? Dit zijn grote vragen. Een onderneming zou niet zomaar mogen besluiten dit allemaal te doen zonder regelgeving of inspraak van de getroffen gemeenschappen.

Dat is een recept voor een ramp.

David Rice: Wanneer je praat met werknemers die idealistisch zijn en zich benadeeld voelen, wat denk je dan dat hun reactie op meer AI zal zijn, gezien de maatschappelijke kosten? Ik heb medelijden met leiders die dit ethisch proberen te navigeren, want dat is niet altijd eenvoudig.

Maar uiteindelijk hoort het bij hun werk. Daarom moeten ze er filosofisch over nadenken en bereid zijn diep in de materie te duiken: wat is de verstandigste manier om deze technologie te gebruiken? Wat willen we ermee bereiken, en wat hoeft ze juist niet te doen?

Lynn Parramore: En je moet bereid zijn op de pauzeknop te drukken. We hebben genoeg voorbeelden gezien van bedrijven die AI te snel en zonder voldoende nadenken invoerden, waarna het misging. Soms werden werknemers ontslagen omdat men dacht dat AI hun werk kon doen, om vervolgens te ontdekken dat dit niet zo was. Die werknemers waren wel degelijk nodig en moesten opnieuw worden aangenomen.

Dat soort problemen ontstaat wanneer mensen te snel willen gaan. Dat geldt voor bedrijfsleiders, maar ook voor de samenleving als geheel. Bij de bouw van datacenters moeten we soms op de pauzeknop drukken totdat we meer weten over de gevolgen.

Er wordt vaak gezegd: ‘Als wij niet vooruitrennen, doet China het.’ Dat is een probleem, maar het mag geen excuus worden om zonder regelgeving alles te doen wat je wilt. Wanneer deze technologie wordt toegepast in wapensystemen, kerncentrales en andere kritieke omgevingen, is het zeer zorgwekkend als er nauwelijks regelgeving bestaat.

David Rice: Lynn, bedankt dat je vandaag te gast was. Dit was een geweldig gesprek en ik heb ervan genoten.

Lynn Parramore: Bedankt. Ik ben blij dat je hierover praat. Ik weet zeker dat we meer te bespreken hebben naarmate dit zich verder ontwikkelt.

David Rice: Luisteraars, als je meer van Lynn wilt leren, bekijk dan zeker haar profiel op LinkedIn. Ze heeft een boek uitgebracht dat absoluut de moeite waard is.

Tot de volgende keer: ga naar peoplemanagingpeople.com/subscribe en schrijf je in voor de nieuwsbrief. Ontvang deze podcast en al het andere dat we doen. We hebben veel artikelen en virtuele evenementen die in het najaar plaatsvinden.

Schrijf je in voor de nieuwsbrief. En tot de volgende keer: wees niet bang om hier filosofisch over na te denken.

Voordat we afronden, nog iets voor bedrijven met teams in het veld. Als je ploegen op meerdere werklocaties beheert, kan het bijhouden van uren en arbeidskosten snel een uitdaging worden. Met QuickBooks Workforce en QuickBooks Time kun je de tijd van werknemers registreren, arbeidskosten per project volgen en de loonadministratie koppelen aan het werk dat in het veld gebeurt.

Of je nu actief bent in de bouw, buitendienst of een ander projectgericht bedrijf: QuickBooks Workforce kan helpen de loonadministratie en het personeelsbeheer te vereenvoudigen. Lees meer om te ontdekken hoe het je team kan ondersteunen.