Waarom menselijk toezicht niet voldoende is om AI onder controle te houden
AI is niet de eerste technologie die betere beslissingen belooft door rommelige menselijke oordeelsvorming te verwijderen. Maar generatieve AI brengt iets anders met zich mee: het vermogen om overtuigend, gezaghebbend en opmerkelijk menselijk te klinken. En daardoor wordt het moeilijker om de aanbevelingen ervan ter discussie te stellen dan organisaties misschien willen toegeven.
David Rice gaat met Claire Maiers in gesprek om te onderzoeken waarom context belangrijker is dan ooit bij AI-ondersteunde besluitvorming, wat de ervaring van de gezondheidszorg met voorspellende systemen bedrijfsleiders kan leren en hoe organisaties het risico lopen zichzelf stilletjes opnieuw vorm te geven door duizenden geautomatiseerde beslissingen. De uitdaging is niet simpelweg om mensen bij het proces betrokken te houden. Het gaat erom organisaties op te bouwen waarin menselijk oordeel nog steeds betekenis heeft.
Wat je leert
- Waarom generatieve AI meer overtuigend gezag heeft dan eerdere voorspellende systemen.
- Hoe de organisatorische context bepaalt of AI de besluitvorming verbetert of ondermijnt.
- Wat het gebruik van voorspellende analyses in de gezondheidszorg laat zien over het combineren van menselijke expertise met aanbevelingen van machines.
- Waarom AI-gestuurde efficiëntie de ontwikkeling van toekomstige leiders en ervaren professionals kan verzwakken.
- Hoe AI organisatorische kennis, vertrouwen, verantwoordelijkheid en de rol van menselijk oordeel verandert.
- Waarom personeelsmanagers AI-adoptie moeten zien als een beslissing over organisatieontwerp en niet als een technologische implementatie.
Belangrijkste inzichten
- Ontwerp voor oordeelsvorming, niet alleen voor efficiëntie. AI kan werk elimineren dat mensen juist helpt nadenken. Het automatiseren van bijvoorbeeld vergadernotulen kan tijd besparen en tegelijkertijd de mentale verwerking wegnemen die vergaderingen nuttig maakt. Bedenk welk denkwerk menselijk moet blijven.
- Maak menselijk toezicht meer dan een slogan over governance. Als medewerkers worden gestraft omdat ze AI overrulen, maar geen erkenning krijgen wanneer ze gelijk hebben, is de mens in de besluitvormingslus grotendeels ceremonieel. Bouw besluitvormingsprocessen die het mogelijk én de moeite waard maken om aanbevelingen ter discussie te stellen.
- Creëer gestructureerde besluitvormingsprocessen. Zorgprofessionals behandelen voorspellende scores niet als definitieve antwoorden. Ze combineren deze met klinische observaties, professionele expertise en duidelijk omschreven verantwoordelijkheden. Organisaties hebben vergelijkbaar doelbewuste processen nodig voor ingrijpende AI-ondersteunde beslissingen.
- Bescherm de expertise waarvan AI afhankelijk is. Als organisaties mogelijkheden om oordeelsvermogen te ontwikkelen automatiseren, kunnen ze uiteindelijk zonder mensen komen te zitten die de machine kunnen beoordelen. Modellen voor leerlingbegeleiding en specialistenopleidingen bieden mogelijkheden, maar leiders moeten er ruimte voor maken in bedrijfsmodellen die worden gedreven door kortetermijnrendementen.
- Verwar gedocumenteerde kennis niet met de organisatorische werkelijkheid. Het organigram laat zien hoe werk zou moeten verlopen. Informele relaties en impliciete kennis verklaren vaak hoe het daadwerkelijk wordt gedaan. Niet alles wat waardevol is, kan worden vastgelegd in een doorzoekbare opslagplaats.
- Stel de visie vast voordat je de adoptie opschaalt. Duizenden afzonderlijk redelijke AI-ondersteunde beslissingen kunnen fundamenteel veranderen wie wordt aangenomen, promotie krijgt en wordt beloond. Leiders moeten bepalen waar AI thuishoort, welke resultaten het moet verbeteren en waar menselijk oordeel centraal moet blijven staan.
Hoofdstukken
- 00:00 – AI en organisatieontwerp
- 02:17 – Het belang van context
- 05:14 – Het groeiende gezag van AI
- 11:09 – AI en menselijk oordeel
- 16:27 – Lessen uit de gezondheidszorg
- 23:40 – Expertise versus algoritmen
- 25:24 – De toekomst van expertise
- 27:49 – De grenzen van AI-kennis
- 32:22 – Intuïtie versus vooroordelen
- 33:49 – Menselijk toezicht werkelijkheid maken
- 37:57 – Vertrouwen in AI opbouwen
- 41:28 – AI als denkpartner
- 44:56 – De leiderschapsuitdaging
- 49:48 – Organisatieontwerp heroverwegen
- 50:48 – Stel de visie vast, bouw de context
Maak kennis met onze gast
Dr. Claire Maiers is een systeemontwikkelaar, organisatie-strateeg en socioloog die organisaties helpt omgaan met complexiteit, leiderschap te versterken en duurzame, goed presterende teams op te bouwen. Met een Ph.D. in sociologie van de University of Virginia brengt ze expertise mee op het gebied van organisatieontwerp, onderzoeksstrategie, digitale transformatie en het raakvlak tussen technologie en menselijk gedrag. Claire was eerder senior onderzoeksleider bij WillowTree en heeft uitgebreide ervaring met het opschalen van teams, het verbeteren van operationele systemen en het vertalen van complexe uitdagingen naar uitvoerbare strategieën. Haar werk richt zich op het opbouwen van mensgerichte organisaties, het bevorderen van samenwerkingsculturen en het onderzoeken van de manier waarop AI leiderschap, besluitvorming en de toekomst van werk opnieuw vormgeeft.
Gerelateerde links:
- Word lid van de community van People Managing People
- Abonneer je op de nieuwsbrief om onze nieuwste artikelen en podcasts te ontvangen
- Bekijk de sponsor van deze aflevering: Teamflect
- Kom in contact met Claire op LinkedIn
Gerelateerde artikelen en podcasts:
David Rice: In deze aflevering bespreken we waarom menselijk toezicht niet voldoende is om AI onder controle te houden. Claire Maiers onderzoekt al meer dan tien jaar hoe mensen samenwerken met voorspellende systemen. Ze legt uit waarom context centraal staat bij AI-ondersteunde besluitvorming en waarom organisaties AI niet alleen als technologieprobleem moeten benaderen, maar ook als een vraagstuk van organisatieontwerp.
Claire Maiers: Veel van wat anders lijkt aan generatieve AI bestaat al langer in verschillende vormen. We werken al jaren met gegevens, voorspellingen en aanbevelingen uit systemen die voor de meeste gebruikers grotendeels een zwarte doos zijn. De belangrijkste les is dat context ertoe doet. Mensen gebruiken deze systemen niet in een vacuüm, maar binnen organisaties met normen, professionele gewoonten en specifieke culturen.
De manier waarop mensen waarheid en kennis beoordelen, bepaalt hoe ze de uitkomsten van deze systemen interpreteren en gebruiken. Daarom moeten we niet alleen naar cultuur kijken, maar ook naar de bredere context waarin AI wordt toegepast.
David Rice: Generatieve AI voelt anders omdat de systemen taal gebruiken en ontworpen zijn om conversationeel over te komen. Daardoor lijken ze op een collega, vriend of autoriteit. Dat maakt het moeilijker om de antwoorden kritisch te beoordelen, tenzij we dat bewust doen.
Claire Maiers: Dat is een belangrijk verschil met eerdere voorspellende systemen. Bij big data zagen we al dat te veel vertrouwen op starre systemen problemen kon veroorzaken. Generatieve AI draagt echter meer culturele en epistemische autoriteit. De antwoorden klinken uitgewerkt en overtuigend, ook wanneer ze onjuist of onvolledig zijn.
Daarom moeten organisaties systemen zo ontwerpen dat ze mensen ondersteunen bij het denken, in plaats van dat ze mensen aanmoedigen om passief aanbevelingen over te nemen. Een AI-systeem hoeft niet altijd meteen een antwoord of aanbeveling te geven. Het kan ook vragen stellen die mensen helpen hun eigen redenering te ontwikkelen.
Een eenvoudig voorbeeld is automatisch notuleren. Aantekeningen maken is zelf een vorm van leren: het dwingt de hersenen om informatie te ordenen, verbanden te leggen en te vereenvoudigen. Wanneer AI alle notities maakt, missen mensen een deel van dat denkproces. Dat betekent niet dat AI-samenvattingen nutteloos zijn, maar wel dat organisaties moeten nadenken over het doel waarvoor ze worden gebruikt.
David Rice: In de medische context die je hebt onderzocht, was de vraag niet alleen of de machine of de arts een taak beter uitvoerde. Artsen leerden hoe het systeem onderdeel werd van een groter besluitvormingsproces.
Claire Maiers: In een onderzoek naar een systeem dat sepsis bij baby’s op een neonatale intensivecareafdeling voorspelde, werd de voorspelling niet als doorslaggevend behandeld. Artsen en verpleegkundigen combineerden de uitkomst van het systeem met hun eigen expertise en met de lichamelijke toestand van de patiënt.
Dat was mogelijk omdat er een gestructureerd en duidelijk omschreven proces bestond. Verpleegkundigen controleerden de patiënt, verzamelden gegevens, aanvullende onderzoeken werden uitgevoerd en vervolgens besprak het behandelteam de situatie. De arts met eindverantwoordelijkheid nam de uiteindelijke beslissing.
Organisaties die AI op een verantwoorde manier willen gebruiken, hebben vergelijkbare gestructureerde processen nodig. Ze moeten kunnen leren wanneer beslissingen verkeerd uitpakken en waar veiligheidsmaatregelen nodig zijn. Ook gedeelde waarden en een duidelijke ethische code zijn belangrijk, omdat ze mensen helpen om naar hetzelfde doel toe te werken.
David Rice: Wat gebeurt er wanneer organisaties steeds meer kennis door AI laten zoeken, meten en samenvatten? Bestaat dan het risico dat we vooral kennis waarderen die voor een machine gemakkelijk zichtbaar is?
Claire Maiers: Ja. Veel van wat organisaties effectief maakt, is niet vastgelegd. De formele organisatiestructuur laat zien hoe dingen zouden moeten werken, maar de informele relaties en communicatiekanalen bepalen vaak hoe het in werkelijkheid gaat. Mensen die organisaties goed begrijpen, kennen juist die informele structuur.
AI kan misschien vergaderingen opnemen of patronen in communicatie herkennen, maar dat betekent niet dat het de waarde van menselijke nabijheid en informele samenwerking volledig kan vervangen. Technologie is niet goed, slecht of neutraal. Daarom moeten mensen actief mee bepalen hoe technologie wordt ingezet en welke toekomst ze ermee willen creëren.
David Rice: Hoe kunnen we een legitieme rol behouden voor intuïtie en ervaring zonder mensen een excuus te geven om bewijs te negeren?
Claire Maiers: Dat vereist dat organisaties de context en het doel van elk systeem zorgvuldig ontwerpen. Intuïtie kan waardevol zijn, maar kan ook vooringenomenheid worden. Er bestaat geen universele context die voor iedere organisatie en elk besluit werkt. Het hangt af van de missie, de sector, de omvang en het soort beslissing.
David Rice: Bedrijven zeggen vaak: ‘AI informeert beslissingen, mensen nemen ze.’ Maar dat zegt niet of medewerkers zich werkelijk vrij voelen om het systeem tegen te spreken. Wat moet er waar zijn over de cultuur voordat menselijk toezicht meer is dan een slogan?
Claire Maiers: Mensen moeten naar een duidelijk gedeeld resultaat kunnen toewerken. In een goed georganiseerde cultuur mag iedereen een idee of aanbeveling ter discussie stellen zonder als ontrouw of lastig te worden gezien. Daarnaast moet er duidelijkheid zijn over verantwoordelijkheid. Als niemand zich verantwoordelijk voelt omdat ‘de AI de beslissing heeft genomen’, zullen mensen de uitkomsten minder kritisch beoordelen.
Tegelijkertijd mogen organisaties de verantwoordelijkheid voor complexe systemen niet simpelweg bij individuele medewerkers leggen. De verantwoordelijkheid hoort ook op organisatieniveau te liggen en bij de ontwerpers en beheerders van het gebruikte systeem.
David Rice: Vertrouwen in mensen wordt afgestemd op hun ervaring, de taak en het risico. Kunnen we dat ook met AI doen?
Claire Maiers: Tot op zekere hoogte. Bij mensen spelen zowel cognitief vertrouwen als affectief vertrouwen een rol. We beoordelen iemands bekwaamheid en vragen ons ook af of die persoon onze belangen voor ogen heeft. Bij AI ontbreekt die relationele dimensie.
Een goed ontworpen systeem waarmee je langere tijd ervaring hebt, kan je wel helpen om je eigen interpretatie en vertrouwen te kalibreren. Maar je moet niet zomaar strategische beslissingen toevertrouwen aan een willekeurig chatvenster. Het systeem moet doelgericht zijn ontworpen en de juiste context bevatten.
David Rice: AI kan vooral nuttig zijn als hulpmiddel om je eigen redenering te expliciteren en uit te dagen. Het is iets anders dan de analyse laten uitvoeren en vervolgens simpelweg vragen welke keuze je moet maken.
Claire Maiers: Dat is inderdaad een waardevol gebruik. AI kan fungeren als gesprekspartner die je helpt om aannames zichtbaar te maken, vragen te stellen en zwakke plekken in je argumenten te ontdekken. Innovatie en creativiteit ontstaan zelden in volledige afzondering; ze ontwikkelen zich vaak in gesprek met anderen. AI kan dat gesprek gedeeltelijk simuleren.
David Rice: Als AI wordt ingebed in dagelijkse beslissingen over werving, prestaties, investeringen en prioriteiten, hebben we het niet meer alleen over het gebruik van een hulpmiddel. Dan veranderen we de manier waarop organisaties bepalen wat ze weten. Welke verantwoordelijkheid creëert dat voor people leaders?
Claire Maiers: Organisaties zijn meer dan de som van hun onderdelen. AI maakt duidelijk dat organisaties sociotechnische systemen zijn: technologie is naast mensen een actor binnen de organisatie.
People leaders moeten beslissen waar de grens ligt en welke visie ze voor hun organisatie hebben. Het is niet onvermijdelijk dat AI volledig wordt geïntegreerd in werving of andere processen. De eenvoudigste route is de massa volgen, maar leiders kunnen ook kiezen voor betere kwaliteit, betere medewerkerservaringen en een doelgerichte inzet van AI.
De eerste verantwoordelijkheid is daarom: bepaal de visie en trek de grens. Daarna moet je de context ontwerpen waarin AI wordt gebruikt. Je moet bepalen welke beslissingen kunnen worden geautomatiseerd, hoe consumenten en medewerkers worden beschermd en hoe mensen hun zorgen kunnen uitspreken, beslissingen kunnen afwijzen en kritisch kunnen nadenken.
Dat is geen kleine taak. Zonder vertrouwen, een duidelijke missie en een cultuur waarin mensen zich durven uitspreken, wordt het veel moeilijker. Organisaties zouden bovendien binnen hun sector moeten samenwerken aan gezonde manieren om AI toe te passen die bijdragen aan menselijk welzijn.
David Rice: Als duizenden afzonderlijke AI-ondersteunde beslissingen samen bepalen wie wordt aangenomen, wie promotie krijgt en wat wordt beloond, vormen ze het gedrag van de organisatie. Als niemand bewust heeft besloten dat de organisatie zo moet werken, is dat een probleem van organisatieontwerp.
Claire Maiers: Precies. Organisatieontwerp raakt vaak op de achtergrond. De top van een organisatie richt zich gemakkelijk op het bedrijfsmodel en vergeet dat de organisatie de motor is die het bedrijfsmodel uitvoert. Het organisatiemodel verdient evenveel aandacht.
David Rice: Dit was een geweldig gesprek. Bedankt dat je te gast wilde zijn.
Claire Maiers: Het was erg leuk en inspirerend. Bedankt.
David Rice: Luisteraars, tot de volgende keer. Ga naar peoplemanagingpeople.com/subscribe of /ai-signal om je aan te melden voor onze nieuwsbrieven. Je ontvangt het laatste nieuws van peoplemanagingpeople.com, inclusief nieuwe gesprekken uit deze podcast, rechtstreeks in je inbox. Bepaal de visie, bouw de context. Tot de volgende keer.
Voer prestatiebeoordelingen uit en voeg inzichten over medewerkersbetrokkenheid toe aan je favoriete AI-tool. Koppel Teamflect aan ChatGPT, Claude of elk ander groot taalmodel om doelen te controleren, beoordelingen te schrijven, feedback te evalueren, taken te maken en meer, allemaal via een eenvoudige chat. Probeer Teamflect nu gratis.