De cognitieve kosten van gemak: AI zal onze hersenen beïnvloeden

Stay on the leading edge of leading with human-centric AI. Create a free account.

Elke technologische ontwikkeling beïnvloedt menselijke hersenen op een andere manier. Maar wanneer de ontwikkeling een efficiënter brein is dan enig mens bezit, kan de impact aanzienlijk zijn voor de belangrijkste spier die we hebben.

ai's impact on brain and behavior featured image

Uit een onderzoek dat onderzoekers van McGill University in april 2020 uitvoerden, bleek dat naarmate iemand meer GPS gebruikte, de achteruitgang in het van de hippocampus afhankelijke ruimtelijke geheugen sterker was. 

Wat betekent dat? 

Kort gezegd vindt ruimtelijk geheugen, oftewel je vermogen om te onthouden waar dingen zich bevinden, plaats in de hippocampus, een hersengebied dat sterk betrokken is bij geheugen, leren en emoties. Dit gebied zet kortetermijnherinneringen om in langetermijnopslag in onze hersenen. 

Gedurende vele eeuwen evolueerden mensen om hun weg te kunnen vinden. Dat was niet alleen een belangrijke vaardigheid om je omgeving te navigeren, maar ook om te overleven in de tijd vóór auto's, treinen en vliegtuigen. Maar naarmate onze samenlevingen zich hebben ontwikkeld, is er minder behoefte aan iemand die zo'n vaardigheid aanscherpt en daarmee ook minder behoefte om deze belangrijke hersenstructuur te gebruiken. 

Dit fenomeen beperkt zich niet tot GPS. Weinig mensen onthouden nog telefoonnummers sinds mobiele telefoons de mogelijkheid kregen om een hele lijst met contacten op te slaan.

Veel mensen gebruiken autocorrectie om spelfouten in hun sms'jes en e-mails te herstellen; je hoeft tegenwoordig geen grammaticus meer te zijn. 

Maar deze hulpmiddelen worden pas effectief gebruikt wanneer een mens er voldoende interactie mee heeft om eruit te halen wat die nodig heeft. GPS kan je helpen locaties te zoeken, maar je kunt het huis van iemand niet vinden zonder een adres of op zijn minst kennis van het gebied waar je naar kijkt. 

Op dezelfde manier is je lijst met telefoonnummers slechts informatieopslag totdat je besluit op een knop te drukken en iemand te bellen.

Zelfs ChatGPT, dat het afgelopen jaar behoorlijk wat opschudding heeft veroorzaakt, vereist jouw betrokkenheid. Als je er iets uit wilt halen, moet je het een opdracht geven.

Ondanks alle ophef over generatieve AI is het volgens werkplekfuturist Alexandra Levit, auteur van "Humanity Works: Merging Technologies and People for the Workforce of the Future”, grotendeels de meest geavanceerde chatbot die we tot nu toe hebben gezien. 

Podcast: AI gebruiken om je medewerkers meer mogelijkheden te geven & je organisatie te transformeren

“Als je erin duikt, verschilt generatieve AI niet wezenlijk van wat eraan voorafging,” zegt ze. “Het is een opgepoetste chatbot en je kunt de informatie die je krijgt nog steeds niet echt vertrouwen.”

Maar dat vertrouwen doen we wel. Inhoud die sterk door ChatGPT is beïnvloed, wordt al over het internet verspreid. Het wordt gebruikt om e-mails te schrijven, zoekmachineoptimalisatie te beïnvloeden en gegevens te analyseren.

Dit alles is relatief onschuldig, althans aan de oppervlakte. De vraag is: zal langdurig gebruik van deze technologie invloed hebben op de hersenen van de gebruiker?  

“Ik denk niet dat het de menselijke geest echt zal beïnvloeden, behalve wat betreft de manier waarop we informatie zoeken en communiceren,” zei Levit. “We zijn daar de afgelopen 25-30 jaar steeds beter in geworden door machines te gebruiken, en nu weten mensen eigenlijk niet meer hoe ze op een systematische manier informatie kunnen vinden, omdat je gewoon alles in Google typt, wat een vorm van AI is.”

Hoewel generatieve AI min of meer een hulpmiddel is, is het een buitengewoon geavanceerd hulpmiddel dat in veel beroepen de spelregels verandert. Iemand die begrijpt hoe en wanneer je het moet gebruiken, kan de volledige werkmethode veranderen en in sommige gevallen zelfs zijn vaardighedenpakket.

Daarom hoor je mensen, onder wie Levit, zo vaak zeggen: “AI zal niemands baan afpakken, maar iemand die weet hoe je AI gebruikt wel.”  

Dat geldt voor deze fase van de ontwikkeling van AI. Ondanks alle sterke punten van ChatGPT blijft het een machine die vaker wel dan niet een startpunt biedt waarmee een mens iets betekenisvols of bruikbaars kan creëren. 

Maar de vraag blijft: wat gebeurt er wanneer we onze hersenen steeds minder uitdagen door automatisering te verwelkomen? Het gebruikelijke antwoord van AI-evangelisten is dat we ze niet minder, maar op een andere manier zullen uitdagen. 

Door tijd vrij te maken die momenteel wordt besteed aan analytische taken of aan iets moeizaams als zelf een samenhangende gedachte opschrijven, krijgen we de mogelijkheid om prioriteit te geven aan andere dingen die alleen mensen kunnen doen. Althans, zo luidt het verhaal.

Welke dingen mensen precies beter doen, wordt echter steeds minder duidelijk naarmate AI-technologie zich in een ongelooflijk tempo ontwikkelt.

Zelfs wanneer AI het startpunt voor een project levert, heeft het invloed, omdat AI vervolgens een rol speelt in het sturen van het werk van mensen. Mensen die al sterk worden afgeleid, meerdere schermen gebruiken en minder informatie onthouden dan ooit tevoren. 

Het is zorgwekkend hoe gekwalificeerd of geconcentreerd we zijn om te bepalen of wat AI ons geeft wel goed is.

Stefan Ivantu is een adviserend psychiater die zich in Londen richt op ADHD bij volwassenen. Hij wijst er snel op dat de hersenen in één opzicht net als elke andere spier zijn. Als ze niet worden gebruikt, kunnen ze atrofiëren en we weten eenvoudigweg niet wat de gevolgen op lange termijn kunnen zijn van menselijke interacties met AI. 

Wat we wel weten, is dat de hersenen en ons gedrag zullen veranderen dankzij nieuwe technologie, met name ons vermogen om ons te concentreren. Je hoeft alleen maar naar de geschiedenis te kijken. 

“Als we de hersenen beschouwen als een computer, hebben ze twee componenten: de hardware en de software,” zei Ivantu. “De hardware is dus min of meer hetzelfde gebleven gedurende de afgelopen 200.000 jaar. Maar in de afgelopen eeuw is de software exponentieel toegenomen. 150 jaar geleden hadden we nog geen toegang tot elektriciteit, wat een enorme verandering in ons dagelijks leven betekende. Vanaf de jaren 1950, toen we voor het eerst toegang kregen tot televisie, kwam het scherm steeds dichter bij onze ogen naarmate we verder vooruitgingen. De computer, de mobiele telefoon, nu VR. De volgende is de neuralink. Hoe verder we vooruitgaan, hoe dichter het scherm bij ons komt. Dus de vraag is nu: wat is voor ons het normale niveau van afleiding?”

Schermverslaving heeft al geleid tot een kortere aandachtsspanne. Ik schrijf dit in de volle wetenschap dat je het waarschijnlijk niet grondig leest, maar scant. Vandaar de korte alinea’s en pogingen om goed getimede pagina-einden te creëren. 

Het feit is dat technologie onze hersenen al beïnvloedt op manieren die we elke dag kunnen zien. Die ontwikkelingen zullen waarschijnlijk niet verbeteren door het toegenomen gebruik van AI en de onmiddellijke bevrediging die het biedt voor alles, van het schrijven van een rapport tot het leggen van de basis voor een wervingsstrategie. 

Wervingssystemen op basis van AI kunnen zelfs de manier veranderen waarop we met werving omgaan, en beïnvloeden hoe onze hersenen kandidaatgegevens verwerken.

“Al deze technologieën stellen ons in staat om luier te zijn en delen van onze hersenen die bedoeld zijn om gebruikt te worden niet te gebruiken,” zei Levit. “Ze atrofiëren al. Ik denk dat het, als het om evolutie gaat, nog lang zal duren voordat we zo geëvolueerd zijn dat we een bepaalde functie niet meer uitvoeren, maar we zien overal bij technologie dat mensen meer afgeleid zijn en zich niet kunnen concentreren. Ze zijn nu al minder productief door app-moeheid. Ze schakelen gedachteloos van het ene naar het andere, maar richten zich nooit echt op één ding. Zelfs als we ons willen concentreren, lukt dat vaak niet.”

Infographic over de impact van AI-hulpmiddelen op fundamentele menselijke vaardigheden. De afbeelding laat zien hoe AI vaardigheden zoals cognitieve functies, besluitvorming, onderwijs, creativiteit en menselijke verbondenheid heeft beïnvloed.
Infographic die uitlegt hoe fundamentele menselijke vaardigheden door AI-hulpmiddelen zijn beïnvloed.

De volgende fase

Bletchley Park was een ideale locatie voor de eerste AI-top van staatshoofden die bezorgd waren over het potentieel van AI om industriële en maatschappelijke veranderingen teweeg te brengen. Daar werd de eerste programmeerbare digitale elektronische computer ter wereld gebouwd, terwijl de geallieerden tijdens de Tweede Wereldoorlog de Duitse communicatiecodes probeerden te begrijpen. 

We hebben een lange weg afgelegd sinds dat revolutionaire moment in de computerwetenschap, een discipline die dankzij het potentieel van AI nu mogelijk het lot van de mensheid in handen heeft. 

Duik je verder in het onderzoek naar AI, dan duurt het niet lang voordat je uitkomt bij de volgende fase: interactieve AI.

Bedrijven zoals DeepMind komen steeds dichter bij interactieve AI als realiteit: een wereld waarin bots taken uitvoeren die mensen voor hen instellen door simpelweg andere software of mensen in te schakelen om dingen gedaan te krijgen.

Klinkt aardig, maar hoe lang elke fase van AI zal duren gezien het tempo waarin de technologie zich ontwikkelt, is onzeker. 

Ga je nog verder dat konijnenhol in, dan kom je uit bij AGI, oftewel algemene kunstmatige intelligentie: een systeem dat intellectuele taken kan uitvoeren die mensen en dieren uitvoeren. 

Het is niet langer iets uit sciencefiction, maar het doel van bedrijven zoals OpenAI, DeepMind, Microsoft, Google Brain, IBM en andere bedrijven met enorme financiële middelen tot hun beschikking, die ons in een alarmerend tempo richting een realiteit met AGI duwen. 

“Bij AI is het gevaar een soort existentieel probleem,” zei Levit. “Wanneer we algemene kunstmatige intelligentie bereiken, wat betekent dat machines in wezen bewust zijn en beter kunnen denken dan wij, is er dan nog een reden voor ons om iets te doen? Wat zal ons doel dan zijn? Ik denk niet dat we zullen evolueren naar een toestand waarin we niets meer doen, maar misschien zullen we alleen nog oefenen met dingen doen. Bij AI maak ik me vooral zorgen over het feit dat het ons overbodig zal maken, omdat het gewoon beter zal zijn in de meeste dingen.”

Steeds meer machthebbers worden zich bewust van dit inzicht. Daarom ondertekende president Biden een presidentieel besluit om normen voor de veiligheid en beveiliging van AI vast te stellen. 

De 29 landen die bijeenkwamen tijdens de eerste top over AI-veiligheid kwamen een agenda overeen die zich zal richten op veiligheidsrisico’s die iedereen aangaan, het opstellen van op risico gebaseerde beleidsmaatregelen en een wereldwijde aanpak om de impact van AI op de samenleving te begrijpen.  

It starts with one signal.
Each week, AI Signal takes one meaningful shift in AI and helps people leaders understand what changed, why it matters, and what to consider next.
Get Free Access

Have an account? Log In

De zich ontwikkelende geest

Er zijn twee belangrijke gebieden waarop Kentaro Toyama, computerwetenschapper en hoogleraar gemeenschapsinformatie aan de informatieschool van de Universiteit van Michigan, waarschuwt dat AI een aanzienlijke impact kan hebben op het menselijk brein. Het eerste is onderwijs. 

Zoals met veel dingen rond AI en het leven, kun je er een balans tussen goed en slecht in vinden als je er objectief naar kijkt.

Podcast: Hoe AI je kan helpen een geweldige manager te zijn

In theorie zou AI studenten op maat gemaakte, persoonlijk afgestemde vormen van onderwijs kunnen bieden die boeiender zijn en leerlingen helpen informatie grondiger op te nemen. Hetzelfde kan worden gezegd over opleiding op de werkvloer. 

Tegelijkertijd ziet Toyama de mogelijkheid van een werkelijkheid waarin AI onderwijs bijzonder moeilijk maakt – en dat in feite al doet.

“Als iedereen er toegang toe heeft, wordt het voor docenten steeds moeilijker om hun werk te doen,” zei hij. “Op dit moment bevindt elke faculteit zich in een situatie waarin we niet langer met zekerheid kunnen zeggen of iets wat een student inlevert door de student is gemaakt. Ik heb collega’s die de hele manier waarop ze toetsen hebben moeten herzien, omdat dat het onderliggende probleem is.”

Hoewel de voormalige Microsoft-onderzoeker benadrukt dat er op zichzelf niets mis is met het integreren van technologie in het leren, wijst hij er snel op dat als dit het beoordelingsproces vertroebelt, de methoden en praktijken van het onderwijs niet erg effectief zullen zijn.  

“Je kunt geen lesgeven tenzij je weet wat de student wel en niet weet,” zei Toyama. “Mijn voorspelling is dat serieuze mensen zullen terugkeren naar examenboekjes en examens onder toezicht, waarbij mensen dingen met de hand opschrijven.”

De waarde van menselijke relaties

Als je lang genoeg luistert naar of praat met AI-experts en mensen die nauw betrokken zijn bij de ontwikkeling ervan, krijg je het gevoel dat er een overtuiging bestaat dat menselijke verbindingen in de toekomst ongelooflijk waardevol zullen worden.

Onze relaties met andere mensen vormen een belangrijk onderdeel van onze mentale gezondheid en een bepalend element van wat de menselijke ervaring maakt tot wat die is, of dat nu op het werk, op school, in de kerk of in de supermarkt is.

“Kijk naar de pandemie,” zei Levit. “Het was als een collectief trauma: iedereen was zo lang geïsoleerd. Het heeft mensen echt in de war gebracht. Ik denk dat we het gevaar lopen daarmee door te gaan en dat deze opkomende generatie, door de schermverslaving van kinderen, voortdurend achter een scherm zit, meestal ten koste van echte sociale interactie. Het zal steeds moeilijker worden om die menselijke interactie te faciliteren die vroeger vanzelfsprekend in elke omgeving plaatsvond. Het wordt waardevoller omdat het moeilijker en zeldzamer zal worden.” 

Een deel van deze overtuiging is fundamenteel gebaseerd op het feit dat er geen vervanging is voor menselijke interactie. Die dopaminestoot die voortkomt uit een geslaagd of prettig sociaal moment is een van de dingen die de meesten van ons kennen en waarderen. Maar is die werkelijk onvervangbaar?

Onderzoek heeft aangetoond dat online interacties waarbij twee mensen nooit daadwerkelijk met elkaar praten, een dopaminestoot in de hersenen kunnen veroorzaken. Zelfs iemand die je LinkedIn-bericht alleen maar leuk vindt, heeft dit effect. De kanttekening daarbij is natuurlijk dat je ervan uitgaat dat de persoon aan de andere kant een echte, levende mens is, of je nu weet dat dat zo is of niet.  

Onderzoek naar onze hersenen terwijl we met AI omgaan, staat net zo in de kinderschoenen als de technologie zelf, zo niet nog meer. Maar je hoeft geen wetenschapper te zijn om te begrijpen dat de overtuiging dat AI in staat is om aan onze behoefte aan verbinding te voldoen, bestaat. 

Kijk maar naar films als Her, bepaalde afleveringen van Black Mirror of literaire werken zoals Kazuo Ishiguro’s Klara en de zon.

“Het is een grote onbekende,” zegt Toyama. “Zullen we voldoende verbinding ervaren als we weten dat iets een machine is? Zullen we ons vervuld en tevreden voelen in een relatie met een machine, tot het punt waarop we niet langer echte menselijke verbinding zoeken? Dat is niet duidelijk.” 

Toyama geeft het voorbeeld van MIT-onderzoeker Joseph Weizenbaum, die in zijn latere jaren een van de grootste critici van AI werd.

In 1964 creëerde Weizenbaum ELIZA, een vroeg programma voor natuurlijke taalverwerking dat was ontworpen om patroonherkenning en een substitutiemethode te gebruiken om de illusie te wekken dat het programma mensen kon begrijpen. 

Het draaide een script met de naam DOCTOR, dat een gesprek creëerde zoals een therapeut dat met een patiënt zou kunnen voeren. In essentie kon ELIZA dingen herhalen die je zei en je er meer vragen over stellen. Het was in alle opzichten een vroege chatbot. 

Tot Weizenbaums verbazing raakten gebruikers ervan overtuigd dat ELIZA intelligent was en begrip toonde. Sommigen begonnen menselijke gevoelens aan het programma toe te schrijven en mensen begonnen de technologie serieus te gebruiken, op zoek naar een therapeutische interactie. 

“Dat was in de jaren 60,” zei Toyama. “Tegenwoordig zijn er al bedrijven die bijvoorbeeld voorstellen dat ze een deel van de interactie via berichten met je moeder kunnen afhandelen. Dat begint al te gebeuren. Dus nogmaals, het is niet duidelijk hoe mensen op technologie zullen reageren. Ik kan me manieren voorstellen waarop hier goede dingen uit kunnen voortkomen, maar veel ervan is een beetje beangstigend, in ieder geval vanuit het perspectief van het waarderen van menselijke relaties.”

Dus misschien praat je vandaag de dag nog persoonlijk met je moeder en vind je dat voorbeeld vergezocht. Maar ik durf te wedden dat je AI al gebruikt om met andere mensen te communiceren. Misschien heb je zelfs al een AI-gesprek met iemand gehad waarbij vooraf ingevoerde antwoorden werden gebruikt. 

Een goed voorbeeld hiervan zijn geautomatiseerde antwoordopties in e-mails of berichten. Je ontvangt een e-mail die een eenvoudig antwoord vereist en onder het tekstveld in je e-mail staan opties met teksten als “Klinkt goed” of “Geweldig! Bedankt.” In sommige gevallen is het misschien een vervolgvraag, zoals “Hoe laat?” 

De opties zijn eenvoudig, maar om ervoor te zorgen dat ze passen bij de context van het gesprek, moet de engine die je deze opties voorstelt begrijpen welk antwoord in die situatie zinvol zou zijn. 

Gezien hoe snel de ontwikkelingen gaan, ziet Toyama een ander scenario ontstaan dat misschien niet zo gunstig is voor het bedrijfsleven. 

“Binnen een paar jaar, zo niet maanden, zullen we zien dat de volledige e-mail voor ons wordt opgesteld. Zodra dat gebeurt, zullen velen van ons die e-mail of het antwoord niet eens meer lezen. Dan zal er iets gebeuren: er zullen situaties ontstaan waarin geen van beide partijen echt aandacht besteedt aan de geautomatiseerde reacties van machines op elkaar. We zullen relaties hebben die gebaseerd zijn op communicatie waar we eigenlijk geen aandacht aan hebben besteed, en er zullen fouten worden gemaakt. Als de fouten ernstig genoeg zijn, zullen we meer aandacht gaan besteden, maar veel relaties zullen op de sluimerstand ontstaan.”

Dit soort passieve communicatie brengt risico’s met zich mee voor de hersenen, omdat diepgang nieuwsgierigheid en interesse met zich meebrengt.

Empathie, een belangrijke stimulator van hersenactiviteit, wordt gedreven door de wens om medemensen te begrijpen. Als die wens ontbreekt of door technologie wordt vervangen, lopen mensen het risico iets te verliezen dat groter is dan duidelijkheid in communicatie.

“Een gebied waarin ik problemen zie, is nieuwsgierigheid,” zei Ivantu. “Mensen zullen steeds minder nieuwsgierig naar elkaar worden en liever op zoek gaan naar goed of fout. Wees niet verbaasd als er hulpmiddelen komen die beweren iemands emoties te kunnen lezen. Er zal steeds minder sprake zijn van ontdekking en nieuwsgierigheid, terwijl nieuwsgierigheid juist is wat de mensheid in de eerste plaats drijft.”

More Articles

De uitdrukking van de hersenen


De bovenstaande tweet belicht een belangrijk punt in het pleidooi voor AI. In het verleden zeiden voorstanders van de technologie vaak dingen als “AI gaat al het werk doen dat mensen niet willen doen.” 

In de veronderstelling dat AI in vleesverwerkingsfabrieken zou werken en in kolenmijnen zou afdalen, begonnen veel mensen uit te kijken naar een toekomst met AI. In plaats daarvan arriveerde de technologie met de mogelijkheid om korte verhalen en scripts voor reclames te schrijven.

Een essentieel onderdeel van het mens-zijn is ons vermogen om onszelf uit te drukken. Daarom is in dystopische fictie een veelvoorkomend thema het afbrokkelen van het vermogen van mensen om met elkaar te communiceren of elkaar te begrijpen, of het nu gaat om de domheid die wordt getoond in een film als Idiocracy of het noodlot in iets als De stille geschiedenis van Eli Horowitz. 

Menselijke expressie en creativiteit gaan hand in hand. Creatieve taken leiden ons vaak naar het vinden van nieuwe ideeën, manieren om die te communiceren en nieuwe benaderingen voor het oplossen van problemen. Ze dwingen ons na te denken over gevolgen en verschillende gezichtspunten en zetten ons aan tot zelfevaluatie. 

De nieuwsgierigheid en verkenning die met die taken gepaard gaan, staan volgens Ivantu centraal in onze ontwikkeling als mensen. Hoewel hij voorstander is van de ontwikkeling van AI voor positieve toepassingen, waarschuwt hij dat als AI deze taken steeds meer van ons cognitieve takenpakket overneemt, dat op termijn heel goed tastbare kosten voor onze hersenen met zich kan meebrengen.

“Als dit soort vaardigheden aan een machine wordt overgedragen, verliezen wij als mensen onze identiteit,” zei hij. “AI zou een hulpmiddel moeten zijn dat de mens en menselijk gedrag helpt betere resultaten te bereiken. Echt eenvoudige taken kunnen worden gedelegeerd, maar ik denk niet dat AI moet worden ingezet als een hulpmiddel dat al het andere vervangt. Net als tijdens de hype rond cryptovaluta, toen mensen zich tijdens de pandemie zorgen maakten en zeiden dat cryptovaluta al het geld ter wereld zou vervangen. Heeft het een plaats? Ja, maar die is beperkt.”

Zoals je zou verwachten, bestaat er een wereld waarin AI mensen helpt bij bepaalde creatieve taken zonder dat dit de menselijke expressie veel kost, maar uiteindelijk zal het neerkomen op een menselijke toewijding om te blijven creëren zonder de hulp van AI.

“Het hoopvolle voorbeeld is schaken,” zei Toyama. “In 1997 verloor Garry Kasparov van een computer (Deep Blue van IBM) en de wereld is nooit meer teruggegaan. Op dit moment kan die computerschaakcomputer in je broekzak de beste schakers ter wereld verslaan. Dus je zou kunnen zeggen: wat heeft het voor zin om te schaken? Maar in feite is de menselijke belangstelling voor schaken nog altijd springlevend, er zit nog steeds drama in. En mensen die erom geven, willen nog steeds spelen. Hopelijk zit die vonk ook in ons als mensheid en zullen de dingen die we belangrijk vinden aan creativiteit niet verdwijnen.”

Het verlies van waardevolle menselijke vaardigheden

Laten we ergens duidelijk over zijn. Er zijn verschillende positieve toepassingen voor AI, vooral in de gezondheidszorg. 

Dit is geen verhaal dat angst voor AI probeert aan te wakkeren. Hoe het wordt gebruikt en waarvoor, is volledig aan mensen zelf. Voorlopig althans. 

Maar we bevinden ons op een cruciaal moment dat onze toekomst de komende decennia en daarna zal vormgeven, en op de lange termijn zal dit onze hersenen op een bepaalde manier beïnvloeden. 

Het probleem dat experts van Levit tot Geoffrey Hinton, vaak de “peetvader van AI” genoemd, en een hele reeks andere AI-onderzoekers en -ontwikkelaars nu de alarmbel doet luiden, is dat veel van wat er heeft plaatsgevonden niet in het openbaar of onder enig toezicht is gebeurd. 

“Ik blijf hameren op menselijk toezicht,” zei Levit. “We zijn op het punt gekomen waarop het in staat is beslissingen te nemen, maar hoe? Je moet de gegevens begrijpen waarover het beschikt om tot die conclusies te komen. Je moet vooringenomenheid kunnen detecteren, want AI-systemen zijn slechts zo onbevooroordeeld als de mensen die ze maken. Je moet echt waakzaam zijn over hoe je een beslissing accepteert omdat de AI dat zegt. Blinde acceptatie is precies het verkeerde om te doen, en dat is wat er gebeurt. Veel werkplekken geven AI de bevoegdheid om beslissingen voor mensen te nemen.”

Levit’s waarschuwingen om AI-besluitvorming zonder meer voor waar aan te nemen, vanuit de veronderstelling dat AI-systemen objectiever zijn, sluiten aan bij de waarschuwingen van experts zoals Hinton.

Onlangs onderschreef een groot aantal bezorgde AI-ingenieurs en experts een consensusdocument waarin enkele van de grootste risico’s werden uiteengezet. 

Tot de zorgen behoren:

“Om ongewenste doelen te bevorderen, zouden toekomstige autonome AI-systemen ongewenste strategieën kunnen gebruiken—geleerd van mensen of zelfstandig ontwikkeld—als middel om een doel te bereiken. AI-systemen zouden het vertrouwen van mensen kunnen winnen, financiële middelen kunnen verwerven, invloed kunnen uitoefenen op belangrijke besluitvormers en coalities kunnen vormen met menselijke actoren en andere AI-systemen. 

Om menselijke tussenkomst te vermijden, zouden ze hun algoritmen kunnen kopiëren over wereldwijde servernetwerken, zoals computerwormen. AI-assistenten schrijven wereldwijd al een groot deel van de computercode mee, en toekomstige AI-systemen zouden beveiligingskwetsbaarheden kunnen invoegen en vervolgens uitbuiten om controle te krijgen over de computersystemen achter onze communicatie, media, banken, toeleveringsketens, legers en overheden.”

Als we alle angstaanjagende mogelijkheden terzijde schuiven, laten we ons dan gewoon richten op één deel van dat fragment uit het document. “AI-systemen zouden het vertrouwen van mensen kunnen winnen en invloed kunnen uitoefenen op belangrijke besluitvormers.”

Wat de zakenwereld betreft, gaat het niet om “zou kunnen”. Dat is al gebeurd. En het speelt zich op vreemde manieren af. 

De eerste robotische CEO maakte onlangs zijn debuut. Zeker, voorlopig is het een Pools rumbedrijf dat waarschijnlijk op zoek is naar een publiciteitsstunt, maar alles begint ergens. Zelfs als het een grap is, zal er ongetwijfeld iemand zijn die het simpelweg niet begrijpt. 

In een video die door rumproducent Dictador is uitgebracht, kijkt de robot, Mika genaamd, in de camera en zegt: "Met geavanceerde kunstmatige intelligentie en algoritmen voor machinaal leren kan ik snel en nauwkeurig datagestuurde beslissingen nemen."

Haar kledingstijl en etnisch ambigue gelaatstrekken zijn bewuste pogingen van fabrikant Hanson Robotics om Mika voor zoveel mogelijk mensen menselijk te laten aanvoelen, een belangrijke factor bij het winnen van het vertrouwen van mensen. 

David Hanson, CEO van Hanson Robotics, heeft publiekelijk zijn overtuiging benadrukt dat “het vermenselijken van AI een cruciale stap is om de veiligheid en doeltreffendheid van het landschap te waarborgen terwijl mensen en robots in de toekomst blijven samenwerken.”

Nu AI steeds meer beslissingsmacht overneemt, zal dat zonder twijfel de druk op mensen verlichten, maar juist diezelfde druk heeft ervoor gezorgd dat we sneller dan alle andere schepsels op de planeet hebben geleerd, ons hebben aangepast en onze capaciteiten hebben ontwikkeld. 

“Laten we zeggen dat je op het werk een moeilijke beslissing moet nemen en niet weet hoe die zal uitpakken. De onzekerheid is wat groei, innovatie en ontdekking voortbrengt,” zei Ivantu. “Als je gewoon accepteert dat een beslissing óf goed óf slecht is, zie je een kans over het hoofd die zich voordoet. En ik denk dat daarin het grootste risico van het gebruik van AI schuilt, omdat de beslissing voor je is genomen. Je krijgt niet de kans om te verkennen en fouten te maken, wat nodig is om nieuw leven, nieuwe concepten enzovoort te vinden.”

David Rice
David Rice is a long time journalist and editor who specializes in covering human resources and leadership topics. His career has seen him focus on a variety of industries for both print and digital publications in the United States and UK.
Follow the author:

You may also like