De cognitieve kosten van gemak: AI zal onze hersenen beïnvloeden
Uit een onderzoek dat onderzoekers van McGill University in april 2020 uitvoerden, bleek dat naarmate iemand meer GPS gebruikte, de achteruitgang van het hippocampusafhankelijke ruimtelijke geheugen sterker was.
Wat betekent dat?
In feite vindt ruimtelijk geheugen, oftewel je vermogen om te onthouden waar dingen zich bevinden, plaats in de hippocampus, een hersengebied dat sterk betrokken is bij geheugen, leren en emoties. Dit gebied zet kortetermijnherinneringen om in langetermijnopslag in onze hersenen.
Create a Free Account to Keep Reading—and Keep Leading Smarter
Unlock this piece and join a community of forward-thinking leaders discovering tools, playbooks, and insights for thriving in the age of AI.
Have an account? Log In
Gedurende vele eeuwen ontwikkelden mensen het vermogen om hun weg te vinden. Het was niet alleen een belangrijke vaardigheid om je omgeving te navigeren, maar ook om te overleven in de tijd vóór auto's, treinen en vliegtuigen. Maar naarmate onze samenlevingen zich hebben ontwikkeld, is er minder behoefte aan iemand die zo'n vaardigheid verfijnt en daarmee ook minder behoefte om deze belangrijke hersenstructuur te gebruiken.
Dit verschijnsel beperkt zich niet tot GPS. Weinig mensen onthouden nog telefoonnummers sinds mobiele telefoons de mogelijkheid kregen om een hele lijst met contacten op te slaan.
Veel mensen gebruiken autocorrectie om spellingsproblemen in hun sms'jes en e-mails te corrigeren; het is niet langer nodig om taalkundige te zijn.
Maar deze hulpmiddelen worden alleen effectief gebruikt wanneer iemand er voldoende interactie mee heeft om eruit te halen wat nodig is. GPS kan je helpen locaties te zoeken, maar je kunt iemands huis niet vinden zonder een adres of op zijn minst kennis van het gebied waar je naar kijkt.
Op dezelfde manier is je lijst met telefoonnummers slechts informatieopslag totdat je besluit op een knop te drukken en iemand te bellen.
Zelfs ChatGPT, dat het afgelopen jaar behoorlijk wat opschudding heeft veroorzaakt, vereist jouw betrokkenheid. Als je er iets uit wilt halen, moet je het een opdracht geven.
Ondanks alle ophef over generatieve AI is het volgens toekomstonderzoeker op het gebied van werk Alexandra Levit, auteur van "De mensheid aan het werk: technologieën en mensen samenbrengen voor de beroepsbevolking van de toekomst”, grotendeels de meest geavanceerde chatbot die we tot nu toe hebben gezien.
Podcast: Hoe je AI gebruikt om je werknemers meer mogelijkheden te geven en je organisatie te transformeren
“Als je er dieper op ingaat, verschilt generatieve AI niet wezenlijk van wat eraan voorafging,” zegt ze. “Het is een veredelde chatbot en je kunt de informatie die je krijgt nog steeds niet echt vertrouwen.”
Toch vertrouwen we erop. Inhoud die sterk door ChatGPT is beïnvloed, wordt al over het internet verspreid. Het wordt gebruikt om e-mails te schrijven, zoekmachineoptimalisatie te beïnvloeden en gegevens te analyseren.
Dit alles is relatief onschuldig, althans aan de oppervlakte. De vraag is: zal langdurig gebruik van deze technologie invloed hebben op de hersenen van de gebruiker?
“Ik denk niet dat het echt invloed zal hebben op de menselijke geest, behalve op de manier waarop we informatie zoeken en communiceren,” zei Levit. “We zijn daar de afgelopen 25-30 jaar steeds beter in geworden door machines te gebruiken, en nu weten mensen eigenlijk niet meer hoe ze op een systematische manier informatie moeten verkrijgen, omdat je gewoon van alles in Google typt, wat een vorm van AI is.”
Hoewel generatieve AI min of meer een hulpmiddel is, is het een uiterst geavanceerd hulpmiddel dat het speelveld in veel beroepen verandert. Iemand die begrijpt hoe en wanneer het moet worden gebruikt, kan zijn volledige werkproces veranderen en in sommige gevallen zelfs zijn vaardighedenpakket.
Daarom hoor je mensen, onder wie Levit, zo vaak zeggen: “AI gaat niemands baan afpakken, maar iemand die weet hoe hij AI moet gebruiken wel.”
Dit geldt voor deze fase van de ontwikkeling van AI. Ondanks alle sterke punten van ChatGPT blijft het een machine die meestal een startpunt biedt voor een mens om er iets betekenisvols of nuttigs van te maken.
Maar de vraag blijft: wat gebeurt er wanneer we onze hersenen steeds minder uitdagen door automatisering te omarmen? Het gebruikelijke antwoord van AI-evangelisten is dat we ze niet minder, maar op een andere manier zullen uitdagen.
Door tijd vrij te maken die momenteel wordt besteed aan analytische taken of aan iets moeizaams als zelf een samenhangende gedachte opschrijven, kunnen we andere dingen prioriteit geven die alleen mensen kunnen doen. Althans, dat is het verhaal.
Welke dingen mensen precies beter doen, wordt echter steeds minder duidelijk naarmate AI-technologie zich in een ongelooflijk tempo ontwikkelt.
Zelfs wanneer AI het startpunt voor een project levert, heeft het invloed, omdat AI vervolgens een rol speelt bij het sturen van het werk van mensen. Mensen die al sterk worden afgeleid, meerdere schermen tegelijk gebruiken en minder informatie onthouden dan ooit tevoren.
Of we voldoende gekwalificeerd of gefocust zijn om te bepalen of wat AI ons geeft goed is, baart zorgen.
Stefan Ivantu is een adviserend psychiater die zich in Londen richt op ADHD bij volwassenen. Hij wijst er snel op dat de hersenen in één opzicht net als elke andere spier zijn. Als ze niet worden gebruikt, kunnen ze atrofiëren en we weten eenvoudigweg niet wat de gevolgen op lange termijn zijn van menselijke interacties met AI.
Wat we wel weten, is dat de hersenen en ons gedrag zullen veranderen door nieuwe technologie, vooral ons vermogen om ons te concentreren. Je hoeft alleen maar naar de geschiedenis te kijken.
“Als we de hersenen vergelijken met een computer, hebben ze twee componenten: de hardware en de software,” zei Ivantu. “De hardware is de afgelopen 200.000 jaar min of meer hetzelfde gebleven. Maar in de afgelopen eeuw is de software exponentieel toegenomen. 150 jaar geleden hadden we geen toegang tot elektriciteit, wat een enorme verandering in ons dagelijks leven betekende. Vanaf de jaren 1950, toen we voor het eerst toegang kregen tot televisie, kwam het scherm steeds dichter bij onze ogen naarmate we verder ontwikkelden. De computer, de mobiele telefoon, nu VR. De volgende stap is de neuralink. Hoe verder we vooruitgaan, hoe dichter het scherm bij ons komt. De vraag is dus: wat is voor ons het normale niveau van afleiding?”
Schermverslaving heeft al geleid tot een kortere aandachtsspanne. Ik schrijf dit in het volle besef dat je dit waarschijnlijk niet grondig leest, maar scant. Vandaar de korte alinea’s en pogingen om pagina-einden goed te timen.
Het feit is dat technologie onze hersenen al beïnvloedt op manieren die we elke dag kunnen zien. Die ontwikkelingen zullen waarschijnlijk niet verbeteren door het toenemende gebruik van AI en de onmiddellijke bevrediging die het biedt, van het schrijven van een rapport tot het leggen van de basis voor een wervingsstrategie.
AI-aangedreven wervingssystemen kunnen zelfs de manier veranderen waarop we met werving omgaan, en beïnvloeden hoe onze hersenen gegevens van kandidaten verwerken.
“Al deze technologieën stellen ons in staat om luier te zijn en delen van onze hersenen die bedoeld zijn om gebruikt te worden niet te gebruiken,” zei Levit. “Ze atrofiëren al. Ik denk dat het, als het om evolutie gaat, nog lang zal duren voordat we geëvolueerd zijn om een bepaalde functie niet meer uit te voeren, maar we zien overal dat mensen door technologie meer afgeleid zijn en zich niet kunnen concentreren. Ze zijn nu al minder productief door app-vermoeidheid. Ze schakelen gedachteloos van het ene naar het andere, maar richten zich nooit echt op één ding. Zelfs als we ons willen concentreren, lukt dat vaak niet.”
De volgende fase
Bletchley Park was een ideale locatie voor de eerste AI-top van staatshoofden die zich zorgen maakten over het potentieel van AI om industriële en maatschappelijke veranderingen teweeg te brengen. Daar werd de allereerste programmeerbare digitale elektronische computer gebouwd, terwijl de geallieerden tijdens de Tweede Wereldoorlog Duitse communicatiecodes probeerden te ontcijferen.
We zijn ver verwijderd geraakt van dat revolutionaire moment in de informatica, een vakgebied dat nu dankzij het potentieel van AI het lot van de mensheid in handen kan hebben.
Duik in het onderzoek naar AI en het zal niet lang duren voordat je bij de volgende fase uitkomt: interactieve AI.
Bedrijven zoals DeepMind komen steeds dichter bij interactieve AI als realiteit, waarbij bots taken uitvoeren die mensen voor hen instellen door eenvoudigweg andere software of mensen in te schakelen om dingen gedaan te krijgen.
Klinkt op zich goed, maar hoe lang elke fase van AI zal duren in het tempo waarin de technologie zich ontwikkelt, is onzeker.
Ga nog verder dat konijnenhol in en je komt uit bij AGI, oftewel artificiële algemene intelligentie: een systeem dat intellectuele taken kan uitvoeren die mensen en dieren uitvoeren.
Het is niet langer iets uit sciencefiction, maar het doel van bedrijven zoals OpenAI, DeepMind, Microsoft, Google Brain, IBM en andere ondernemingen met enorme financiële middelen tot hun beschikking, die ons in alarmerend tempo richting een werkelijkheid met AGI duwen.
“Bij AI is het gevaar van existentiële aard,” zei Levit. “Wanneer we erin slagen artificiële algemene intelligentie te bereiken, wat betekent dat machines in wezen bewust zijn en beter kunnen denken dan wij, is er dan nog wel iets dat wij moeten doen? Wat zal dan ons doel zijn? Ik denk niet dat we zullen evolueren naar een toestand waarin we niets meer doen, maar misschien oefenen we dan alleen nog met dingen doen. Bij AI maak ik me vooral zorgen over het feit dat het ons overbodig zal maken, omdat het gewoon beter zal zijn in de meeste dingen.”
Steeds meer mensen met macht beginnen dit te beseffen. Daarom ondertekende president Biden een presidentieel decreet om normen voor de veiligheid en beveiliging van AI vast te stellen.
De 29 landen die bijeenkwamen tijdens de eerste AI Safety Summit stemden in met een agenda die zich zal richten op veiligheidsrisico’s die iedereen aangaan, het opstellen van op risico gebaseerde beleidsmaatregelen en een wereldwijde aanpak om de impact van AI op de samenleving te begrijpen.
De zich ontwikkelende geest
Er zijn twee belangrijke gebieden waarop Kentaro Toyama, computerwetenschapper en hoogleraar Community Information aan de School of Information van de University of Michigan, waarschuwt dat AI een aanzienlijke impact op het menselijk brein kan hebben. Het eerste is onderwijs.
Zoals met veel dingen rond AI en het leven, kun je er een balans tussen het goede en het slechte in vinden als je er objectief naar kijkt.
Podcast: Hoe AI je kan helpen een geweldige manager te zijn
In theorie zou AI studenten gepersonaliseerde, op maat gemaakte vormen van onderwijs kunnen bieden die boeiender zijn en lerenden helpen informatie grondiger op te nemen. Hetzelfde geldt voor opleiding op de werkvloer.
Tegelijkertijd ziet Toyama de mogelijkheid van een werkelijkheid waarin AI onderwijs buitengewoon moeilijk maakt – en dat in feite al doet.
“Als iedereen er toegang toe heeft, wordt het voor docenten steeds moeilijker om hun werk te doen,” zei hij. “Op dit moment verkeert elke faculteit in een situatie waarin we niet langer met zekerheid kunnen zeggen of iets wat een student inlevert door die student is gemaakt. Ik heb collega’s die de volledige manier waarop ze toetsen hebben moeten herzien, omdat dat het onderliggende probleem is.”
Hoewel de voormalige Microsoft-onderzoeker benadrukt dat er op zichzelf niets mis is met het integreren van technologie in het leren, wijst hij er snel op dat als dit het beoordelingsproces vertroebelt, de methoden en werkwijzen van het onderwijs niet erg effectief zullen zijn.
“Je kunt geen lesgeven als je niet weet wat de student wel en niet weet,” zei Toyama. “Mijn voorspelling is dat serieuze mensen zullen terugkeren naar schriftelijke tentamens en examens onder toezicht, waarbij mensen dingen met de hand opschrijven.”
De waarde van menselijke relaties
Als je lang genoeg luistert naar of praat met AI-experts en mensen die nauw betrokken zijn bij de ontwikkeling ervan, krijg je het idee dat er een overtuiging bestaat dat menselijke connecties in de toekomst ongelooflijk waardevol zullen worden.
Onze relaties met andere mensen vormen een belangrijk onderdeel van onze mentale gezondheid en een bepalend element van wat de menselijke ervaring maakt tot wat die is, of dat nu op het werk, op school, in de kerk of in de supermarkt is.
“Kijk naar de pandemie,” zei Levit. “Het was als een collectief trauma waarbij iedereen zo lang geïsoleerd was. Het brengt mensen echt in de war. Ik denk dat we het risico lopen daarmee door te gaan en dat kinderen door hun schermverslaving voortdurend achter een scherm zitten; de opkomende generatie zit het grootste deel van de tijd achter een scherm in plaats van echte sociale interactie te hebben. Het zal steeds moeilijker worden om die menselijke interactie te faciliteren die vroeger vanzelfsprekend in elke omgeving plaatsvond. Die interactie zal waardevoller worden, omdat ze moeilijker te vinden en zeldzamer zal zijn.”
Fundamenteel is een deel van deze overtuiging gebaseerd op het feit dat er geen vervanging is voor menselijke interactie. Die dopaminestoot die voortkomt uit een geslaagde of aangename sociale situatie is een van de dingen die de meesten van ons kennen en waarderen. Maar is die echt onvervangbaar?
Onderzoek heeft aangetoond dat online interacties waarbij twee mensen elkaar nooit daadwerkelijk spreken, een dopaminestoot in de hersenen kunnen veroorzaken. Zelfs iemand die je LinkedIn-bericht leuk vindt, heeft dit effect. De kanttekening daarbij is natuurlijk dat je ervan uitgaat dat de persoon aan de andere kant een echte, levende mens is, of je nu weet dat dit zo is of niet.
Onderzoek naar onze hersenen terwijl we met AI omgaan, staat nog net zo in de kinderschoenen als de technologie zelf, zo niet meer. Maar je hoeft geen wetenschapper te zijn om te begrijpen dat de overtuiging dat AI in onze behoefte aan verbinding kan voorzien, bestaat.
Kijk maar naar films als Her of bepaalde afleveringen van Black Mirror of literaire werken zoals Kazuo Ishiguro’s Klara en de zon.
“Het is een grote onbekende,” zegt Toyama. “Zullen we voldoende verbinding ervaren in de wetenschap dat iets een machine is? Zullen we ons vervuld en tevreden voelen in een relatie met een machine, totdat we geen echte menselijke verbinding meer zoeken? Dat is niet duidelijk.”
Toyama noemt het voorbeeld van MIT-onderzoeker Joseph Weizenbaum, die in zijn latere jaren een van de grootste critici van AI werd.
In 1964 creëerde Weizenbaum ELIZA, een vroeg programma voor natuurlijke taalverwerking dat ontworpen was om patroonherkenning en een substitutiemethode te gebruiken om de illusie te wekken dat het programma mensen kon begrijpen.
Het voerde een script uit met de naam DOCTOR, dat een gesprek creëerde dat leek op wat een therapeut met een patiënt zou kunnen hebben. In wezen kon ELIZA dingen herhalen die je zei en je daar meer vragen over stellen. Voor alle praktische doeleinden was het een vroege chatbot.
Tot Weizenbaums verrassing raakten gebruikers ervan overtuigd dat ELIZA intelligent was en begrip had. Sommigen begonnen het programma menselijke gevoelens toe te schrijven en mensen begonnen de technologie serieus te gebruiken, op zoek naar een therapeutische interactie.
“Dat was in de jaren 60,” zei Toyama. “Tegenwoordig zijn er al bedrijven die bijvoorbeeld suggereren dat ze een deel van de sms-interactie met je moeder kunnen afhandelen. Dat begint al te gebeuren. Dus nogmaals, het is niet duidelijk hoe mensen op technologie zullen reageren. Ik kan me manieren voorstellen waarop hier goede dingen uit kunnen voortkomen, maar veel ervan is een beetje beangstigend, althans vanuit het perspectief van het waarderen van menselijke relaties.”
Dus misschien praat je vandaag nog persoonlijk met je moeder en vind je dat voorbeeld vergezocht. Maar ik durf te wedden dat je AI al gebruikt om met andere mensen te communiceren. Misschien heb je zelfs al een AI-gesprek met iemand gevoerd waarbij gebruik werd gemaakt van voorgestelde antwoorden.
Een goed voorbeeld hiervan zijn geautomatiseerde antwoordopties in e-mails of sms-berichten. Je ontvangt een e-mail die een eenvoudig antwoord vereist en onder het tekstveld in je e-mail staan opties als “Klinkt goed” of “Geweldig! Bedankt.” In sommige gevallen is het misschien een vervolgvraag, zoals “Hoe laat?”
De opties zijn eenvoudig, maar om ervoor te zorgen dat ze passen bij de context van het gesprek, moet het systeem dat je deze opties voorlegt begrijpen welk antwoord in die situatie logisch zou zijn.
Gezien de snelheid waarmee de ontwikkelingen elkaar opvolgen, ziet Toyama een ander scenario ontstaan dat misschien niet zo geweldig is voor bedrijven.
“Binnen een paar jaar, zo niet maanden, zullen we zien dat de volledige e-mail voor ons wordt opgesteld. Zodra dat gebeurt, zullen velen van ons die e-mail of het antwoord niet eens meer lezen. Dan zal er iets gebeuren: er zullen situaties ontstaan waarin geen van beide partijen echt aandacht besteedt aan geautomatiseerde machineantwoorden aan elkaar. We zullen relaties hebben die gebaseerd zijn op communicatie waar we niet echt aandacht aan hebben besteed, en er zullen fouten worden gemaakt. Als de fouten ernstig genoeg zijn, zullen we meer aandacht gaan besteden, maar veel relaties zullen plaatsvinden op de sluimerstand.”
Dit soort passieve communicatie brengt risico’s met zich mee voor de hersenen, omdat diepgang nieuwsgierigheid en interesse met zich meebrengt.
Empathie, een belangrijke stimulans voor hersenactiviteit, wordt aangedreven door de wens om medemensen te begrijpen. Als die wens ontbreekt of door technologie wordt verdrongen, lopen mensen het risico iets te verliezen dat groter is dan duidelijkheid van communicatie.
“Een gebied waarin ik problemen zie, is nieuwsgierigheid,” zei Ivantu. “Mensen zullen steeds minder nieuwsgierig naar elkaar worden en liever op zoek gaan naar goed of fout. Wees niet verbaasd als er hulpmiddelen komen die beweren iemands emoties te kunnen lezen. Er zal steeds minder ontdekking en minder nieuwsgierigheid zijn, terwijl nieuwsgierigheid juist is wat de mensheid in de eerste plaats aandrijft.”
De uitdrukking van de hersenen
kunnen we wat a.i. krijgen om plastic uit de oceaan te halen, of moeten alle robots scenarioschrijvers worden?
— Matt Somerstein (@MPSomerstein) 18 mei 2023
De bovenstaande tweet benadrukt een belangrijk probleem met het pleidooi voor AI. In vroegere jaren zeiden voorstanders van de technologie vaak dingen als: “AI gaat al het werk doen dat mensen niet willen doen.”
In de veronderstelling dat AI in vleesverwerkingsfabrieken zou werken en in kolenmijnen zou afdalen, begonnen veel mensen uit te kijken naar een toekomst met AI. In plaats daarvan arriveerde AI met de mogelijkheid om korte verhalen en scripts voor reclames te schrijven.
Een essentieel onderdeel van het mens-zijn is ons vermogen om onszelf uit te drukken. Daarom is in dystopische fictie een veelvoorkomend thema het verval van het vermogen van mensen om met elkaar te communiceren of elkaar te begrijpen, of het nu gaat om de domheid die in een film als Idiocratie wordt tentoongesteld of om het ongeluk in iets als De stille geschiedenis van Eli Horowitz.
Menselijke expressie en creativiteit gaan hand in hand. Creatieve taken leiden ons vaak naar nieuwe ideeën, manieren om die te communiceren en nieuwe benaderingen voor het oplossen van problemen. Ze zetten ons aan om na te denken over gevolgen en verschillende gezichtspunten, en dwingen ons tot zelfevaluatie.
De nieuwsgierigheid en verkenning die met die taken gepaard gaan, staan volgens Ivantu centraal in onze groei als mens. Hoewel hij voorstander is van de ontwikkeling van AI voor positieve toepassingen, waarschuwt hij dat er na verloop van tijd heel goed een tastbare prijs voor onze hersenen kan zijn als AI die taken steeds meer van onze cognitieve agenda verwijdert.
“Als dit soort vaardigheden aan een machine wordt overgedragen, verliezen wij als mensen onze identiteit,” zei hij. “AI zou een hulpmiddel moeten zijn dat de mens en menselijk gedrag helpt betere resultaten te bereiken. Echt eenvoudige taken kunnen worden uitbesteed, maar ik denk niet dat AI moet worden ingezet als hulpmiddel dat al het andere vervangt. Hetzelfde als met de cryptovalutahype, toen mensen zich tijdens de pandemie zorgen maakten en zeiden dat die al het geld ter wereld zou vervangen. Heeft het een plaats? Ja, maar die is beperkt.”
Zoals je misschien verwacht, is er een wereld waarin AI mensen helpt bij bepaalde creatieve taken zonder dat dit menselijke expressie veel kost, maar uiteindelijk zal het neerkomen op een menselijke inzet om te blijven creëren zonder de hulp van AI.
“Het hoopgevende voorbeeld is schaken,” zei Toyama. “In 1997 verloor Garry Kasparov van een computer (IBM’s Deep Blue) en de wereld is nooit meer teruggegaan. Op dit moment kan die computerschaakcomputer in je broekzak de beste schakers ter wereld verslaan. Dus je zou kunnen zeggen: wat heeft het voor zin om schaak te spelen? Maar in feite leeft de menselijke belangstelling voor schaken nog altijd voort en is die springlevend; er zit nog steeds drama in. En mensen die erom geven, willen het nog steeds spelen. Hopelijk zit zo’n vonk ook in ons als mensheid en verdwijnen de dingen die we waarderen aan creativiteit niet.”
Het verlies van waardevolle menselijke vaardigheden
Laten we ergens duidelijk over zijn. Er zijn verschillende positieve toepassingen voor AI, met name in de gezondheidszorg.
Dit is geen verhaal dat angst voor AI probeert aan te wakkeren. Hoe het wordt gebruikt en waarvoor, is volledig aan mensen. Althans voorlopig.
Maar we bevinden ons op een cruciaal moment dat onze toekomst in de komende decennia en daarna zal vormgeven, en op de lange termijn zal dit onze hersenen op een bepaalde manier beïnvloeden.
Het probleem waar experts van Levit tot Geoffrey Hinton, vaak de “Godfather van AI” genoemd, en een hele reeks andere AI-onderzoekers en -ontwikkelaars nu alarm over slaan, is dat veel van wat er heeft plaatsgevonden niet in het openbaar of onder enig toezicht is gebeurd.
“Ik blijf hameren op menselijk toezicht,” zei Levit. “We zijn op een punt beland waarop het in staat is beslissingen te nemen, maar hoe? Je moet begrijpen over welke gegevens het beschikt om tot die conclusies te komen. Je moet vooroordelen kunnen opsporen, want AI-systemen zijn slechts zo onbevooroordeeld als de mensen die ze creëren. Je moet echt waakzaam zijn over hoe je een beslissing accepteert omdat de AI dat zegt. Blind accepteren is precies het verkeerde om te doen, en dat is wat er gebeurt. Veel werkplekken geven AI de bevoegdheid om namens mensen beslissingen te nemen.”
Levit’s waarschuwingen om het nemen van AI-beslissingen niet zonder meer voor waar aan te nemen, vanuit de veronderstelling dat ze objectiever zijn, sluiten aan bij de waarschuwingen van experts zoals Hinton.
Onlangs onderschreef een groot aantal bezorgde AI-ingenieurs en -experts een consensusdocument waarin enkele van de grootste risico’s werden uiteengezet.
Tot de zorgen behoren:
“Om ongewenste doelen te bevorderen, zouden toekomstige autonome AI-systemen ongewenste strategieën kunnen gebruiken—geleerd van mensen of zelfstandig ontwikkeld—als middel om een doel te bereiken. AI-systemen zouden het vertrouwen van mensen kunnen winnen, financiële middelen kunnen verwerven, invloed kunnen uitoefenen op belangrijke besluitvormers en coalities kunnen vormen met menselijke actoren en andere AI-systemen.
Om menselijke tussenkomst te vermijden, zouden ze hun algoritmen via wereldwijde servernetwerken kunnen kopiëren, zoals computerwormen. AI-assistenten schrijven wereldwijd al een groot deel van de computercode mee en toekomstige AI-systemen zouden beveiligingskwetsbaarheden kunnen invoegen en vervolgens misbruiken om controle te krijgen over de computersystemen achter onze communicatie, media, banken, toeleveringsketens, legers en overheden.”
Als we alle angstaanjagende mogelijkheden buiten beschouwing laten, laten we ons dan gewoon richten op één deel van dat fragment uit het document. “AI-systemen zouden het vertrouwen van mensen kunnen winnen en invloed kunnen uitoefenen op belangrijke besluitvormers.”
In de zakenwereld gaat het niet om “zou kunnen”. Het is al gebeurd. En het speelt zich op vreemde manieren af.
De eerste robotische CEO deed onlangs zijn intrede. Natuurlijk gaat het voorlopig om een Pools rumbedrijf dat waarschijnlijk op zoek is naar een publiciteitsstunt, maar alles begint ergens. Zelfs als het een grap is, zal er ongetwijfeld iemand zijn die het simpelweg niet begrijpt.
In een video die is uitgebracht door de rumproducent Dictador, kijkt de robot, genaamd Mika, in de camera en zegt: “Met geavanceerde kunstmatige intelligentie en algoritmen voor machinaal leren kan ik snel en nauwkeurig datagestuurde beslissingen nemen.”
Haar kledingstijl en etnisch ambigue gelaatstrekken zijn bewuste pogingen van fabrikant Hanson Robotics om Mika voor zo veel mogelijk mensen menselijk te laten aanvoelen, een belangrijke factor bij het winnen van het vertrouwen van mensen.
David Hanson, CEO van Hanson Robotics, heeft publiekelijk zijn overtuiging benadrukt dat “het vermenselijken van AI een cruciale stap is om de veiligheid en effectiviteit van het toekomstige landschap te waarborgen terwijl mensen en robots blijven samenwerken.”
Naarmate AI meer beslissingsbevoegdheid overneemt, zal dit zonder twijfel de druk op mensen verlichten, maar juist diezelfde druk heeft ervoor gezorgd dat we sneller dan alle andere wezens op aarde hebben geleerd, ons hebben aangepast en onze capaciteiten hebben ontwikkeld.
“Stel dat je op je werk een moeilijke beslissing moet nemen en niet weet hoe die zal uitpakken. De onzekerheid is datgene wat groei, innovatie en ontdekking voortbrengt,” zei Ivantu. “Als je gewoon accepteert dat iets goed of slecht is, zie je een kans over het hoofd die zich aandient. En ik denk dat dit het grootste risico is bij het gebruik van AI, omdat de beslissing voor je is genomen. Je krijgt niet de kans om te verkennen en fouten te maken, terwijl dat nodig is om nieuw leven, nieuwe concepten enzovoort te ontdekken.”
