Bekvämlighetens kognitiva kostnad: AI kommer att påverka våra hjärnor

Under många århundraden utvecklades människan till att kunna orientera sig. Det var en viktig färdighet, inte bara för att navigera i sin omgivning utan också för att överleva under tiden före bilar, tåg och flygplan. Men i takt med att våra samhällen har utvecklats har behovet av att förfina en sådan färdighet minskat, och därmed också behovet av att använda denna viktiga hjärnstruktur. 

Det här fenomenet är inte begränsat till GPS. Få människor kommer ihåg telefonnummer sedan mobiltelefoner fick möjlighet att lagra ett bibliotek av kontakter.

Många använder autokorrigering för att rätta stavfel i sina sms och e-postmeddelanden – det finns inte längre något behov av att vara grammatiker. 

Men dessa verktyg används effektivt först när en människa interagerar tillräckligt mycket med dem för att få det hon behöver. GPS kan hjälpa dig att söka efter platser, men du kan inte hitta någons hus utan en adress eller åtminstone kunskap om området du tittar på. 

På samma sätt är ditt bibliotek med telefonnummer bara informationslagring tills du fattar beslutet att trycka på en knapp och ringa någon.

Även ChatGPT, som har väckt stor uppståndelse under det senaste året, kräver att du engagerar dig. Om du vill få ut något av det måste du ge det en instruktion.

När allt kommer omkring är generativ AI, enligt arbetslivsfuturisten Alexandra Levit, författare till ”Mänskligheten arbetar: Att förena teknik och människor för framtidens arbetskraft”, till stor del den mest sofistikerade chattbot vi har sett hittills. 

Poddsändning: Så använder du AI för att stärka dina medarbetare & omvandla din organisation

”Om man granskar det närmare skiljer sig generativ AI inte nämnvärt från det som kom före den”, säger hon. ”Det är en upphaussad chattbot, och du kan fortfarande inte riktigt lita på informationen du får.”

Men vi litar på den ändå. Innehåll som i hög grad har påverkats av ChatGPT sprids redan över hela internet. Det används för att skriva e-postmeddelanden, påverka sökmotoroptimering och analysera data.

Allt detta är relativt harmlöst, åtminstone på ytan. Frågan är om långvarig användning av denna teknik kommer att påverka användarens hjärna?  

”Jag tror inte att det verkligen kommer att påverka det mänskliga sinnet, bortsett från hur vi söker efter och kommunicerar information”, sade Levit. ”Vi har gradvis blivit bättre på det genom att använda maskiner under de senaste 25–30 åren, och nu vet människor egentligen inte längre hur man skaffar information på ett systematiskt sätt eftersom man bara skriver vad som helst i Google, vilket är en form av AI.”

Även om generativ AI mer eller mindre är ett verktyg, är det ett extremt sofistikerat sådant som förändrar spelplanen inom många yrken. Den som förstår hur och när det ska användas kan förändra hela sitt arbetsflöde och i vissa fall även sin kompetensuppsättning.

Det är av denna anledning som du ofta hör människor, däribland Levit, säga: ”AI kommer inte att stjäla någons jobb, men en person som vet hur man använder AI kommer att göra det.”  

Detta gäller i den här fasen av AI:s utveckling. Trots alla Chat GPT:s styrkor är det fortfarande en maskin som oftare än inte fungerar som en utgångspunkt för att en människa ska kunna skapa något meningsfullt eller användbart av det. 

Men frågan kvarstår: vad händer när vi utmanar våra hjärnor allt mindre genom att välkomna automatisering? Det vanliga svaret från AI-evangelister är att vi inte kommer att utmana dem mindre, utan på ett annat sätt. 

Genom att frigöra tid som för närvarande läggs på analytiska uppgifter eller på något så krävande som att själva formulera en sammanhängande tanke, får vi möjlighet att prioritera andra saker som bara människor kan göra. Eller åtminstone är det så berättelsen lyder.

Exakt vilka dessa saker är som människor gör bättre blir dock allt mindre tydligt i takt med att AI-tekniken utvecklas i en otrolig hastighet.

Även när AI tillhandahåller utgångspunkten för ett projekt påverkar det arbetet, eftersom AI då spelar en roll i att styra människors arbete. Människor som redan är kraftigt distraherade, navigerar mellan flera skärmar och behåller mindre information än någonsin tidigare. 

Det finns anledning att vara bekymrad över hur kvalificerade eller fokuserade vi är för att avgöra om det AI ger oss faktiskt är bra.

Stefan Ivantu är en konsultpsykiater med fokus på ADHD hos vuxna i London. Han påpekar snabbt att hjärnan i ett avseende är som vilken annan muskel som helst. Om den inte används riskerar den att förtvina, och vi vet helt enkelt inte vilka de långsiktiga konsekvenserna kan bli av mänskliga interaktioner med AI. 

Det vi vet är att hjärnan och våra beteenden kommer att förändras tack vare ny teknik, särskilt vår förmåga att koncentrera oss. Det är bara att titta på historien. 

”Om vi tänker på hjärnan som vilken dator som helst har den två komponenter: hårdvaran och mjukvaran”, sade Ivantu. ”Hårdvaran har alltså varit mer eller mindre densamma under de senaste 200 000 åren. Men under det senaste århundradet har mjukvaran utvecklats exponentiellt. Vi hade inte tillgång till elektricitet för 150 år sedan, vilket innebar en enorm förändring i vår vardag. Från 1950-talet, när vi först fick tillgång till tv, har skärmen kommit närmare våra ögon ju mer vi har utvecklats. Datorn, mobiltelefonen, nu VR. Nästa steg är Neuralink. Ju mer vi utvecklas, desto närmare kommer skärmen oss. Så nu är frågan: vilken nivå av distraktion är normal för oss?”

Skärmberoende har redan lett till kortare uppmärksamhetsspann. Jag skriver detta fullt medveten om att du troligen inte läser det noggrant, utan skannar texten. Därför är styckena korta och sidbrytningarna väl avvägda. 

Faktum är att tekniken redan har påverkat våra hjärnor på sätt som vi kan se varje dag. Dessa utvecklingar lär inte förbättras av ökad användning av AI och den omedelbara tillfredsställelse som den erbjuder, från att skriva en rapport till att utgöra grunden för en rekryteringsstrategi. 

AI-drivna rekryteringssystem kan till och med förändra hur vi arbetar med rekrytering och påverka hur våra hjärnor bearbetar kandidatuppgifter.

”All denna teknik gör det möjligt för oss att bli latare och att inte använda delar av hjärnan som är avsedda att användas”, sade Levit. ”De förtvinar redan. Jag tror att det kommer att dröja länge innan vi genom evolutionen har utvecklats till att inte utföra en viss funktion, men vi ser överallt att människor blir mer distraherade av tekniken och att de inte kan koncentrera sig. De är redan mindre produktiva på grund av apptrötthet. De växlar tanklöst från en sak till en annan, men fokuserar aldrig riktigt på en enda sak. Även om vi vill koncentrera oss kan vi ofta inte.”

Nästa fas

Bletchley Park var en idealisk plats för det första AI-toppmötet för statsledare som oroade sig för AI:s potential att driva industriell och social förändring. Det var där världens första programmerbara digitala elektroniska dator byggdes, när de allierade försökte förstå tyska koder för kommunikation under andra världskriget. 

Vi har kommit långt sedan detta revolutionerande ögonblick inom datavetenskapen, en disciplin som nu kanske håller mänsklighetens öde i sina händer tack vare AI:s potential. 

Fördjupa dig i forskningen om AI och det dröjer inte länge innan du kommer fram till vad nästa fas är: interaktiv AI.

Företag som DeepMind närmar sig allt mer interaktiv AI som verklighet, där robotar utför uppgifter som människor tilldelar dem genom att helt enkelt ta hjälp av annan programvara eller andra människor för att få saker gjorda.

Det låter tillräckligt bra, men hur länge varje AI-fas kommer att vara i takt med utvecklingstakten är osäkert. 

Fortsätt ännu längre ner i det kaninhålet och du kommer till AGI, eller artificiell generell intelligens, ett system som kan utföra intellektuella uppgifter som människor och djur utför. 

Det är inte längre science fiction, utan målet för företag som OpenAI, DeepMind, Microsoft, Google Brain, IBM och andra med enorma finansiella resurser till sitt förfogande, vilka driver oss mot att AGI blir verklighet i en oroväckande takt. 

”Med AI är faran på sätt och vis existentiell”, sade Levit. ”När vi uppnår artificiell generell intelligens, vilket innebär att maskiner i princip är medvetna och kan tänka bättre än vi, kommer vi då fortfarande att behöva göra någonting? Vad kommer vårt syfte att vara? Jag tror inte att vi kommer att utvecklas till att inte göra någonting, men vi kanske bara kommer att öva på att göra saker. När det gäller AI är jag mest orolig för att den kommer att göra oss överflödiga, eftersom den helt enkelt kommer att vara bättre på det mesta.”

Allt fler makthavare börjar inse detta. Därför undertecknade president Biden en verkställande order för att fastställa standarder för AI-säkerhet och trygghet. 

De 29 länder som deltog vid det första AI-säkerhetstoppmötet enades om en agenda som kommer att fokusera på säkerhetsrisker av gemensamt intresse, skapandet av riskbaserade riktlinjer och ett globalt förhållningssätt till förståelsen av AI:s påverkan på samhället.  

It starts with one signal.

Each week, AI Signal takes one meaningful shift in AI and helps people leaders understand what changed, why it matters, and what to consider next.

Create Free Account

Have an account? Log In

Det utvecklande sinnet

Det finns två huvudsakliga områden där Kentaro Toyama, datavetare och professor i samhällsinformation vid University of Michigans informationshögskola, varnar för att AI kan ha en betydande inverkan på den mänskliga hjärnan. Det första är utbildning. 

Precis som med mycket annat som rör AI och livet kan man hitta en balans mellan det goda och det dåliga om man ser objektivt på saken.

Podcast: Så kan AI hjälpa dig att bli en bra chef

I teorin skulle AI kunna ge studenter skräddarsydda, individuellt anpassade undervisningsformer som är mer engagerande och hjälper elever att ta till sig information mer grundligt. Detsamma kan sägas om utbildning på arbetsplatsen. 

Samtidigt ser Toyama möjligheten av en verklighet där AI gör undervisning anmärkningsvärt svår och faktiskt redan gör det.

”Om alla har tillgång till det blir det allt svårare för lärare att utföra sitt arbete”, sade han. ”Just nu befinner sig alla sorters lärare i en situation där vi inte längre med säkerhet kan säga om något som en student lämnar in faktiskt har gjorts av studenten. Jag har kollegor som har varit tvungna att göra om hela sättet de bedömer på, eftersom det är den underliggande frågan.”

Även om den tidigare Microsoft-forskaren betonar att det inte finns något fundamentalt fel med att integrera teknik i lärandet, påpekar han snabbt att om den fördunklar bedömningsprocessen kommer undervisningens metoder och arbetssätt inte att vara särskilt effektiva.  

”Man kan inte undervisa om man inte vet vad studenten kan och inte kan”, sade Toyama. ”Min förutsägelse är att seriösa personer kommer att återgå till skrivningar i skrivhäften och övervakade prov, där man skriver för hand.”

Värdet av mänskliga relationer

Om du lyssnar på eller pratar med AI-experter och personer som står nära dess utveckling tillräckligt länge får du en känsla av att det finns en övertygelse om att mänskliga kontakter kommer att bli oerhört värdefulla i framtiden.

Våra relationer till andra människor är en viktig del av vår psykiska hälsa och ett avgörande inslag i det som gör den mänskliga erfarenheten till vad den är, oavsett om det är på arbetet, i skolan, i kyrkan eller i mataffären.

”Se på pandemin”, sade Levit. ”Det var som ett kollektivt trauma där alla var isolerade under så lång tid. Det påverkar verkligen människors sinnen. Jag tror att vi riskerar att fortsätta på den vägen, och med barns skärmberoende är den kommande generationen uppkopplad hela tiden, oftast i stället för verklig social interaktion. Det kommer att fortsätta vara svårt att skapa den mänskliga interaktion som tidigare uppstod helt naturligt i alla miljöer. Den kommer att bli mer värdefull eftersom den blir svårare och mer sällsynt.” 

I grunden bygger en del av denna övertygelse på det faktum att det inte finns någon ersättning för mänsklig interaktion. Den dopaminkick som kommer av en lyckad eller trevlig social situation är något som de flesta av oss känner till och uppskattar. Men är den verkligen oersättlig?

Forskning har visat att interaktioner på nätet där två personer aldrig faktiskt talar med varandra kan ge hjärnan en dopaminkick. Även att någon bara gillar ditt LinkedIn-inlägg har denna effekt. Förklaringen till varför det är så är förstås att du utgår från att personen i andra änden är en verklig människa av kött och blod, oavsett om du vet att så är fallet eller inte.  

Forskningen om våra hjärnor när vi interagerar med AI befinner sig i ett lika tidigt skede som tekniken, om inte ännu tidigare. Men man behöver inte vara forskare för att förstå att föreställningen om att AI kan tillfredsställa vårt behov av kontakt faktiskt finns. 

Se bara på filmer som Her, vissa avsnitt av Black Mirror eller litterära verk som Kazuo Ishiguros Klara och solen.

”Det är en stor okänd faktor”, säger Toyama. ”Kommer vi att finna tillräcklig kontakt i vetskapen om att något är en maskin? Kommer vi att känna oss uppfyllda och nöjda i en relation med en maskin, så pass att vi slutar söka verklig mänsklig kontakt? Det är inte klart.” 

Toyama tar upp MIT-forskaren Joseph Weizenbaum som exempel. Han blev en av AI:s främsta kritiker under sina senare år.

År 1964 skapade Weizenbaum ELIZA, ett tidigt program för naturlig språkbehandling som var utformat för att använda mönstermatchning och ersättningsmetodik för att skapa en illusion av att programmet kunde förstå människor. 

Det körde ett skript som kallades DOCTOR och skapade ett samtal som liknade det en terapeut kunde ha med en patient. I praktiken kunde ELIZA upprepa saker som du sade och ställa fler frågor om dem. Det var i alla avseenden en tidig chattbot. 

Till Weizenbaums förvåning blev användarna övertygade om ELIZAs intelligens och förståelse. Vissa började tillskriva programmet mänskliga känslor, och människor började använda tekniken på allvar i jakt på en terapeutisk interaktion. 

”Det var på 60-talet”, sade Toyama. ”I dag finns det redan företag som föreslår att de till exempel kan hantera delar av sms-interaktionen med din mamma. Det börjar redan hända. Så återigen är det oklart hur människor kommer att reagera på tekniken. Jag kan föreställa mig sätt på vilka det här skulle kunna leda till bra saker, men mycket av det är lite skrämmande, åtminstone ur perspektivet att värdesätta mänskliga relationer.”

Så kanske pratar du fortfarande personligen med mamma i dag och tycker att det exemplet är långsökt. Men jag slår vad om att du redan använder AI för att kommunicera med andra människor. Du kanske till och med har haft ett AI-samtal med någon med hjälp av förberedda svar. 

Ett bra exempel på detta är automatiska svarsalternativ i e-post eller sms. Du får ett e-postmeddelande som kräver ett enkelt svar, och där finns alternativen under textfältet i ditt e-postprogram med formuleringar som ”Låter bra” eller ”Toppen! Tack.” I vissa fall kanske det är en följdfråga som ”Vilken tid?” 

Alternativen är enkla, men för att de ska passa in i samtalets sammanhang måste motorn som föreslår alternativen förstå vilket svar som skulle vara rimligt i den situationen. 

Med tanke på hur snabbt utvecklingen går kan Toyama se ett annat scenario växa fram som kanske inte är särskilt bra för affärerna. 

”Inom några år, om inte månader, kommer vi att börja se hela e-postmeddelanden utkastade åt oss. När det börjar hända kommer många av oss inte ens att läsa meddelandet eller svaret. Sedan kommer något att hända: det kommer att uppstå situationer där ingen av parterna egentligen uppmärksammar de automatiserade maskinsvaren till varandra. Vi kommer att ha relationer som bygger på kommunikation som vi egentligen inte uppmärksammade, och det kommer att bli fel. Om misstagen är tillräckligt allvarliga kommer vi att börja vara mer uppmärksamma, men många relationer kommer att utspela sig på sparlåga.”

Den här sortens passiva kommunikation innebär risker för hjärnan, eftersom djup leder till nyfikenhet och intresse.

Empati, en viktig stimulans för hjärnaktivitet, drivs av en önskan att förstå andra människor. Om den önskan inte finns där eller ersätts av teknik riskerar människor att förlora något större än tydlighet i kommunikationen.

”Ett område där jag kan se problem är nyfikenhet”, sade Ivantu. ”Människor kommer att bli allt mindre nyfikna på varandra och föredra att leta efter rätt eller fel. Bli inte förvånade om det dyker upp verktyg som säger att de kan läsa någons känslor. Det kommer att bli allt mindre upptäckande, allt mindre nyfikenhet, och nyfikenhet är det som driver mänskligheten från första början.”

Hjärnans uttryck

kan vi få någon AI att plocka plast ur havet, eller måste alla robotar vara manusförfattare?

— Matt Somerstein (@MPSomerstein) 18 maj 2023

Inlägget ovan belyser en viktig fråga kring argumenten för AI. Tidigare brukade teknikens förespråkare ofta säga saker som ”AI kommer att utföra alla jobb som människor inte vill göra.” 

Med antagandet att AI skulle arbeta på köttförpackningsanläggningar och dyka ner i kolgruvor började många se fram emot en framtid med AI. I stället kom den med förmågan att skriva noveller och manus till reklamfilmer.

En väsentlig del av att vara människa är vår förmåga att uttrycka oss. Därför är ett vanligt tema i dystopisk fiktion att människors förmåga att kommunicera eller förstå varandra bryter samman, vare sig det handlar om dumheten som visas i en film som Idiocracy eller olyckan i något som Eli Horowitz Den tysta historien. 

Mänskligt uttryck och kreativitet går hand i hand. Kreativa uppgifter leder oss ofta mot att hitta nya idéer, sätt att kommunicera dem och nya angreppssätt för att lösa problem. De får oss att tänka på konsekvenser och olika perspektiv och tvingar oss till självvärdering. 

Den nyfikenhet och det utforskande som följer med dessa uppgifter står enligt Ivantu i centrum för vår utveckling som människor. Även om han är positiv till AI:s utveckling inom användningsområden som ger positiva resultat varnar han för att det kan finnas en påtaglig kostnad för våra hjärnor över tid om AI i allt högre grad tar bort dessa uppgifter från vår kognitiva arbetsbörda.

”Om den här sortens färdighet överlämnas till en maskin förlorar vi som människor vår identitet”, sade han. ”AI bör vara ett verktyg som hjälper människor och mänskligt beteende att uppnå bättre resultat. Riktigt enkla uppgifter kan delegeras, men jag tycker inte att det ska användas som ett verktyg som ersätter allt annat. Precis som under kryptovalutaboomen när människor var oroliga under pandemin och sade att den skulle ersätta alla pengar i världen. Har den en plats? Ja, men den är begränsad.”

Som du kanske förväntar dig finns det en värld där AI hjälper människor med vissa kreativa uppgifter utan att det kostar särskilt mycket i mänskligt uttryck, men i slutändan kommer det att bero på människans åtagande att fortsätta skapa utan AI:s hjälp.

”Det hoppfulla exemplet är schack”, sade Toyama. ”1997 förlorade Garry Kasparov mot en dator (IB:s Deep Blue), och världen har aldrig gått tillbaka. Vid det här laget kan schackdatorn i din ficka besegra de bästa schackspelarna i världen. Så man kanske frågar sig: vad är poängen med att spela schack? Men faktum är att människors intresse för schack fortfarande lever och mår bra, och det finns fortfarande dramatik i det. Och människor som bryr sig om det vill fortfarande spela. Förhoppningsvis finns den sortens gnista inom oss som mänsklighet, och det vi värdesätter när det gäller kreativitet kommer inte att försvinna.”

Förlusten av värdefulla mänskliga färdigheter

Låt oss vara tydliga med en sak. Det finns flera positiva användningsområden för AI, särskilt inom sjukvården. 

Det här är inte en berättelse som försöker sprida rädsla kring AI. Hur den används och till vad är helt upp till människorna. Åtminstone än så länge. 

Men vi befinner oss i ett kritiskt skede som kommer att forma vår framtid under de kommande årtiondena och därefter, och på lång sikt kommer det att påverka våra hjärnor på något sätt. 

Problemet som får experter från Levit till Geoffrey Hinton, ofta kallad ”AI:s gudfar”, och en hel rad andra AI-forskare och utvecklare att nu slå larm är att mycket av det som har skett inte har ägt rum inför allmänhetens ögon eller under någon form av tillsyn. 

”Jag trummar alltid in vikten av mänsklig tillsyn”, sade Levit. ”Vi har nått en punkt där AI kan fatta beslut, men hur? Du måste förstå vilka data den har tillgång till för att komma fram till de slutsatserna. Du måste kunna upptäcka partiskhet, eftersom AI-system bara är så opartiska som människorna som skapar dem. Man måste verkligen vara vaksam på hur man tar till sig och accepterar ett beslut bara för att AI säger det. Blind acceptans är precis fel sätt att agera, och det är vad som händer. Många arbetsplatser ger AI befogenhet att fatta beslut åt människor.”

Levits varningar om att ta AI:s beslutsfattande för givna, utifrån antagandet att det är mer objektivt, överensstämmer med varningarna från experter som Hinton.

Nyligen ställde sig ett stort antal bekymrade AI-ingenjörer och experter bakom ett konsensusdokument som beskrev några av de största riskerna. 

Bland farhågorna:

”För att främja oönskade mål skulle framtida autonoma AI-system kunna använda oönskade strategier – inlärda från människor eller utvecklade självständigt – som ett medel för att nå ett mål. AI-system skulle kunna vinna människors förtroende, skaffa ekonomiska resurser, påverka viktiga beslutsfattare och bilda koalitioner med mänskliga aktörer och andra AI-system. 

För att undvika mänskliga ingripanden skulle de kunna kopiera sina algoritmer över globala servernätverk likt datormaskar. AI-assistenter skriver redan tillsammans en stor del av världens datorprogramkod, och framtida AI-system skulle kunna införa och sedan utnyttja säkerhetsbrister för att kontrollera de datorsystem som ligger bakom vår kommunikation, våra medier, banker, leveranskedjor, militärer och regeringar.”

Om vi lämnar alla skrämmande möjligheter åt sidan, låt oss bara fokusera på en del av det avsnittet i dokumentet. ”AI-system skulle kunna vinna människors förtroende och påverka viktiga beslutsfattare.”

När det gäller näringslivet handlar det inte om ”skulle kunna”. Det har redan hänt. Och det utspelar sig på märkliga sätt. 

Den första robotbaserade vd:n gjorde nyligen entré. Visst, för närvarande är det troligen ett polskt romföretag som främst är ute efter ett publicitetsjippo, men allting börjar någonstans. Även om det är ett skämt finns det säkert någon som helt enkelt inte förstår det. 

I en video som släpptes av romtillverkaren Dictador tittar roboten, som heter Mika, in i kameran och säger: ”Med avancerad artificiell intelligens och maskininlärningsalgoritmer kan jag snabbt och exakt fatta databaserade beslut.”

Hennes klädstil och etniskt tvetydiga drag är avsiktliga försök från tillverkaren Hanson Robotics att få Mika att kännas mänsklig för så många människor som möjligt, vilket är en viktig faktor för att vinna människors förtroende. 

Hanson Robotics vd David Hanson har offentligt betonat sin övertygelse om att ”förmänskligande av AI är ett avgörande steg för att säkerställa landskapets säkerhet och effektivitet medan människor och robotar fortsätter att samarbeta i framtiden.”

När AI tar över allt mer beslutsmakt kommer det utan tvekan att avlasta människor, men det är just den pressen som har fått oss att lära oss, anpassa oss och utveckla våra förmågor snabbare än alla andra varelser på planeten fram till nu. 

”Låt oss säga att du måste fatta ett svårt beslut på jobbet och inte vet hur det kommer att utvecklas. Osäkerheten är det som skapar utveckling, innovation och upptäckter”, sade Ivantu. ”Om du bara accepterar att ett beslut eller något är antingen bra eller dåligt, förbiser du en möjlighet som finns där ute. Och jag tror att det är den största risken med att använda AI, eftersom beslutet fattades åt dig. Du får inte möjlighet att utforska och göra misstag, vilket krävs för att hitta nytt liv, nya idéer och så vidare.”