Vad vi missförstår om AI och produktivitet

David Rice: Så ditt team använder AI för att skriva rapporter, analysera data och fatta beslut snabbare. Produktiviteten ökar, eller hur? Era kvartalsmått ser förmodligen ganska bra ut, men gissa vad? Ni gör i tysthet era medarbetare dummare. Jag överdriver inte. En nyligen genomförd studie av läkare som använde AI-assisterade diagnostikverktyg visade att de blev så beroende av tekniken att de presterade dramatiskt sämre än tidigare när AI stängdes av. Det är inte ett utbildningsproblem. Det är hjärnatrofi.

Dagens poddgäst är dr Vivienne Ming. Hon är teoretisk neurovetare och entreprenör, och för 15 år sedan förutsade hon att GPS-navigering skulle orsaka en ökning av demens. I dag finns det empiriska bevis för att hon hade rätt, men det är inte det hon är här för att berätta.

Det hon vill berätta för oss är att vi just nu står inför ett val mellan två helt olika vägar – kognitiv automatisering, där AI gör jobbet åt dig och du får snabba vinster men långsiktiga förluster, eller kognitiv förstärkning, där AI gör arbetet svårare på sätt som gör dina medarbetare genuint bättre.

Vi ska gå igenom varför påståendet att AI gör livet enklare är den farligaste säljpresentationen i näringslivet just nu, skillnaden mellan automatisering som urholkar färdigheter och förstärkning som bygger dem, hur man utformar om AI-verktyg så att människor är bättre när de avslutar arbetet än när de började, och varför ledare som väljer den bekväma versionen kommer att se kortsiktiga vinster men strategiska misslyckanden.

Jag heter David Rice. Det här är People Managing People. Och om du har firat produktivitetsvinster utan att fråga vad du förlorar på vägen, är det här samtalet en väckarklocka. Nu kör vi.

David Rice: Okej, Vivienne, välkommen till programmet.

Vivienne Ming: Det är fantastiskt att vara här.

David Rice: Innan vi började gick jag igenom nyheterna, som jag brukar göra ibland, och såg en artikel. Nature publicerade en studie förra veckan som sa att AI har svårt att förstå information, särskilt från sociala medier. Jag ville höra din reaktion, eftersom de exakta orden var: för mycket sociala medier ger AI-chattbotar hjärnröta.

Vivienne Ming: Japp.

David Rice: Så är det här innehållet dåligt för alla?

Vivienne Ming: Hjärnröta är samtidens fackterm. Hjärnröta och arbetsmögel. Jag kan ge dig ett mycket nördigt svar om vad som händer och vad vi borde göra åt det. Men för en bred publik bör vi vara bekymrade, eller hur? Det krävs faktiskt väldigt lite information av låg kvalitet för att få en stor språkmodell att spåra ur.

Och även om man går tillbaka till det som kallas människa i loopen, finjustering och förstärkningsinlärning, har den väldigt svårt att nå tillbaka till sin ursprungliga potential. Därför talar många om vikten av data av hög kvalitet. Det här är ett exempel på att även en ganska liten, oavsiktlig eller ibland avsiktlig mängd skräp som injiceras i systemet kan fungera som ett sätt att hacka hjärnan.

Det här är alltså inte ens hjärnröta, utan mer som en hjärnmask. Det är sådant man bör vara orolig för. Här är mitt något nördiga svar, som jag har skrivit en artikel om och tänker skicka in: Människor är ofullkomliga. Vi är också fulla av fördomar. Och det visar sig att om man utsätter oss för internet så ruttnar våra hjärnor också.

Men trots dessa genuina och ärliga brister gör människor som regel något mycket viktigt. Om vi får information som är fullständigt orimlig och nonsensartad ignorerar vi den. Det finns förstås undantag. Men i den forskning om hjärnröta som rapporteras i studien handlade det ofta om rent nonsens.

Ingen människa skulle komma över en sida med nonsens och tänka: Herregud, det här måste jag memorera. Vi har alltså en superkraft som dagens AI verkligen saknar. Vi har en modell av världen. AI-världen talar mycket om världsmodeller, men nej, inte riktigt. Vi tittar på världen, tillämpar vår modell och avgör vad som passar in.

Vi säger: Det där är mindre viktigt, så jag kommer inte att koda in det lika djupt. Vi måste fundera på hur vi får AI att göra samma sak. Idén att vi måste handjustera perfekta datamängder och aldrig får visa AI en dålig röntgenbild eller lite skräp från internet utan att den drabbas av hjärnröta är en verklig svaghet i hur vi tränar den i dag.

David Rice: Man hör människor säga att vi har skapat en hjärna som är lika sofistikerad som vår. Jag har hört det förut och tänkt: Jag vet inte riktigt. Jag har ofta invänt mot ordet hjärna. Men när jag såg det här tänkte jag att det kanske faktiskt är en hjärna. Sociala medier verkar påverka AI på samma sätt som oss.

Vivienne Ming: Ja. Jag föredrar att inta en balanserad hållning. Jag är realist när det gäller AI. Världen är full av struntprat. AI-utopister som tror att tekniken ska lösa allt är lika verklighetsfrånvända som dystopiker som tror att vi bygger Skynet. Jag önskar att vi hade ett Skynet-problem, om så bara i den meningen att jag önskar att vi hade någon aning om hur man bygger något sådant.

Det har vi inte. Vi har ingen aning. Men det vi har byggt är genuint intelligent. Det är artificiell intelligens. Den har bara en särskild form av intelligens: statistisk inlärning. Det är något vi själva använder i enorm utsträckning, och där liknar den oss. I det avseendet finns det många likheter mellan vad stora språkmodeller och människor gör.

Men vi har också många andra former av intelligens: enkla beräkningsmässiga former, liksom mer övergripande och abstrakta former. Det finns olika styrkor som maskiner och människor bidrar med. Om vi slutade försöka bygga artificiella människor och i stället uppskattade det som artificiell intelligens gör bra, skulle vi befinna oss på en mycket bättre plats.

David Rice: Jag håller med. Det leder till det jag tänkte att vårt samtal skulle handla om i dag: föreställningen att AI ska göra allting enklare, bekvämare, effektivare, mer produktivt och mer lönsamt. Jag tror att det är den idé många chefer låter sig lockas av. Men när vi talade tidigare utmanade du den berättelsen och frågade: Tänk om AI inte gör livet enklare? Tänk om den gör det svårare på sätt som gör oss bättre? Hur ser det ut med dina ord?

Vivienne Ming: Vi köper verkligen berättelsen att AI:s värde ligger i att göra livet enkelt. Den ska göra allt tråkigt arbete och låta oss ägna oss åt kreativt arbete. Men min forskning visar att ju mer tråkigt arbete som görs med AI, desto mer tråkigt arbete finns det för alla.

Ta ett uppenbart exempel. Många företag säger till sina team: Låt AI läsa alla era mejl och skriva alla era mejl så sparar ni tid. Men om AI producerar stora mängder skräpiga och spammiga mejl får du fler mejl, inte färre, att hantera.

Idén att AI ska ge snabba och enkla effektivitetsvinster är enligt min uppriktiga mening en återvändsgränd. Inte minst eftersom den bevisligen urholkar mänskligt kapital när den ersätter människor.

Om du vill ha bättre människor och samtidigt är entusiastisk över AI, måste du bygga AI som uttryckligen och otvetydigt stöder kreativitet. Den bästa AI:n för det gör inte livet enklare. Den gör det svårare. Den säger: Det där är ingen bra idé. Här är tre saker som visar att du har fel. Den fungerar som en lojal opposition.

I min kommande bok skriver jag om detta och kallar det för nemesisprompten. Jag skrev ett kapitel och bad sedan Gemini: Du är min nemesis, min värsta fiende genom livet. Här är det nya kapitlet i min bok. Hitta allt jag har sagt som är fel, alla dåliga idéer och alla lätt motbevisbara fakta jag har delat. Förklara det för mig i detalj och berätta, om du kan, hur jag kan göra det bättre.

Jag använde inte AI för att göra det enklare att skriva boken. Jag använde den för att göra det svårare, på de sätt som gjorde mig bättre.

David Rice: Det här syns överallt i kulturen kring AI. Vi ser den som en genväg till produktivitet eller ett bekvämlighetsverktyg som ska göra oss effektivare, men vi hör inte tillräckligt mycket om AI som en katalysator för utveckling eller som ett sätt att förändra hur vi utbildar ledare.

Vivienne Ming: Vi köper idén att AI ska göra allt tråkigt arbete och att vi sedan på något magiskt sätt blir superkreativa. Det stämmer helt enkelt inte. Om AI ska hjälpa oss måste vi använda den för att tänka djupare, ställa bättre frågor och utveckla vår egen förmåga.

Det handlar inte om att AI gör människor bättre genom att ersätta dem. Det handlar om att AI gör människor bättre genom att engagera dem. När människor och maskiner arbetar tillsammans på rätt sätt uppstår en dynamik där människan formulerar idéer, AI förfinar dem, människan formulerar nya idéer och AI förfinar dem igen.

David Rice: Det här är fascinerande. Jag vill också tala om effektivitetsmyten. Vi ser den överallt på arbetsplatser: föreställningen att effektivitet alltid är bra och att snabbare automatiskt betyder bättre. Tror du att berättelsen om effektivitet spårar ur AI:s potential att påverka arbetslivet?

Vivienne Ming: Effektivitetsantagandet bygger på att vi har en bra modell för vad effektivitet är. Men många av våra mått fångar bara individuella eller snäva teamresultat. De missar hur en person gör alla andra omkring sig bättre.

I vår forskning fann vi att ungefär 11 procent av de anställda stod för 80 procent av den produktivitet som inte fångades av individuella mått. Det var en relativt liten men betydelsefull grupp som förbättrade alla runt omkring sig.

När vi undersökte vad som skilde dessa personer från andra medarbetare såg vi att de helt enkelt hjälpte till. Ibland såg de att någon behövde hjälp med något som inte ingick i deras arbetsbeskrivning, och de hjälpte ändå. Det gjorde alla omkring dem bättre.

Vilket effektivitetsmått fångar det? Våra intuitioner om vad effektivitet är och hur den ska mätas är ofta helt fel i en värld där vi borde uppmuntra människor att göra produktiva misstag och utforska alternativa arbetssätt med hjälp av AI, i stället för att bara låta AI göra exakt det vi redan vet hur man gör till lägre kostnad.

David Rice: Det finns också en stor oro för att nybörjarroller försvinner. Alla som lyssnar på programmet vet att nybörjarerfarenhet är en väg till lärande och viktig för successionsplanering. Vad förlorar vi om vi tar bort de första erfarenheterna i arbetslivet?

Vivienne Ming: Mina doktorander är bland de smartaste människor jag någonsin arbetat med. De vet allt om sina forskningsområden. Men de förstår ingenting i den djupare meningen. Min uppgift är inte att lära dem fler fakta. Min uppgift är att lära dem hur man är forskare, hur man utforskar det okända och hur man ställer nästa fråga.

Det är samma sak tidigt i karriären. Det värdefulla är inte bara vad en person vet. Vi hyr delvis den kunskapen så att seniora personer slipper utföra allt rutinmässigt arbete själva. Men syftet är att den yngre personen ska lära sig vad man gör med kunskapen.

Om vi tar bort alla delar av karriären där människor lär sig genom att göra arbetet, hur ska de då nå fram till förståelse? Människor kommer inte magiskt att bli erfarna utan att ha fått erfarenheter.

Det smartaste beslutet fattas inte när AI analyserar kalkylarket och människan sedan fattar beslutet. Det fattas när människan och AI analyserar kalkylarket tillsammans och människan säger: Nej, låt oss prova det här. Det fungerar eftersom människan är en aktiv del av analysprocessen. Arbetet läggs inte ut helt och hållet på AI.

David Rice: AI saknar sammanhang för världen och för den mänskliga erfarenheten. Praktiskt omdöme formas över tid genom små erfarenheter som påverkar hur man ser på sin roll, sin arbetsplats och sin chef. Min stora oro är att vi förlorar den tillväxtprocessen.

Vivienne Ming: Här finns en paradox. Ett av de områden där AI-forskningen har kommit längst är utbildning. Den gyllene regeln för AI-handledare är att om handledaren ger studenten svaret, lär sig studenten ingenting.

Den bästa AI-handledaren ger aldrig svaret direkt. Den frågar: Vad tror du? Hur skulle du lösa problemet? Läste du artikeln? Den leder personen fram till sin egen insikt i stället för att överlämna den färdiga lösningen.

Tekniken bör inte bara göra oss bättre medan vi använder den. Vi bör också vara bättre än när vi började när vi stänger av den. Det finns mycket forskning som visar att detta inte är vad som händer med genomsnittspersonen som använder en språkmodell. De kan bli sämre på just det de försökte åstadkomma med verktyget.

Det behöver inte vara så. AI är inte skurken. Problemet ligger i samspelet mellan oss och AI. Vi kan bygga AI som inte ger svaren, eller bygga upp människors förmåga så att de väljer att engagera sig djupare. Målet bör vara att ge människor det de behöver för att bli bättre, inte bara det de vill ha.

David Rice: Du använde tidigare uttrycket Jiffy Lube-ekonomin. Jag tänkte på det som avprofessionalisering. Vad menar du med det?

Vivienne Ming: AI kommer kanske att skapa fler arbeten än den förstör. Men så fort ett nytt arbete är regelbundet och ekonomiskt värdefullt kommer det sannolikt att finnas en AI som kan utföra det också. Frågan är därför inte bara om AI skapar fler arbeten än den förstör, utan vilka som kommer att vara kvalificerade för de arbeten som AI inte kan utföra.

I stället för att skapa en ekonomi där alla läkare blir superläkare tack vare AI kan vi få en situation där arbetsuppgifter som tidigare krävde en professionell person utförs av någon med mycket lägre utbildning, eftersom AI står för den avancerade delen. Jobben försvinner inte nödvändigtvis. De avprofessionaliseras.

Det är en djup samhällsklyfta: att ha ett arbete helt enkelt därför att det inte lönar sig att bygga en robot som gör det.

David Rice: Vi talar mycket om förstärkning, men det verkar ofta övergå i det vi kan kalla kognitiv automatisering. Vad är skillnaden mellan kognitiv automatisering och kognitiv förstärkning, och varför spelar den skillnaden roll för ledarskap i dag?

Vivienne Ming: Om du verkligen använder hjärnan är det ansträngande. När du använder de delar som gör oss mänskliga ser man aktivitet i hjärnan: du hanterar känslor, hanterar komplexa kognitiva problem och planerar över tid.

Kognitiv automatisering tar dig fram till målet utan att du behöver använda dessa förmågor. Kognitiv förstärkning ger dig det du behöver för att nå målet samtidigt som du fortsätter att använda hjärnan.

GPS är ett tydligt exempel. Jag förutsade för ungefär 15 år sedan att automatiserad navigering skulle orsaka en ökning av demens, eftersom människor inte längre behöver tänka på vägen. I dag finns det empiriska bevis för att detta stämmer. Du kan vara bättre när du använder tekniken, men sämre när du kommer fram eftersom du har berövat dig själv framtida kognitiv hälsa.

Ett förstärkande system skulle kunna ge dig rekommendationen men samtidigt uppmuntra dig att använda det du själv vet. Du kanske känner till en genväg, vet att en väg är avstängd eller förstår ett lokalt sammanhang som systemet inte känner till. Då använder du hjärnan samtidigt som du drar nytta av AI.

Det är kognitiv förstärkning. Hjärnan används, och du får samtidigt hjälp av AI. Men det är inte standardutformningen för dagens genomsnittliga språkmodell.

David Rice: Det här har varit ett fascinerande samtal, Vivienne. Tack för att du var med. Jag tycker om att tala om vad som faktiskt händer med hjärnan och AI, hur vi samspelar med tekniken och vilka långsiktiga effekter det kan få.

Vivienne Ming: Tack. Om jag ska lämna dig med en enda sak är det att människorna som kommer att spela roll här är ledarna. Om de väljer den lata versionen och använder AI för att ersätta människor får de en snabb produktivitetsökning och en långsiktig förlust. Om de investerar i det mänskliga kapitalet kommer de att se verklig avkastning. Men det kräver mod och en vilja att använda politiskt kapital i organisationen.

David Rice: Absolut. Vi måste alla ha filosofiska samtal om det här. Det är helt enkelt så verkligheten ser ut. Tack för att ni lyssnade.

Vivienne Ming: Ett sant nöje. Tack så mycket.

David Rice: Kära lyssnare, om ni inte redan har gjort det, se till att prenumerera på nyhetsbrevet. Gå till peoplemanagingpeople.com och ta en titt. Ni kan också utforska vår AI-transformationsutforskare. Om ni inte har skapat ett kostnadsfritt konto hos oss kan ni göra det nu. Det ger er tillgång till transformationsutforskaren.

Tills nästa gång: det är människan som formar det här, och ni leder vägen.