Vad AI-övervakning inte kan berätta om dina anställda

David Rice: Ingen bestämmer sig egentligen för att bygga ett system för övervakning av arbetsstyrkan. Det börjar som optimering, produktivitetsförbättring och tidshantering. Det låter i grunden positivt, eller hur? Och sedan har man gradvis, utan att någon fattat ett medvetet beslut, passerat en gräns. I dagens program pratar jag med Lynn Parramore, chef för särskilda projekt vid Institute for New Economic Thinking, om var den gränsen går och varför AI gör den svårare att se.

Lynns centrala argument är att arbetsplatsövervakning bygger på ett bristfälligt antagande: att allt viktigt i arbetet går att mäta. Att hjälpa en kollega, gott omdöme, moraliskt mod och kreativitet syns inte i en logg över tangenttryckningar, men det är ofta just sådant som gör någon verkligt värdefull. När man börjar reducera människor till samlingar av datapunkter förändrar man vad man faktiskt leder.

Och övervakning är inte neutral. I samma ögonblick som du bestämmer dig för att ständigt bevaka någon har du redan gjort ett antagande om den personen, och de anställda känner det. Det urholkar förtroendet. Och förtroende, som Lynn påpekar, är grundbulten för allt annat: engagemang, innovation och att behålla medarbetare. Så i dag går vi igenom var legitim kontroll slutar och övervakning börjar, varför antagandet att allt viktigt går att mäta är bristfälligt, det omvända förhållandet mellan övervakningens intensitet och förtroende samt varför ledare måste vara filosofiska kring AI, inte bara praktiska.

Jag heter David Rice. Det här är People Managing People, och om din organisation har behandlat övervakning av arbetsstyrkan som ett produktivitetsverktyg är det här samtalet värt din tid. Då sätter vi igång.

Om du driver ett litet företag och anställer din första medarbetare kan lönehantering kännas som ett stort steg. QuickBooks Workforce gör det enklare genom att förenkla löneutbetalningar, direktinsättningar och hantering av personaluppgifter på ett och samma ställe. Dina anställda kan komma åt sina egna lönespecifikationer och skatteblanketter via en självbetjäningsportal, vilket sparar tid och pappersarbete. Om du vill lägga mindre tid på lönehantering och mer tid på att utveckla företaget kan du läsa mer om QuickBooks Workforce.

Lynn, välkommen till programmet!

Lynn Parramore: Tack för att jag fick komma.

David Rice: Vi pratade före inspelningen om att vi alltid har mätt arbete på något sätt, i en eller annan form, men att AI i grunden förändrar skalan och verkligen närheten i det som är möjligt.

Jag är nyfiken på din åsikt: När slutar mätning av arbete att handla om att förbättra prestationer och övergår i stället till övervakning?

Lynn Parramore: Det är en fråga som jag tror att vi alla brottas med, både från de anställdas och arbetsgivarnas sida. Jag bör kanske börja med att säga att det finns bra tillämpningar av algoritmisk övervakning eller AI-driven bevakning, vad man nu vill kalla det.

Till exempel identifiering av trötthet. Vi kan föreställa oss en pilot som använder bärbara enheter för att upptäcka trötthet. Jag tror att de flesta av oss skulle säga: Okej, det låter rimligt. Det finns AI-enheter som kan användas för ergonomisk handledning. Om någon till exempel lyfter tungt kan de upptäcka vilka rörelser som sannolikt leder till skador.

Det finns också tillämpningar inom cybersäkerhet. Så det finns situationer där den här tekniken kan vara användbar utan att kännas som ett intrång i privatlivet. Men den måste ha ett tydligt och legitimt syfte, för det första, och arbetsgivaren bör bara samla in nödvändiga uppgifter – inte säga att uppgifterna ska användas till en sak och sedan samla in dem för en annan.

Det ska vara transparent för den anställde vad som samlas in, hur det samlas in och hur uppgifterna lagras. Och en människa måste vara delaktig i alla beslut som kan följa av insamlingen, oavsett om det handlar om befordran, disciplinära åtgärder eller uppsägning.

Man ska inte använda tekniken för att automatiskt tillämpa konsekvenser. Det är där vi hamnar i sådant som många av oss upplever som problematiskt: ständig övervakning via webbkamera, insamling av varje tangenttryckning eller musrörelse eller skärmdumpar var tjugonde sekund.

Det är sådana tillämpningar som övergår i kategorin integritetsintrång och verkligen kan påverka de anställdas prestationer negativt.

David Rice: Det är intressant, eller hur? Det här känns som något som sker gradvis. Jag tror inte att någon börjar med att säga: Nu ska vi övervaka vår arbetsstyrka.

Det är snarare: Låt oss förbättra produktiviteten, fokusera på tidshantering och allt det andra. Det låter som optimering, så det låter i grunden positivt. Men till slut passerar man ändå den här gränsen, och jag undrar om det beror på att ledare blir så fokuserade på de data de samlar in att de slutar fråga sig om insamlingen förändrar hur människor beter sig eller om den ens är värd att göra.

Lynn Parramore: Absolut. Det kommer från en mycket mänsklig impuls: att vi oroar oss för det vi inte kan se. Det är helt enkelt en naturlig mänsklig impuls. Arbetsgivare har alltid varit bekymrade när de inte kan se vad som händer, och det går verkligen tillbaka till förändringarna under den industriella revolutionen.

Om du till exempel arbetade i en skomakarverkstad före den industriella revolutionen satt chefen precis där och kunde se vad du gjorde. Men när fabriker och större arbetsstyrkor började växa fram blev arbetsgivarna mer bekymrade över vad som pågick utanför deras synfält.

I slutet av 1700-talet fick vi idén om panoptikon, som vissa känner till. Filosofen Jeremy Bentham förknippas med den, men det var egentligen hans bror Samuel som utvecklade konceptet. Han arbetade för en rysk statsman och de hade problem i fabrikerna.

Människor blev berusade och hamnade i slagsmål. Det var kaos. Samuel Bentham tog därför fram en fabriksdesign med ett utrymme i mitten där någon kunde bevaka de anställda, som satt placerade i en cirkel runt det centrala observationstornet. De skulle inte nödvändigtvis veta när de var bevakade.

Det höll alla på tå och minskade en del av det kaotiska beteendet. Jeremy Bentham utvecklade senare en liknande design för ett fängelse, och det är där kopplingen blir obehaglig. Vad bevakas vi för, och i vilket syfte? Övervakning kan förändra de antaganden man gör om människor.

Det går från: ”Det här är en anställd som arbetar i god tro” till: ”Det här är en person som jag måste bevaka, kontrollera och följa hela tiden.” Det är två olika perspektiv och de påverkar naturligtvis den anställde på olika sätt. Det är en fin gräns, men ingen tycker om att känna sig övervakad och misstrodd hela tiden.

Det minskar känslan av psykologisk trygghet och får många negativa konsekvenser. Ingen vill känna att de befinner sig i ett fängelse när de är på jobbet.

David Rice: Ja, engagemanget är redan tillräckligt lågt utan att känna sig som om man faktiskt sitter i ett fängelse. Det hjälper knappast.

Lynn Parramore: Nej. Och tekniska framsteg har gjort det möjligt att övervaka saker på en mer detaljerad nivå och sådant som vi tidigare aldrig trodde att arbetsgivare skulle övervaka.

Att följa känslor är ett av de mest kontroversiella områdena. Man kan använda bärbara enheter eller andra typer av webbkamerabevakning för att upptäcka känslor som uttrycks genom rösten eller kroppsrörelser, men det är svårt att föreställa sig en situation där detta skulle tillämpas på ett sätt som får de anställda att känna sig bekväma.

Kanske skulle det kunna handla om frivillig handledning. Om du arbetar på en larmcentral där det är viktigt att behålla ett lugnt sätt under samtalet skulle du under utbildningen kunna välja att låta ett AI-program bedöma hur stabil din känslonivå är under samtalet.

Men även då är nyckelordet frivillighet, och det får inte handla om disciplinära åtgärder eller om att bedöma dig som anställd. Problem uppstår eftersom vi inte uttrycker känslor på samma sätt beroende på kön, ålder, etnisk bakgrund, kulturell bakgrund och en mängd andra faktorer.

Psykologer och sociologer som har studerat insamling av känslodata har dessutom konstaterat att den ofta inte är särskilt träffsäker. Man vill därför inte att bedömningar av anställda ska göras på den grunden, både eftersom uppgifterna är felaktiga och eftersom det känns mycket integritetskränkande för den anställde.

David Rice: Ja, det är intressant. Vi har haft gäster i programmet som pratat om en välmåendeaspekt av detta. Organisationer kan motivera det genom att säga att det handlar om välbefinnande eller stöd till medarbetarna. Men du menar att det finns ett omvänt förhållande mellan den här typen av övervakning och förtroende, vilket naturligtvis påverkar människors välbefinnande på många sätt.

Varför leder mer frekvent mätning till att människor litar mindre på varandra?

Lynn Parramore: Jag tror att det går tillbaka till antagandet man har om de människor som arbetar för en. Kommer de till jobbet med avsikten att göra ett bra arbete? Kommer de i god tro?

Eller är de människor som man måste bevaka hela tiden, detaljstyra och förvandla till samlingar av datapunkter? Det går tillbaka till den grundläggande frågan om vad en anställd eller arbetare egentligen är. Är vi bara samlingar av datapunkter? Är allt viktigt vi gör på jobbet något som går att mäta?

Människor som blir överdrivet entusiastiska över program för övervakning och algoritmisk styrning antar ibland att allt går att mäta. Allt viktigt som en anställd gör skulle vara mätbart. Men att hjälpa en kollega är kanske inte mätbart.

Gott omdöme, kreativitet och moraliskt mod är exempel på sådant som ofta kallas tyst kunskap. Det kan inte mätas, men allt detta är mycket viktigt för att vara en bra medarbetare. Entusiasmen för den här typen av övervakning tränger därför ibland undan det som faktiskt gör någon till en bra anställd.

David Rice: Ju mer vi försöker verifiera beteenden genom teknik, desto mindre utrymme finns det för förtroende.

Lynn Parramore: Ja.

David Rice: Förtroende är oerhört svårt att mäta, men det ligger till grund för nästan allt vi bryr oss om på arbetsplatsen: engagemang, innovation och att behålla medarbetare. När människor känner att de hela tiden utvärderas, särskilt av något som känns allvetande, skapar det stort obehag och frågan: Varför vill arbetsgivaren ens veta det där?

Lynn Parramore: Exakt. Det här utspelar sig i verkligheten. JPMorgan Chase meddelade att de skulle införa övervakningssystem för sina juniora bankanställda. De hade problem med att juniora bankanställda arbetade orimligt långa timmar och utsattes för stora förväntningar som orsakade stress och trötthet. Det var rimligt att vilja göra något åt det. Därför presenterades programmet som ett verktyg för välbefinnande.

Men när systemet mäter varje tangenttryckning som den anställde gör, hela tiden, blir det något annat. De anställda är inte nödvändigtvis nöjda med det. Och hur samtycker man till den typen av övervakning? Är det verkligen ett val när man tackar ja till jobbet, särskilt om man är junior? Vilket val har man egentligen?

Det finns belägg för att vissa typer av övervakning, särskilt kontinuerlig övervakning, kan öka stressen i stället för välbefinnandet. Den kan öka ångest och skapa förväntansstress: ”Om jag är inaktiv vid datorn i några minuter medan jag tänker på ett problem, kommer jag då att flaggas?”

Det finns också verkliga fall där personaluppgifter som samlats in genom algoritmisk övervakning har läckt. År 2025 fanns ett fall med ett företag som hette WorkComposer, vars program installerades på anställdas datorer för att övervaka dem. Uppgifterna komprometterades och blev offentligt tillgängliga trots att de inte skulle ha blivit det.

En del av materialet bestod av råmaterial från anställdas webbkameror och visade vad de gjorde på jobbet. Ingen vill ha sådant spritt offentligt och använt för slumpmässiga syften. Det kan handla om ett oavsiktligt dataläckage eller ett dataintrång, och uppgifterna kan användas i skadliga syften.

Denna misstro växer, och snart har man en arbetsstyrka som har förlorat sin inre motivation, känner mindre lojalitet mot arbetsgivaren och kanske börjar söka ett annat jobb.

David Rice: När vi pratade före inspelningen fastnade jag för din poäng att algoritmer kan mäta beteende, men inte avsikt, omdöme eller sammanhang. Om du tittar på allt jag gör, vet du då varför jag gör det? På en arbetsplats där allt i allt högre grad drivs av data, blandar vi kanske ihop det som går att mäta med det som faktiskt spelar roll.

Lynn Parramore: Och frågan är också: Bara för att man kan mäta något, bör man då mäta det? Vilka oavsiktliga konsekvenser får mätningen?

Ett enkelt exempel är övervakningssystem som registrerar hur länge en kundtjänstmedarbetare pratar med en kund. Medarbetaren flaggas om samtalet överskrider den tid som har angetts som optimal.

Men en bra medarbetare kan stanna kvar längre i ett samtal eftersom kunden har ett svårt problem. Om den anställde straffas för längre samtal kanske hen börjar lämna över kunden till någon annan eller avslutar samtalet för tidigt. Snart får man både missnöjda kunder och missnöjda anställda.

Det finns aldrig en lösning som passar alla. Det du mäter tar inte hänsyn till avsikten – i det här fallet den anställdes avsikt att hjälpa kunden med ett svårt problem – och inte heller till sammanhang eller nyanser.

Någon kanske har en dålig dag. Det händer även anställda. Kommer man att flaggas för det? Kommer uppgiften att visas på arbetsgivarens instrumentpanel och leda till sanktioner på sätt som man inte ens kan se? Man kanske inte vet exakt vilken dag uppgifterna samlades in, hur de samlades in eller i vilket syfte.

Det leder i slutändan till ett verkligt sammanbrott av förtroendet mellan arbetsgivare och anställd.

David Rice: Nyanser är allt viktigare i vår värld, eftersom mycket av hur vi pratar om saker och reagerar på saker saknar nyanser. Skillnaden mellan information och förståelse är avgörande.

Ledarskap har alltid handlat om att tolka nyanser – varför något hände, inte bara att det hände. Vi riskerar att förväxla fullständiga data med fullständig förståelse, när det egentligen bara handlar om information.

Lynn Parramore: Absolut. En del av detta har rötter i en rörelse från början av 2000-talet. Alex Pentland vid MIT utvecklade bärbara enheter. Mycket kom från militären och idrottsvärlden. En bärbar enhet kunde följa hur en kastare fungerade på planen eller hur någon ansträngdes under en militär operation.

Det kan vara intressanta och användbara data som till och med gynnar personen som mäts. Men att överföra samma typ av teknik till den vanliga arbetsstyrkan, till exempel bankanställda eller kundtjänstmedarbetare, fungerar inte alltid på det sätt man hoppas eller förväntar sig.

Att mycket av detta kommer från militären och fängelser ger dessutom en känsla av hur påträngande och problematiskt det kan upplevas på arbetsplatsen. Människor bryr sig om sin integritet. Vi oroar oss för det vi inte kan se, men också för att bli sedda alltför mycket.

Europeiska unionen har starkare lagar som behandlar integritet som en grundläggande rättighet på arbetsplatsen. Arbetsgivaren måste visa ett berättigat syfte, begränsa insamlingen så mycket som möjligt och rikta den mot ett tydligt ändamål. Arbetstagaren har rätt att ifrågasätta eller bestrida uppgifterna som samlas in.

I vissa fall måste arbetsgivaren samråda med arbetsråd eller fackförbund om hur programmen ska införas. I USA är situationen mer splittrad och förvirrande. Det finns ingen allmän lag om integritet på arbetet, och det finns en föreställning om att ett företag får övervaka dig så länge det äger enheten.

Det blev särskilt tydligt under pandemin när fler arbetade hemifrån. Arbetsgivare blev nervösa över människor som arbetade från vardagsrummet och installerade därför i vissa fall program på företagsägda datorer för att övervaka dem hela dagen. Pandemin blev en ursäkt för att kraftigt öka den här typen av övervakning, och lagen har inte hunnit ikapp.

David Rice: Pandemin gjorde distansarbete möjligt, vilket var bra, men den hade också ett pris. Tidigare förlitade vi oss på att en chef tittade över någons axel. Nu finns det många olika saker som kan fungera som ögon över axeln.

Lynn Parramore: Frågan är vad man egentligen mäter. Om du mäter hur många försäljningar som avslutades den dagen, spelar det då någon roll om någon tog tre toalettpauser under förmiddagen? Vad är syftet med uppgifterna?

Om man går för långt eller inte är transparent kommer de anställda att protestera och hitta sätt att manipulera systemet. Frederick Taylor försökte i slutet av 1800-talet dela upp fabriksarbetet i små, mätbara enheter för att öka hastigheten. Det fungerade till en viss gräns, men de anställda blev frustrerade och började kringgå systemet.

Under pandemin hittade människor sätt att få muspekaren att se ut att röra sig hela tiden, trots att den inte gjorde det.

David Rice: Ja, musröraren.

Lynn Parramore: Jag läste till och med om någon som ställde en ananas framför sin bärbara dator så att det såg ut som om ett människohuvud fanns där. På så sätt uppfylldes kraven i datainsamlingen.

Människor har ett medfött motstånd mot påträngande och integritetskränkande övervakning. Det kommer inte att förändras. Det är mänsklig natur.

David Rice: En kort paus. Har lönehanteringen blivit mer komplicerad i takt med att företaget vuxit? Kanske hanterar du heltidsanställda tillsammans med uppdragstagare, olika löneperioder eller verksamhet i flera delstater.

QuickBooks Workforce är byggt för att förenkla dessa växande utmaningar med automatiserade löneutbetalningar, skatteberäkningar, stöd för regelefterlevnad och verktyg som hjälper dig att betala teamet korrekt och i tid. Om löneprocesserna blir allt mer komplexa kan du läsa mer om hur QuickBooks Workforce kan effektivisera dem.

Lynn Parramore: Om de anställda följer systemet kanske du ändå inte får ut deras bästa prestation. En algoritm kan veta hur lång tid du lade på en uppgift, men den vet inte om du använde extra tid för att hjälpa en kollega. Den typen av beteende är precis vad man vill se hos en anställd.

Vi behöver få vår mänsklighet erkänd. Vi behöver få våra avsikter, vår goda tro och vår komplexitet erkända. Ju mer komplex aktiviteten är, desto svårare är det att koka ner den till diskreta, mätbara enheter.

Som anställda behöver vi kunna göra misstag utan att bli uppsagda av en algoritm, av en osynlig chef som vi inte kan se och vars mätningar vi inte förstår. En stor del av det som gör oss mänskliga och får oss att fungera väl går på tvärs mot algoritmisk styrning och övervakningsprogram.

David Rice: Förstår systemet att du var tvungen att avliva din hund förra veckan? Förstår det att du hade ett stort bråk med din syster? Nej. Vi tar bort lager av mänskligt ledarskap och ersätter dem med något som inte kan förstå vilka vi är eller varför vi beter oss som vi gör.

Lynn Parramore: En av mina viktigaste aktiviteter under dagen kan se ut som att jag stirrar ut i luften och inte gör någonting. Jag tänker faktiskt. Eller så går jag runt i cirklar i lägenheten eftersom det hjälper mig att tänka. Ett algoritmiskt styrsystem kommer sannolikt att flagga det, men mycket av det som krävs för att göra ett bra jobb passar inte in i diskreta enheter och system.

David Rice: Systemet kommer inte att förstå att jag äter mycket kringlor, men det finns en anledning. Det är så jag bryter ner saker.

Lynn Parramore: Det är intressant att du säger det. Anställda klagade under pandemin på att vissa algoritmiska system inte ville att de skulle äta under arbetstid. Om du pratar med kunder i telefon vill ingen att du tuggar kringlor samtidigt. Men varför skulle det vara ett problem att äta en kringla när samtalet är slut?

Det infantiliserar oss också. Att kontrollera när vi går på toaletten eller vill äta en kringla tar ifrån oss vår värdighet som arbetstagare och människor.

David Rice: Ingen tycker om att bli detaljstyrd genom en process, än mindre att få veta när man får äta. Det är som att vara tillbaka i grundskolan.

Lynn Parramore: Alla som litar på någon annan måste acceptera en viss grad av osäkerhet. Det kan finnas legitima syften med övervakning, men om man gör det hela tiden och på obestämd tid finns det inget sätt för den andra personen att visa att förtroendet har återställts.

Jag vill inte likställa en arbetsledare med en förälder. Det är just det som är problemet. Vi är människor som arbetar tillsammans, och en viss grad av ömsesidigt förtroende krävs för att få jobbet gjort.

David Rice: Det liknar mer en tränare. Du ger spelarna en inställning och en plan och låter dem sedan göra sin sak. De måste få uttrycka sig och använda sin talang.

Lynn Parramore: Allt handlar inte om optimering. Om man sätter GPS-spårning på en bil som används för leveranser kan det vara rimligt under arbetstid, men efter arbetstid går man långt över gränsen. Anställda kommer att protestera.

Vi har nyligen hört om anställda på Meta som oroar sig över införandet av algoritmisk övervakning. I det här fallet ska övervakningen lära AI-systemen vad den anställde gör. Det skapar ytterligare oro: Övervakas jag för att AI-systemet så småningom ska kunna ta mitt jobb?

Arbetsgivare bör låta de anställda delta i samtalet om hur programmen införs och vad de ska övervaka. Då blir programmet mycket mer framgångsrikt, eftersom de anställda inte är emot all övervakning. I vissa fall kan mätning hjälpa någon att visa att de faktiskt gör ett bra jobb, särskilt om de utsätts för partisk behandling.

Det här är verktyg som kan användas på olika sätt beroende på arbetsgivarens avsikt. Det är en sak att ha en assistent i form av ett AI-program och en annan att ha en osynlig chef. Nästan ingen vill ha det senare.

David Rice: Det här är en fråga om etik och filosofi. Man måste vara lite filosofisk kring det här eftersom företag kan vara bra för samhället men också mycket dåliga för samhället. Det är inte automatiskt något gott.

Lynn Parramore: Vi såg det med tobaksindustrin. Vi vet hur skadliga vissa affärsaktiviteter kan vara för samhället. Vi har lärt oss den hårda vägen och borde inte behöva lära oss samma läxa om och om igen.

David Rice: Vi har sett det med sociala medier och teknikföretag. Det är en förtroendefråga gentemot allmänheten. Många människor oroar sig för övervakning eftersom vi har blivit brända tidigare.

Lynn Parramore: Företag har sagt att något är helt säkert och fördelaktigt, men det har visat sig vara fel. Vi vet knappt längre vilken forskning vi kan lita på. När forskningsartiklar om AI-övervakning publiceras finns ofta en företagsrepresentant bland författarna. Det påminner om studier som finansierades av R.J. Reynolds och hävdade att nikotin inte var beroendeframkallande.

Det har byggts upp en misstro mot teknik och mot löften om att ökad produktivitet ska leda till högre löner eller mindre arbete. Under de senaste fyrtio eller femtio åren har de löftena inte infriats. Därför är människor förståeligt nog nervösa, särskilt eftersom utvecklingen sker så snabbt och i sådan skala.

David Rice: Yngre arbetstagare är både idealistiska och öppet skeptiska. Till skillnad från tidigare vågor av arbetsplatsteknik har de svårare att omfamna den här utvecklingen. Många i generation Z är öppet kritiska till AI på arbetsplatsen.

Lynn Parramore: Om man tittar på vad den äldre delen av generation Z har gått igenom ser man geopolitisk oro, terrorattacker, finanskris, lågkonjunktur och en ständig rad kriser. De har fått höra att den sociala rörligheten avtar och att de kanske inte kommer att få det bättre än sina föräldrar.

Nu får de höra att det kanske inte finns några jobb på nybörjarnivå för dem, trots att de arbetat hårt och gått på universitet. De vet inte hur deras utbildning eller karriärväg kommer att se ut om fem år, kanske inte ens om sex månader. Det är en skrämmande situation.

De har dessutom sett hur teknikföretag samlat in deras data och använt sociala medier på sätt som varit skadliga. Därför tror jag inte att de accepterar påståendet att AI kommer att bli det bästa som hänt sedan skivat bröd. De har goda skäl att inte göra det.

David Rice: De är inte teknikmotståndare. De har vuxit upp med teknik och är förmodligen den mest tekniskt kunniga generationen hittills. Skepsisen handlar inte nödvändigtvis om AI i sig, utan om var gränsen går mellan användbart och påträngande och om de litar på människorna som utvecklar och driver systemen.

Lynn Parramore: När en arbetsgivare säger att uppgifterna ska skyddas frågar sig de unga: Verkligen? Varje gång man lyssnar på nyheterna hör man om ett stort dataintrång. När arbetsgivaren säger att tekniken ska användas för välbefinnande frågar de sig också: Verkligen?

De kommer inte att säljas in på sådana löften. Om ekonomin inte erbjuder dem särskilt mycket, varför skulle de vara lojala mot den? Om de får höra att de kanske inte ens kommer att ha ett jobb eller en karriär är det naturligt att de protesterar.

En ung sjuksköterska jag talade med hade fått ett algoritmiskt program som avgjorde vilka patienter som riskerade att falla på sjukhuset. Programmet hade flera datapunkter och bedömde vem som var i riskzonen. Om systemet bedömde att en patient var i riskzonen måste olika protokoll följas.

Det låter bra, men sjuksköterskan och hennes kollegor vet att systemet ibland har fel, och de kan inte åsidosätta det. De måste därför hitta sätt att arbeta runt programmet utan att bli flaggade, samtidigt som de försöker hålla patienterna säkra. Det är inte vad vi vill att människor ska möta när de börjar arbeta – att deras mänskliga omdöme helt åsidosätts.

David Rice: Yngre människor har fått höra i åratal att de ska specialisera sig, fokusera på matematik och naturvetenskap och lära sig programmera. Nu får de höra att mjuka färdigheter är viktigast. Det är inte konstigt att de känner att allt har varit en lögn.

Lynn Parramore: Vad ska man göra med en sådan situation? En person har kanske utbildat sig inom ett STEM-område och får sedan höra att det vore bättre att ha studerat filosofi. Man kan inte bara gå tillbaka och göra om fyra års utbildning.

Samhället måste ge stöd, vidareutbildning och omskolningsprogram. Man kan inte kasta en hel generation under bussen. Om unga människor saknar hopp, förväntningar och resurser kan situationen bli explosiv.

David Rice: När allt är sagt och gjort kan det handla om fem till tio avgångsklasser av människor som måste hitta sin väg i den här nya verkligheten. Det kommer inte att bli enkelt.

Lynn Parramore: Nej, men det behöver inte bli så smärtsamt om vi reagerar klokare. Om ett stort företag som Microsoft till exempel betalar sin verkställande direktör 100 miljoner dollar samtidigt som det säger upp anställda, varför inte använda en del av resurserna till att omskola de människor som just har blivit av med jobbet?

Ett börsnoterat företag har en bolagsrättslig ställning som beviljats av samhället. Det har ett ansvar gentemot samhället och gentemot de människor som har gjort arbetet för att företaget ska lyckas. Det är inte bara aktieägarna som ska få del av fördelarna.

Jag hoppas att pendeln har svängt så långt mot att berika aktieägarna att den nu börjar svänga tillbaka. Vi måste ompröva vad vi förväntar oss av företagsledare och bolag. Företag kan vara lönsamma även när ledare förväntas ta hänsyn till flera intressenter.

David Rice: Kanske är det mer som en karusellattraktion som till slut vänder upp och ner på allt. Samhället kan behöva förändra hur bolagsstatus tilldelas. En gång i tiden var man tvungen att visa att verksamheten skapade samhällsnytta för att få status som bolag och de förmåner som följde med den.

Lynn Parramore: Vad är ett bolag till för? Det bör inte bara vara till för att göra ett fåtal personer rika och skapa miljardärer. Det fungerar inte särskilt bra tillsammans med demokrati. Man kan ha koncentrerad rikedom eller demokrati, men det är svårt att ha båda samtidigt.

Vi vill ha bolag som tillverkar bra produkter och erbjuder bra tjänster, som inte begår bedrägerier för att höja aktiekursen och som inte använder alla vinster och resurser till att berika människor som inte ens gör arbetet. De flesta kan nog enas om det.

Med AI blir frågan ännu mer brådskande eftersom utvecklingen går så snabbt och löftena är så stora. Datacentraler är bara ett exempel. En så kallad hyperskalare kan använda lika mycket energi som ett mindre land. Det påverkar elpriser, föroreningar, vattenförbrukning och jordbruk.

Ett företag bör inte kunna bestämma sig för att göra allt detta utan reglering eller inflytande från de samhällen som påverkas. Det är ett recept på katastrof.

David Rice: När anställda känner sig idealistiska och överkörda, hur tror du att de reagerar på mer AI när de känner till de sociala kostnaderna? Ledare som försöker navigera etiskt har en svår uppgift, men det är en del av jobbet. Man måste tänka igenom hur tekniken kan användas på det klokaste sättet, vad man vill uppnå och vad man inte behöver använda den till.

Lynn Parramore: Man måste också vara villig att trycka på pausknappen. Vi har sett många exempel på företag som infört AI för snabbt och utan tillräcklig eftertanke. I vissa fall har de sagt upp anställda eftersom de trodde att AI kunde göra deras jobb, för att sedan upptäcka att så inte var fallet och behöva återanställa dem.

Samma sak gäller samhället som helhet. I många fall behöver vi pausa byggandet av datacentraler tills vi vet mer om konsekvenserna. När tekniken används i vapensystem eller kärntekniska anläggningar blir det mycket oroande om den införs med så lite reglering.

David Rice: Lynn, tack för att du kom till programmet i dag. Det här har varit ett fantastiskt samtal.

Lynn Parramore: Tack. Jag är glad att du tar upp frågan. Jag är säker på att vi kommer att ha mer att prata om när utvecklingen fortsätter, så tack för samtalet.

David Rice: Om ni vill lära er mer av Lynn kan ni följa henne på LinkedIn. Hon har gett ut en bok som verkligen är värd att läsa.

Fram till nästa gång: gå till peoplemanagingpeople.com/subscribe och anmäl er till nyhetsbrevet. Där får ni alla våra poddsändningar och allt annat vi gör, inklusive artiklar och virtuella evenemang.

Och fram till nästa gång: var inte rädda för att vara filosofiska kring frågan.

Innan vi avslutar kommer här något för företag med team ute på fältet. Om du leder arbetslag på flera arbetsplatser kan det snabbt bli svårt att hålla reda på timmar och arbetskostnader. Med QuickBooks Workforce och QuickBooks Time kan du registrera arbetstid, följa arbetskostnader per projekt och hålla lönehanteringen kopplad till arbetet ute på fältet.

Oavsett om du arbetar inom bygg, fältservice eller någon annan projektbaserad verksamhet kan QuickBooks Workforce förenkla lönehantering och personaladministration. Läs mer om hur det kan stödja ditt team.