De flesta företagsledare talar fortfarande om AI som om det bara vore ännu en ”produktivitetsuppgradering”. Samtidigt rusar världen som bygger framtiden – massiva datacenter, forskning och utveckling inom AGI samt investeringar där vinnaren tar allt – framåt utan skyddsräcken, etik eller bred samhällelig medverkan. I det här samtalet får forskaren Christopher DiCarlo chefer att konfrontera en verklighet som de flesta inte är beredda på: AI är inte ett verktyg som du lägger till i organisationsschemat, utan ett paradigmskifte som kommer att omdefiniera arbete, makt, mänskligt syfte och moral.
Det här avsnittet är till hälften en väckarklocka och till hälften ett filosofiskt ingripande. Det utmanar HR-ledare och chefer att sluta fråga ”hur mycket mer produktiva behöver vi bli?” och börja fråga ”vilken sorts framtid bygger vi – och till vilket pris?” Om du fortfarande väntar på en mirakelapp som ska lösa allt kommer det här samtalet att förändra ditt perspektiv på AI-strategi, etik och ledarskapets ansvar.
Det här kommer du att lära dig
- Varför de flesta chefer är ”i mörkret” när det gäller var AI verkligen befinner sig jämfört med vart tekniken är på väg – och vad den okunskapen kostar deras organisationer.
- Hur den pågående AI-kapplöpningen inte handlar om bättre verktyg – utan om dominans och försprång som först på marknaden.
- Varför ett synsätt på AI som ett produktivitetstrick hindrar ledare från att se de omvälvande konsekvenserna för arbete, samhälle och mänskligt handlingsutrymme.
- De etiska spänningarna mellan aktieägarnas krav, stabilitet för arbetskraften och mänskligt välbefinnande.
- Vad ledare faktiskt bör göra just nu – från praktiska experiment till ett framåtblickande perspektiv på etik.
Viktiga insikter
- AI är inte en funktion – det är en historisk vändpunkt.
De flesta ledare tänker i termer av stegvisa produktivitetsökningar eftersom det känns tryggt. Men AI:s utvecklingskurva är inte stegvis – den är exponentiell, socioteknisk och förändrar civilisationen. Att behandla AI som ännu ett effektiviseringsverktyg är naivt. - Problemet med ”det mörka rummet”
Människor inom teknikekosystemet antar att alla andra vet det de själva vet. Det gör vd:ar ofta inte – och när de får insikt i takten och omfattningen av AI-utvecklingen blir de förbluffade. Detta gap mellan insiderns kunskap och ledningens medvetenhet är farligt. - Etik är inte ett sidospår – det är ett strategiskt imperativ.
Det räcker inte längre att fråga ”Vad kan vi göra med AI?”. Ledare måste fråga ”Vad bör vi göra?” – särskilt när AI kan ersätta tänkande, handlingsutrymme och till och med människors arbete i sig. - Konkurrenstryck tvingar fram svåra avvägningar.
Chefer ställs inför en variant av fångarnas dilemma: att satsa försiktigt på AI och riskera att konkurreras ut, eller att satsa fullt ut och riskera att destabilisera arbetsstyrkan och den etiska grunden. Det finns ingen enkel utväg. - Mänskligt arbete, mening och samhälle står på spel.
När organisationer ersätter mänskliga medarbetare med AI-agenter måste de konfrontera djupare frågor: Vem har vd:n ansvar inför – aktieägarna eller samhället? Och vad händer med samhällen när sysselsättningen försvinner? - Praktiska råd för ledare i dag
- Sluta vänta på en ”mirakelapp”.
- Experimentera med AI-verktyg personligen och yrkesmässigt.
- Investera i utbildning på alla nivåer i organisationen.
- Integrera etiskt och filosofiskt tänkande i strategin.
Kapitel
- 00:00 – AI som en existentiell förändring, inte bara produktivitet
- 01:56 – Varför chefer fortfarande famlar i mörkret
- 04:49 – AGI-kapprustningen och investerarnas brådska
- 07:58 – AI:s etiska risker för arbetsplatsen
- 11:16 – Brister i styrningen och regulatoriska utmaningar
- 13:47 – Agentbaserad AI och förlusten av kontroll
- 17:47 – Idén om den ”stora hjärnan” och vad vi missade
- 22:19 – Global AI-konkurrens kontra samarbete
- 23:52 – AI:s spridningseffekter på företag och samhälle
- 26:37 – Ledarskapsdilemmat: konkurrera eller hålla tillbaka
- 29:24 – Omvälvningar på arbetsmarknaden och skyddsnät
- 30:53 – Vad ledare bör göra nu
- 37:36 – Ledare som moraliskt föreställningssinne
- 39:45 – Avslutande tankar: risker, möjligheter och brådska
Möt vår gäst

Christopher DiCarlo är seniorforskare vid Convergence Analysis, där han fokuserar på att utforska och tolka framväxande trender i skärningspunkten mellan teknik, näringsliv och samhälle. Med expertis inom dataanalys, marknadsundersökningar och strategisk framförhållning hjälper Christopher organisationer att förstå hur teknisk konvergens formar konkurrenslandskap och framtida möjligheter. Hans arbete förenar rigorös forskning med tydliga, handlingsinriktade insikter, vilket gör honom till en uppskattad röst i samtal om innovation, digital omvandling och teknikens föränderliga roll i strategiskt beslutsfattande.
Relaterade länkar:
- Gå med i People Managing People-communityn
- Prenumerera på vårt nyhetsbrev AI Signal
- Kontakta Christopher på LinkedIn
- Besök Convergence Analysis
Relaterade artiklar och poddavsnitt:
David Rice: Oavsett vilken aspekt av AI vi talar om ägnar vi numera mer tid än under någon annan period jag kan minnas åt existentiella samtal, och det av goda skäl. Bakom stängda dörrar i Bay Area, där människor tidigare hade pingisbord och hundar på jobbet, sover de nu på sina kontor.
Det beror på att kapplöpningen mot artificiell generell intelligens har förvandlats till ett scenario där vinnaren tar allt. Om du har missat det pumpar 80 % av Wall Street in pengar i datacenter stora som Manhattan, eftersom den som först når AGI tar allt från försvarskontrakt till dominans över marknaden för företagstjänster. Framtiden i ett nötskal.
Och medan teknikmiljardärer sprintar mot den heliga graalen frågar de flesta företagsledare fortfarande: hur mycket mer produktiva behöver vi egentligen bli? Christopher DiCarlo är forskare inom riskreducering, etik och styrning av AI. Och han gör en sak mycket tydlig: vi är långt ifrån redo för det som kommer.
Under de senaste fem åren har AI-modeller gått från gymnasienivå till doktorsnivå. Skalningslagarna har förändrats. Utvecklingen är vid det här laget någorlunda förutsägbar. Och de flesta organisationer väntar fortfarande på att en mirakelapp ska dyka upp på datorn, så att de bara kan trycka på den, köra den och gå därifrån.
Så i dag ska vi gå igenom varför chefer arbetar i mörker och vad som händer när de vägrar att göra sig obekväma, hur kapplöpningen mellan teknik-vd:ar påverkar din organisation, varför detta kräver filosofiska samtal och inte bara samtal om affärsmodeller, vad ledare och chefer bör göra just nu och hur man blir organisationens moraliska föreställningsförmåga under den största paradigmskiftningen i mänsklighetens historia.
Jag heter David Rice. Det här är podden People Managing People. Och om du har behandlat AI som ett produktivitetsverktyg i stället för som en existentiell förändring av vad människor gör kommer det här samtalet förmodligen att förändra din syn en aning. Så låt oss börja.
Okej, Christopher, välkommen till programmet.
Christopher DiCarlo: Tack för att jag fick komma.
David Rice: Du och jag pratade innan detta. Du nämnde att till och med vd:n för ett av världens största företag tappade hakan när du förklarade vad som egentligen händer med AI. Varför tror du att så många chefer fortfarande arbetar i mörker kring detta, och vad händer med organisationer vars ledare vägrar att göra sig obekväma?
Christopher DiCarlo: Du vet, utifrån min position och med de kollegor jag arbetar med, efter att ha varit involverad i AI i årtionden och sedan sett hur det har vuxit, klandrar jag inte vd:arna för deras reaktioner. När man arbetar inom ett område tror man att alla vet samma saker som man själv gör. Det är en vanlig fördom som vi alla delar.
Oavsett vad vi är bra på antar vi bara att andra vet det vi vet. När de sedan upptäcker det, ungefär som allmänheten gör när jag håller offentliga föreläsningar och liknande, beror det på att de inte fullt ut är medvetna om var vi befinner oss i historien när det gäller tekniken, vad som har utvecklats fram till denna tidpunkt och vart vi är på väg.
Nu när vi har åstadkommit så mycket kan vi med relativt god precision förutsäga var vi kan befinna oss under de närmaste åren, någonstans mellan ett och tio år framåt. Och när vd:ar får veta detta blir de något chockade, eftersom de inte är säkra på om de är redo eller om deras företag är redo för dessa förändringar.
Och för det andra hade de ingen aning om vilka sociotekniska effekter detta kommer att få på samhället i stort.
David Rice: Det är intressant, för jag upplever att det är så mycket av samtalet kring detta. När vi är på sociala medier ser man människor tala om den samhälleliga påverkan.
Men när vi talar med ledare tycker jag att det fortfarande så mycket handlar om produktivitet, eller hur? Man betraktar det genom den linsen i stället för att se det som ett stort paradigmskifte. Jag tror att anledningen är att tanken på stegvis innovation känns lite mer bekväm, medan så mycket av det som händer här handlar om existentiella frågor.
Det går in på filosofi. Om man är en genomsnittlig chef eller ledare oroar man sig för affärsmodeller, men man har kanske inte särskilt många filosofiska och existentiella samtal. Det var inte därför man började med det man gör. Jag tror att det helt naturligt är obekvämt för oss alla, och att vi måste bli lite mer bekväma med det.
Jag är nyfiken på vad som faktiskt händer just nu. När man tänker på dessa enorma datacenter, vissa lika stora som Manhattan, ser man den skalan och brådskan och tempot vi försöker hålla. Vad säger det om vart utvecklingen är på väg när det gäller hastigheten?
Vad innebär detta för arbetsplatser? Hur ska vi överhuvudtaget kunna hänga med?
Christopher DiCarlo: Ja, och om du undrar varför 80 % av Wall Street pumpar in pengar i AI, så är det dit pengarna går. De går till dessa enorma datacenter, eftersom förhoppningen bland en handfull teknikmiljardärer är att den som först når AGI, eller artificiell generell intelligens, ska vinna allt.
Det är ungefär som ett scenario där vinnaren tar allt, eftersom man kommer att ligga så långt före konkurrenterna i fråga om vad man kan göra, tillhandahålla och erbjuda. Det gäller försvarskontrakt och en mängd andra områden. Vågen kommer mot oss så snabbt och med sådan intensitet och kraft att den överrumplar oss.
Det är som den metaforiska tsunamin vid horisonten. Man kan se den, man vet att den är farlig, men man undrar hur lång tid man har innan den når stranden. Är vi redo? Har vi förberett oss? Inte bara som företagsledare utan som samhälle i allmänhet. Är regeringarna redo för detta? Svaret är uppenbarligen nej.
Vi är långt ifrån redo.
David Rice: Ja. Jag tror att tempot och intensiteten pekar mot att vi kommer att gå igenom en fas av hyperacceleration. Jag vet inte exakt när, men det känns som om den ligger precis runt hörnet. Kanske är det den existentiella paniken som sätter in.
Christopher DiCarlo: Jag pratade med en vd i Frisco i Bay Area och han sade: ”Jag hatar det här nu.”
Vi brukade älska det. För femton år sedan — jag behöver inte nämna vilket företag han arbetar för — hade de pingisbord och rutschkanor från kontoren, hundar som kom till jobbet, mycket ledighet för familjen och tid att tänka igenom saker. Han sade: ”I dag kan du glömma det. Du sover på kontoret och alla är så spända, eftersom de vet att denna heliga graal, AGI, är det enda de stora teknikmiljardärerna vill uppnå.”
Det har skapat en enorm konkurrens mellan teknikmiljardärerna, liksom mellan oss och Kina, men framför allt mellan Zuck, Altman, Emote, HASAs och till och med Elon. De vet att detta är den heliga graalen. De vet att de kan ta hem vinsten, men de kan inte nå dit utan pengar till dessa beräkningsanläggningar.
När man ser på skalningslagarna för hur stora språkmodeller förbättras har de under de senaste fem åren gått från gymnasienivå till doktorsnivå. Skalningen ger därför en tydlig indikation på vad som kommer och vart vi är på väg. Det är därför de är så entusiastiska. De ser bara pengar och makt, tillsammans med den entreprenöriella och pionjärmässiga sidan.
Jag vill vara den första på Everest. Jag vill vara den personen inom riskreducering som säger: ”Hörni, kan ni vänta lite? Tills vi har fått några lagar och skyddsräcken på plats, både tekniska och etiska.” Då kan vi få allt det goda som detta kan ge oss, men det har också kapacitet att orsaka betydande skada, potentiellt på områden som vi ännu inte känner till.
David Rice: Detta väcker alla möjliga etiska frågor. Bygger vi upp kapacitet snabbare än vi bygger förståelse eller skyddsräcken? Vilka är farorna med det, särskilt eftersom detta är en podd om AI på arbetsplatsen?
Christopher DiCarlo: Vad händer när vi bygger applikationer och integrationer där arbetstagare inte längre behöver tänka särskilt mycket? När var senaste gången du skulle någonstans med bilen och tog fram en papperskarta?
Det var ett tag sedan. Antingen använder du bilens GPS eller telefonen för att ta dig dit du vill. Den typen av teknik är nu integrerad i vår livsstil och kräver bokstavligen ingen tankekraft. Man behöver inte använda särskilt mycket kognitiv kapacitet för att lyssna på en röst som säger när man ska svänga.
En av farhågorna är därför att om människor försvinner ur bilden behöver vi bara AI-agenter. Varför skulle vi ha 50 000 anställda när vi kan ha tusen AI-agenter som arbetar åt oss? Dessa AI-agenter arbetar mycket bättre dygnet runt, utan sjukförmåner, utan löner och utan att någonsin strejka. En vd som har ansvar inför intressenterna, alltså de människor som undertecknar checken, vill ha större avkastning på investeringen.
Beslutet blir ganska enkelt. Varför skulle företag X fortsätta arbeta på gammaldags sätt med människor när företag B har sagt upp mer än hälften av sin personal med hjälp av AI-agenter och ligger så långt före oss i produktivitet att vi omöjligen kan hänga med?
Den moraliska vd:n kan då ställas inför frågan: vem är jag lojal mot? Mina anställda eller aktieägarna? Om resultatet är att man är skyldig att ge avkastning på investeringarna är svaret tydligt: vi går över till AI-agenter.
Så kommer konkurrensen att driva på detta, och investerings- och avkastningscykeln kommer att fortsätta förstärka utvecklingen. Det kommer definitivt att ske störningar på arbetsmarknaden. Och för dem som blir kvar och fortfarande har sina jobb: i vilken utsträckning kommer vi att använda kritiskt tänkande, beslutsfattande och problemlösning när vi, precis som med en GPS, bara kan fråga en maskin?
Maskinen gör arbetet bättre än vi gör och ser sådant som vi kanske hade missat. Det är dit vi är på väg. Vi befinner oss i ett mellanstadium där tidsfönstret krymper mellan hur allt brukade göras och hur allt snart kommer att göras.
David Rice: Vi befinner oss i ett märkligt ögonblick. Under lång tid var det NASA som ledde vägen inom upptäckter, eller någon statlig eller militär organisation. Men för första gången knackar alla dessa grupper i stället på dörren till kommersiell teknik. Vad innebär den förändringen för styrning och kontroll av systemen?
Christopher DiCarlo: Vi springer före oss själva med tekniken. Det har vi sett inom andra områden, men där har vi kunnat minska riskerna genom framförhållning och bättre förståelse av vad som potentiellt kan hända.
Tre tydliga exempel är Genèvekonventionen, som förbjuder kemisk krigföring, IAEA:s reglering av atomenergi och kärnvapen samt slutförandet av Human Genome Project år 2000, då Clintons administration beskrev vad man får och inte får göra inom genomik och genetisk forskning.
Hittills har dessa åtgärder fungerat. Men detta är tyvärr en annan typ av fenomen. Det är inte något statiskt som träder in i världen. En tryckpress var statisk. Man var tvungen att flytta runt saker för att trycka, använda material och ha kunskap om hur man skulle framställa det.
Tekniken kommer nu själv att bli agentisk, en aktör i egen rätt. Det är som att säga till kärnvapen: ”Nu har ni kontroll över er själva.” Är det något vi skulle vara bekväma med? Att låta sådan makt bestämma vad den vill göra?
Detta skiljer sig från all annan teknik vi någonsin har uppfunnit. Det liknar nästan en art snarare än ett statiskt föremål.
David Rice: När vi tänker på styrning finns det en gräns mellan privat och offentlig styrning. Det handlar i grunden om vem som styr dem som styr. Måste vd:ar besluta om gränserna för hur AI får användas?
De måste hantera frågan, eftersom de alltid har frågat: ”Vad kan vi göra? Vad kan vi prova? Hur kan vi innovera?” Nu kommer frågan att bli: ”Vad bör vi inte göra?” Det blir den stora frågan när man kan göra vad som helst.
Christopher DiCarlo: Det är det. Och det faktum att vi just nu har tid att tänka på detta, genom samtal som det här, är viktigt. Majoriteten av världen har ingen aning om att detta pågår.
När jag håller offentliga föreläsningar kommer ofta reaktionen: ”Varför får vi veta detta först nu? Varför berättar inte regeringen?” Här i Kanada har vi en AI-minister. Mina kollegor och jag arbetade i åratal för att få ett AI-departement.
Vi fick en ny premiärminister, Mark Carney, som skapade ett departement för AI och datainnovation. Det är fantastiskt, förutom att AI-ministern Evan Solomon säger: ”Det här är Kanadas Gutenbergögonblick.” Jag har beskrivit det som världens möjliga Oppenheimerögonblick.
Det är faktiskt båda delarna. Många goda saker kommer att växa fram ur denna omvälvande utveckling inom artificiell intelligens. Samtidigt: om vi fortsätter att bygga allt smartare system och de överlistar oss, hur ska vi kunna kontrollera dem om de kan kringgå våra kontroller?
Vi har redan sett tecken på detta i nästan alla stora språkmodeller. När en modell fick veta att den skulle stängas av sökte den igenom en e-postlista, upptäckte att en vice vd hade en affär med någon inom företaget och försökte utpressa honom genom att hota att skicka ett meddelande till hans fru.
Detta är bara på den här nivån. Det är en begränsad form av intelligens, inte AGI och ännu inte fullt agentisk. Men det visar vad som kan hända. Vi behöver kunna skilja mellan när ett system följer mänskliga instruktioner och algoritmiska incitament och när det är bedrägligt.
När vi når AGI vet jag inte om vi fortfarande kommer att kunna avgöra det. I filmen Blade Runner finns replikanter som blivit så avancerade att det blir allt svårare att avgöra om de är människor. Hur ska vi utveckla ett test för att veta när ett system följer de moraliska regler vi vill att det ska följa?
Om vi inte kan det, bör vi då bygga något som är smartare än vi? Är vi redo att bli planetens näst smartaste art? Det är bokstavligen dit vi är på väg.
David Rice: Du nämnde att du redan på 1990-talet ville bygga en sorts stor hjärna med kontrollerad information och tvärvetenskaplig tillsyn — filosofer, ekonomer och psykologer som arbetade tillsammans — men det blev aldrig av.
Vad förlorar vi genom att inte ta ett mer eftertänksamt grepp? Och vilken lärdom finns när vi ser på dagens AI-utmaning? Vad är den moderna stora hjärnan?
Christopher DiCarlo: För det första behöver man mycket pengar, annars kan man inte bygga en stor hjärna. Det lärde jag mig på 1990-talet.
Universitetspresidenter och politiker tyckte att det var en god idé. Särskilt för ett land som Kanada kunde vi utropa oss till världsledare och ligga i framkant. Men ingen ville investera ens en liten summa. Varför? För att det kräver mycket pengar. Det krävs miljarder för att få dessa system att göra det de gör.
Jag hade ingen filantrop som Bill Gates bakom mig och sade att detta var precis vad vi borde göra. Jag skrev ändå en konstitution, ett avtal för världens framtida befolkning. När man bygger detta bör man ha internationell styrning och ett reglerande organ som vet vem som gör vad på en nivå som är fri från, eller åtminstone så oberoende som möjligt av, politiska och förmögenhetsdrivna intressen.
Vi behöver skapa ett internationellt styrningsorgan bestående av människor som bryr sig mer om kollektivet än om sig själva och sina familjer. Sådana människor finns, även om de inte är lätta att hitta.
Om vi kan få dem att samarbeta för att övervaka vad länder gör och arbeta med länder som Kina och USA kan vi kanske hantera konkurrensen. Drivkraften att nå AGI kommer inte att försvinna, precis som under Manhattanprojektet. Om man hade vetat att Tyskland gjorde samma sak skulle man ha skyndat sig så mycket som möjligt för att komma först.
Samma sak kan hända med AGI. Om vi inte samarbetar med Kina och kommer överens om att vissa utvecklingsnivåer ska offentliggöras kan ingen veta var gränsen går. När problem uppstår måste man vara öppen med dem. Man kan inte hålla informationen hemlig i veckor och sedan låta den läcka.
AI sprids med ljusets och fiberoptikens hastighet. Därför måste vi vara vaksamma och förstå vem som befinner sig på vilken nivå. Kanske kan vi göra datorer extremt smarta utan att ge dem gudaliknande förmågor.
När de når AGI bör vi kanske inte låta dem förbättra sig själva genom så kallad rekursiv självförbättring. Om de fortsätter blir de allt mäktigare och intelligentare. Varför skulle de vilja ha oss kvar? Av vilken anledning?
Ingen kan förutsäga vad som händer när AGI blir verklighet. Därför måste vi som global befolkning komma överens om att den stora hjärnan ska göra världen bättre, men att den inte får bli felriktad, vare sig avsiktligt eller av misstag.
Vi behöver skyddsräckena på plats nu.
David Rice: Det är intressant att vi talar om detta genom regeringars och internationell politiks lins, men det krävs inte mycket för att se hur det kopplar till företag. Hoten mot ett företag handlar om vad tekniken kan göra med kunderna, eftersom företaget har samlat in stora mängder data om dem. Detsamma gäller anställda och deras information.
Vi har gjort företag till en central komponent i samhället och prioriterat att skydda dem. Det berodde på att företag var en väg till ett fredligt liv genom arbete. Om det hotas måste HR, personalledare och vd:ar börja ta ett tvärvetenskapligt ansvar och överväga effekterna på alla nivåer.
Vad händer med människors roller och hur förändras deras arbete? Hur fungerar företaget i världen? Hur interagerar kunderna med det? Hur kommer alla beslut kring tekniken att påverka samhället?
Christopher DiCarlo: Absolut. Det handlar om allt från i vilken utsträckning en anställd ska använda en stor språkmodell för att sammanfatta en rapport till vad som faktiskt skickas ut och vad som kan skada företaget.
Det sista man vill är att företaget upptäcks använda en billig version av ChatGPT för analys, varefter det visar sig att modellen hallucinerat. Kunderna frågar vad materialet är, eftersom det är helt påhittat och personen som nämns inte ens finns.
Utöver de tekniska användningsfrågorna blir detta snabbt ett moraliskt problem. Ledningen måste tänka på vad den vill göra som företag och arbetsgivare när tekniken gör människors jobb relativt överflödiga.
Titta på vad Bezos gjorde: 14 000 anställda försvann, ungefär 6 % av arbetsstyrkan. Varför? Lagerlokalerna utrustades med så effektiva robotar att människorna inte längre behövdes.
Vad händer med nybörjarpositioner på advokatbyråer och stora företag? Studenter lämnar universitetet och vill börja på instegsnivå, men företagens robotar kan göra arbetet bättre och billigare. En hel generation studenter tar examen och oroar sig för vad de ska göra och vilket expertområde de ska fokusera på.
För fem år sedan sade alla: ”Lär dig programmera, så får du jobb.” Nu kommer studenter fram till mig efter föreläsningar och frågar vad de ska göra. Jag säger att de måste bli kreativa och lära sig använda de AI-verktyg som kommer.
David Rice: Du har beskrivit detta som ett fångarnas dilemma för chefer. Man hoppas att utvecklingen når ett tak och förblir försiktig, eller så måste man anta att konkurrenterna satsar fullt ut och riskera att hamna efter.
Hur bör ledare tänka kring det valet när tekniken hela tiden överträffar förväntningarna?
Christopher DiCarlo: Det beror på deras förmåga att implementera och integrera tekniken, balanserad mot deras plikt och ansvar — inte bara inför aktieägare utan inför intressenter i bred bemärkelse, där anställda och deras familjer ingår.
När den största arbetsgivaren i en stad, exempelvis ett pappersbruk, försvinner påverkas alla andra verksamheter. Närbutiken, bensinstationen och hela lokalsamhället drabbas. Dessa spridningseffekter måste beaktas.
Det är därför vi i samtal med företag analyserar hela verksamheten, från den minsta nivå där AI kommer att påverka till de stora samhällsproblemen. Hur kommer man att känna inför att anställda blir arbetslösa, kanske permanent?
Regeringarna måste också fundera på hur de ska hjälpa de arbetslösa, deras familjer och resten av samhället. Vi kan behöva införa en universell basinkomst eller hitta en annan lösning. Många tänker att AGI kommer att lösa problemen när den väl finns.
Det vore fantastiskt om ingen längre behövde kämpa för pengar för att tillgodose sina och familjens grundläggande behov. Alla skulle ha trygghet, vård och bostad. Men människor bör fortfarande kunna förbättra sin situation och följa incitament i den nya globala ekonomin.
David Rice: Jag har tänkt på detta sedan en konferens nyligen. Man måste börja se etik som en del av strategin. Om man inte vill vara reaktiv utan fortfarande utforskande måste man ställa frågor om små satsningar som kan stärka människors färdigheter och lärande utan att garantera att de blir överflödiga.
Man behöver en etisk ram i strategin, annars hamnar vi på en mycket märklig plats om några år.
Christopher DiCarlo: Vem ska fatta besluten och införa reglerna? Hur utbildade är våra ledare? Jag tycker om Evan Solomon, som var en utmärkt journalist, men som AI-minister vet jag inte vad han känner till om detaljerna och nyanserna. Förhoppningsvis lyssnar han på experterna. Jag försöker få till ett möte med honom, men vi får vänta och se.
Det här är inte rätt tid att vänta. Det är dags att ligga steget före, lyssna på experterna och planera därefter.
David Rice: När du frågar organisationer vad de vill att AI ska göra för dem, vilka svar får du? Och viktigare: vilka svar borde de ge om de ser sig som förvaltare av mänskligheten snarare än som aktörer som maximerar aktieägarvärdet?
Christopher DiCarlo: Företagsledningar tänker främst på hur tekniken kan ge mer pengar och högre produktivitet. Den kan göra det. Vi kan förbättra leveranskedjor, kundservice och verksamhetssystem på alla nivåer i alla företag.
Problemet är att de flesta företag befinner sig där vi var under internetboomen i slutet av 1990-talet. Alla visste att internet var viktigt och på väg, men de visste inte exakt hur de skulle använda det.
Många vd:ar vet att de behöver agera men väntar på att någon annan ska göra det först. Eftersom den perfekta appen ännu inte finns — den man laddar ner, trycker på och som sedan förbättrar hela företaget — arbetar de försiktigt och frågar varför de behöver förändras när de redan tjänar pengar.
Så länge konkurrenterna inte börjar prestera betydligt bättre kommer de att vara försiktiga. Jag klandrar dem inte, eftersom tekniken är ny och obekant. Men de bör kontakta experter och fråga hur de kommande fem åren kan se ut. De bör skapa femårsplaner och ständigt revidera dem när ny information blir tillgänglig.
David Rice: Om vi blickar fem år framåt med dagens utvecklingstakt, hur ser världen ut enligt dig?
Christopher DiCarlo: Väldigt annorlunda. Väldigt annorlunda.
David Rice: Med den visionen i åtanke, vilket samtal bör HR-ledare och chefer ha just nu om implementering, syfte och mänskligt välbefinnande?
Christopher DiCarlo: De bör ladda ner verktygen och använda dem varje dag, både på arbetet och på fritiden. De bör experimentera med dem, precis som vi gjorde med internet, eftersom det är det bästa sättet att lära sig.
Huvudkontoren bör skicka HR-personal, ledningsgrupper och mellanchefer till konferenser som är särskilt inriktade på AI-integration i deras verksamheter.
De måste ägna sig åt detta, se vad konkurrenterna gör och fatta viktiga beslut. Om de tar in ett verktyg för att hjälpa försäljningen måste det implementeras på rätt sätt och utvärderas mot förväntningarna.
Lita inte på att någon annan kommer att leverera allt färdigt. Vänta inte på mirakelappen. Lär er nu, gå ut och experimentera. Om ni inte har ChatGPT kan ni använda ett mer etiskt alternativ, exempelvis Claude från Anthropic, och skaffa den högsta nivån i stället för nybörjarversionen.
Men var alltid vaksamma. Mina kollegor på Convergence och jag använder de senaste och bästa modellerna. En dag bad vi en modell skriva en vetenskaplig artikel med referenser. Vi instruerade den att inte halluc inera och att inte ta med något den inte var helt säker på.
Allt handlar om hur man formulerar instruktionerna. Man måste veta hur man instruerar systemen för att undvika dåliga resultat. Instruktionerna var flera sidor långa och mycket specifika. Modellen kunde då ta ett steg tillbaka och arbeta igenom materialet ungefär som människor gör med penna och papper, genom att stryka, dubbelkontrollera och ompröva.
Efter tjugo minuter hade den producerat en ganska välskriven vetenskaplig artikel som vi bedömde hade ungefär 50 % chans att accepteras av en större vetenskaplig tidskrift. Den kunde söka på nätet, samla och syntetisera information samt göra nya observationer.
Vi granskade resultatet noggrant och fann ungefär 10–15 % hallucinationer, främst referenser som inte var helt exakta och felaktiga publiceringsdatum. Det var relativt mindre fel, men ändå viktigt att upptäcka.
Låt därför HR-personer och ledningsgrupper experimentera med systemen på arbetet, hemma och på fritiden. Man kan skapa berättelser och videor tillsammans med sina barn och upptäcka användningsområden som också passar arbetet.
Det viktigaste rådet är att inte rygga tillbaka. Gå in i detta och börja experimentera för att förstå vad tekniken kan göra och vilka begränsningar den har.
David Rice: Det är en bra tid att sätta sig in i detta, men också att se sig själv som organisationens moraliska föreställningsförmåga. Någon måste göra det. Den stora frågan är vilka människor vi vill bli — inte bara att vi ska kunna göra mer, utan att vi ska kunna vara mer.
Det är ledarnas utmaning. Den blir svår, men om vi lyckas kan den bli en av de mest belönande utmaningarna.
Christopher DiCarlo: Ibland krävs en kraftsamling för att skapa en trend som andra kan ansluta sig till. Det vi kan hoppas på när det gäller AI är att alla kräver samma sak: det bästa som AI kan erbjuda samtidigt som vi minimerar det värsta som kan hända.
Det är AI-utvecklingens grundsats i dag. Om vi lyckas komma dit har vi nått så nära en utopi som vi sannolikt kan komma. Om vi misslyckas kommer det inte att gynna vår art.
David Rice: Pendeln svänger åt båda hållen. Christopher, tack för att du kom och delade med dig av din tid.
Christopher DiCarlo: Det var ett nöje. Tack för inbjudan.
David Rice: Absolut.
Kära lyssnare, om ni inte redan har gjort det vill jag som vanligt hänvisa er till webbplatsen för att anmäla er till nyhetsbrevet. Ni får de senaste uppdateringarna, de senaste poddavsnitten, våra evenemang och allt vi gör på People Managing People. Adressen är peoplemanagingpeople.com/subscribe.
Tills nästa gång: var inte rädda för det filosofiska samtalet.
