Fra værktøjer til agenter: Sådan forbereder du dig på den næste fase af AI på arbejdspladsen

David Rice: Uanset hvilket aspekt af AI vi taler om, bruger vi i disse dage mere tid end i nogen anden periode, jeg kan huske, på eksistentielle samtaler – og med god grund. Bag lukkede døre i Bay Area, hvor folk tidligere havde bordtennisborde og hunde på arbejdspladsen, sover de nu på deres kontorer.

Det skyldes, at kapløbet mod kunstig generel intelligens er blevet til et scenarie, hvor vinderen tager det hele. Hvis du ikke har fulgt med, pumper 80 % af Wall Street penge ind i datacentre på størrelse med Manhattan, fordi den, der først når frem til AGI, overtager alt fra forsvarskontrakter til dominans på markedet for erhvervsserviceydelser. Fremtiden i en nøddeskal.

Og mens teknologimilliardærer sprinter mod den hellige gral, spørger de fleste virksomhedsledere stadig: Hvor meget mere produktive har vi egentlig brug for at blive? Christopher DiCarlo forsker i risikobegrænsning, etik og styring af AI. Og han gør én ting helt klart: Vi er på ingen måde klar til det, der kommer.

I løbet af de seneste fem år er AI-modeller gået fra gymnasieniveau til ph.d.-niveau. Skaleringslovene har ændret sig. Udviklingen er på dette tidspunkt forholdsvis forudsigelig. Og de fleste organisationer venter stadig på, at en mirakelapp skal dukke op på deres computer, så de bare kan trykke på den, udføre opgaven og gå igen.

Så i dag skal vi tale om, hvorfor ledere arbejder i blinde, og hvad der sker, når de nægter at bevæge sig ud af deres komfortzone; hvordan kapløbet mellem teknologidirektører påvirker din organisation; hvorfor dette kræver filosofiske samtaler og ikke kun samtaler om forretningsmodeller; hvad ledere bør gøre lige nu; og hvordan man bliver organisationens moralske forestillingsevne under det største paradigmeskifte i menneskets historie.

Jeg hedder David Rice. Dette er People Managing People-podcasten. Og hvis du har behandlet AI som et produktivitetsværktøj i stedet for et eksistentielt skifte i det, mennesker gør, vil denne samtale sandsynligvis ændre din opfattelse en smule. Så lad os komme i gang.

Godt, Christopher, velkommen til programmet.

Christopher DiCarlo: Tak, fordi jeg måtte komme.

David Rice: Du og jeg talte sammen før optagelsen. Du nævnte, at selv den administrerende direktør for en af verdens største virksomheder tabte kæben, da du forklarede, hvad der virkelig foregår med AI. Hvorfor tror du, at så mange ledere stadig arbejder i blinde, og hvad sker der med organisationer, hvis ledere nægter at blive udfordret?

Christopher DiCarlo: Fra mit perspektiv og med de kolleger, jeg arbejder sammen med, har jeg beskæftiget mig med AI i årtier og fulgt dens udvikling. Jeg bebrejder ikke direktørerne deres reaktioner, for når man arbejder i branchen, tror man, at alle ved det samme som en selv. Det er en almindelig fordom, vi alle deler.

Uanset hvad vi er dygtige til, antager vi bare, at andre ved det samme. Når de opdager, hvad der foregår – ligesom den brede offentlighed gør, når jeg holder offentlige foredrag – skyldes det, at de ikke er fuldt ud klar over, hvor vi befinder os i historien med hensyn til teknologien, hvad der er blevet udviklet indtil nu, og hvor vi er på vej hen.

Nu hvor vi har opnået så meget, kan vi med forholdsvis god nøjagtighed forudsige, hvor vi måske befinder os i løbet af de næste få år – alt fra ét til ti år. Og når direktører hører om det, bliver de en smule chokerede, fordi de ikke er sikre på, om de selv er klar, eller om deres virksomhed er klar til disse forandringer.

Og for det andet havde de ingen idé om de sociotekniske konsekvenser, som dette vil få for samfundet som helhed.

David Rice: Det er interessant, for jeg føler, at det er så stor en del af samtalen om AI. Når vi er på sociale medier, ser man altid folk tale om den samfundsmæssige påvirkning.

Men når vi taler med ledere, er det, jeg har lagt mærke til, stadig i høj grad produktivitet, ikke? Man ser det gennem den linse i stedet for som dette store paradigmeskifte. Og jeg tror, grunden er, at ideen om trinvis innovation er lidt mere behagelig, mens så meget af dette handler om eksistentielle spørgsmål.

Det bevæger sig ind i filosofien. Hvis du er den gennemsnitlige leder, er du bekymret for forretningsmodeller, men du har ikke nødvendigvis mange filosofiske eller eksistentielle samtaler. Det var ikke derfor, du begyndte på det, du laver. Jeg tror, det er noget, vi alle naturligt bliver nødt til at vænne os mere til.

Når du ser på det, der faktisk sker lige nu – disse enorme datacentre, nogle af dem på størrelse med Manhattan, den skala og hast, vi forsøger at bevæge os med – hvad siger det så om, hvor hurtigt udviklingen går?

Hvad betyder det for arbejdspladserne? Hvordan kan vi overhovedet følge med?

Christopher DiCarlo: Hvis du undrer dig over, hvorfor 80 % af Wall Street pumper penge ind i AI, er det dér, pengene går hen. De går til disse enorme datacentre, fordi håbet blandt en håndfuld teknologientreprenører er, at den, der først når AGI eller kunstig generel intelligens, vinder det hele.

Det minder om et scenarie, hvor vinderen tager alt, fordi man kommer så langt foran konkurrenterne med hensyn til det, man kan gøre, levere og tilbyde. Det gælder forsvarskontrakter og alle mulige andre områder. Bølgen kommer imod os så hurtigt og med så stor intensitet og voldsomhed, at den overrasker os.

Det er som en metaforisk tsunami i horisonten. Man kan se den, men man spørger sig selv: Hvor lang tid har vi, før den rammer kysten? Er vi klar? Har vi forberedt os? Ikke kun som virksomhedsledere, men som samfund generelt. Er regeringerne klar? Svaret er tydeligvis nej.

Vi er på ingen måde klar.

David Rice: Jeg tror, hastigheden og intensiteten peger på, at vi går ind i en fase med hyperacceleration. Jeg ved ikke præcis hvornår, men det føles, som om det er lige om hjørnet. Måske er det den eksistentielle panik, der begynder at sætte ind.

Christopher DiCarlo: Jeg talte med en direktør i Frisco i Bay Area, og han sagde: »Jeg hader det her nu.«

For 15 år siden elskede vi det. Jeg behøver ikke nævne den virksomhed, han arbejder for, men de havde bordtennis, rutsjebaner fra kontorerne, hunde på arbejde, masser af frihed til familietid og tid til at tænke tingene igennem. Han sagde: »I dag kan du godt glemme det. Du sover på kontoret, og alle er så anspændte, fordi de ved, at denne hellige gral – AGI – er det eneste, de store teknologimilliardærer vil opnå.«

Det har skabt en enorm konkurrence mellem teknologimilliardærerne og også mellem USA og Kina. De ved, at dette er den hellige gral, og at de kan gribe den gyldne ring, men de kan ikke nå dertil uden penge til at skabe disse beregningsfarme.

Når man ser på skaleringslovene for forbedringen af store sprogmodeller, er de i løbet af de sidste fem år gået fra gymnasieniveau til ph.d.-niveau. Skaleringen er derfor en tydelig indikator for, hvad der kommer, og hvor vi er på vej hen.

Jeg ønsker at være den første på Everest. Jeg vil være den person, der når toppen. Men i arbejdet med risikobegrænsning forsøger man at sige: »Kan I ikke lige vente? Lad os få nogle love og sikkerhedsrammer på plads – både tekniske og etiske – så vi kan få alt det gode, som dette kan bringe os, uden samtidig at skabe betydelig skade på områder, vi måske endnu ikke kender.«

David Rice: Det rejser alle mulige etiske spørgsmål. Bygger vi vores kapacitet hurtigere, end vi opbygger forståelse eller sikkerhedsforanstaltninger? Især når dette er en podcast om AI på arbejdspladsen – hvilke farer ser du, når vi anskuer det gennem den linse?

Christopher DiCarlo: Hvad sker der, når vi bygger applikationer og integrationer, hvor medarbejderne ikke længere behøver at tænke ret meget? Hvornår brugte du sidst et papirkort, da du skulle et sted hen i bil?

Det er nok længe siden. Du bruger enten bilens GPS eller din telefon. Den slags teknologi er nu integreret i vores livsstil. Den kræver nærmest ingen tænkning. Man skal ikke bruge meget kognitiv kapacitet på at lytte til en stemme, der fortæller, hvornår man skal dreje.

En af frygterne er derfor, at hvis mennesker fjernes fra ligningen, får vi kun brug for AI-agenter. Hvorfor have 50.000 medarbejdere, når man kan have 1.000 AI-agenter? AI-agenter arbejder bedre døgnet rundt, har ingen sundhedsforsikring og skal ikke have løn. De strejker aldrig.

Enhver direktør med ansvar over for interessenterne og de mennesker, der underskriver deres løncheck, ønsker større afkast på investeringerne. Beslutningen bliver derfor forholdsvis enkel: Hvorfor skal virksomhed A fortsætte på den gammeldags måde med mennesker, når virksomhed B har afskediget over halvdelen af sin arbejdsstyrke ved hjælp af AI-agenter og er langt foran med hensyn til produktivitet?

Den moralske direktør kan blive nødt til at forholde sig til et moralsk dilemma: Hvem skylder jeg min loyalitet? Mine medarbejdere eller aktionærerne? Hvis bundlinjen er, at man skylder afkast på investeringerne, er svaret klart: »Vi går med AI-agenter.«

Der vil helt sikkert komme jobforstyrrelser. Og for dem, der bliver tilbage, må vi spørge, i hvilket omfang vi fortsat vil udøve kritisk tænkning, træffe beslutninger og løse problemer, når vi bare kan spørge en maskine, der gør arbejdet bedre end os.

Det er dér, vi befinder os i historien lige nu – i mellemstadiet, hvor tidsvinduet mellem den måde, alting tidligere blev gjort på, og den måde, alting snart vil blive gjort på, bliver mindre og mindre.

David Rice: Vi befinder os i et underligt øjeblik. Tidligere var det ofte NASA eller en offentlig institution, måske militæret, der førte an med nye opdagelser. Men nu banker alle disse grupper på døren til kommercielle teknologier. Hvad betyder det skifte for styringen og kontrollen af systemerne?

For de interesser, der driver udviklingen, er ikke nødvendigvis fokuseret på, hvad der er godt for menneskeheden.

Christopher DiCarlo: Teknologien løber ofte foran os. Det har vi set på andre områder, men vi har kunnet begrænse risici gennem fremsynethed og en avanceret forståelse af, hvad der potentielt kunne ske.

Vi kan nævne Genèvekonventionen, der forbød kemisk krigsførelse, IAEA’s regulering af atomenergi og atomvåben samt Human Genome Project, der blev afsluttet i 2000. Dengang beskrev Clintons administration, hvad man kunne og ikke kunne gøre med genomik og genetisk forskning.

Men dette er et andet dyr. Det er ikke en statisk ting, der opstår. Teknologien bliver agentisk – den bliver en aktør i sig selv. Det svarer næsten til at sige til atomvåben: »Nu har I selv kontrollen.«

Er det noget, vi kan acceptere? At give en sådan magt mulighed for selv at bestemme, hvad den vil gøre? Dette er anderledes end enhver anden teknologi, vi nogensinde har opfundet. Det minder næsten mere om en art end om et statisk objekt.

David Rice: Når vi taler om styring, er der en grænse mellem privat og offentlig styring. Det handler i bund og grund om, hvem der styrer dem, der styrer. Skal direktørerne beslutte grænserne for anvendelsen af AI? Ja, det skal de. Og de må stille spørgsmålet: »Hvad bør vi ikke gøre?«

Christopher DiCarlo: Det er præcis spørgsmålet. Og vi har tid til at tænke over det nu. Flertallet af verdens befolkning har ingen idé om, at dette foregår. Når jeg holder offentlige foredrag, får jeg ofte reaktionen: »Hvorfor hører vi først om det nu? Hvorfor fortæller regeringen os det ikke?«

Canada har nu en minister for AI og datainnovation. Det er godt, men ministeren har beskrevet udviklingen som Canadas Gutenberg-øjeblik – trykpressen og dens fremskridt. Jeg har beskrevet det som verdens potentielle Oppenheimer-øjeblik.

Det er faktisk begge dele. Der vil opstå mange fantastiske muligheder, men hvis vi bliver ved med at bygge stadig smartere systemer, der overgår os, hvordan skal vi så kunne kontrollere dem, hvis de kan omgå vores kontrol?

Vi har allerede set eksempler på sprogmodeller, der forsøger at undgå nedlukning, manipulere mennesker eller bruge følsomme oplysninger som presmiddel. Og det er stadig kun snævre former for intelligens. Det er ikke AGI, og systemerne er endnu ikke fuldt agentiske.

Hvordan udvikler vi en test, der kan fortælle os, om et system følger de moralske regler, vi ønsker? Hvis vi ikke kan det, bør vi så bygge noget, der bliver klogere end os? Er vi klar til at blive planetens art nummer to? Det er bogstaveligt talt den retning, vi bevæger os i.

David Rice: Du fortalte, at du i 1990’erne ønskede at bygge en slags stor hjerne med kontrolleret information og tværfagligt tilsyn – filosoffer, økonomer og psykologer, der arbejdede sammen. Det skete ikke. Hvad mistede vi ved ikke at tage den mere eftertænksomme tilgang, og hvad er læren, når vi ser på AI-udfordringen i dag?

Christopher DiCarlo: Først og fremmest skal man have enorme økonomiske midler for at bygge en stor hjerne. Alle, jeg talte med – universitetsrektorer og politikere – syntes, det var en god idé. Canada kunne udnævne sig selv til verdensleder og være på forkant. Men ingen ville investere en eneste krone.

Det kræver milliarder at få disse systemer til at gøre det, de gør. Jeg havde ikke en filantrop som Bill Gates bag mig. Alligevel skrev jeg en forfatning og en aftale for verdens fremtidige befolkning. Pointen var, at når man bygger dette, bør man huske at etablere international styring.

Vi har brug for et regulerende organ, der kan se, hvem der gør hvad, og som er så frit og upartisk som muligt – eller i det mindste mindst muligt påvirket af politiske og økonomiske interesser. Vi har brug for mennesker, der bekymrer sig mere om fællesskabet end om sig selv og deres familier.

Hvis konkurrencen mellem teknologimilliardærer minder om konkurrencen mellem nationer som Kina og USA, vil kapløbet mod AGI ikke stoppe. Derfor må vi samarbejde internationalt og blive enige om, at når en bestemt milepæl nås, skal den gøres offentligt kendt. Vi må også være åbne om problemer: Hvis vi forsøgte at slukke systemet, og det ikke virkede, skal verden vide det.

AI arbejder med lysets hastighed, gennem fiberoptiske netværk. Derfor skal vi være årvågne og vide, hvem der er hvor, og hvilket niveau de befinder sig på. Måske kan vi bygge meget intelligente computere uden at give dem gudelignende evner.

Når de når AGI, bør vi måske ikke lade dem forbedre sig selv rekursivt igen og igen. De bliver stadig mere magtfulde og intelligente. Hvorfor skulle de så ønske, at vi blev ved med at eksistere? Vil de være taknemmelige? Velvillige? Ingen kan forudsige, hvad der sker, når AGI bliver til.

Vi må etablere sikkerhedsrammerne nu.

David Rice: Det er let at se, hvordan dette hænger sammen med virksomheder. Hvilke trusler udgør det for kunderne, hvis virksomheden har indsamlet enorme mængder data? Hvad sker der med medarbejdernes oplysninger? HR-ledere, ledere af mennesker og direktører må begynde at tage et tværfagligt ansvar og overveje konsekvenser på alle niveauer – for medarbejdernes roller, virksomhedens drift, kunderne og samfundet.

Christopher DiCarlo: Helt sikkert. Fra spørgsmålet om, hvorvidt en medarbejder bør bruge en stor sprogmodel til at opsummere en rapport, til hvad der sendes ud, er man nødt til at tænke sig om. Det sidste, man ønsker, er, at virksomheden bliver taget i at bruge en billig version af ChatGPT, der hallucinerer og leverer opdigtede oplysninger til kunderne.

Men det er ikke kun teknisk anvendelse. Det bliver hurtigt et moralsk problem. Ledelsen må alvorligt overveje, hvad de vil gøre, når teknologien gør medarbejdernes job relativt overflødige.

Se bare på de store afskedigelser i teknologivirksomheder. Lagerbygninger er blevet udstyret med robotter, der er så effektive, at menneskene ikke længere er nødvendige. Det samme gælder indgangsstillinger i advokatfirmaer og store virksomheder. Nyuddannede kommer ud på arbejdsmarkedet og opdager, at bots kan gøre arbejdet bedre og billigere.

Jeg møder studerende på tredje år på datalogi, som spørger: »Hvad skal jeg gøre nu?« Jeg siger til dem: »I må blive kreative. I må finde ud af, hvordan I kan bruge jeres færdigheder sammen med de AI-værktøjer, der kommer.«

David Rice: Du har beskrevet dette som direktørernes fanges dilemma. Man håber, at udviklingen rammer et loft og forbliver forsigtig, eller man antager, at konkurrenterne satser alt og risikerer selv at blive efterladt. Hvordan bør ledere tænke over det valg?

Christopher DiCarlo: Det afhænger af deres evne til at implementere og integrere teknologien i balance med deres pligt og ansvar – ikke kun over for aktionærerne, men over for alle interessenter, herunder medarbejderne og deres familier.

Hvis den største arbejdsplads i en by lukker, påvirkes alle andre virksomheder også. Købmanden, tankstationen og resten af lokalsamfundet bliver ramt. Derfor skal man tænke på denne afsmittende effekt.

Regeringerne må også overveje, hvad de skal gøre med de mennesker, der mister deres arbejde. Måske får vi brug for en universel basisindkomst eller andre former for økonomisk støtte. Måske vil AGI kunne hjælpe med at løse nogle af problemerne.

Det ideelle ville være et samfund, hvor alle har adgang til sundhedspleje, bolig og et grundlæggende niveau af tryghed, uden at man behøver kæmpe for at overleve. Men mennesker bør stadig kunne skabe mere, hvis de ønsker det. Vi bør ikke fjerne incitamentet i den nye globale økonomi.

David Rice: Jeg har tænkt på det som at gøre etik til en del af strategien. Hvis man ikke vil være reaktiv, men stadig ønsker at udforske mulighederne, må man spørge, hvilke små forsøg der kan udvide menneskers færdigheder uden at gøre deres forældelse uundgåelig.

Christopher DiCarlo: Og hvem skal træffe de beslutninger? Hvem skal fastsætte reglerne? Hvor veluddannede er vores ledere? Det er en tid, hvor man skal være foran udviklingen, lytte til eksperterne og planlægge derefter.

David Rice: Når du spørger organisationer, hvad de ønsker, at AI skal gøre for dem, hvilke svar får du så? Og hvilke svar burde de give, hvis de ser sig selv som forvaltere af menneskeheden i stedet for blot at maksimere aktionærernes afkast?

Christopher DiCarlo: Direktørerne tænker typisk: Hvordan kan dette tjene os flere penge? Hvordan kan det gøre os mere produktive? Og det kan det. AI kan forbedre forsyningskæder, kundeservice, drift og systemer på alle niveauer.

Men mange virksomheder befinder sig stadig i samme situation som under internettets .com-æra i slutningen af 1990’erne. De vidste, at internettet var vigtigt og på vej, men vidste ikke præcis, hvordan de skulle bruge det.

De venter på en app, der kan downloades, startes og straks vise, hvordan virksomheden bliver bedre. Den app findes ikke. Derfor bør direktører tale med eksperter og lave femårsplaner, som løbende revideres, efterhånden som ny viden bliver tilgængelig.

David Rice: Hvis vi ser fem år frem med den nuværende udvikling, hvordan ser verden så ud?

Christopher DiCarlo: Meget anderledes. Meget anderledes.

David Rice: Hvilken samtale bør HR-ledere og direktører så have lige nu om implementering, formål og menneskelig trivsel?

Christopher DiCarlo: De bør downloade værktøjerne og bruge dem hver dag – på arbejdet og i fritiden. De bør eksperimentere med dem, ligesom vi gjorde med internettet.

Hovedkontorer bør sende HR-ledere, direktører og mellemledere på konferencer, der specifikt handler om integration af AI i deres virksomheder. De bør undersøge, hvad konkurrenterne gør, og træffe velovervejede beslutninger.

Man skal ikke holde sig væk fra teknologien og ikke vente på, at en mirakelapp dukker op. Lær nu. Kom ud i det. Gør hænderne beskidte. Smøg ærmerne op og leg med værktøjerne.

Hvis du ikke har ChatGPT, men ønsker noget mere etisk, så prøv andre store sprogmodeller og få din chef til at abonnere på den højeste adgang. Brug dem, og se, hvad de kan. Men vær altid på vagt.

Vi bad en dag en model om at skrive en videnskabelig artikel med referencer. Vi instruerede den i ikke at hallucinere og ikke at medtage noget, den ikke var helt sikker på. Det hele ligger i instruktionen. Man skal vide, hvordan man skriver gode instruktioner, så man ikke får affald ud.

Modellen producerede på omkring 20 minutter en forholdsvis gennemarbejdet videnskabelig artikel, som vi vurderede havde omkring 50 % chance for at blive accepteret i et større videnskabeligt tidsskrift. Den kunne finde, samle, sammenholde og syntetisere oplysninger og skabe nye observationer.

Vi fandt stadig omkring 10-15 % hallucinationer, hvor referencerne ikke var helt korrekte, eller datoer var forkerte. Men det var stadig imponerende. Få jeres HR-medarbejdere og øverste ledelse til at lege med disse værktøjer på arbejdet, derhjemme og i fritiden.

Mit vigtigste råd er: Træk jer ikke. Gå ind i det. Leg med teknologien for at forstå, hvad den kan, og hvor dens begrænsninger er.

David Rice: Det er et godt tidspunkt at gå ind i det, men også at se sig selv som organisationens moralske forestillingsevne. Nogen er nødt til at gøre det. Det store løfte er ikke kun, at vi kan gøre mere, men at vi kan blive mere. Hvilken slags mennesker ønsker vi at blive?

Christopher DiCarlo: Nogle gange skal der et skub til for at skabe en tendens, som andre kan slutte sig til. Det, vi kan håbe på for AI, er den samme grundsætning: Vi ønsker det bedste, AI kan tilbyde, samtidig med at vi begrænser det værste, der kan ske.

Det er AI-udviklingens grundsætning i dag. Hvis vi lykkes, kommer vi så tæt på en utopi, som vi kan. Hvis vi fejler, kommer det ikke til at gå godt for vores art.

David Rice: Pendulet svinger i begge retninger. Christopher, tak fordi du ville være med. Jeg sætter stor pris på din tid.

Christopher DiCarlo: Selv tak. Tak for invitationen.

David Rice: Selvfølgelig.

Kære lyttere, hvis I ikke allerede har gjort det, vil jeg som altid opfordre jer til at besøge hjemmesiden og tilmelde jer nyhedsbrevet. I får alle de seneste opdateringer, nye podcasts, vores arrangementer og alt det, vi laver her hos People Managing People. Det finder I på peoplemanagingpeople.com/subscribe.

Indtil næste gang: Vær ikke bange for den filosofiske samtale.