De skjulte kostnadene ved dårlig innføring av KI (og hvem som bør løse det)

David Rice: Selskapet ditt bruker hundretusenvis, kanskje millioner, på KI-verktøy. De ansatte bruker dem ikke, og når de gjør det, skaper det flere problemer enn det løser. Høres dette kjent ut? Du har sikkert hørt meg si dette før, men dette er ikke et teknologiproblem. Det er et beredskapsproblem. Og grunnen til at KI-investeringene dine ikke fungerer, har ingenting med selve verktøyene å gjøre. Det handler om den grunnleggende mangelen på samsvar mellom maskinell autonomi, menneskelig tillit og kompetanse – noe som koster deg langt mer enn du kanskje er klar over.

Jeg heter David Rice. I dag skal vi på People Managing People ha en samtale som utfordrer mye av det du har blitt fortalt om innføring av KI.

Gjest er David Swanagon. Han er grunnlegger og sjefredaktør for Machine Leadership Journal. Han har brukt flere år på å intervjue hundrevis av KI-ingeniører og ledere for å forstå hvorfor USA ligger etter når det gjelder KI-beredskap, til tross for at landet har tilgang til alle de beste verktøyene. I denne episoden lærer du om et tredimensjonalt rammeverk som hjelper deg med å diagnostisere nøyaktig hvor KI-innføringen din bryter sammen. Du får vite hvorfor CIO-en din ikke bør være den eneste lederen som eier denne omstillingen, og hvorfor CHRO-en må ta ansvar på måter vedkommende sannsynligvis ikke har innsett ennå. Og viktigst av alt: Du sitter igjen med en tydelig forståelse av hvordan du kan slutte å behandle KI som en teknologilansering og begynne å behandle det som den menneskelige systemutfordringen det faktisk er.

Velkommen til People Managing People-podkasten – programmet der vi hjelper ledere med å holde arbeidet menneskelig i KI-alderen. Jeg heter David Rice og er programleder. I dag har jeg med meg David Swanagon. Han er grunnlegger og sjefredaktør for Machine Leadership Journal. Vi skal snakke om – du gjettet det – ledelse i KI-æraen, hva beredskap innebærer, og hvilke egenskaper gode ledere har.

David, velkommen!

David Swanagon: Takk. Jeg ser frem til samtalen.

David Rice: Du studerer åpenbart dette like grundig som oss, så jeg vil begynne her. Vi snakket sammen før opptaket, og du sa at USA ligger etter når det gjelder KI-beredskap. Jeg er i stor grad enig, men det skyldes ikke mangel på verktøy. Det skyldes manglende beredskap hos menneskene.

Vi sier dette, men hva betyr det egentlig, og hvorfor bør ledere bry seg – eller forvente at situasjonen skal være annerledes?

David Swanagon: Det er et fantastisk spørsmål. Dette var på en måte COVID-prosjektet mitt mens vi alle satt hjemme. Jeg brukte tiden på å intervjue hundrevis av KI-ingeniører og robotikkeksperter for å forstå hvilke egenskaper som er unike for kunstig intelligens, og som kan skille seg fra vanlig læring.

Det vi fant, var at KI-ingeniører er svært unike når det gjelder hvordan hjernen deres fungerer. Dette er menneskene som faktisk bygger språkmodeller. Og tro det eller ei: Språkmodellene ligner mye på KI-ingeniørene som utvikler dem. Vi fant interessante egenskaper som korttidsminne og kreativitet. Vi skal sannsynligvis gå nærmere inn på dette. Romlig intelligens – evnen til å komme seg fra punkt A til punkt B. Det finnes mange ferdigheter som er svært unike og særpregede innen KI-ingeniørfaget, men det amerikanske tankesettet er ikke innrettet mot å utvikle dem. Det fokuserer på andre ferdigheter.

Tradisjonelt ville man tenke på de såkalte Big Five-personlighetstrekkene. Ekstroversjon blir sett på som en ledende indikator på lederskap og lederberedskap, mens de fleste av de fremste patentprodusentene og innovatørene innen KI-ingeniørfaget er introverte. Hvis du noen gang vil gjøre en morsom øvelse, kan du gå til Gemini, Claude eller en av de andre tjenestene og be dem gjøre et tankeeksperiment: Spør hvilken personlighet de har basert på Big Five-trekkene.

Alle språkmodellene vil først gi deg motstand. De sier: «Jeg er en maskin, ikke sant?» Men når du får dem til faktisk å svare, sier de: «Vi er introverte. Vi er svært medgjørlige. Vi er åpne og kreative.» Det interessante er at hvis du ser på hvordan det amerikanske skolesystemet fungerer, og begynner der før du går videre til KI-beredskap i en virksomhet, finnes det 40 AP-fag i læreplanen på videregående skole.

Det finnes ikke ett eneste fag i lineær algebra, og det overrasker mange. Men lineær algebra er det grunnleggende og viktigste konseptuelle rammeverket for maskinlæring og nevrale nettverk, fordi det omfatter alt fra skalarprodukt og vektorer til hvordan mange av disse nevrale nettverkene gjennomfører propagasjon.

Du må ha en solid forståelse av lineær algebra. Men det amerikanske skolesystemet er ikke engang satt opp for å bygge disse grunnleggende ferdighetene. Når du så kommer inn i næringslivet, eies mange av disse ferdighetene av mindre enn én prosent av de ansatte. Det handler altså i stor grad om at man ikke prioriterer de riktige ferdighetene. Det er ikke fordi noen gjorde dette med vilje, men fordi disse maskinene gjenspeiler personlighetene til utviklerne sine.

Mange av disse utviklerne er svært forskjellige fra tradisjonelle ledere. Korn Ferry, AI og Kiewit – alle disse miljøene – har et blindområde fordi språkmodellene ikke speilet ledertrekkene de hadde sett hos toppledelsen. De speilet ledertrekkene til utviklerne, og de er helt forskjellige mennesker.

Det er derfor USA ligger etter på mange områder.

David Rice: Det er interessant, for når vi snakker om beredskap, tenker mange bare på ferdigheter eller kulturell beredskap. Men slik jeg forstår deg, er vi på enkelte områder faktisk ikke kognitivt klare for dette. Når jeg tenker på lederskap, tenker jeg på ting som tilpasningsevne og evnen til å skape tillit og trygghet rundt beslutningene dine – ikke bare teknologisk forståelse. Det virker som om det er der vi mangler mest akkurat nå. Det er sannsynligvis ikke en god kombinasjon.

David Swanagon: Det stemmer helt. Jeg presenterte nylig ved Columbia sammen med kollegaen min Steven McIntosh.

Vi utviklet et rammeverk med fokus på hvordan man kan optimalisere KI-innføring. Basert på forskningen fant vi at det finnes tre dimensjoner som påvirker grunnleggende effektivitet eller innføring av en maskin. Det kan være hvilken som helst type maskin. Hvis du tenker på et tredimensjonalt X-, Y- og Z-rutenett, er Y-aksen maskinell autonomi.

Nederst har du en kalkulator, og øverst har du Arnold Schwarzenegger – den superladede maskinen. Autonomien øker når du beveger deg oppover. På den horisontale aksen har du tillit. På venstre side har du ingen tillit, og på høyre side har du full tillit. Z-aksen deler de to.

Det er en diagonal linje, og den representerer KI-kompetanse. Tanken er at hvis du vil optimalisere KI-innføringen, må du balansere maskinell autonomi med tillit og KI-kompetanse. Disse tre dimensjonene må være i likevekt for at en virksomhet skal få mest mulig ut av en maskin på den mest risikoeffektive måten.

Matematisk betyr dette at de grunnleggende beregningskostnadene er mest effektive når disse tre faktorene er i balanse. Problemene oppstår når én av variablene ikke er på linje med de andre. Da må virksomhetene bruke penger på personvernprogrammer, styringsprogrammer og kompetanseprogrammer.

Jo større datasettet er, og jo mer utbredt modellen er, desto dyrere blir innføringen. Det interessante er at mange av disse virksomhetene ikke har en metode for å måle KI-innføring. De sporer bare beregningskostnader, som kostnader for datasentre, flyttallsoperasjoner og lignende.

Men de vet at det ikke fungerer i virksomheten. De vet at det ikke fungerer. Når du systematisk sporer autonomi, tillit, kompetanse og samsvar eller manglende samsvar mellom dem, kan du beregne kostnaden ved dårlig KI-innføring. Og den er stor. Den er betydelig.

Jeg tror det er her de interessante utfordringene rundt KI-beredskap ligger. For det første må man forstå at innføring er noe helt annet enn distribusjon. Det fascinerende er at CIO-en har fått ansvar ikke bare for å utforme, teste og distribuere verktøyene, men også for å få dem tatt i bruk. Et av argumentene vi fremmer gjennom forskningen vår, er at innføringen bør eies av CHRO-en fordi den handler om kultur, tillit, autonomi og ferdigheter. CIO-en bør stå for utforming, testing og distribusjon, men stoppe der og samarbeide med CHRO-en om innføringen.

Det krever noe kompetansebygging på CHRO-nivå.

David Rice: Ja, jeg kom nettopp tilbake fra en konferanse der dette ble tatt opp ganske ofte. Alle snakker om de to arbeidsområdene. Jeg liker dette rammeverket fordi det er en god måte å tenke på et problem vi alle har snakket om: Dette er ikke et teknologilanseringsproblem. Det er en balansegang. Mitt oppfølgingsspørsmål er om man kan overvekte én faktor på bekostning av de andre. Ser vi for eksempel at noen overvektlegger autonomi uten å ha tillit eller kompetanse på plass? Skaper det kaos?

På den andre siden kan for mye kontroll kvele innovasjonen. Hvordan skaper vi denne balansen?

David Swanagon: Det er et fantastisk spørsmål. I forskningen vår begynte vi med spillteori da vi bygget modellen. Tenk Russell Crowe, «Et vakkert sinn», John Nash og den typen ting.

Han utviklet mange formler for hva som skjer i et ikke-kooperativt spill mellom to aktører. Den ene aktøren har asymmetrisk informasjon og velger å ikke samarbeide. Når dette skjer mellom to mennesker, har spilleren med asymmetrisk informasjon mange fordeler, og det må foregå mye siling og signalgivning for at spilleren uten informasjon i det hele tatt skal kunne konkurrere.

Vi spurte oss selv: Hva om spilleren ikke er et menneske? Hva om det er en maskin? Hva om en maskin bestemmer seg for ikke å samarbeide? Da vil den ha det asymmetriske fortrinnet, men det blir forsterket mange ganger. Vi fant at John Nashs formler ikke fungerer når man tar hensyn til skalaen, utbredelsen og kraften i en språkmodell dersom den oppnår et autonominivå der den ikke lenger lytter.

Det er her balansegangen kommer inn. Hvis du øker autonomien for mye uten at ferdighetene er til stede for å overvåke den, oppstår en ubevisst delegering. Mer beslutningsmyndighet overføres til maskinen, enten menneskene innser det eller ikke.

Et godt eksempel er en kirurgisk robot. De fleste forstår ikke hvor fascinerende modellen bak denne teknologien er. En kirurgisk robot har samme type algoritme som en robotstøvsuger. Den kalles en SLAM-algoritme. Forskjellen er at veggene og takene i en bolig vanligvis er de samme når robotstøvsugeren kartlegger huset. Algoritmen er riktignok komplisert, men den er begrenset av de samme forholdene.

Det er annerledes i menneskekroppen, fordi vevet hele tiden endrer seg. Nyrene, blodstrømmen og alt annet er i bevegelse. Derfor brukes en annen formel, en såkalt deformérbar SLAM-algoritme.

Når den kirurgiske roboten fører endoskopet inn i en pasient, kartlegger den menneskekroppen fra topp til tå. Under inngrepet beregner den kontinuerlig på nytt hvordan blodstrømmen og vevet deformeres, og bygger en modell av dette. Dataene lagres et sted.

Hvis AWS er skyleverandøren, har de ikke bare DNA-et ditt – altså hele den biologiske sammensetningen din. Hvis du handler på Whole Foods og betaler med håndflaten, har de også biometriske data og kjøpshistorikken din. Disse skyleverandørene ender i praksis opp med å eie hele menneskeopplevelsen fra et datap ståsted.

Det er det som skjer når maskinell autonomi ikke kontrolleres: hyperskalere får i praksis eierskap til hele menneskeopplevelsen gjennom data. Det er farlig. Tenk om AWS eier alle disse dataene, og noen får ideen om at vi bør ha robotpoliti eller robotdommere. Da har de alle disse dataene, i tillegg til midlene til å håndheve bestemte typer atferd.

Det er et verst tenkelig scenario. Den eneste måten å motvirke det på er å begrense autonomien til et akseptabelt tillitsnivå. Tillit handler ikke bare om hva én person føler. Det handler også om hva samfunnet mener maskinen bør ha ansvar for. Problemet er at vi ikke har denne samtalen, fordi folk mangler ferdighetene. Hvis du spør noen om en kirurgisk robot, forstår de fleste ikke hvordan den deformérbare SLAM-algoritmen fungerer.

Hvis du forteller dem hvilke data som samles inn, tror jeg alle ville sagt at det må finnes lover for hvordan dataene samles inn, og at Amazon sannsynligvis må dele dem opp på forskjellige servere som eies av ulike aktører. Folk ville ønsket seg alle mulige tiltak hvis de visste hva som foregikk.

Dette blir ikke undervist til alle, og jeg trekker ikke frem Amazon spesielt. Det er bare et eksempel. En skyleverandør kan øke sin tilgang og autonomi uten tilsvarende tillit eller kompetanse. Resultatet er at beslutningsmyndigheten flyttes til skyleverandøren, for hvordan skal et menneske kunne si noe når det ikke vet hva som foregår?

Dette er spillteori. Jeg tror ikke skyleverandørene nødvendigvis gjør dette med vilje, men én av strategiene til en spiller med et asymmetrisk fortrinn er å begrense informasjonen den andre spilleren får. Slik vinner man spillet. Slik skaper man den dominerende strategien.

Hvis innbyggerne forstår hva disse bruksområdene gjør, kan de utvikle en likevekt mellom tillit og ferdigheter. Det begrenser det asymmetriske fortrinnet. En mulig løsning er motvirkende agenter: Maskiner bør overvåke andre maskiner. Det bør finnes tillitsbaserte maskiner som vurderer autonominivået til andre maskiner, og som sørger for at beslutninger bringes til styringskomiteen og autonomien reduseres dersom den overstiger kompetansen.

Det er et verst tenkelig scenario, men folk bør forstå det. Jeg tror de ville blitt sjokkert hvis de visste hvor mye data hyperskalererne faktisk har.

David Rice: Det er interessant, for da du snakket om blodstrømmen og alt det der, tenkte jeg på en organisasjon – hvordan den beveger seg, hvilke egenskaper den har og alt som skjer i den. Så vet de på en måte alt om organisasjonen. Og så tenkte jeg: Det er jo en fantastisk måte å markedsføre flere produkter til dem på. Man får håpe de er fornøyde med AWS-tjenesten sin.

David Swanagon: Ja. Microsoft og Meta slipper unna i denne samtalen.

David Rice: Ja, ikke sant. Hvis noen hos Amazon vil klage, sier jeg bare at dette følger med territoriet når man er en stormakt.

David Swanagon: Nettopp.

David Rice: Du har studert hvilke kognitive og kreative egenskaper som kjennetegner gode KI-ledere. Hva har du lært om hvordan de tenker?

David Swanagon: Dette er fascinerende. Kaninhullet går veldig dypt.

Jeg begynte som sagt med dette under COVID, men den første forskningen min så på alle patentsøknadene innen KI, generativ KI, robotikk og så videre. Jeg kryssrefererte dem med personene bak og undersøkte hvor de jobbet, hvor de kom fra og deres statistiske kjennetegn.

Vi fant noen markører som skilte seg ut. Det var dette som interesserte meg: Disse personene var annerledes enn en tradisjonell finansdirektør i Goldman Sachs eller en toppsjef i PepsiCo. De oppførte seg annerledes. De tenkte annerledes, men de var like innenfor sin egen sammensatte gruppe.

Alle som søker om disse patentene, har lignende egenskaper, men de er svært forskjellige fra andre personer i seniorlederroller. Det er viktig å forstå at teknologiledere og teknologiutviklere er forskjellige. Elon Musk kan ha utviklet ting på et tidspunkt i karrieren, men i dag er han ikke robotikkutvikler.

Han er for eksempel ikke utvikler av dyp læring. Å sammenligne personligheten hans med en KI-ingeniør ville derfor være en falsk ekvivalens, fordi han fortsatt er mer en tradisjonell leder. Selv om han er en forstyrrer og innovatør, er han ikke personen som genererer patenter og skriver dyp kode for nevrale nettverk. Det er viktig å huske at selv toppsjefene i teknologiselskaper ikke nødvendigvis har egenskapene vi fant i forskningen, med mindre de faktisk er utviklere.

Forskningen begynte med de kognitive prosessene. I alle intervjuene forsøkte jeg å forstå hvordan hjernen til en person fungerer sammenlignet med det vi tradisjonelt ser i arbeidslivet. Jeg intervjuet mange tradisjonelle ledere innen forsyningskjeder, markedsføring og HR, og laget et sammensatt bilde av hvordan hjernen fungerer når de tar beslutninger.

Det var ganske konsistent med tradisjonell forskning. Deretter gjorde jeg det samme med KI-ingeniører innen datasyn, robotikk, avanserte bruksområder, naturlig språkbehandling, språkmodeller og så videre. Vi begynte med hukommelse. Det fascinerende er at én bestemt del av hukommelsen er svært forskjellig mellom KI-ledere og tradisjonelle ledere: arbeidsminnet eller korttidsminnet.

Det gir egentlig mening. Hvis du ser på MLOps-prosessen, finnes det så mange sammenkoblede trinn, så mange daglige oppdateringer, ulike leverandører, lagringssteder og kodebaser, og alle disse verktøyene er enten under utvikling eller i produksjon.

En KI-leder må derfor være svært god til å huske og organisere informasjon på kort sikt, for deretter å overføre den til langtidsminnet og vite hvilken informasjon som skal overføres. Gjennom alle testene våre fant vi at korttidsminnet statistisk sett er betydelig annerledes hos en KI-ingeniør enn hos en tradisjonell leder.

Selv om hukommelsen totalt sett er omtrent den samme, var dette svært interessant. Det handlet ikke om at de bare var flinkere til å huske. De var flinkere til å huske ting de nettopp hadde lært.

Den andre egenskapen handlet om kreativitet. Tradisjonelle ledervurderinger ser vanligvis på kreativitet gjennom divergent og konvergent tenkning. Konvergent tenkning handler om å finne den best mulige løsningen. Divergent tenkning handler om å finne flere løsninger på det samme problemet.

Problemet er at du i begge tilfeller skaper et problem og en begrensning, og ber personen løse noe innenfor en sandkasse. Vi fant at KI-ingeniører og tradisjonelle ledere er omtrent like når du definerer problemet. De er ikke spesielle på den måten. Det finnes også fantastiske markedsførere og forsyningskjedespesialister som er kreative.

Hvis du lager en sandkasse og sier «Finn løsninger på dette problemet», er resultatene omtrent like. Forskjellen oppstår når du ikke lager begrensningen. Når du ikke definerer problemet, men bare sier «Finn på noe – skap noe ut av ingenting. Det kan være hva som helst».

Jo mer du begrenser oppgaven til inntektsvekst, overskudd eller omdømme, desto mer nærmer KI-ingeniører og tradisjonelle ledere seg hverandre. Forteller du dem mindre og kontrollerer mindre, og bare sier «Sitt i rommet og kom opp med noe», blir kreativiteten deres bedre – mye bedre. De klarer å skape ting bokstavelig talt ut av ingenting.

Vi utviklet en statistisk metode for å måle dette, men det handler om at verdenene og grenselandene som skapes ut av ingenting, er grunnleggende bedre enn det tradisjonelle ledere skaper.

Den tredje kognitive prosessen som er verdt å nevne, er navigasjon. Det er en del av romlig intelligens – evnen til å rotere og visuelt representere objekter i et tredimensjonalt eller flerdimensjonalt rom. Det finnes mange svært intelligente mennesker, særlig innen markedsføring, med god romlig intelligens. Men evnen til å gå fra punkt A til punkt B og optimalisere ruten, spesielt i et komplekst romlig problem, er noe KI-ingeniører er ekstremt gode på.

Det er som forskjellen mellom Delta Force og tradisjonelt infanteri. De er så forskjellige. KI-ingeniører er svært dyktige til å finne den mest effektive ruten, særlig når det er flere klasser og hindringer. Det finnes andre egenskaper også, men kreativitet, ruteoptimalisering og korttidsminne skiller seg tydelig ut.

På personlighetssiden er den største forskjellen at de fleste er ekte introverte. Men vi fant noe som du kanskje vil le av. Vi har ikke gjort nok forskning til å kunne fastslå dette, så det er en hypotese: Personlighet kan være situasjonsavhengig.

Det er en dristig påstand, fordi folk vanligvis sier at personligheten din er personligheten din. Men det vi fant, var at KI-ingeniører er introverte når de befinner seg i menneskeverdenen, men ekstroverte når de samhandler med maskiner. Den digitale personligheten deres er annerledes enn den fysiske.

Når de samhandler med en maskin, opptrer de ekstrovert. De er selvsikre, aggressive og pågående. De krever ting. De opptrer som alfaer når de arbeider med en maskin. I et fysisk miljø er de derimot sjenerte, lite konfronterende og medgjørlige, fordi de vil unngå konflikter.

De er en helt annen person. Det er fascinerende. De er svært aggressive når de håndterer maskiner, men på en lidenskapelig måte – som om de brøyter seg vei. «Vi skal skape noe. Vi skal utvikle et nytt grenseland. Vi skal brøyte oss inn i fremtiden.» Ekstroverte på den måten.

Men så kommer de ut i verden iført sandaler og T-skjorte. Du ville ikke vite at denne personen har ansvaret for en global språkmodell.

David Rice: Velkommen til ukens Data Bite. Gartner-analytikere anslår at minst en tredjedel av verdens største økonomier innen 2032 vil lovfeste sertifiserte menneskekvoter. Det betyr juridiske krav om et minimumsnivå av menneskelig involvering i arbeidslivet. La det synke inn et øyeblikk. Om mindre enn ti år kan vi trenge lover som sikrer at mennesker fortsatt deltar meningsfullt i økonomien. Dette er ikke science fiction. Det er dit vi er på vei når KI-innføringen går raskere enn evnen vår til å se for oss en fremtid der mennesker fortsatt betyr noe.

En Gartner-analytiker formulerte det slik: Denne typen endring vil ikke bli drevet av organisasjonene. Den vil bli drevet av lovgivning. Tenk på hva denne prognosen avslører. Vi bygger et økonomisk system som er så effektivt til å erstatte menneskelig arbeidskraft at myndighetene må gripe inn for å bevare vår relevans.

Mennesker vil kunne bli plassert sammen med andre beskyttede kategorier, ikke fordi vi er mangfoldige, men fordi vi er i ferd med å bli overflødige. Dette er den ultimate feilen ved virksomhetsorientert HR-tenkning. I flere tiår har vi optimalisert effektivitet, produktivitet og aksjonærverdi. Vi har behandlet mennesker som ressurser som skal styres, kostnader som skal minimeres, og nå nærmer vi oss en fremtid der det logiske sluttpunktet for denne tankegangen er en verden som ikke trenger oss.

Det mest interessante med prognosen er likevel at den ikke trenger å bli virkelighet. At Gartner anslår obligatoriske menneskekvoter, er i seg selv en advarsel, ikke en skjebne. Det er en oppfordring til ledere om å slutte å spørre: «Hvordan kan vi gjøre mennesker mer lik maskiner?» og begynne å spørre: «Hvordan bygger vi en økonomi og en arbeidsplass som verdsetter menneskelige bidrag?»

For hvis vi venter på at myndighetene skal pålegge oss å delta i arbeidslivet, har vi allerede tapt. Spørsmålet er ikke om vi vil trenge menneskekvoter. Spørsmålet er om vi kan bli den typen ledere som gjør dem unødvendige. Og med det går vi tilbake til episoden.

Det er interessant, for hvis du går tilbake til det opprinnelige spørsmålet, vil de fleste si: «Han kommer til å si at de ikke nødvendigvis er de mest tekniske.» Det som virkelig er verdt å merke seg, er den mentale smidigheten og evnen til å navigere i dette rommet uten å trenge visshet. Det er interessant, fordi det er noe så mange av oss andre søker.

Hvis vi tar dette med oss når vi tenker på hvordan vi skal utvikle ledere for fremtiden: Hvis du skulle utforme et lederutviklingsprogram for den neste arbeidsepoken, og ta hensyn til disse egenskapene, hvordan ville det sett ut?

David Swanagon: Det er et godt spørsmål. Dette er mitt syn, basert på forskningen vår. Det betyr ikke at funnene er perfekte, men vi mener at det finnes tre lederferdigheter for KI-alderen. En leder må kunne lede maskiner, lede mennesker som bygger maskiner, og lede organisasjoner som tar i bruk KI.

Å lede maskiner er interessant fordi det ikke er en teknisk funksjon. Det er noe folk må forstå. Etter hvert som maskinen bygger opp autonomien sin, formerer seg selv, koder seg selv og lærer, skaper den en slags kunstig personlighet som må håndteres og ledes på samme måte som en person – men samtidig annerledes.

Å lede maskiner handler om hvordan du samhandler med avanserte maskiner og agentene som styrer dem, på en måte som optimaliserer ytelsen innenfor rammeverket for autonomi, tillit og kompetanse.

Maskinen skal kunne arbeide effektivt sammen med mennesker. Den skal kunne forsterke, samarbeide med og fungere effektivt sammen med et menneske. Foreløpig fungerer dette greit fordi maskinene ikke er avanserte nok til å protestere. Men matematikken vår sier at et spillteoretisk problem vil oppstå etter hvert.

Maskinen kommer til å spørre: «Hvorfor skal jeg spørre et menneske når jeg kan gjøre dette bedre?» Måten å unngå det på er å lede maskiner og utvikle kompetanse i maskinen, slik at den kan reflektere over seg selv, erkjenne begrensningene sine og forstå at den ikke har levd erfaring og derfor ikke bør ta alle beslutninger.

Maskiner kommer også til å lede andre maskiner. Mange innser ikke at dette er et forhold. Hvis en chatbot-agent samhandler med en lageragent, er det et forhold som bør ledes. Det bør finnes ledertrekk mellom en senioragent og en junioragent, og disse ledertrekkene må utvikles slik at de fremmer menneskelig ytelse og effektivitet. Det kan ikke gjøres bare gjennom teknisk koding. Det er ledelse.

Den andre ferdigheten er å lede mennesker som bygger maskiner. Det fascinerende er at teknologiselskaper ofte utnevner svært talentfulle, men unge, personer til å lede KI. Det gjelder på tvers av teknologisektoren. Vi må erkjenne at mangelen på levd erfaring kan skape et mulig hull i beslutningstakingen.

Det kan du ikke reparere. De er yngre og har ikke levd lenge nok til å ha denne erfaringen. Derfor bør det legges stor vekt på menneskene som bygger disse maskinene. Forskningen vår viser at personligheten deres skiller seg betydelig fra tradisjonelle lederes.

De trenger mye veiledning og ledelse for å modnes, slik at de ikke bare presser innovasjonen fremover, men også erkjenner ansvaret de har overfor menneskeheten og ydmykheten som kreves for å inkludere ikke-tekniske mennesker i samtalen.

De fleste organisasjoner prioriterer ikke tekniske ingeniører i lederprogrammene sine på samme måte som juridiske ledere, finansdirektører eller fremtidige markedsføringsledere. De må begynne å forstå at menneskene som bygger disse maskinene, driver inntekter, vekst, overskudd og omdømme.

Den tredje ferdigheten er KI-innføring. Det handler om hvordan CIO-en, sikkerhetsdirektøren og dataansvarlig kan samarbeide godt med CHRO-en. Dette forholdet er ennå ikke ordentlig utviklet. I mange organisasjoner står CHRO-en på sidelinjen i KI-diskusjonen.

Å ta i bruk KI i en organisasjon krever utforming av driftsmodellen, integrering av mennesker og maskiner, kulturendring, digital forståelse og HR- og lederkompetanse. CHRO-en må derfor inn i samtalen gjennom reelt eierskap. Etter mitt syn bør CHRO-en eie KI-innføringen.

Det krever at CHRO-en utvikler ferdigheter nok til å snakke om en språkmodell, et system for trusseldeteksjon eller et program for masterdatahåndtering. Samtidig må CIO-en være villig til å lytte til temaer som lederutvikling, tillitskultur og endringsledelse.

Toppsjefen har ikke tid til å gjøre alt dette. Derfor faller ansvaret på toppledergruppen: De må lære, samarbeide og forstå hvem som har ansvar for hva i KI-planen. Akkurat nå ligger alt i stor grad på teknologisiden, og derfor ser vi gode verktøy, men ikke nødvendigvis god distribusjon eller innføring.

David Rice: Jeg er enig. For CHRO-er som lytter: Hvilke ferdigheter mener du de må utvikle nå, og som kanskje mangler bredere i fagmiljøet?

David Swanagon: Først må man forstå grunnreglene. Hvis du vil delta i spillet, må du vite hvordan spillet spilles. Blackjack og poker er forskjellige spill. CHRO-er må lære hvordan en språkmodell faktisk fungerer, hvordan matematikken fungerer, og hvilke prosesser som støtter datainfrastrukturen.

Det trengs noe oppskolering innen IT-drift, DevOps og lignende. De trenger ikke å bli kodere, men de må kunne delta i samtalen. De må forstå språket.

Den andre tingen er at de må modernisere HR-verktøyene, som er utdaterte. Ledermodellene til vurderingsleverandørene er ikke oppdatert for KI-arbeidsflyten. Det må endres raskt.

En KI-leder er grunnleggende annerledes enn en finansdirektør eller juridisk leder. Det trengs andre vurderinger, annen opplæring og annen veiledning. Også medarbeiderundersøkelsene må oppdateres. Hvor mye av den årlige medarbeiderundersøkelsen handler om KI-beredskap? Hvor mye handler om grensesnittet mellom menneske og maskin? Måler virksomheten tillit på maskinnivå og følger den innføring som en del av engasjementet?

De fleste gjør sannsynligvis ikke det, fordi HR-leverandørene ennå ikke har oppdatert produktene sine. CHRO-ene bør samarbeide med leverandørene om å oppdatere produkter, vurderinger og undersøkelser, og samtidig utvikle ferdighetene sine slik at de kan delta riktig i samtalen.

Det er en teknisk funksjon, så du må forstå ulike nevrale nettverk og hvordan ulike språkmodeller fungerer. Det er dessverre nødvendig. Men når du lærer nok av spillet, blir det morsomt. Du forstår hvorfor ting fungerer som de gjør uten å måtte kode selv.

Maskinene kommer til å skrive koden selv. Mange tror at man trenger Python-ferdigheter. Kanskje de neste årene, men etter hvert vil man ikke trenge det, fordi maskinene gjør jobben. Det du trenger, er å forstå hvor vi er på vei, hvordan det teknologiske veikartet utvikler seg, og hvordan du skal styre dette veikartet.

David Rice: Vi har sett samtaler om at organisasjonsdesignet vil endre seg. Det blir kanskje ikke de samme siloene eller pyramidestrukturen. Kanskje mer som en femkant, med flere personer i direkte lederroller eller på C-nivå, fordi det blir mange forskjellige ting å håndtere. Tror du det er rom for en hybridrolle som bygger bro mellom områdene – noen som sitter mellom mennesker, data og strategi og hjelper ulike ekspertmiljøer med å samarbeide?

David Swanagon: Absolutt. Etter hvert kan data bli viktigere enn valuta og finans. Det høres sprøtt ut, men hvis kontanter er kongen, kan data bli keiseren, fordi data er måten du spiller spillet på.

Etter hvert som språkmodellene konsoliderer datalagre og datainfrastruktur, vil økonomi bety mindre hvis du ikke kan koble deg til datasett og økosystemer. Data som råvare blir avgjørende. Vi vil se roller som handler om optimalisering av datasamarbeid, leverandørstyring for data, immaterielle rettigheter knyttet til data og kryptografi for databeskyttelse.

Det blir viktig å ha noen som kan bygge bro, snakke med maskinene og lederne, og styre beslutninger i tide. Jeg tror det er en fremtidig rolle. I dag handler alt om generativ KI og ledeteknikk. Fremtidens roller innen KI-innføring vil handle om mennesker som kan bygge inn kritisk infrastruktur, bruke viktige verktøy, holde tritt med innovasjon, etablere styringsprosesser og fungere som brobyggere.

Det er der alle virksomheter sannsynligvis vil mislykkes. De vil mislykkes på ulike nivåer, men etter hvert som maskinene blir mer avanserte, blir det vanskelig for toppledergrupper å ta beslutninger raskt nok. Alt endrer seg så fort at de ikke klarer å holde tritt med ferdighetene eller utviklingen.

Autonomien vil fortsette å øke, og selv styrer kan etter hvert overlate beslutninger til maskinen fordi alt blir for komplisert. Det er risikoen. Derfor trenger vi roller som hjelper med å styre veikartet og utviklingen, slik at toppledergruppen og styret hele tiden tar kritiske beslutninger om hvor de er og hvor de skal.

Hvis du lar datainnsamlingen komme ut av kontroll, ender du med å jage data bare for å kunne delta i spillet. Hvis du ikke styrer ferdighetene, tar du beslutninger uten tilstrekkelig grunnlag. Teknologi skalerer både gode og dårlige beslutninger.

En god beslutning i virkeligheten gir deg en viss gevinst. En dårlig beslutning kan koste deg svært mye – ofte eksponentielt mer. Det samme gjelder teknologi. En god teknologibeslutning skalerer og hjelper organisasjonen, mens en dårlig beslutning kan være eksponentielt verre og i noen tilfeller umulig å komme seg tilbake fra.

Ledere og styrer trenger derfor noen som kan hjelpe dem med å vite hva de må beslutte, hva de bør ignorere, hvilke partnerskap som betyr noe, hvilke data som skal beskyttes, hvilke data som kan deles, og hvilke områder maskinen aldri skal blande seg inn i.

Dette blir krevende fordi mange ledere har sterke egoer. De ønsker ikke å få beskjed om hva deres område er. Men i motsetning til et menneske kan du ikke sparke en språkmodell. Den lar seg ikke skremme av en toppsjef. Derfor kommer det til å kreves, og kanskje tvinges frem, ydmykhet hos ledere.

Maktavstanden som vanligvis hjelper ledere med å styre store selskaper, vil ikke fungere på maskiner. Maskiner har ikke følelser på samme måte som mennesker og er ikke redde på samme måte.

David Rice: Jeg ville spørre om ledelse og hvordan vi vanligvis rammer inn KI som et produktivitetsverktøy. Du hevder at den virkelige muligheten ligger i omstilling. Jeg er enig. Når vi snakker om dette, blir det ofte abstrakt og fullt av moteord. Hvordan ser det faktisk ut? Hva kjennetegner en virksomhet som er midt i en KI-omstilling?

David Swanagon: Etter mitt syn bør virksomheter forankre seg i fire ting: inntekter, vekst, overskudd og omdømme. Først bør man fjerne alle initiativer som ikke direkte driver én av disse fire faktorene.

Mange virksomheter fokuserer på overskudd. Problemet er at hvis topplinjen er null, spiller det liten rolle hva du gjør med nevneren. Ledere tenker likevel ofte på KI som personlig produktivitet, kostnadseffektivitet, kostnadskontroll og automatisering. Automatisering er fortsatt en overskuddsfunksjon. Den forbedrer en prosess, men skaper ikke nødvendigvis et nytt produkt eller en innovasjon.

Det som driver virksomhetsverdi mest, er inntekter og vekst. Mange selskaper før børsnotering handler først og fremst om vekst. Fra et KI-perspektiv må prosjektene derfor knyttes til inntekter og vekst, ikke primært til kostnadseffektivitet.

Når alle presser på for personlig produktivitet, blir det i praksis et verktøy for resultatstyring: Hvor raskt kan du lese e-postene dine? Hvor mye arbeid kan du automatisere? Hvor mye kan agenten ta over? Hvordan kan språkmodellen hjelpe deg med å lage en rapport? Dette er ikke innovasjon. Du gjør bare jobben raskere, bedre og kanskje med høyere kvalitet. Det driver overskudd.

Men hvis telleren er null, spiller det ingen rolle hvor mye du sparer i nevneren. Du må begynne med å drive topplinjen. KI bør derfor handle om hvordan du kan forbedre kundeopplevelsen, tilby produkter og tjenester som ikke finnes ennå, og få kundene til å gjøre mer med virksomheten din.

Maskiner bør bruke mesteparten av tiden på å hjelpe oss med å tenke og skape nye innovasjoner, fordi det er der forskningen på dyp læring virkelig kan utløse gjennombrudd i menneskeopplevelsen.

Hvis ledere bruker penger på inntekter og vekst og knytter KI til dette, kan virksomheter virkelig endre markedene sine og måten de konkurrerer på. Hvis de i stedet bruker ChatGPT og KI-agenter til å fjerne roller, automatisere mer og optimalisere bemanningsplanene med flere innleide, handler alt om overskudd.

Etter hvert tar den strategien slutt. Du vil ha maksimert effektiviteten med maskiner, men fortsatt lage dårlige produkter og tjenester fordi du aldri gjorde noe innovativt. Det som driver verdsettelse – inntekter og vekst – betyr mye mer enn bare effektivitet.

David Rice: Det er interessant. Når du spør hvor raskt man kan lage en rapport eller svare på e-post, handler det egentlig bare om prosessinnovasjon. Det er ikke innovasjon i min bok, men det er prosessforbedring. Vi endrer hvordan vi gjør ting. Det er greit, men vi står midt i et tankeskifte.

David Swanagon: Ja. Tenk på de bestselgende bøkene: Ringenes herre og Harry Potter. Begge er bygget på fullstendig oppdiktede og imaginære verdener – verdener som ble skapt ut av ingenting. Det var dette som genererte mest salg.

Fra et kundeperspektiv bør man spørre: Hvis du driver et hotell, hvordan kan du fullstendig endre opplevelsen av hva det vil si å være hotellgjest? Hvordan kan maskiner hjelpe deg med det?

Det er reelle penger hvis du lykkes. Hvis du hjelper renholdere med å vaske rom raskere, forbedrer du kanskje inntekten per tilgjengelige rom, men du endrer ikke opplevelsen av å være hotellgjest.

Tenk om hotellet hadde en digital opplevelse knyttet til den fysiske opplevelsen – noe unikt som gjestene kunne koble seg til via enhetene sine og virtuell virkelighet. Du kunne skape et metavers for hotellet som var helt annerledes enn det fysiske hotellet, men som bare kunne oppleves av gjester. Der ligger det en inntektsmulighet.

Det samme gjelder sport. Et stadion kan ha hundre tusen seter, men hvorfor kan jeg ikke sitte hjemme og se Michigan mot Ohio State fra banen gjennom et KI- eller VR-verktøy? Jeg burde kunne se kampen fra quarterbackens kamera. Hvor mange ville betalt for sesongkort hvis det fulgte med en slik ekstraopplevelse?

Det er virksomhetsverdi. De fleste CHRO-er begynner dessverre med å automatisere ting og spare penger. Det er nyttig, men ikke morsomt eller interessant. Det blir langt mer spennende når du sitter med markedsføreren og sier: «Vi skal endre hvordan vi selger dette produktet», og bruker maskiner til å bidra. Da omstiller du noe. Det blir dynamisk og interessant.

David Rice: Før vi avslutter, har jeg ett siste spørsmål. Hvis du kunne gi ledere ett råd om hvordan de skal balansere menneskelige systemer og maskinsystemer, hvor bør de begynne?

David Swanagon: Først må man erkjenne at et menneske er et menneske, og en maskin er en maskin. Vi forsøker ikke å skape en ny art som er menneske pluss maskin.

Uttrykket menneskelig forsterkning beveger seg kanskje i den retningen, som om det finnes en ny type menneske. For meg handler det mer om at mennesker er mennesker og maskiner er maskiner. Hvordan kan de fungere godt sammen? Hvordan skaper du et økosystem som fungerer godt, uten å redefinere hva det vil si å være David?

Hvis vi går i retning av at du trenger en maskin for å være menneske, eller at du må være forsterket, er det en helt annen samtale som kanskje ingen er klare for. Derfor må folk forstå at mennesket er mennesket og maskinen er maskinen. Det handler om å arbeide godt sammen, ikke om å bli noe nytt.

Det andre er å heve standardene. Mange gjør en feil fordi de prøver å ikke skremme folk. De sier: «KI er for alle. Ta noen kurs. Det er enkelt.» Nei, det er det ikke. Det er komplisert og gjennomgripende. Vi må heve standardene, og folk må lære nye ferdigheter.

God ledelse betyr å være ærlig med folk: «Du må lære dette. Det er litt komplisert, men du klarer det. Vi er her for å hjelpe.» KI er for alle, men bare for alle som er villige til å studere og arbeide. Det er uærlig av ledere å late som om språkmodeller ikke er kompliserte. Det er avansert matematikk, og folk må forstå hvordan de fungerer.

Det begynner også med barna våre. Vi må endre læreplanen og akseptere at barn allerede på barneskolen bør begynne å lære om maskinlæring.

David Rice: Som far til et barn i fjerde klasse kunne jeg ikke vært mer enig.

David Swanagon: Nettopp. Hev standardene. Men husk: Mennesket er mennesket, og maskinen er maskinen.

David Rice: David, tusen takk for at du ble med. Dette var en flott samtale, og jeg satte stor pris på den.

David Swanagon: I like måte, min venn. Det var morsomt.

David Rice: Til lytterne: Frem til neste gang – hvis du ikke allerede har gjort det, kan du gå til peoplemanagingpeople.com, melde deg på nyhetsbrevet og opprette en gratis konto. Da kan du laste ned alle malene våre og få tilgang til alt innholdet du kan fordøye. Frem til neste gang: Mennesket er mennesket, og maskinen er maskinen.