KI høres overbevisende ut. Det er nettopp problemet.
Oppfatning av KI: Folk har sterke meninger om KI, men mange mangler en reell forståelse av dens fremtidige innvirkning.
Kvaliteten på tilbakemeldinger: Både KI- og menneskelige tilbakemeldinger mangler ofte pålitelighet, noe som utfordrer forestillingen om at instinkt er bedre enn KI.
Beslutningsprosess: Effektive beslutninger bygger på ulike innspill, ikke selvsikre og ukritisk aksepterte svar.
KIs begrensninger: Økt avhengighet av KI kan svekke den kritiske tenkningen og føre til at viktige forhold overses i beslutningsprosessen.
Strukturert vurdering: Beslutninger blir bedre med strukturerte tilnærminger, og krever mer enn uformelle samlinger for tilbakemeldinger.
Selvtillit er ikke det samme som å ha rett. Å høres ut som om du vet hva du snakker om, er ikke det samme som å vite hva du snakker om.
Alle har en mening om kunstig intelligens akkurat nå. Enten er de helt for det, imot det eller venter på å se hvordan det utvikler seg. Vi har disse standpunktene med stor selvtillit, men under overflaten forstår nesten ingen egentlig teknologien ennå eller hvor alt dette bærer. Derfor fylles LinkedIn opp med folk som allerede har bestemt seg.
Jeg havnet i en diskusjon med en av dem forrige uke. Personen hadde lagt ut en oppfordring: Slutt å bruke kunstig intelligens til å få tilbakemeldinger på arbeidet ditt. Og argumentasjonen var god, den typen de fleste nikker til. Kunstig intelligens holder aldri munn. Spør den om hva som helst, så har den noe å si, enten det er riktig eller galt. Hvis du trenger kunstig intelligens for å fortelle deg om arbeidet ditt er bra nok, hevdet personen, er det dét som er det egentlige problemet. Stol på magefølelsen.
Jeg sa meg uenig. Ikke fordi personen tok feil, men fordi vedkommende bare hadde delvis rett når det gjaldt løsningen. De fleste tilbakemeldinger er ikke gode, enten de kommer fra kunstig intelligens eller mennesker. Din egen magefølelse svikter på samme måte. Og et selvsikkert, velstrukturert svar, slik kunstig intelligens er så god til å produsere og folk gir hele tiden, er det enkleste å tro på og det vanskeligste å stille spørsmål ved.
Continue Reading for Free
Create a free account to finish this article, plus get ongoing access to timely insights and practical resources.
Have an account? Log In
Selvtillit er ikke det samme som å ha rett. Å høres ut som om du vet hva du snakker om, er ikke det samme som å vite hva du snakker om. Jeg lærte på den harde måten hva det kan koste.
Selvtillitens pris
For flere år siden var jeg UX-leder for teamet bak Shopify Capital, produktet som tilbyr næringsdrivende kontantforskudd basert på salget i butikken deres. Når en næringsdrivende godtok et tilbud, tok det opptil sju dager før pengene var klarert gjennom de interne godkjenningene. For en liten bedrift som ventet på å fylle opp lageret eller komme i gang med noe, er det en lang uke.
Systemet bak disse godkjenningene var en tidlig MVP som ingen hadde rørt på flere år. Derfor samlet jeg de rette personene i et rom for å løse problemet: økonomiavdelingen, personene som håndterte godkjenningene, utviklerne og designerne som hadde bygget det opprinnelige systemet.
Flaskehalsen viste seg å være en håndfull manuelle godkjenningstrinn. Vi gikk gjennom nøyaktig hvordan de som godkjente, tok hver beslutning, og om et system kunne ta disse beslutningene i stedet. Vi hadde en løsning på plass i løpet av en time. Vi kunne ha lansert den dagen etter.
Én godkjenning sto i veien. Den endelige godkjenningen lå hos en produktleder, langt unna rom som vårt. Svaret kom klart, spesifikt og sikkert: Det måtte forbli manuelt. Den beslutningen var tatt flere år tidligere. Ingen kunne fortelle oss hvorfor. Det fantes ingen sporbar begrunnelse bak den. Vi kunne ikke lansere løsningen.
Så vi gjorde det de fleste team gjør. Vi stolte på det selvsikre svaret. Deretter brukte vi tre uker på å bevise at det var feil. Tjue møter, intervjuer med alle som faktisk hadde vært i kontakt med systemet, og en kartlegging av hva som egentlig foregikk under overflaten.
Til slutt lanserte vi nøyaktig den løsningen vi hadde hatt etter den første timen. Tilbakemeldingen fra interessenten hadde vært autoritativ, velstrukturert og fullstendig feil. Den identifiserte et problem som ikke eksisterte.
Det er denne feilen artikkelen handler om. Ikke kunstig intelligens. Ikke mennesker. Selvsikker informasjon som ingen kvalitetssikret før de handlet på den.
Den andre vurderingen du sluttet å be om
Når en beslutning er viktig og noe føles feil, stoler du ikke på det første selvsikre svaret. Du spør personen som faktisk vet. Du samler to eller tre personer i et rom og ser hvor de er uenige. Du lar det synke inn. Du tar det opp med noen hvis dømmekraft du stoler på, før du forplikter deg. Ingen lærte deg dette, og ingen kaller det noe spesielt. Det er bare det forsiktige mennesker gjør.
Den impulsen er ekte dømmekraft. Og god dømmekraft trenger perspektiver fra mer enn ett par øyne på problemet, samt at alle avveininger ligger åpne, før noe lanseres. Det er det små team er bygget for: De er nære nok til å tenke høyt sammen og små nok til faktisk å gjøre det.
Men perspektiv oppstår ikke automatisk. Det trenger tid, nærhet og rom til å få utvikle seg. Kunstig intelligens motarbeider alle tre.
Og det trenger det vi oftest overser: struktur. Struktur føles langsomt, og i møte med kunstig intelligens' hastighet og tiltrekningskraft er langsomhet det eneste ingen ønsker å være.
Kunstig intelligens produserer selvsikre svar raskere enn du rekker å kvalitetssikre dem, og fristelsen er å ta svaret til følge og fortsette.
Og vi gir etter for det med vilje, fordi løftet er forførende. Alle kjenner den følelsen – å bli trukket mot noe som ikke helt er i din egen interesse, og likevel gå videre.
Vi aksepterer det AI gjør feil i dag, på grunn av det det kanskje kan bli i morgen, og vi stoler på at menneskene som bygger det, vil lukke hullene. Det er ikke dumt. Det er menneskelig. Det er også akkurat det som får oss til å slutte å kvalitetssikre grundig.
Microsoft og Carnegie Mellon undersøkte hva som skjer videre. De fant at jo større tillit folk har til AI, desto mindre kritisk tenkning bruker de, og at selve arbeidet endres fra å utføre oppgaven til å overvåke AI-en som gjør den. Overvåking beskytter deg bare hvis du faktisk fortsatt kontrollerer. De fleste slutter.
Den uformelle vanen som beskyttet deg, svikter altså ikke på en tydelig måte. Den slutter bare å fungere når omfanget øker. Akkurat når mengden beslutninger øker, blir disiplinen som gjorde beslutningene gode, svakere.
Å be om tilbakemeldinger er ikke en disiplin
Å avklare én motsetning, luke ut én antakelse og forstå hvorfor noe skal fungere på en bestemt måte – det er det som går fra å koste minutter til å koste uker … En disiplin løser alt dette. Jeg mener ikke viljestyrke. Jeg mener en gjentakbar måte å gjennomføre en beslutning på.
Løsningen er altså ikke å stole mindre på AI og mer på magefølelsen. Løsningen er struktur. Men å spørre rundt etter tilbakemeldinger er ikke det samme som å ha en disiplin for det, og det er denne forskjellen som utgjør løsningen.
Å spørre rundt er det de fleste team allerede gjør. Noe føles feil, så du tar tak i den som er nærmest. Du lufter det i et møte. Du håper at personen som faktisk vet, tilfeldigvis er der og tilfeldigvis sier fra. Noen ganger er de det. Som oftest er det flaks, og du kan ikke skille de heldige dagene fra resten før det er for sent.
Å spørre rundt er kostbart. Du setter opp møter, kalenderne er fulle, og når gruppen endelig kan sette seg ned, har øyeblikket passert eller beslutningen blitt tatt uten dem. Derfor begynner møter å føles som en skatt, og du betaler den sjeldnere.
Perspektivene spres i stedet – til en presentasjon her, en e-post der, en Slack-tråd som ingen leser i tide. Alle elsker asynkront arbeid fordi det føles som om det gir dem tid tilbake, men det betyr at perspektivene aldri faktisk møtes.
Asynkront arbeid fungerer helt til to perspektiver motsier hverandre. Det er akkurat da du trenger reell utveksling i sanntid: én person sier at det ikke er slik det fungerer, en annen sier imot, helt til dere lander på det som er sant. Asynkront arbeid kan ikke gjøre det.
Motsetningen som ville tatt fem minutter i et rom, spretter frem og tilbake over flere dager med svar. Å avklare én motsetning, luke ut én antakelse og forstå hvorfor noe skal fungere på en bestemt måte – det er det som går fra å koste minutter til å koste uker.
En disiplin løser alt dette. Jeg mener ikke viljestyrke. Jeg mener en gjentakbar måte å gjennomføre en beslutning på. Den avgjør med hensikt hvilke perspektiver den må innom før den settes ut i livet. Ikke hvem som tilfeldigvis er til stede, men de få som faktisk betyr noe for denne beslutningen. Du legger beslutningen frem for hver av dem på en bevisst måte, én gang, og følger med på hva hver av dem har en tendens til å overse. Det er struktur. Å flette inn de riktige perspektivene med hensikt, i stedet for å jage dem ned ett møte av gangen.
Hvorfor betyr det mer enn det høres ut som? Fordi det å vite hvordan noe fungerer, ikke er det samme som å forstå hvorfor det fungerer slik det gjør, og det er i dette gapet de verste feilene oppstår.
Richard Rumelt, forfatteren av «Good Strategy Bad Strategy», kaller det første virkelige steget en diagnose: å finne ut hva som faktisk foregår før du bestemmer deg. En god diagnose setter navn på det virkelige problemet, ikke symptomet. «Vi presterer dårligere» er ikke en diagnose, men et resultat. Diagnosen er hvorfor-et under dette, og den forteller deg hvilke få ting som er kritiske, og hvilke du kan ignorere.
Det er her et rom fylt med ulike perspektiver viser sin verdi. Problemet ser forskjellig ut, avhengig av hvem som har det i hendene.
Budsjetteieren, personen som bygger det, kunden – alle har med seg en ulik versjon og trenger noe forskjellig fra det du bestemmer. Å løse det riktige problemet er derfor ikke én enkelt ting. Det handler om å finne den ene løsningen som svarer på nok av disse ulike behovene samtidig – grepet som hever standarden for alle, ikke bare én.
Du finner ikke det alene eller på avstand. Du finner det når perspektivene er samlet, og uenigheten deres viser deg problemets virkelige form.
Du kan se hvor sterkt vi ønsker oss disse andre perspektivene i måten vi snakker med AI på. «Opptre som en tekstforfatter.» «Opptre som en markedsføringsekspert.» Hver oppfordring er en innrømmelse av at én person bare kan ha med seg så mange innfallsvinkler, og det vet vi. Vi ber den om å fylle inn for dem vi mangler.
Det er nettopp dette tomrommet AI lever i. En modell har bare det som får plass i kontekstvinduet sitt, den begrensede delen av situasjonen din som er lastet inn i den.
Den kan ikke se hva den mangler, og den kan ikke veie ett syn opp mot et annet. Den har ikke et perspektiv i det hele tatt. Den baserer seg på sannsynlighet og forutsier hva som mest sannsynlig kommer deretter, uten noe å tape på om den tar feil. Derfor forteller den deg noe overbevisende.
De tre ukene teamet mitt brukte på å komme til bunns i det? Det var diagnostisering. Det var en forståelse av hvorfor. AI kommer stadig til å bli bedre på svar. Et bedre svar er fortsatt ikke forståelse. Forståelsen kom fra virkelige mennesker, som hver så problemet på sin egen måte, og som hver hadde noe på spill avhengig av hvordan det gikk. Én modell kan ikke være disse menneskene, uansett hvor god den blir. Den delen tilhører deg og teamet ditt.
Når alle er enige, er noen borte
Den vanskeligere ferdigheten er å legge merke til når en av disse innfallsvinklene ikke er representert i rommet. Og signalet er det motsatte av det du skulle forvente. Det er enighet. Når en beslutning faller på plass altfor enkelt, når alle nikker og ingen føler seg ukomfortable, er det vanligvis ikke konsensus.
Bekymringen her er at jeg beskriver flere møter, flere mennesker, mer prosess. Det gjør jeg ikke.
En disiplin handler ikke om å få alle inn i rommet. Slik jeg alltid har sett på det, ønsker du deg færrest mulig personer som til sammen fortsatt kan se hele problemet. Hver enkelt dekker en del som de andre ikke kan, slik at noen få mennesker som tenker forskjellig, dekker mer terreng enn en mengde mennesker som tenker likt. Det er der påvirkningskraften ligger, i hvor forskjellige de er, ikke i hvor mange de er.
Du trenger ikke et organisasjonskart for dette. For akkurat denne beslutningen spør du hvem som ser en del av den som du ikke ser. De fleste beslutninger berører en blanding av de samme få: pengene, kunden, personen som må bygge det, den som må selge det, og den som får skylden hvis det går galt.
Ikke alle beslutninger trenger alle disse. En nyansettelse baserer seg på menneskene vedkommende skal samhandle med hver dag, og den som har budsjettansvaret. En endring i hvordan teamet arbeider, baserer seg på menneskene som faktisk må gjøre det, og på menneskene det skal skape verdi for – som ofte ikke er i rommet når beslutningen tas.
Akkurat nå er det dette teamene tar inn over seg i størst grad: ny programvare, flere ansatte, AI integrert i alle deler av jobben, og det meste kommer ovenfra og ned. Ferdigheten ligger i å sette navn på de to eller tre innfallsvinklene en beslutning avhenger av, ikke i å samle et beslutningsdyktig antall personer.
Den vanskeligere ferdigheten er å legge merke til når en av disse innfallsvinklene ikke er representert i rommet. Og signalet er det motsatte av det du skulle forvente. Det er enighet.
Når en beslutning faller på plass altfor enkelt, når alle nikker og ingen føler seg ukomfortable, er det vanligvis ikke konsensus. Det er et manglende perspektiv. Personen som ville ha sagt imot, er ikke der. Argumentet som ville ha avdekket tomrommet, kommer aldri opp, så beslutningen føles ferdig når den bare er uimotsagt.
Når du oppdager tomrommet, har du to ærlige alternativer. Finn det manglende synet før du forplikter deg, selv om det koster deg en dag. Eller, hvis du virkelig ikke kan det, si det høyt: Ingen her representerer kunden, så vi gjetter på den delen.
Et uttalt tomrom er en risiko du kan håndtere. Et uutalt tomrom er det selvsikre, velstrukturerte svaret som viser seg å være feil.
Dette er også grunnen til at de fleste team allerede holder AI i kort bånd. I en nylig undersøkelse fra Harvard Business Review sa bare 6 % av selskapene at de stoler fullt og helt på AI-agenter til å kjøre en kjerneprosess på egen hånd, mens 43 % vil overlate rutineoppgaver til dem, og ikke noe mer.
Den instinktive reaksjonen er riktig. AI hører hjemme i ytterkanten av arbeidet, i utførelsen, ikke i sentrum av beslutningstakingen. Men ha et klart bilde av hva det er. AI er i rommet nå, lytter, transkriberer og skriver sammendraget mens dere snakker. Det er ikke det samme som å ha noe på spill i det som blir besluttet.
Hvis du noen gang har lest et av disse sammendragene opp mot det som faktisk ble sagt, kjenner du resten. Den går glipp av ting, fyller inn det den ikke fikk med seg og høres sikker ut på det, og kontrollerer aldri sitt eget arbeid. Den kan registrere rommet. Den kan ikke ha en posisjon i det.
More Articles
- Visepresident for mennesker og organisasjon i en AI-enhjørning sier at HR-ledere må bli arkitektene bak en menneske-maskin-arbeidsstyrke
- Personaldirektør sier at selskaper ved et uhell straffer ansatte som bruker AI effektivt
- Menneskelig ledelse blir mer verdifull etter hvert som maskiner blir mer kapable
- Strateg for fremtidens arbeidsliv bryter ned de organisatoriske realitetene ved KI – og hvordan man navigerer i dem
- Forfatter og AI-ekspert oppfordrer organisasjoner til å gå fra “mennesket i sløyfen” til “mennesket på sløyfen”
En versjon du kan ta i bruk på mandag
Før en beslutning som faktisk betyr noe, blir satt ut i livet, skal du formulere den i én setning og angi hvilke perspektiver den trenger. Deretter samler du de menneskene, de faktiske personene, i samme rom eller på samme samtale i femten minutter.
Ingenting av dette krever et nytt verktøy, en ny medarbeider eller et nytt prosesslag. Det er hele poenget.
Disiplinen som større selskaper prøver å kjøpe med programvare og flere ansatte, er noe et lite team ganske enkelt kan gjøre, fordi dere allerede har de to tingene det krever: de riktige menneskene og evnen til å samle dem i et rom.
Her er den enkle versjonen.
Før en beslutning som faktisk betyr noe, blir satt ut i livet, skal du formulere den i én setning og angi hvilke perspektiver den trenger. Deretter samler du de menneskene, de faktiske personene, i samme rom eller på samme samtale i femten minutter. Ikke et fast møte. Ikke en komité. En kort, bevisst gjennomgang, med vilje, for akkurat denne ene beslutningen.
I den samtalen skal uenighet være jobben. Ikke spør om alle er enige. Spør hver person hva dette tar feil om, sett fra deres ståsted. Du samler ikke inn tomler opp. Du leter etter den ene innvendingen som endrer svaret. Og hvis alt faller på plass litt for lett, må du huske hva det vanligvis betyr. Noen som burde vært i rommet, er ikke der.
Når kunstig intelligens er en del av det, og det kommer den til å være, må du holde den på riktig side av grensen. La den utarbeide et utkast, oppsummere og løfte frem en vinkel du kanskje har oversett. Deretter tar du svaret dens inn i rommet og setter det under press på samme måte som du ville gjort med alle andres.
Behandle det som et utkast som skal kontrolleres, aldri som en dom som skal godtas. Den får ikke stemme. Den får en gjennomgang. Og når det bare er deg og den kunstige intelligensen, er hele samtalen din. Den kan bære arbeidet, men ikke tyngden.
Det er hele mønsteret. Formuler beslutningen, angi vinklene, samle de faktiske menneskene i sanntid, få dem til å være uenige, og hold det på den handlingsorienterte siden av grensen. Det koster deg femten minutter.
Alternativet koster deg tre uker og et selvsikkert svar som viste seg å bygge på en feilaktig antakelse. En gjetning ingen testet. En slutning behandlet som et faktum. Fra kunstig intelligens kaller vi det en hallusinasjon. Fra en person kaller vi det bare selvtillit.
Gapet små team er bygget for å lukke
Ta et skritt tilbake et øyeblikk. Både mennesker og kunstig intelligens tar feil, og et team kan overleve det. Det det ikke kan overleve, er den dyrere versjonen av problemet: at perspektivet som betyr mest, mangler.
Menneskene som må skape verdien, og menneskene den er ment for, befinner seg sjelden i samme rom når beslutningen tas.
I et stort selskap er dette den normale tilstanden. Personen med myndighet til å beslutte er vanligvis lengst unna der verdien faktisk blir skapt, og den travleste – den siste som kan avse femten minutter til å sitte i et rom. Derfor tas beslutningen på avstand, basert på en oppsummering, av noen som ikke var til stede under uenigheten som ville ha endret svaret.
Dette er gapet økonomidirektører stadig rapporterer om, men ikke kan forklare. I en nylig studie fra konsulentselskapet RGP sa 66 % av økonomidirektørene at de forventer betydelig avkastning fra kunstig intelligens innen to år. Bare 14 % sa at de ser meningsfull verdi i dag.
Den umiddelbare reaksjonen er å tolke dette som et verktøyproblem, noe en bedre modell eller en annen plattform vil løse. Det vil den ikke. Gapet har aldri handlet om verktøyene. Det handler om kvaliteten på beslutningene verktøyene forsyner.
Her er grunnen til at et lite team er det som lukker det. Friksjonen som beseirer et stort selskap – alle lagene, kalenderne og koordineringen – er stort sett ikke deres problem.
Menneskene dere ville ha trukket inn, kjenner allerede hverandre, stoler allerede på hverandre og kan være sterkt uenige og likevel spise lunsj sammen etterpå. Dere sender ikke en beslutning gjennom fremmede på et organisasjonskart. Dere vender dere til tre personer dere jobber med hver dag.
Disiplinen et stort selskap bruker millioner på å bygge opp igjen, er noe dere kan gjøre i ettermiddag, fordi avstanden det kjemper mot, aldri har vært der for dere.
Jeg opplevde dette en gang i et lite byrå. Vi tapte penger på de fleste av de største prosjektene våre. Løsningen var ikke et verktøy eller en ny medarbeider. Det var å få alle som var involvert i arbeidet, fra estimering og prissetting til bestilling og levering, inn i samme rom. Ikke bare i ett møte, men igjen og igjen, mens vi jobbet oss forbi symptomene og frem til det som faktisk foregikk.
Vi økte nettomarginen med 33 %. Det utslagsgivende var å gjøre det til en vane å snakke gjennom problemer og løsninger sammen. Det som fikk det til å fungere, var at vi bidro i arbeidet selv når det ikke var vårt, enten vi var eksperter eller ikke. Det er der mye innovasjon kommer fra, og det er akkurat det vi fortsetter å håpe at AI skal gi oss.
Og det er arbeidet jeg har gjort siden, med å hjelpe team med å jobbe seg gjennom problemene som er for store til at én person kan løse dem alene.
Det vanskelige var aldri å finne de rette menneskene. Det er å få dem inn i samme rom samtidig, slik at de kan diskutere og forme ideer sammen. Alle verktøy lover å erstatte dette, og ingen av dem kan det. Sett to mennesker som ser ulikt på saken, overfor hverandre i sanntid, så viser det virkelige problemet seg. Resten er logistikk.
AI har ingen perspektiver. Ingen mening. Ingenting den føler. For et snevert utvalg av beslutninger er denne distansen akkurat det du ønsker, og da bør du bruke den. Men det meste av det vi gjør, gjør vi for å bygge ting og løse problemer for andre mennesker, sammen med andre mennesker som bryr seg om hvordan det ender.
Det at de bryr seg, er det som får noen til å si imot, stå i spenningen og oppdage det alle andre overså.
Disse perspektivene er den ene delen av arbeidet du aldri bør gi slipp på. Og hvis dere er et lite team, trenger dere ikke å gjøre det. De sitter allerede rundt bordet deres. AI kan hjelpe dere med å utføre arbeidet. Den delen som faktisk er deres, får dere beholde.
