Paradokset med prestasjonstilbakemeldinger: Når KI fungerer bedre i det skjulte
KI-tilbakemeldinger: KI-genererte tilbakemeldinger forbedrer de ansattes prestasjoner mer enn menneskelige tilbakemeldinger dersom opphavet holdes skjult.
Effekten av åpenhet: Når det avsløres at KI er kilden til tilbakemeldingen, oppstår motstand og prestasjonene svekkes på grunn av tillitsproblemer.
Tillitskrise: De ansattes tillit til arbeidsgivernes bruk av KI er lav, og mange mener at det øker skjevheten.
Åpenhetsstrategi: Det anbefales å opplyse åpent om KI i tilbakemeldingsprosesser for å unngå langsiktige tillitsproblemer.
Langsiktig innvirkning: Valget mellom åpenhet og tilsløring gjenspeiler organisasjonens verdier og påvirker motstandskraften.
De beste systemene for tilbakemeldinger om prestasjoner fungerer på én måte som et magitriks: De er mest effektive når du ikke vet hvordan trikset utføres.
En studie fra 2021, publisert i Strategic Management Journal, fant at AI-genererte tilbakemeldinger forbedrer ansattes prestasjoner mer enn tilbakemeldinger fra menneskelige ledere. Men det er en hake: Det fungerte bare dersom de ansatte trodde at et menneske hadde skrevet dem. Så snart metoden ble avslørt, forsvant magien.
Tilbakemeldingene var mer konsekvente, mer personaliserte og objektivt sett mer effektive når det gjaldt å forbedre prestasjonene, men da arbeidstakerne fikk vite at algoritmer hadde generert innsikten om prestasjonene deres, forsvant forbedringene.
Continue Reading for Free
Create a free account to finish this article, plus get ongoing access to timely insights and practical resources.
Have an account? Log In
Den samme tilbakemeldingen som forbedret resultatene når den ble tilskrevet en menneskelig leder, utløste motstand, lavere engasjement og dårligere prestasjoner da de ansatte visste hvor den egentlig kom fra. Forskerne kalte dette «åpenhetseffekten», en målbar nedgang i prestasjonene som utelukkende skyldes kunnskapen om at AI var involvert.
AI i prestasjonsstyring er i dag stadig vanligere, på samme måte som AI integreres i andre deler av livet, gitt den utbredte bruken av AI-verktøy som ChatGPT, Claude og Gemini. Men det at bruken har økt, betyr ikke nødvendigvis at tilliten har økt tilsvarende.
For HR-ledere som navigerer i innføringen av AI, skaper paradokset forskerne avdekket i 2021 en umulig situasjon. Ta i bruk AI-systemer for tilbakemeldinger på en åpen måte, og ofre forbedringene i prestasjonene. Skjul at AI er involvert, og risiker et katastrofalt tillitsbrudd når sannheten uunngåelig kommer frem.
Avgjørelsen avdekker noe grunnleggende om hva organisasjoner optimaliserer for. Er det tallene for dette kvartalet eller kapasiteten for langsiktig transformasjon?
Bakgrunnen for tillitskrisen
Åpenhetseffekten oppstår ikke i et vakuum. Nyere forskning fra SHL viser at bare 27 % av arbeidstakerne har full tillit til at arbeidsgiverne deres bruker AI på en ansvarlig måte i HR-avgjørelser. Enda mer bekymringsfullt er det at 59 % mener AI gjør skjevheter på arbeidsplassen verre, ikke bedre.
Dette gjør paradokset tydeligere. Teknologien som kan levere bedre og mindre skjeve tilbakemeldinger, møtes med mistillit fra flertallet av de ansatte som skulle motta dem. Forskningen tyder dessuten på at mistilliten deres blir selvoppfyllende. Når de vet at AI er involvert, presterer de dårligere, uavhengig av om tilbakemeldingen i seg selv objektivt sett er bedre.
Dr. Ryne Sherman, Chief Science Officer hos Hogan Assessments, som samarbeider med over 75 % av Fortune 500-selskapene, ser to krefter som driver de ansattes motstand.
Den første er antakelsen om at AI ikke kan forstå nyansene på arbeidsplassen. Vi antar at en menneskelig vurderer av prestasjoner har en bedre forståelse av den organisatoriske konteksten, og større sans for prestasjoner som kanskje ikke kommer til uttrykk i ting som enkelt kan telles av en datamaskin.
Den andre faktoren går dypere. Det handler ikke om hvorvidt AI kan vurdere prestasjoner nøyaktig, men om hva valget om å bruke AI signaliserer om hvordan en organisasjon ser på menneskene sine.
«Mangelen på menneskelig medvirkning får arbeidstakere til å føle at de ganske enkelt blir behandlet som bokstavelige menneskelige ressurser, uten empati eller bekymring for deres velvære som mennesker», sier Sherman. «Forskningen vår viser at de mest effektive lederne viser ekte omsorg for de ansatte sine. Å bruke AI til å gjennomføre prestasjonsvurderinger antyder at organisasjonens ledere faktisk ikke bryr seg om de ansatte.»
Om disse antakelsene er riktige, betyr mindre enn det faktum at de eksisterer. De ansattes oppfatninger former atferden, og atferden former prestasjonene.
Hvorfor bedrag ikke fungerer
Organisasjoner som håper å høste fordelene AI gir for prestasjonene samtidig som de unngår åpenhetseffekten, står overfor et praktisk problem: De ansatte vet det allerede.
Edie Goldberg, arbeids- og organisasjonspsykolog og forfatter av den kommende boken Tilrettelegging for prestasjoner, peker på de avslørende tegnene som røper AI-genererte tilbakemeldinger.
De fleste ansatte kan se om tilbakemeldingen er skrevet av en datamaskin, med alle disse tankestrekene. Denne typen tilbakemelding mangler ofte den spesifisiteten en leder kunne ha bidratt med.
De stilistiske mønstrene i KI-generert tekst har blitt så gjenkjennelige at det kan være nytteløst å forsøke å skjule at KI er involvert. Selv når organisasjoner ikke uttrykkelig opplyser om KI-bruk, oppdager ansatte de algoritmiske kjennetegnene.
Dette undergraver hele strategien om å skjule det. Hvis ansatte mistenker at KI er involvert, men ikke får det direkte bekreftet, får organisasjonene det verste fra begge verdener: nedgangen i prestasjoner som følger av opplevd KI-bruk, kombinert med tillitsbruddet som oppstår når man forsøker å lure dem.
Goldbergs anbefalte tilnærming omgår paradokset fullstendig.
Forskjellen er viktig. KI kan samle tilbakemeldinger fra flere perspektiver, for eksempel kolleger, kunder og interne kommunikasjonsplattformer, og kombinere dem med harde data fra interne systemer.
"Alle disse faktorene gjør tilbakemeldingen mer rettferdig i utgangspunktet, fordi den ikke bare bygger på én persons perspektiv," sier Goldberg, med henvisning til den omfattende forskningen på lederes skjevheter i prestasjonsevalueringer.
Men fordelen ved økt rettferdighet oppstår bare hvis de ansatte har tillit til prosessen. Goldberg fremstiller dette som et problem med arbeidsfordeling, snarere enn et åpenhetsproblem. Bruk KI til sammenstilling og mønstergjenkjenning, områder der teknologien utmerker seg. La mennesker ha ansvaret for kontekst, spesifisitet og relasjonelle aspekter som de ansatte trenger for å tro at tilbakemeldingen er ekte.
Til syvende og sist handler løsningen ikke om å skjule KIs rolle, men om å redefinere den.
Åpenhet først
Kate O'Neil, administrerende direktør i plattformen for prestasjonsstyring Opre, har bygget hele produktet sitt rundt å avvise tilnærmingen der man skjuler KI-bruken. All tilbakemelding Opre-brukere mottar, er tydelig merket som KI-generert, og verken ledere eller ansatte kan manipulere den slik at den fremstår som skrevet av et menneske.
Det bør aldri være noen forvirring om hva som er KI-generert, og hva som er menneskeskapt. For hvordan kan vi «ha et menneske i loopen» hvis ingen vet hva som er menneskelig, og hva som er KI, i loopen? Manglende tydelighet rundt hvem som genererer tilbakemeldingen, bidrar til syvende og sist bare til å gjøre lederansvaret uklart.
Opre bygger sin designfilosofi på det O'Neil kaller en «leder og ansatt mot Opre»-dynamikk. Systemet sender innsikt om prestasjoner til begge parter samtidig, og skaper dermed et felles utgangspunkt for diskusjon i stedet for en ovenfra-og-ned-vurdering.
I sitt neste en-til-en-møte diskuterer leder og ansatt hva Opre fikk riktig, hva systemet gikk glipp av, og hva det kan ha misforstått om konteksten.
"Dette erstatter den langt mindre produktive dynamikken vi ofte ser i dag: leder mot ansatt, særlig når prestasjonene er svake eller prestasjonssamtaler blir unngått," forklarer O'Neil.
Men O'Neil erkjenner at hun ikke har sammenligningsdata. "Jeg vet ikke om det at de ansatte visste at tilbakemeldingen var KI-generert, påvirket noe, fordi jeg ikke har en gruppe ansatte som ikke visste at den var KI-generert, å sammenligne med."
På spørsmål om hun går glipp av prestasjonsforbedringer ved å prioritere åpenhet, svarer O'Neil uten å nøle.
Jeg tror ikke det at man vet at tilbakemeldingen er KI-generert, svekker effekten. Jeg tror illusjonen om at tilbakemeldingen er ekte når den ikke er det, svekker tilliten og de sosiale kontraktene mellom ledere og teamene deres. Svekket tillit svekker prestasjonene.
Hun går videre inn på spørsmålet om skjevhet. Selv om KI-genererte tilbakemeldinger objektivt sett reduserer skjevhet på kort sikt, skaper det et tillitsproblem å skjule kilden, noe som til syvende og sist øker skjevheten over tid.
«Hvis KI-generert innhold faktisk reduserer skjevhet, men de ansatte oppfatter at det øker skjevheten, vil den langsiktige virkningen være at tilliten svekkes», forklarer O'Neil. «Ledere som utgir KI-genererte tilbakemeldinger for å være sine egne, svekker tilliten mellom seg selv og teamene sine, og det fører til økt skjevhet senere.»
Det er derfor Opre sitt system hindrer ledere i å redigere eller tone ned KI-genererte innsikter. Både lederen og den ansatte mottar identiske tilbakemeldinger samtidig, noe som eliminerer muligheten for bedrag. Ledere og ansatte kan legge til kontekst eller be systemet om avklaring, men de kan ikke endre det systemet produserer.
Standpunktet hennes bygger også på en vurdering av tidsperspektiver. Organisasjoner kan optimalisere for umiddelbare resultatmål eller for evnen til å omstille seg over flere år. Etter hennes syn er de to målene uforenlige når det gjelder bruk av KI.
«Manglende åpenhet er ikke en strategi for bedre resultater», sier hun. «Det er en strategi for kortsiktig utnyttelse. Du kan kanskje få et kortvarig arbeidsløft mens de ansatte prøver å finne ut av reglene. Men kort tid etter mister du de beste folkene dine, tapper resten for krefter og svekker evnen din til å tiltrekke deg nye talenter.»
Når tilliten brytes
Både Goldberg og Sherman advarer om at bedrag knyttet til bruk av KI får konsekvenser som langt overgår eventuelle kortsiktige resultatforbedringer.
«Det er lett å bryte tillit, og svært vanskelig å bygge den opp igjen», sier Goldberg. «Det finnes ingen fordel her, bare risiko.»
Advarselen handler ikke bare om etisk posering. Både Goldberg og Sherman arbeider i miljøer der de ser ettervirkningene av brutt tillit utspille seg på tvers av flere organisasjoner. Vissheten deres om at bedrag mislykkes, kommer fra mønstergjenkjenning snarere enn filosofi.
«Det er katastrofalt for organisasjoner å benytte villedende praksis for resultatvurdering», advarer Sherman. «For det første finnes det, i enhver organisasjon av en viss størrelse, ikke noe håp om at bedraget ikke vil bli kjent. Alle organisasjoner har informasjonslekkasjer, og denne typen informasjon vil definitivt komme ut.
Ettervirkningene vil, ifølge Shermans vurdering, bli alvorlige.
«Når denne informasjonen blir kjent, vil tilliten til organisasjonen synke til et absolutt bunnivå», sier han. «De ansatte vil protestere, slutte og kanskje enda verre: bli fullstendig uengasjerte.»
Hans anbefaling til organisasjoner som havner i en slik situasjon, legger ikke fingrene imellom. De ansatte vil kreve ansvarliggjøring, noe som sannsynligvis innebærer å fjerne ledere på høyt nivå som var involvert i bedraget.
«Selv da», sier han, «må organisasjonen seriøst vurdere å omforme hele prosessen for resultatvurdering til en prosess basert på radikal åpenhet for å begynne å gjenvinne tilliten.»
Goldbergs råd til organisasjoner som befinner seg i denne situasjonen, er enklere, men leder frem til samme konklusjon.
Hva valget avslører
Beslutningen om hvorvidt man skal opplyse om KIs involvering i resultatstyringen, fremstilles sjelden som et valg mellom resultater og tillit. Oftere presenteres den som et spørsmål om teknisk implementering eller en utfordring innen endringsledelse. Men forskningen tyder på at det egentlig er en lakmustest for organisasjonens verdier.
Selskaper som optimaliserer for kortsiktige resultatmål, har et tydelig insentiv til å skjule KIs involvering. Effekten av implementeringen er reell og målbar.
Selskaper som bygger for langsiktig omstilling, har ikke råd til tillitsbruddet, selv om det innebærer å akseptere svakere umiddelbare resultater.
Det finnes også en problematisk klassedimensjon som praktikere sjelden tar opp direkte. Hvem får vite om KI-bruken i organisasjoner som bare delvis opplyser om den? Får ledere transparente KI-systemer, mens ansatte i førstelinjen får skjulte KI-tilbakemeldinger? Tillitsgapet mellom ledelsen og de ansatte er allerede stort. Selektiv informasjon kan få det til å bryte fullstendig sammen.
Shermans poeng om at oppdagelse er uunngåelig, fortjener å bli fremhevet. I en tid der ansatte tar skjermbilder av intern kommunikasjon, publiserer anonymt på nettsteder med bedriftsanmeldelser og organiserer seg via private Slack-kanaler, er det lite sannsynlig at KIs involvering i resultatvurderinger kan holdes hemmelig.
Legg til Goldbergs observasjon om at ansatte allerede kan kjenne igjen KI-generert tekst på grunn av mønstrene i den, så fremstår «skjul det»-tilnærmingen mindre som en strategi og mer som en måte å utsette det uunngåelige på.
Spørsmålet blir ikke om de ansatte vil finne det ut, men hva som skjer når de gjør det.
AI Transparency in Performance Management
En annen anvendelse
Goldberg mener at AIs virkelige løfte innen prestasjonsstyring kommer fra en helt annen retning: tilbakemeldinger i sanntid i stedet for årlige eller kvartalsvise vurderinger.
«AI-systemer kan bidra med mange tilbakemeldinger i øyeblikket, når de er mest nyttige», forklarer hun. «Men AI kan integrere alle disse tilbakemeldingene gjennom en vurderingsperiode for å gi et mer balansert og mindre forutinntatt bilde av den enkeltes prestasjoner. Dette er AIs styrke innen prestasjonsstyring, ikke bare det å skrive vurderingen.»
Dette setter spørsmålet om åpenhet i et nytt lys. Hvis AI gir umiddelbare, kontekstuelle tilbakemeldinger på spesifikke handlinger — markerer når prosjektfrister overskrides, påpeker når samarbeidsmønstre endres, fremhever når kommunikasjonsfrekvensen synker — betyr kilden mindre enn hvor raskt tilbakemeldingen kommer. Ansatte kan se den direkte sammenhengen mellom handlingene sine og tilbakemeldingen, noe som bygger tillit til systemets nøyaktighet i stedet for å undergrave den.
Den årlige prestasjonsvurderingen som er skrevet av AI, utløser fortsatt åpenhetseffekten fordi den forsøker å gjenskape menneskelig dømmekraft i en kontekst der relasjon og autoritet har betydning.
Tilbakemeldinger fra AI i sanntid fungerer på en annen måte. Den later ikke som om den representerer menneskelig visdom, men gir datadrevne observasjoner som mennesker ville hatt vanskeligheter med å levere i stor skala.
Om denne tilnærmingen unngår prestasjonsfallet som åpenhet skaper, er fortsatt ikke testet i stor skala, så langt jeg kan se, og oppfatningene av dette kan være i endring etter hvert som kjennskapen til hvordan AI fungerer, øker. Men det antyder at debatten om å skjule eller opplyse kanskje stiller feil spørsmål om feil anvendelse av teknologien.
Det ubesvarte spørsmålet
For ledere som tar beslutninger om bruk av AI i dag, tilbyr forskningen ingen komfortable alternativer.
Tilhengerne av åpenhet — O'Neil, Goldberg, Sherman — hevder at det å skjule AIs involvering garanterer en tillitskrise når det blir oppdaget, og at ansatte allerede kan oppdage AI-generert tekst. Det er bedre å bygge AI-klare kulturer gjennom ærlighet, selv om det går ut over prestasjonene på kort sikt.
Motargumentet er vanskeligere å avfeie enn det kan virke. Hvis AI-tilbakemeldinger objektivt reduserer skjevheter, gir mer konsekvente vurderinger og forbedrer resultatene, er åpenhet da en kostbar luksus som først og fremst får HR-ledere til å føle seg etiske?
Ingen av sidene kan vise til langsiktige data som viser hva som skjer tre år etter at åpen AI-basert tilbakemelding er tatt i bruk. Teknologien har utviklet seg for raskt, og løsningene er for nye. Men valget viser hva ledere mener om arbeidsstyrken sin, og hva de er villige til å ofre for å oppnå resultater.
Organisasjoner som valgte åpenhet valgte å satse på at prestasjonsgevinstene ville være verdt den uunngåelige tillitskrisen. De som valgte åpenhet, satser på at bygging av AI-klare kulturer krever ærlighet om AIs rolle, selv når det går ut over prestasjonene på kort sikt.
Forskningen viser hva som skjer umiddelbart etter at bruken blir kjent. Det vi ennå ikke kan svare like sikkert på, er hvilken tilnærming som over tid bygger mer robuste organisasjoner med høyere prestasjoner.
Foreløpig er dette fortsatt et spørsmål om filosofi, risikotoleranse og hva slags organisasjon lederne forsøker å bygge.
