Paradoxen med prestationsfeedback: När AI fungerar bättre i hemlighet
AI-feedback: AI-genererad feedback förbättrar medarbetares prestationer mer än mänsklig feedback om dess ursprung förblir hemligt.
Effekten av att avslöja ursprunget: När AI avslöjas som källan till feedbacken uppstår motstånd och prestationen försämras på grund av förtroendeproblem.
Förtroendekris: Medarbetarnas förtroende för arbetsgivares användning av AI är lågt, och många anser att den ökar partiskheten.
Transparensstrategi: Det rekommenderas att öppet informera om AI i feedbackprocesser för att förebygga långsiktiga förtroendeproblem.
Långsiktig påverkan: Valet mellan transparens och hemlighållande speglar organisationens värderingar och påverkar dess motståndskraft.
De bästa systemen för prestationsåterkoppling fungerar på ett sätt som liknar ett magiskt trick: de är som mest effektiva när du inte vet hur tricket utförs.
En studie från 2021 som publicerades i Strategic Management Journal visade att AI-genererad återkoppling förbättrar medarbetares prestationer mer än återkoppling från mänskliga chefer. Haken? Det fungerade bara om medarbetarna trodde att en människa hade skrivit den. När metoden avslöjas försvinner magin.
Återkopplingen var mer konsekvent, mer individanpassad och objektivt sett mer effektiv när det gällde att förbättra prestationerna, men när medarbetarna fick veta att algoritmer hade genererat deras prestationsinsikter försvann förbättringarna.
Continue Reading for Free
Create a free account to finish this article, plus get ongoing access to timely insights and practical resources.
Have an account? Log In
Samma återkoppling som förbättrade resultaten när den tillskrevs en mänsklig chef ledde till motstånd, lägre engagemang och sämre prestationer när medarbetarna kände till dess verkliga källa. Forskarna kallade detta för "avslöjandeeffekten", en mätbar prestationsminskning som enbart orsakas av vetskapen om att AI varit inblandad.
AI inom prestationshantering är idag allt vanligare, precis som det blir allt vanligare att AI integreras i andra delar av livet, med tanke på den utbredda användningen av AI-verktyg som ChatGPT, Claude och Gemini. Men det faktum att användningen har ökat innebär inte automatiskt att förtroendet har ökat i samma takt.
För HR-chefer som navigerar i införandet av AI skapar den paradox som forskarna upptäckte 2021 en omöjlig situation. Inför AI-system för återkoppling på ett transparent sätt och offra prestationsvinsterna. Dölja AI:s medverkan och riskera katastrofala förtroendebrott när sanningen oundvikligen kommer fram.
Beslutet avslöjar något grundläggande om vad organisationer optimerar för. Är det siffrorna för det här kvartalet eller den långsiktiga omvandlingsförmågan?
Bakgrunden till förtroendekrisen
Avslöjandeeffekten uppstår inte i ett vakuum. Ny forskning från SHL visar att endast 27 % av de anställda har fullt förtroende för att deras arbetsgivare använder AI ansvarsfullt i HR-beslut. Ännu mer oroande är att 59 % anser att AI förvärrar partiskheten på arbetsplatsen i stället för att minska den.
Detta gör paradoxen ännu tydligare. Tekniken som skulle kunna leverera bättre och mindre partisk återkoppling misstroddes av majoriteten av de medarbetare som skulle ta emot den. Och forskningen tyder på att deras misstro blir självuppfyllande. Vetskapen om att AI är inblandad får dem att prestera sämre, oavsett om återkopplingen i sig objektivt sett är bättre.
Dr. Ryne Sherman, vetenskaplig chef på Hogan Assessments, som arbetar med över 75 % av Fortune 500-företagen, ser två krafter som driver medarbetarnas motstånd.
Den första är antagandet att AI inte kan förstå arbetsplatsens nyanser. Vi antar att en mänsklig bedömare av prestationer har en bättre känsla för det organisatoriska sammanhanget och större förståelse för prestationer som kanske inte syns i sådant som enkelt kan räknas av en dator.
Den andra faktorn går djupare. Det handlar inte om huruvida AI kan bedöma prestationer korrekt, utan om vad valet att använda AI signalerar om hur en organisation ser på sina medarbetare.
"Bristen på mänsklig medverkan får medarbetarna att känna att de helt enkelt behandlas som bokstavliga mänskliga resurser, utan empati eller omsorg om deras välbefinnande som människor", säger Sherman. "Vår forskning visar att de mest effektiva ledarna visar genuin omtanke om sina medarbetare. Att använda AI för att genomföra prestationsbedömningar antyder att organisationens ledare faktiskt inte bryr sig om sina medarbetare."
Huruvida dessa antaganden stämmer spelar mindre roll än det faktum att de existerar. Medarbetarnas uppfattning formar deras beteende, och beteendet formar prestationerna.
Varför bedrägeri inte fungerar
Organisationer som hoppas kunna dra nytta av AI:s prestationsfördelar och samtidigt undvika avslöjandeeffekten står inför ett praktiskt problem: medarbetarna vet redan.
Edie Goldberg, arbets- och organisationspsykolog samt författare till den kommande boken Att möjliggöra prestation, pekar på de avslöjande tecken som visar att återkopplingen är AI-genererad.
De flesta anställda kan se om feedbacken har skrivits av en dator på grund av alla dessa tankstreck. Den här typen av feedback saknar ofta den specificitet som en chef skulle kunna bidra med.
De stilistiska mönstren i AI-genererad text har blivit tillräckligt igenkännliga för att försök att dölja dess inblandning kan vara meningslösa. Även när organisationer inte uttryckligen berättar att de använder AI upptäcker de anställda de algoritmiska fingeravtrycken.
Detta undergräver hela strategin att dölja användningen. Om anställda misstänker att AI är inblandat men inte får veta det direkt får organisationerna det värsta av två världar: prestationsminskningen som följer av upplevd AI-användning kombinerad med förtroendebrottet som uppstår genom ett försök till vilseledning.
Goldbergs rekommenderade tillvägagångssätt kringgår paradoxen helt.
Skillnaden är viktig. AI kan sammanföra feedback från flera perspektiv, såsom kollegor, kunder och interna kommunikationsplattformar, och kombinera den med hårda data från interna system.
"Alla dessa faktorer gör feedbacken i grunden mer rättvis eftersom den inte bara bygger på en persons perspektiv", säger Goldberg och hänvisar till den omfattande forskningen om chefers partiskhet i prestationsbedömningar.
Men fördelen med rättvisa uppstår bara om de anställda litar på processen. Goldberg beskriver detta som ett problem med arbetsfördelningen snarare än ett transparensproblem. Använd AI för sammanställning och mönsterdetektering, där tekniken är som bäst. Låt människor ansvara för kontext, specificitet och de relationsaspekter som de anställda behöver för att tro att feedbacken är genuin.
I slutändan är lösningen inte att dölja AI:s roll, utan att omdefiniera den.
En transparensorienterad hållning
Kate O'Neil, vd för plattformen för prestationshantering Opre, har byggt hela sin produkt kring att avvisa strategin att dölja AI-användningen. All feedback som Opre-användare får är tydligt identifierad som AI-genererad, och varken chefer eller anställda kan manipulera den för att få den att framstå som skriven av en människa.
Det ska aldrig råda någon förvirring kring vad som är AI-genererat och vad som är människogenererat. Hur kan vi trots allt ‘ha en människa med i loopen’ om ingen vet vad som är mänskligt och vad som är AI i loopen? Bristande tydlighet kring vem som genererar feedbacken bidrar i slutändan bara till att göra chefsansvaret otydligare.
Opre:s designfilosofi kretsar kring det O'Neil kallar en dynamik mellan "chef och anställd kontra Opre". Systemet skickar insikter om prestation till båda parter samtidigt, vilket skapar en gemensam referenspunkt för diskussion i stället för en hierarkisk bedömning.
Vid nästa enskilda möte diskuterar chef och anställd vad Opre fick rätt, vad systemet missade och vad det kan ha missförstått om kontexten.
"Detta ersätter den betydligt mindre produktiva dynamik som vi ofta ser i dag: chef kontra anställd, särskilt när prestationen är låg eller prestationssamtal undviks", förklarar O'Neil.
Men O'Neil medger att hon saknar jämförelsedata. "Jag vet inte om det påverkade något att de anställda visste att det var AI-genererat, eftersom jag inte har någon grupp anställda som inte visste att det var AI-genererat att jämföra med."
När hon får frågan om hon går miste om prestationsvinster genom att prioritera transparens tvekar O'Neil inte.
Jag tror inte att vetskapen om att det är AI-genererat försämrar effektiviteten. Jag tror att illusionen av att feedbacken är genuin när den inte är det förstör förtroendet och de sociala överenskommelserna mellan chefer och deras team. Förstört förtroende försämrar prestationen.
Hon går ännu längre i frågan om partiskhet. Även om AI-genererad feedback objektivt sett minskar partiskhet på kort sikt, skapar det problem med tilliten att dölja dess ursprung, vilket i slutändan ökar partiskheten över tid.
"Om AI-genererat innehåll faktiskt minskar partiskheten, men medarbetarna upplever att det ökar den, blir den långsiktiga effekten att tilliten försämras", förklarar O'Neil. "Chefer som framställer AI-genererad feedback som sin egen undergräver tilliten mellan dem och deras team, och det leder senare till ökad partiskhet."
Det är därför Opre's system hindrar chefer från att redigera eller mildra AI-genererade insikter. Både chefen och medarbetaren får identisk feedback samtidigt, vilket eliminerar möjligheten till bedrägeri. Chefer och medarbetare kan lägga till sammanhang eller be systemet om förtydliganden, men de kan inte ändra det som systemet producerar.
Hennes ståndpunkt bygger också på en beräkning av tidshorisonter. Organisationer kan optimera för omedelbara resultatmått eller för förmågan att förändras över flera år. Enligt henne är de två målen oförenliga när det gäller införandet av AI.
"Bristande transparens är ingen prestationsstrategi", säger hon. "Det är en kortsiktig strategi för att utvinna resultat. Du kanske får en kortvarig arbetsinsats medan medarbetarna försöker förstå reglerna. Men kort därefter förlorar du dina bästa medarbetare, kör slut på resten och försämrar din förmåga att attrahera nya talanger."
När tilliten bryts
Både Goldberg och Sherman varnar för att bedrägeri kring AI-användning får konsekvenser som vida överstiger eventuella kortsiktiga prestationsvinster.
"Det är lätt att bryta tilliten och mycket svårt att bygga upp den igen", säger Goldberg. "Det finns ingen fördel här, bara risk."
Den varningen är inte bara etiskt poserande. Både Goldberg och Sherman arbetar i miljöer där de ser följderna av bruten tillit utspela sig i flera organisationer. Deras övertygelse om att bedrägeri misslyckas bygger på mönsterigenkänning snarare än filosofi.
"Det är katastrofalt för organisationer att ägna sig åt bedrägliga metoder för prestationsbedömning", varnar Sherman. "För det första finns det, i en organisation av vilken storlek som helst, inte någon som helst möjlighet att bedrägeriet inte kommer fram. Alla organisationer har informationsläckor, och den här typen av information kommer absolut att spridas.
Enligt Shermans bedömning skulle följderna bli allvarliga.
"När den här informationen blir känd kommer tilliten till organisationen att nå absoluta bottennivåer", säger han. "Personalen kommer att protestera, säga upp sig och kanske ännu värre: bli totalt oengagerad."
Hans recept för organisationer som hamnar i ett sådant scenario väjer inte för något. Medarbetarna kommer att kräva ansvarsutkrävande, vilket sannolikt innebär att de högre chefer som varit delaktiga i bedrägeriet avlägsnas.
"Även då", säger han, "måste organisationen på allvar överväga att förändra hela sin process för prestationsbedömning till en process präglad av radikal transparens för att börja återvinna tilliten."
Goldbergs råd till organisationer som befinner sig i den här situationen är enklare, men leder till samma slutsats.
Vad valet avslöjar
Beslutet om huruvida AI-användning inom prestationshantering ska redovisas framställs sällan som ett val mellan prestation och tillit. Oftare presenteras det som en fråga om teknisk implementering eller en utmaning inom förändringshantering. Men forskningen tyder på att det i själva verket är ett lackmustest för organisationens värderingar.
Företag som optimerar för kortsiktiga resultatmått har ett tydligt incitament att dölja AI-användningen. Effekten av införandet är verklig och mätbar.
Företag som bygger för långsiktig omvandling har inte råd med den kränkning av tilliten som detta innebär, även om det betyder att de måste acceptera lägre omedelbara resultat.
Det finns också en problematisk klassdimension som yrkesverksamma sällan tar upp direkt. I organisationer som delvis redovisar AI-användningen, vilka får veta? Får chefer tillgång till transparenta AI-system medan medarbetare i operativa roller får dold AI-feedback? Tillitsgapet mellan ledningen och medarbetarna är redan stort. Selektiv redovisning skulle kunna få det att rasa helt.
Shermans poäng om att upptäckten är oundviklig förtjänar att betonas. I en tid då medarbetare skärmdumpar intern kommunikation, publicerar anonymt på webbplatser där företag recenseras och organiserar sig via privata Slack-kanaler är tanken på att AI-användning i prestationsbedömningar skulle kunna förbli hemlig orimlig.
Lägg till Goldbergs iakttagelse att medarbetare redan kan känna igen AI-genererad text genom dess mönster, så framstår strategin att dölja användningen mindre som en strategi och mer som ett sätt att skjuta upp det oundvikliga.
Frågan blir inte om medarbetarna kommer att få reda på det, utan vad som händer när de gör det.
AI Transparency in Performance Management
En annan tillämpning
Goldberg menar att AI:s verkliga potential inom prestationshantering kommer från ett helt annat håll: feedback i realtid snarare än årliga eller kvartalsvisa utvärderingar.
”AI-system kan bidra med mycket feedback i stunden, när den är som mest värdefull”, förklarar hon. ”Men AI kan sammanföra alla dessa feedbackpunkter under en prestationsperiod för att ge en mer balanserad och mindre partisk bild av individens prestation. Det är detta som är AI:s kraft inom prestationshantering, inte att bara skriva utvärderingen.”
Detta omformulerar frågan om transparens. Om AI ger omedelbar, kontextuell feedback på specifika handlingar — markerar när projektplaner försenas, noterar när samarbetsmönster förändras och uppmärksammar när kommunikationsfrekvensen minskar — spelar källan mindre roll än snabbheten. Medarbetarna kan se den direkta kopplingen mellan sina handlingar och feedbacken, vilket bygger förtroende för systemets träffsäkerhet i stället för att undergräva det.
Den årliga prestationsutvärderingen som skrivs av AI utlöser fortfarande transparenseffekten eftersom den försöker efterlikna mänskligt omdöme i ett sammanhang där relationer och auktoritet spelar roll.
Feedback från AI i realtid verkar på ett annat sätt. Den försöker inte låtsas vara mänsklig visdom, utan tillhandahåller datadrivna observationer som människor skulle ha svårt att leverera i stor skala.
Det är fortfarande oprövat i stor skala om detta tillvägagångssätt undviker den prestationsminskning som transparens skapar, så vitt jag kan se, och uppfattningarna om detta kan vara på väg att förändras i takt med att förståelsen för hur AI fungerar ökar. Men det antyder att debatten om att dölja eller avslöja AI-användning kanske ställer fel fråga om fel tillämpning av tekniken.
Den obesvarade frågan
För ledare som fattar beslut om AI-användning i dag erbjuder forskningen inga bekväma alternativ.
Förespråkarna för transparens — O'Neil, Goldberg och Sherman — hävdar att det garanterat leder till en förtroendekris om man döljer AI:s medverkan och detta upptäcks, samt att medarbetare redan kan upptäcka AI-genererad text. Det är bättre att bygga AI-beredda kulturer genom ärlighet, även om det kostar prestation på kort sikt.
Motargumentet är svårare att avfärda än det först verkar. Om AI-feedback objektivt minskar partiskhet, ger mer konsekventa bedömningar och förbättrar resultaten, är transparens då en dyr lyx som främst tjänar till att få HR-ledare att känna sig etiska?
Ingen av sidorna kan hänvisa till longitudinella data som visar vad som händer tre år efter att transparent AI-feedback har införts. Tekniken har utvecklats för snabbt och införandena är för nya. Men valet visar vad ledare tror om sin arbetsstyrka och vad de är villiga att offra för att nå resultat.
Organisationer som valde att inte vara transparenta satsade på att prestationsvinsterna skulle vara värda den slutliga förtroendekrisen. De som valde transparens satsar på att bygga AI-beredda kulturer, vilket kräver ärlighet om AI:s roll, även när det kostar prestation på kort sikt.
Forskningen visar vad som händer omedelbart efter att AI-användningen avslöjas. Det vi ännu inte kan besvara med lika stor säkerhet är vilket tillvägagångssätt som över tid bygger mer motståndskraftiga organisationer med högre prestation.
För närvarande är detta fortfarande en fråga om filosofi, risktolerans och vilken typ av organisation ledare försöker bygga.
