Paradoks informacji zwrotnej dotyczącej wydajności: kiedy AI działa lepiej w tajemnicy
Informacje zwrotne od AI: Informacje zwrotne generowane przez AI poprawiają wydajność pracowników bardziej niż informacje zwrotne od ludzi, jeśli ich pochodzenie pozostaje nieujawnione.
Wpływ ujawnienia: Ujawnienie, że źródłem informacji zwrotnej jest AI, wywołuje opór i pogarsza wydajność z powodu problemów z zaufaniem.
Kryzys zaufania: Zaufanie pracowników do wykorzystywania AI przez pracodawców jest niskie, a wielu z nich uważa, że zwiększa ono stronniczość.
Strategia przejrzystości: Zaleca się otwarte informowanie o wykorzystywaniu AI w procesach przekazywania informacji zwrotnych, aby zapobiec długoterminowym problemom z zaufaniem.
Wpływ długoterminowy: Wybór między przejrzystością a brakiem jawności odzwierciedla wartości organizacji i wpływa na jej odporność.
Najlepsze systemy informacji zwrotnej dotyczącej efektywności działają pod pewnym względem jak magiczna sztuczka: są najskuteczniejsze, gdy nie wiesz, jak ta sztuczka działa.
Badanie z 2021 roku opublikowane w Strategic Management Journal wykazało, że informacja zwrotna generowana przez AI poprawia efektywność pracowników bardziej niż informacja zwrotna od ludzkiego przełożonego. Jest jednak pewien haczyk: działało to tylko wtedy, gdy pracownicy myśleli, że napisał ją człowiek. Gdy ujawniono metodę, magia znikała.
Informacja zwrotna była bardziej spójna, bardziej spersonalizowana i obiektywnie skuteczniejsza w poprawianiu efektywności, ale gdy pracownicy dowiadywali się, że algorytmy wygenerowały wnioski dotyczące ich efektywności, korzyści znikały.
Continue Reading for Free
Create a free account to finish this article, plus get ongoing access to timely insights and practical resources.
Have an account? Log In
Ta sama informacja zwrotna, która poprawiała wyniki, gdy przypisywano ją ludzkiemu przełożonemu, wywoływała opór, mniejsze zaangażowanie i gorszą efektywność, gdy pracownicy wiedzieli o jej prawdziwym źródle. Naukowcy określili to mianem „efektu ujawnienia” — mierzalnego spadku efektywności spowodowanego wyłącznie świadomością, że w proces zaangażowano AI.
AI w zarządzaniu efektywnością jest dziś coraz powszechniejsze, podobnie jak integracja AI z innymi obszarami życia ze względu na rozpowszechnienie narzędzi AI, takich jak ChatGPT, Claude i Gemini. Sam fakt, że ich wykorzystanie wzrosło, nie oznacza jednak, że wzrosło wraz z nim zaufanie.
Dla liderów HR, którzy poruszają się w obszarze wdrażania AI, paradoks odkryty przez tych badaczy w 2021 roku tworzy sytuację bez wyjścia. Wdrażaj systemy informacji zwrotnej oparte na AI w sposób przejrzysty i poświęć korzyści związane ze wzrostem efektywności. Ukryj udział AI i ryzykuj katastrofalne naruszenie zaufania, gdy prawda nieuchronnie wyjdzie na jaw.
Ta decyzja ujawnia coś fundamentalnego na temat tego, na czym organizacje koncentrują optymalizację. Czy chodzi o wyniki tego kwartału, czy o zdolność do długoterminowej transformacji?
Kontekst kryzysu zaufania
Efekt ujawnienia nie występuje w próżni. Najnowsze badania przeprowadzone przez SHL pokazują, że tylko 27% pracowników w pełni ufa swoim pracodawcom w kwestii odpowiedzialnego wykorzystywania AI w decyzjach HR. Jeszcze bardziej niepokojące jest to, że 59% uważa, iż AI pogłębia uprzedzenia w miejscu pracy, zamiast je ograniczać.
To uwydatnia paradoks. Technologii, która mogłaby dostarczać lepszą i mniej stronniczą informację zwrotną, nie ufa większość pracowników, którzy mieliby ją otrzymywać. Badania sugerują również, że ich brak zaufania staje się samospełniającą się przepowiednią. Świadomość udziału AI sprawia, że pracują gorzej, niezależnie od tego, czy sama informacja zwrotna jest obiektywnie lepsza.
Dr Ryne Sherman, dyrektor ds. nauki w Hogan Assessments, firmie współpracującej z ponad 75% przedsiębiorstw z rankingu Fortune 500, wskazuje na dwie siły napędzające opór pracowników.
Pierwszą z nich jest założenie, że AI nie potrafi docenić niuansów środowiska pracy. Zakładamy, że człowiek oceniający efektywność lepiej rozumie kontekst organizacyjny i bardziej docenia efektywność, która może nie przejawiać się w elementach łatwych do zliczenia przez komputer.
Drugi czynnik sięga głębiej. Nie chodzi o to, czy AI potrafi dokładnie oceniać efektywność, lecz o to, co decyzja o wykorzystaniu AI sygnalizuje na temat tego, jak organizacja postrzega swoich ludzi.
„Brak udziału człowieka sprawia, że pracownicy czują się tak, jakby byli po prostu przetwarzani jako dosłowne zasoby ludzkie, bez empatii i troski o ich dobrostan jako ludzi” — mówi Sherman. „Nasze badania pokazują, że najskuteczniejsi liderzy okazują swoim pracownikom autentyczną troskę. Wykorzystywanie AI do przeprowadzania ocen efektywności sugeruje, że liderom organizacji naprawdę nie zależy na pracownikach”.
To, czy te założenia są trafne, ma mniejsze znaczenie niż sam fakt, że istnieją. Postrzeganie pracowników kształtuje ich zachowanie, a zachowanie kształtuje efektywność.
Dlaczego oszustwo nie działa
Organizacje, które chcą czerpać korzyści AI w zakresie efektywności, unikając jednocześnie efektu ujawnienia, stają przed praktycznym problemem: pracownicy już o tym wiedzą.
Edie Goldberg, psycholożka przemysłowa i organizacyjna oraz autorka nadchodzącej książki Umożliwianie efektywności, wskazuje charakterystyczne oznaki, po których można rozpoznać informację zwrotną wygenerowaną przez AI.
Większość pracowników potrafi rozpoznać, czy informacja zwrotna została napisana przez komputer, choćby po tych wszystkich półpauzach. Tego rodzaju informacjom zwrotnym często brakuje konkretów, które mógłby przedstawić menedżer.
Wzorce stylistyczne tekstów generowanych przez sztuczną inteligencję stały się na tyle rozpoznawalne, że próby ukrycia jej udziału mogą być daremne. Nawet gdy organizacje nie informują wprost o wykorzystaniu AI, pracownicy dostrzegają algorytmiczne ślady.
Podważa to całą strategię ukrywania tego faktu. Jeśli pracownicy podejrzewają udział AI, ale nie otrzymują bezpośredniej informacji, organizacje doświadczają najgorszego z obu światów: spadku efektywności wynikającego z postrzeganego wykorzystania AI oraz utraty zaufania spowodowanej próbą oszustwa.
Podejście zalecane przez Goldberg całkowicie omija ten paradoks.
To rozróżnienie ma znaczenie. AI może integrować informacje zwrotne z wielu perspektyw, takich jak opinie współpracowników, klientów i wewnętrzne platformy komunikacyjne, oraz łączyć je z twardymi danymi z systemów wewnętrznych.
„Wszystkie te czynniki sprawiają, że informacja zwrotna jest z natury bardziej sprawiedliwa, ponieważ nie odzwierciedla perspektywy tylko jednej osoby” — mówi Goldberg, odwołując się do licznych badań dotyczących uprzedzeń menedżerów w ocenach efektywności.
Jednak korzyść w postaci większej sprawiedliwości pojawia się tylko wtedy, gdy pracownicy ufają temu procesowi. Goldberg przedstawia to jako problem podziału obowiązków, a nie problem przejrzystości. Wykorzystuj AI do agregowania danych i wykrywania wzorców — właśnie w tym sprawdza się najlepiej. Odpowiedzialność za kontekst, konkrety i aspekty relacyjne, które są pracownikom potrzebne, aby uznać informację zwrotną za autentyczną, pozostaw ludziom.
Ostatecznie rozwiązaniem nie jest ukrywanie roli AI, lecz jej redefinicja.
Podejście stawiające na przejrzystość
Kate O'Neil, dyrektor generalna platformy do zarządzania efektywnością Opre, oparła cały swój produkt na odrzuceniu podejścia polegającego na ukrywaniu wykorzystania AI. Wszystkie informacje zwrotne otrzymywane przez użytkowników Opre są wyraźnie oznaczone jako wygenerowane przez AI, a ani menedżerowie, ani pracownicy nie mogą manipulować nimi tak, aby wyglądały na napisane przez człowieka.
Nigdy nie powinno być wątpliwości co do tego, co zostało wygenerowane przez AI, a co przez człowieka. W końcu jak możemy ‘utrzymać człowieka w pętli’, jeśli nikt nie wie, co w tej pętli pochodzi od człowieka, a co od AI? Brak jasności co do tego, kto generuje informacje zwrotne, ostatecznie tylko zaciemnia odpowiedzialność menedżerską.
Filozofia projektowa Opre opiera się na tym, co O'Neil nazywa dynamiką „menedżer i pracownik kontra Opre”. System jednocześnie wysyła obu stronom informacje na temat efektywności, tworząc wspólny punkt odniesienia do rozmowy, a nie odgórny osąd.
Podczas kolejnego spotkania jeden na jeden menedżer i pracownik omawiają, co Opre właściwie oceniło, co pominęło oraz czego mogło nie zrozumieć w kontekście.
„Zastępuje to znacznie mniej produktywną dynamikę, którą często obserwujemy obecnie: menedżer kontra pracownik, szczególnie gdy efektywność jest niska lub unika się rozmów dotyczących efektywności” — wyjaśnia O'Neil.
O'Neil przyznaje jednak, że nie ma danych porównawczych. „Nie wiem, czy świadomość pracowników, że treść została wygenerowana przez AI, miała na cokolwiek wpływ, ponieważ nie mam populacji pracowników, którzy nie wiedzieli, że została wygenerowana przez AI, aby móc ją porównać”.
Zapytana, czy stawiając na przejrzystość, nie rezygnuje z potencjalnej poprawy efektywności, O'Neil nie pozostawia wątpliwości.
Nie sądzę, żeby świadomość, że treść została wygenerowana przez AI, obniżała skuteczność. Uważam, że iluzja autentyczności informacji zwrotnej, gdy w rzeczywistości taka nie jest, podkopuje zaufanie i umowy społeczne między menedżerami a ich zespołami. Utrata zaufania obniża efektywność.
Idzie dalej w kwestii stronniczości. Nawet jeśli informacje zwrotne generowane przez AI obiektywnie ograniczają stronniczość w krótkim okresie, ukrywanie ich źródła stwarza problem zaufania, który ostatecznie z czasem zwiększa stronniczość.
„Jeśli treści generowane przez AI rzeczywiście ograniczają stronniczość, ale pracownicy sądzą, że ją zwiększają, długoterminowym skutkiem będzie erozja zaufania” — wyjaśnia O'Neil. „Menedżerowie przedstawiający informacje zwrotne wygenerowane przez AI jako własne osłabiają zaufanie między sobą a zespołami, co później prowadzi do zwiększenia stronniczości”.
Właśnie dlatego system Opre uniemożliwia menedżerom edytowanie lub łagodzenie wniosków wygenerowanych przez AI. Zarówno menedżer, jak i pracownik otrzymują identyczne informacje zwrotne jednocześnie, co eliminuje możliwość oszustwa. Menedżerowie i pracownicy mogą dodać kontekst lub poprosić system o wyjaśnienie, ale nie mogą modyfikować tego, co system generuje.
Jej stanowisko opiera się również na kalkulacji dotyczącej horyzontów czasowych. Organizacje mogą optymalizować natychmiastowe wskaźniki efektywności albo zdolność do transformacji na przestrzeni lat. Jej zdaniem te dwa cele są nie do pogodzenia, jeśli chodzi o wdrażanie AI.
„Brak przejrzystości nie jest strategią poprawy wyników” — mówi. „To strategia krótkoterminowej eksploatacji. Możecie uzyskać chwilowy wzrost wysiłku, gdy pracownicy będą gorączkowo próbować zrozumieć zasady. Jednak wkrótce stracicie najlepszych ludzi, wyczerpiecie pozostałych i osłabicie zdolność do przyciągania nowych talentów”.
Gdy zaufanie się załamuje
Goldberg i Sherman ostrzegają, że oszustwa związane z wykorzystaniem AI niosą konsekwencje znacznie przewyższające wszelkie krótkoterminowe korzyści w zakresie efektywności.
„Zaufanie łatwo zniszczyć i bardzo trudno odbudować” — mówi Goldberg. „Nie ma tu żadnych korzyści, są tylko zagrożenia”.
To ostrzeżenie nie jest jedynie etyczną pozą. Goldberg i Sherman działają w środowiskach, w których obserwują skutki utraty zaufania w wielu organizacjach. Ich pewność, że oszustwo kończy się niepowodzeniem, wynika z rozpoznawania powtarzających się wzorców, a nie z filozofii.
„Angażowanie się przez organizacje w oszukańcze praktyki oceny wyników pracy jest katastrofalne” — ostrzega Sherman. „Po pierwsze, w organizacji dowolnej wielkości nie ma absolutnie żadnej nadziei, że oszustwo nie wyjdzie na jaw. Wszystkie organizacje mają wycieki informacji, a tego rodzaju informacje z całą pewnością się wydostaną.
Według Shermana skutki byłyby poważne.
„Gdy ta informacja stanie się znana, zaufanie do organizacji spadnie na absolutne dno” — mówi. „Pracownicy będą protestować, odchodzić, a być może — co jeszcze gorsze — całkowicie się wycofają”.
Jego zalecenia dla organizacji uwikłanej w taki scenariusz są bezkompromisowe. Pracownicy będą domagać się rozliczenia winnych, co prawdopodobnie oznacza usunięcie zaangażowanych w oszustwo członków wyższej kadry kierowniczej.
„Nawet wtedy” — mówi — „organizacja będzie musiała poważnie rozważyć przekształcenie całego procesu oceny wyników pracy w proces oparty na radykalnej przejrzystości, aby rozpocząć odbudowę zaufania”.
Rada Goldberga dla organizacji, które znalazły się w takiej sytuacji, jest prostsza, ale prowadzi do tego samego wniosku.
Co ujawnia ten wybór
Decyzja o tym, czy ujawnić udział AI w zarządzaniu wynikami pracy, rzadko jest przedstawiana jako wybór między efektywnością a zaufaniem. Częściej przedstawia się ją jako kwestię wdrożenia technicznego lub wyzwanie związane z zarządzaniem zmianą. Badania sugerują jednak, że jest to w rzeczywistości papierek lakmusowy wartości organizacji.
Firmy optymalizujące krótkoterminowe wskaźniki efektywności mają wyraźną motywację, by ukrywać udział AI. Wpływ wdrożenia jest realny i mierzalny.
Firmy budujące podstawy długoterminowej transformacji nie mogą sobie pozwolić na naruszenie zaufania, nawet jeśli oznacza to zaakceptowanie niższej bieżącej efektywności.
Istnieje również niepokojący wymiar klasowy, którym praktycy rzadko zajmują się bezpośrednio. W organizacjach, które częściowo ujawniają wykorzystanie AI, kto ma prawo wiedzieć? Czy kadra kierownicza otrzymuje przejrzyste systemy AI, podczas gdy pracownicy pierwszej linii dostają ukryte informacje zwrotne generowane przez AI? Przepaść zaufania między kierownictwem a pracownikami już jest szeroka. Selektywne ujawnianie informacji może całkowicie ją zniszczyć.
Warto podkreślić uwagę Shermana dotyczącą nieuniknionego odkrycia prawdy. W czasach, gdy pracownicy robią zrzuty ekranu wewnętrznej komunikacji, anonimowo publikują wpisy na portalach z opiniami o firmach i organizują się za pośrednictwem prywatnych kanałów Slacka, założenie, że udział AI w ocenach wyników pracy może pozostać tajemnicą, jest niewiarygodne.
Dodajmy do tego spostrzeżenie Goldberga, że pracownicy już potrafią rozpoznawać tekst wygenerowany przez AI po jego charakterystycznych wzorcach, a podejście polegające na ukrywaniu tego wygląda mniej jak strategia, a bardziej jak taktyka odraczania problemu.
Pytanie nie brzmi więc, czy pracownicy się dowiedzą, lecz co się stanie, gdy to nastąpi.
AI Transparency in Performance Management
Inne zastosowanie
Goldberg dostrzega prawdziwy potencjał sztucznej inteligencji w zarządzaniu wynikami pracy w zupełnie innym obszarze: informacji zwrotnej w czasie rzeczywistym, a nie corocznych czy kwartalnych ocenach.
Systemy sztucznej inteligencji mogą pomóc w przekazywaniu dużej ilości informacji zwrotnej w danym momencie, gdy przynosi ona największe korzyści” — wyjaśnia. „Sztuczna inteligencja może jednak integrować wszystkie te informacje zwrotne w całym okresie oceny, aby zapewnić bardziej wyważony i mniej stronniczy obraz indywidualnych wyników pracy. Na tym polega siła sztucznej inteligencji w zarządzaniu wynikami pracy, a nie tylko na pisaniu oceny.
To zmienia sposób postrzegania kwestii ujawniania informacji. Jeśli sztuczna inteligencja zapewnia natychmiastową, kontekstową informację zwrotną na temat konkretnych działań — sygnalizując opóźnienia w harmonogramie projektu, odnotowując zmiany we wzorcach współpracy czy wskazując na spadek częstotliwości komunikacji — źródło ma mniejsze znaczenie niż terminowość. Pracownicy mogą dostrzec bezpośredni związek między swoimi działaniami a informacją zwrotną, co buduje zaufanie do dokładności systemu, zamiast je podważać.
Coroczna ocena wyników pracy napisana przez sztuczną inteligencję nadal wywołuje efekt ujawnienia, ponieważ próbuje naśladować ludzką ocenę w kontekście, w którym relacje i autorytet mają znaczenie.
Informacja zwrotna od sztucznej inteligencji przekazywana w czasie rzeczywistym działa w innym rejestrze. Nie udaje ludzkiej mądrości, lecz dostarcza opartych na danych obserwacji, których ludzie mieliby trudności dostarczać na dużą skalę.
Na podstawie dostępnych mi informacji nie przetestowano jeszcze na dużą skalę, czy takie podejście pozwala uniknąć spadku wyników powodowanego ujawnieniem, a postrzeganie tej kwestii może się zmieniać wraz ze wzrostem znajomości sposobu działania sztucznej inteligencji. Sugeruje to jednak, że debata na temat ukrywania lub ujawniania może stawiać niewłaściwe pytanie dotyczące niewłaściwego zastosowania tej technologii.
Nierozstrzygnięte pytanie
Dla liderów podejmujących dziś decyzje dotyczące wdrażania sztucznej inteligencji badania nie oferują żadnych komfortowych rozwiązań.
Zwolennicy przejrzystości — O'Neil, Goldberg i Sherman — twierdzą, że ukrywanie udziału sztucznej inteligencji gwarantuje katastrofę zaufania, gdy prawda wyjdzie na jaw, a pracownicy i tak potrafią już wykrywać teksty wygenerowane przez sztuczną inteligencję. Lepiej budować kultury organizacyjne gotowe na sztuczną inteligencję poprzez szczerość, nawet jeśli w krótkim okresie obniży to wyniki.
Kontrargument jest trudniejszy do odrzucenia, niż mogłoby się wydawać. Jeśli informacja zwrotna generowana przez sztuczną inteligencję obiektywnie ogranicza stronniczość, zapewnia bardziej spójne oceny i poprawia wyniki, czy przejrzystość nie jest kosztownym luksusem, który służy przede wszystkim temu, by liderzy HR mogli czuć się etyczni?
Żadna ze stron nie może wskazać danych podłużnych pokazujących, co dzieje się trzy lata po wdrożeniu przejrzystej informacji zwrotnej generowanej przez sztuczną inteligencję. Technologia rozwijała się zbyt szybko, a wdrożenia są zbyt świeże. Wybór ten ujawnia jednak, co liderzy sądzą o swoich pracownikach i co są gotowi poświęcić, aby osiągnąć wyniki.
Organizacje, które wybrały brak przejrzystości, założyły, że wzrost wyników będzie wart późniejszego kryzysu zaufania. Te, które wybrały przejrzystość, zakładają, że budowanie kultur organizacyjnych gotowych na sztuczną inteligencję wymaga szczerości co do roli sztucznej inteligencji, nawet jeśli w krótkim okresie obniża to wyniki.
Badania pokazują, co dzieje się bezpośrednio po ujawnieniu informacji. Nadal nie potrafimy jednak z taką samą pewnością odpowiedzieć, które podejście z czasem buduje bardziej odporne i osiągające lepsze wyniki organizacje.
Na razie pozostaje to kwestią filozofii, tolerancji ryzyka i tego, jaki rodzaj organizacji liderzy starają się zbudować.
