Kto może nie zgodzić się z modelem?
Ryzyko delegowania: Delegowanie AI oparte na celach znacznie ogranicza uczciwość, pozwalając systemom określać metody realizacji pozornie akceptowalnych celów biznesowych.
Luka w odpowiedzialności: Zasady zarządzania AI wskazują liderów odpowiedzialnych za decyzje, ale rejestry uchyleń pokazują, czy w praktyce rzeczywiście istnieje władza decyzyjna.
Dowody uchyleń: Rejestrowanie sytuacji, w których ludzie nie zgadzają się z rekomendacjami AI, ujawnia niewykorzystane uprawnienia, słabe systemy i organizacyjny opór przed kwestionowaniem decyzji.
Zanik osądu: Wielokrotne akceptowanie rekomendacji maszyn może osłabić umiejętności decyzyjne menedżerów, zanim organizacje rozpoznają wynikającą z tego słabość.
Projektowanie w praktyce: Skuteczny nadzór człowieka wymaga odwracalnej klasyfikacji decyzji, jasno określonych trybów delegowania, rejestrów niezgodności oraz społecznej ochrony osób uchylających decyzje.
Naukowcy pod kierownictwem Instytutu Maxa Plancka na rzecz Rozwoju Człowieka przeprowadzili wersję eksperymentu, który badacze zachowań wykorzystują od dziesięcioleci. Uczestnicy obserwowali rzut kością na ekranie i podawali wynik. Wyższe liczby oznaczały wyższą wypłatę — jeden cent za każdą kropkę — przez dziesięć rund.
Gdy odpowiadali za siebie, 95% z nich mówiło prawdę.
Następnie naukowcy polecili innym uczestnikom przekazać raportowanie maszynie, zmieniając wyłącznie sposób sformułowania instrukcji. Ci, którzy musieli napisać jednoznaczne zasady, określając, co należy zgłosić dla każdego z sześciu możliwych wyników, prosili maszynę o podanie uczciwej liczby w około 75% przypadków.
Continue Reading for Free
Create a free account to finish this article, plus get ongoing access to timely insights and practical resources.
Have an account? Log In
Ci, którzy szkolili ją, wybierając przykładowy zbiór danych, prosili o uczciwość mniej więcej w połowie przypadków. Ci zaś, którzy wyznaczali cel, przesuwając pokrętło od „maksymalizuj dokładność” w stronę „maksymalizuj zysk” i pozostawiając metodę systemowi, prosili o uczciwość w 12% przypadków w pierwszym badaniu oraz w 16% przypadków w badaniu uzupełniającym, w którym delegowanie było opcjonalne.
Od 84 do 88% osób w tym ostatnim wariancie poprosiło maszynę, by oszukiwała za nie, mimo że żadna z nich nie musiała tego powiedzieć.
Pieniądze się nie zmieniły. Rzuty kością również się nie zmieniły, ponieważ każdy uczestnik widział tę samą, ustaloną sekwencję dziesięciu rzutów. Zmieniła się natomiast ilość przestrzeni interpretacyjnej między instrukcją a działaniem.
Naukowcy spodziewali się, że pisanie zasad pozostanie na stałym poziomie, wychodząc z założenia, że opisanie sposobu oszustwa ma taki sam ciężar moralny jak samo jego popełnienie. Tak się jednak nie stało. W tej grupie uczciwość również spadła o około dwadzieścia punktów procentowych. Każda forma delegowania ją osłabiała, a interfejs decydował o skali tego osłabienia.
Był to eksperyment internetowy przeprowadzony na platformie Prolific, z maksymalną wypłatą w wysokości sześćdziesięciu centów. Zadanie z rzutem kością ma długą historię walidacji i pozwala przewidywać zachowania w świecie rzeczywistym, w tym unikanie opłat za przejazd oraz oszukańcze praktyki sprzedażowe. Porównanie interfejsów przetestowano wyłącznie w tym protokole, choć badanie towarzyszące wykorzystujące zadanie związane z uchylaniem się od płacenia podatków, w którym podanie nieprawdziwych danych zmniejszało darowiznę na rzecz Czerwonego Krzyża, powtórzyło inne kluczowe ustalenie badania dotyczące sposobu, w jaki agenci maszynowi realizują otrzymywane instrukcje.
To rozróżnienie ma znaczenie dla tego, co obecnie buduje większość firm. Pisanie polecenia jest bliższe pisaniu zasad, a nieuczciwe prośby formułowane w języku naturalnym stanowiły około 25% przypadków według deklaracji samych uczestników oraz 40%, gdy instrukcje oceniali niezależni oceniający.
Wzrost ten pojawia się w przypadku interfejsów, w których człowiek wyznacza cel, a system określa metodę. Menedżer, który mówi agentowi, aby maksymalizował liczbę wykwalifikowanych szans sprzedażowych lub skrócił czas obsadzenia stanowiska, określił wynik i pozostawił systemowi każdą decyzję operacyjną dotyczącą sposobu jego osiągnięcia. Ale gdzie znajduje się kryterium, którego ktoś musiałby bronić?
Struktura odpowiedzialności nałożona na taki układ zwykle wygląda dobrze na papierze. Widnieje na niej czyjeś nazwisko. To nazwisko robi jednak mniej, niż mogłoby się wydawać.
Wskazanie osoby odpowiedzialnej było łatwą częścią
W 2025 roku i na początku tego roku organizacje zrobiły oczywistą rzecz. Powołały komitety nadzorujące sztuczną inteligencję, opracowały zasady dopuszczalnego użycia i umieściły wskazanego członka kadry kierowniczej na schemacie organizacyjnym obok słów „zarządzanie sztuczną inteligencją”.
Badanie Globalne trendy w kapitale ludzkim 2026 firmy Deloitte, przeprowadzone wspólnie z Oxford Economics wśród ponad 9000 liderów biznesu i HR w 89 krajach, wykazało, że 64% respondentów uważa sztuczną inteligencję i podejmowanie decyzji za bardzo ważne dla ich obecnego sukcesu. Tylko 5% uważa, że ich organizacje są w tej dziedzinie liderami.
Tej różnicy między obawami a kompetencjami nie wyjaśnia brak odpowiednich zasad. Większość organizacji ma takie zasady. Brakuje im natomiast jakichkolwiek dowodów na to, że zapisana przez nie władza jest wykorzystywana.
Zapytaj dyrektora HR, kto odpowiada za decyzję rekrutacyjną wspomaganą przez sztuczną inteligencję, a otrzymasz odpowiedź. Zapytaj, ile razy w ciągu ostatnich sześciu miesięcy rekruter formalnie odrzucił rekomendację narzędzia selekcyjnego i co stało się później z tym rekruterem, a w pomieszczeniu zapanuje cisza.
To drugie pytanie warto zadać, ponieważ odpowiedź można zweryfikować. Odpowiedzialność jest deklaracją. Odstąpienie od rekomendacji jest zdarzeniem.
Rejestr kończy się na wyniku
Kaan Esendemir, architekt rozwiązań korporacyjnych, który na dużą skalę tworzył przepływy pracy wspomagane przez sztuczną inteligencję, najczęściej dostrzega ten schemat w systemach, które rekomendują, zamiast podejmować decyzje. Wirtualni asystenci, akceleratory przepływów pracy, narzędzia, które przedstawiają jedną z możliwości i pozostawiają decyzję człowiekowi.
Gdzie przebiega granica między tymi dwiema sytuacjami, jest kwestią negocjacji. Właściciele biznesowi i produktowi decydują, gdzie kończy się sztuczna inteligencja, a zaczyna człowiek — mówi — przy udziale zespołu inżynieryjnego, ponieważ jego członkowie rozumieją, co system może realistycznie zrobić i gdzie zawodzi. Ta część zwykle działa.
To, co dzieje się później, jest miejscem, w którym zapis staje się coraz uboższy.
Kiedy ktoś nadpisuje działanie systemu, ostateczny wynik jest zazwyczaj rejestrowany, ale sam sprzeciw nie zawsze jest śledzony jako odrębny punkt danych.
To rozróżnienie może wydawać się niewielkie, ale decyduje o tym, czego organizacja może się nauczyć. Wynik mówi, co zostało postanowione. Sprzeciw mówi, że ktoś przeanalizował rekomendację, uznał ją za błędną i postąpił wbrew niej. Firmy zachowują mniej użyteczną z tych dwóch informacji.
Nadpisanie nie jest tylko wyjątkiem. To informacja zwrotna, która może pomóc ulepszyć system i sprawić, że przyszłe rekomendacje będą lepsze.
Rejestr nadpisań to niedroga procedura diagnostyczna, którą każdy dyrektor operacyjny może przeprowadzić w tym kwartale. Wybierz trzy procesy, w których AI wpływa na decyzję o istotnych konsekwencjach. Policz udokumentowane przypadki z ostatnich sześciu miesięcy, gdy człowiek postąpił wbrew rekomendacji. Następnie sprawdź, co wydarzyło się później w każdym z tych przypadków.
Jeśli liczba wynosi zero, najprawdopodobniej prawdziwe jest jedno z dwóch wyjaśnień. System działał tak dobrze, że przez pół roku żaden człowiek nie znalazł powodu, by się z nim nie zgodzić — a tego nie twierdzi o swoim produkcie żaden dostawca. Albo uprawnienie do sprzeciwu istnieje na papierze i nigdzie indziej.
Liczba nie musi wynosić zero, żeby coś ci powiedzieć. W Hiszpanii działa system o nazwie Viogén, który ocenia ryzyko ponownej przemocy w przypadkach przemocy domowej, a zewnętrzny audyt wykazał, że funkcjonariusze policji stosowali się do jego rekomendacji w 95% przypadków.
Europejski Inspektor Ochrony Danych, powołując się na ten audyt w opracowaniu technicznym opublikowanym we wrześniu ubiegłego roku, przyznaje, że zgodność może odzwierciedlać uzasadnione zaufanie do tego narzędzia. Jednocześnie stawia pytanie, ile niezależnego osądu pozostaje w tym procesie.
Zgodność między człowiekiem a modelem na poziomie dziewięćdziesięciu pięciu procent oznacza albo bardzo dobry model, albo człowieka, który przestał samodzielnie wyciągać wnioski. Z zewnątrz te dwie sytuacje wyglądają identycznie. Z perspektywy rejestru, po sześciu miesiącach, już nie.
Zdolność do nadpisywania decyzji zanika, zanim zostanie zmierzona
Amy Centers, psycholożka organizacji i założycielka SmartWorks Labs, opisuje problem drugiego rzędu. Uprawnienie do nadpisania decyzji nie tylko pozostaje niewykorzystane. Erozji ulega to, co się za nim kryje.
To trochę tak, jak GPS osłabił nasze poczucie orientacji. Z czasem przekazywanie osądu na zewnątrz, moim zdaniem, zacznie osłabiać wewnętrzny kompas lidera i jego intuicję, a to niesie ze sobą realne zagrożenie, ponieważ organizacje mogą stać się technicznie wydajne, ale moralnie puste.
Jej bardziej dosadna wersja brzmi: "Im częściej przekazujemy trudne decyzje innym, tym bardziej ryzykujemy stworzenie liderów, którzy nie potrafią przewodzić bez podpowiedzi."
Ten mechanizm działa w dłuższej perspektywie niż większość przeglądów zarządczych. Menedżer, który dziewięćdziesiąt osiem razy z rzędu podporządkował się modelowi, nie pozostawał bezczynny. Był skuteczny. Jednocześnie przez wiele miesięcy nie ćwiczył umiejętności, której istnienie zakłada uprawnienie do nadpisywania decyzji.
Nie widać tego w kwartalnej ocenie. Ujawnia się to po raz pierwszy, gdy model z pełnym przekonaniem myli się w sprawie o istotnych konsekwencjach, a osoba formalnie odpowiedzialna za wychwycenie błędu czyta wynik, uznaje go za wiarygodny i idzie dalej.
Centers wskazuje menedżera jako punkt, w którym dochodzi do porażki, i robi to z pełnym przekonaniem.
Zaczęłabym od odpowiedzialności menedżerów. Większość dysfunkcji rozprzestrzenia się od menedżerów. Zbyt często nie otrzymują wsparcia i nie są odpowiednio rozwijani. Nie rozlicza się ich z tego, jak przewodzą. Jeśli nie naprawisz tej warstwy zawiasowej, każda inna reforma — zaangażowanie, umiejętności, wdrożenie AI — wszystko się rozpadnie.
Nazywa rolę menedżera zawiasem łączącym strategię z ludzkim doświadczeniem. W procesie pracy wspomaganym przez AI jest to także jedyna warstwa, która może wychwycić błędną decyzję, zanim ta zacznie się powielać — obsadzona osobami awansowanymi za niezawodność operacyjną, którym nigdy nie powiedziano, że weryfikowanie wyników generowanych przez maszynę jest teraz częścią ich obowiązków.
Automatyzacja pozostawia ludziom najtrudniejsze przypadki
Victoria Pelletier, która wcześniej kierowała funkcjami związanymi z zarządzaniem ludźmi i transformacją między innymi w Accenture i IBM, wskazuje, co automatyzacja robi z pracą, która pozostaje.
To właśnie te ludzkie umiejętności — zdolności interpersonalne, innowacyjność, rozwiązywanie problemów i takie cechy jak empatia. Kiedy pytasz, co zostaje? Pomyśl o centrum kontaktowym. To było pierwsze miejsce, w którym pojawił się jakiś rodzaj automatyzacji. Kiedy rozmawiasz już z ludzkim konsultantem, jest to wyjątek. Dana sprawa nie została obsłużona zgodnie z zasadami polityki lub kodem, którym mógł kierować się agent AI. Potrzebujesz więc kogoś, kto potrafi to przeanalizować.
Jej uwaga pokazuje, że centra kontaktowe przeprowadziły ten eksperyment wiele lat przed wszystkimi innymi. Zautomatyzuj przestrzeganie zasad, a każdy telefon, który dociera do człowieka, jest z definicji tym, z którym zasady nie potrafiły sobie poradzić. Praca, która pozostaje, jest trudniejsza niż ta, którą odebrano ludziom.
Pelletier twierdzi, że definicje ról rzadko są aktualizowane. Wolumen spada, poziom trudności rośnie, a opis stanowiska, szkolenia i kryteria oceny wyników nadal opisują pracę taką, jaka istniała wcześniej. Zauważa, że pozostała praca „wymaga zupełnie innego poziomu biegłości w niektórych obszarach, których już dziś oczekujemy”.
Wskazuje również na strukturalny powód, dla którego uprawnienia decyzyjne nie są projektowane na nowo. Funkcje związane z projektowaniem organizacji i architekturą stanowisk zostały w ciągu ostatniej dekady ograniczone jako koszty ogólne, przy rozsądnym założeniu, że role nie będą wymagały częstej ponownej oceny.
To właśnie te osoby mogłyby teraz odbudować uprawnienia decyzyjne. Pelletier nazywa to, co dzieje się pod ich nieobecność, „frankensteinowaniem stanowisk”.
More Articles
- Trzy zmiany umożliwiające przejście od wsparcia AI do pełnej odpowiedzialności
- Wiceprezes ds. Ludzi i Organizacji w firmie AI o statusie jednorożca mówi, że liderzy HR muszą stać się architektami zespołu ludzi i maszyn
- Wdrażaj, ucz się, skaluj. Co dalej?
- Sztuczna inteligencja w operacjach biznesowych: jak przekształcić nowe technologie w strategiczną przewagę biznesową
- Czego firmy średniej wielkości nauczyły się o transformacji AI w 2025 roku
Dwie krytyczne uwagi dotyczące człowieka w pętli
Obecnie pojawiają się dwa zastrzeżenia wobec pozostawiania człowieka w pętli i wskazują one w przeciwnych kierunkach.
Wersja Jürgena Appelo zakłada, że obowiązkowe punkty kontroli z udziałem człowieka zamieniają ludzi w wąskie gardła. Każda interakcja zaczyna się i kończy z udziałem człowieka, systemy nigdy nie komunikują się ze sobą, a operacja działa w tempie wyznaczanym przez najwolniejszą osobę. Nazywa to pułapką ludzi w pętli.
Właśnie to Esendemir ma na myśli, kiedy mówi mi, że nieprzechwytywanie przypadków nadpisania decyzji jest „głównie decyzją projektową”.
Stanowisko Europejskiego Inspektora Ochrony Danych jest niemal jego przeciwieństwem. We wcześniej wspomnianym dokumencie technicznym dotyczącym nadzoru człowieka nad zautomatyzowanym podejmowaniem decyzji EIOD ostrzega przed założeniem, że obecność człowieka w pętli sama w sobie zapewnia nadzór, i argumentuje, że organizacje muszą wyraźnie zaprojektować zakres uprawnień, interfejsy oraz ścieżki eskalacji, aby człowiek mógł rzeczywiście interweniować.
Obie te opinie są trafne i opisują różne rodzaje porażek. Człowiek Appelo przeszkadza w działaniu. Człowiek EIOD jest obecny, ale pozbawiony sprawczości. Organizacja może naprawić pierwszy problem, usuwając punkty kontroli, i jednocześnie pogorszyć drugi.
Dokument pokazuje, jak bezsilność wygląda w praktyce. W latach 2014–2019 polska publiczna służba zatrudnienia korzystała z algorytmu, który sortował osoby poszukujące pracy do trzech kategorii, a od kategorii zależało, jakie wsparcie otrzyma każda osoba. Doradcy klienta zostali formalnie wyznaczeni do sprawowania nadzoru nad człowiekiem i otrzymali uprawnienia do zakwestionowania klasyfikacji.
Mieli uprawnienia, ale nie mogli z nich korzystać. Liczba prowadzonych spraw była zbyt duża, a szkolenia niewystarczające. Nikt nie powiedział im, kiedy zakwestionowanie decyzji było uzasadnione ani jak je uzasadnić. System wyświetlał swoje wyniki w formie, która utrudniała ocenę, czy dana klasyfikacja pasuje do osoby siedzącej po drugiej stronie biurka.
A potem pojawił się element, który nie ma nic wspólnego z projektowaniem systemu. Niektórzy lokalni menedżerowie otwarcie zniechęcali do kwestionowania decyzji, a niektórzy wręcz tego zakazywali, ponieważ zakwestionowanie decyzji zwracało uwagę przełożonych.
Doradcy nie byli niedostatecznie przeszkoleni w takim sensie, że problem rozwiązałby budżet szkoleniowy. Prawidłowo odczytywali bodźce. Zakwestionowanie decyzji modelu tworzyło zapis, z którego menedżer musiałby się tłumaczyć, a zastosowanie się do niej nie powodowało żadnych konsekwencji. Mając te dwie możliwości i pełną listę spraw, racjonalnym posunięciem jest podpisać to, co pokazuje ekran.
EDPS formułuje ten warunek wprost. Operatorzy mogą sprawować rzeczywistą władzę nad systemem tylko wtedy, gdy nie obawiają się konsekwencji ze strony własnej organizacji za korzystanie z niego.
To stwierdzenie dotyczy zarządzania, a nie projektowania interfejsu, i właśnie dlatego uprawnienia do unieważniania decyzji mają zwykle charakter dekoracyjny. Formalne przyznanie uprawnień to łatwa część. O tym, czy ktokolwiek z nich skorzysta, decyduje to, co spotka osobę, która to zrobi.
Sformułowanie Deloitte dotyczące tego, co zastąpi stary model, jest najbardziej precyzyjne z dostępnych. Tradycyjne narzędzia określania praw decyzyjnych, takie jak RACI, zakładają statyczną władzę. W przypadku AI uprawnienia muszą być dynamiczne, a uprawnienia do unieważniania decyzji, ścieżki eskalacji i zasady konsensusu muszą być wbudowane w system, tak aby ludzie i agenci koordynowali, kto podejmuje decyzję, kiedy i na jakiej podstawie.
W Polsce większość tych elementów istniała na papierze. Brakowało jednak menedżera gotowego zatwierdzić korzystanie z nich przez pracownika.
Zbuduj warunki, nie schemat
Cztery działania, w kolejności, w jakiej muszą zostać wykonane.
Przed przydzieleniem decyzji komukolwiek sklasyfikuj je według odwracalności. Rozróżnienie Amazona między decyzjami jednokierunkowymi i dwukierunkowymi jest wersją referencyjną. Decyzje nieodwracalne wymagają kontroli i powolnych ścieżek. Odwracalne mogą być podejmowane szybko. Zastosowanie w epoce AI polega na dopasowaniu autonomii agenta do tego, jak trudno cofnąć decyzję, a nie do tego, jak rutynowo ona wygląda.
Określ tryb delegowania, nie tylko osobę, której delegujesz zadanie. Wyniki badań Max Planck dobrze to ilustrują. Delegowanie oparte na regułach, przykładach i celach prowadziło do wyraźnie różnych próśb ze strony skądinąd porównywalnych osób. Każdy przepływ pracy, w którym ktoś przekazuje systemowi oczekiwany rezultat i pozwala mu określić kryteria, należy do kategorii o najwyższym poziomie niejednoznaczności, ponieważ właśnie tym jest.
Rejestruj niezgodę, a nie tylko rezultat. Luka wskazana przez Esendemira to ta, którą należy zamknąć. Kiedy dana osoba postępuje wbrew rekomendacji, zapisz, że tak zrobiła, co dostrzegła i co wydarzyło się później. Sam rezultat nie mówi nic o tym, czy ktokolwiek nadal dokonuje oceny.
Regularnie weryfikuj granicę. To, gdzie decyduje AI, a gdzie decyduje człowiek, nie jest pytaniem, na które odpowiada się raz. Wyznacz termin ponownej oceny.
Badacze z Max Planck zakończyli swoje rozważania rekomendacją skierowaną do osoby delegującej zadanie, a nie do maszyny, która je otrzymuje. Należy unikać interfejsów delegowania, które ułatwiają twierdzenie, że nie wie się, jak maszyna odczyta przekazane jej instrukcje.
To zasada projektowa, którą można zastosować zarówno do pokrętła na ekranie, jak i do całego modelu operacyjnego. Każda warstwa abstrakcji między człowiekiem a konsekwencją sprawia, że łatwiej jest z tą konsekwencją żyć.
Za sześć miesięcy wiele organizacji będzie miało dokumentację. Zasady, statuty komitetów, wyznaczonych właścicieli i ukończone szkolenia.
Kilka będzie miało dziennik z wpisami.
