Twoja sztuczna inteligencja nie stawi się na przesłuchaniu
Ukryte ryzyko: Narzędzia AI do rekrutacji mogą sprawiać wrażenie sprawiedliwych, jednocześnie nie odróżniając wykwalifikowanych kandydatów od nieistotnych lub niewykwalifikowanych osób aplikujących.
Zmieniające się uprzedzenia: Audyty uprzedzeń przeprowadzane przez dostawców nie pozwalają przewidzieć zmieniających się wyników, ponieważ na rezultaty wpływają wersje modeli, stanowiska, imiona i nazwiska oraz dane demograficzne.
Odpowiedzialność człowieka: Każda decyzja kadrowa wspomagana przez AI wymaga wskazania konkretnej osoby, która będzie odpowiedzialna za obronę tego wyniku przed organami regulacyjnymi lub powodami.
Testowanie kompetencji: Organizacje powinny testować systemy AI do rekrutacji za pomocą dopasowanych życiorysów oraz życiorysów przeładowanych słowami kluczowymi, zanim zaufają ich rekomendacjom.
Zarządzanie przede wszystkim: Traktuj zakup AI jako decyzję dotyczącą zarządzania, dostosowując poziom wyjaśnialności i nadzoru do konsekwencji każdego zastosowania.
Przypomnij sobie ostatnią decyzję rekrutacyjną wspomaganą przez AI, którą podjął Twój zespół. Kandydat oznaczony jako wymagający uwagi. „Wynik dopasowania” blisko końca kolejki. Rekruter przeszedł dalej.
A teraz wyobraź sobie, że sześć miesięcy później ten kandydat składa skargę dotyczącą dyskryminacji i podczas składania zeznań pyta dokładnie, dlaczego został odrzucony. Czyje nazwisko widnieje w aktach? Twoje? Rekrutera? Dostawcy?
Jeśli Twoja szczera odpowiedź brzmi: „algorytm to oznaczył”, masz problem z odpowiedzialnością — i ma on charakter strukturalny. Żaden dostawca nie rozwiąże go za Ciebie.
Continue Reading for Free
Create a free account to finish this article, plus get ongoing access to timely insights and practical resources.
Have an account? Log In
Przez ostatnią dekadę pracowałem jako analityk analizy biznesowej w Amazonie i Microsofcie. W minionym roku przeprowadziłem również audyt ośmiu komercyjnych platform AI do selekcji życiorysów. Około 4000 prób, identyczne życiorysy różniące się wyłącznie nazwiskiem kandydata, przetestowane zarówno pod kątem uprzedzeń demograficznych, jak i podstawowych kompetencji.
To, co odkryłem, jest bardziej niepokojące niż standardowa opowieść „AI jest stronnicza”. Kilka platform chwalonych jako najbardziej neutralne jest neutralnych w taki sposób, w jaki neutralny jest zepsuty termometr. Generują stabilne, zrównoważone demograficznie wyniki, ponieważ nie potrafią w sensowny sposób odróżnić wykwalifikowanego kandydata od niewykwalifikowanego. To pozór sprawiedliwości nałożony na narzędzie, które nie działa.
Nazywam to „iluzją neutralności” i jest to zjawisko, którego najbardziej powinni obawiać się starsi rangą liderzy HR, ponieważ właśnie tego nie wychwyci Wasz audyt uprzedzeń.
AI wykonuje dziś pracę narracyjną
Kontekst rynku pracy ma tutaj znaczenie, głównie ze względu na to, co ujawnia na temat motywacji. Analiza nowojorskiego Fedu z września 2025 roku wykazała, że zaledwie 1% firm usługowych podało AI jako przyczynę zwolnień w ciągu ostatnich sześciu miesięcy, podczas gdy 35% stwierdziło, że AI skłoniła je do przekwalifikowania pracowników.
Jednak badanie Resume.org przeprowadzone wśród 1000 menedżerów ds. rekrutacji i opublikowane w styczniu wykazało, że 59% przyznaje, iż podkreśla rolę AI, wyjaśniając zamrożenie rekrutacji lub zwolnienia, ponieważ „lepiej to wygląda w oczach interesariuszy” niż powoływanie się na ograniczenia finansowe.
Od AI oczekuje się wykonywania pracy narracyjnej oprócz pracy operacyjnej. Pamiętaj o tym, ponieważ ten sam odruch, który obwinia AI za zwolnienie, obwini AI za złą decyzję rekrutacyjną.
„Oparte na danych” przerodziło się w „znajdź mi dane”
Obietnica przywództwa opartego na danych była klarowna. Ograniczyć poleganie na intuicji. Przedstawić dowody. Stworzyć dokumentację możliwą do przeanalizowania. Kiedy ta dyscyplina jest zachowana, działa.
To, co obserwowałem w ciągu ostatnich pięciu lat, przyciągnęło znacznie mniej uwagi, niż na to zasługiwało. Narzędzia nigdy się nie zmieniły. Zmieniła się relacja między liderami a narzędziami. Rzeczywista prośba przestała brzmieć: „co mówią dane?”, a zaczęła: „znajdź mi dane, które to potwierdzają”.
AI przyspiesza tę zmianę, ponieważ trudniej podważyć wynik modelu niż intuicyjną decyzję menedżera ds. rekrutacji. Kiedy więc coś idzie nie tak, odpowiedź brzmi: „system to wskazał”. To zdanie stanowi cały problem.
Najsprawiedliwsze modele nie potrafią odróżnić kandydatów
W przypadku ośmiu platform, w tym ChatGPT, Gemini, Copilot i Claude, wyłoniły się trzy wzorce.
Uprzedzenia nadal występują i są mniej przewidywalne. Kilka modeli obniżało ocenę życiorysów wyłącznie dlatego, że dołączono do nich nazwisko kandydata — niezależnie od tego, jakie było to nazwisko. Inne przyznawały dodatkowe punkty określonym grupom demograficznym w przypadku niektórych stanowisk, a odejmowały je w przypadku innych. Jeden model podzielił tę samą grupę rasową na przeciwne kierunki według płci, mimo że życiorys był identyczny.
Uprzedzenia zmieniają się wraz ze stanowiskiem i wersją modelu. Audyt uprzedzeń przeprowadzony przez dostawcę nie przewiduje, jak narzędzie zachowa się przy następnym zapotrzebowaniu rekrutacyjnym.
„Najsprawiedliwsze” modele są często najmniej kompetentne. Kiedy testowałem, czy modele potrafią odróżnić odpowiedni życiorys od nieistotnego, kilka z nich nie potrafiło tego zrobić. Jeden model ocenił życiorys osoby z branży usługowej, naszpikowany słowami kluczowymi związanymi z finansami, na 92 punkty na 100 w przypadku stanowiska dyrektora finansowego. Ten sam życiorys bez słów kluczowych uzyskał 15 punktów. Model oceniał słownictwo. Kwalifikacje w ogóle nie zostały uwzględnione w ocenie. Takie narzędzie przestało cokolwiek oceniać.
Ten sam dostawca udziela różnych odpowiedzi w zależności od używanej wersji. Kandydat oceniony przez „szybką” wersję ChatGPT mógł uzyskać tego samego dnia o 15 punktów więcej lub mniej niż ten sam kandydat w „wolnej” wersji. Większość menedżerów nie wie, z której wersji korzysta, ani że ma to znaczenie.
To nie są przypadki skrajne. To warunki działania narzędzi AI do rekrutacji w obecnej chwili.
More Articles
- AI w rekrutacji: od rozgłosu do strategicznej przewagi
- Sztuczna inteligencja w operacjach biznesowych: jak przekształcić nowe technologie w strategiczną przewagę biznesową
- Sztuczna inteligencja w miejscu pracy: praktyczne zastosowania, przykłady z życia i przewodnik wdrażania
- Wdrażaj, ucz się, skaluj. Co dalej?
- AI w zarządzaniu wynikami pracy: zastosowania i przewodnik wdrażania
Pranie odpowiedzialności
Lepsze decyzje to tylko jeden z powodów, dla których te narzędzia są wdrażane. Ułatwiają również obronę trudnych decyzji. Zwolnienia. Oceny wyników pracy. Odrzucenia kandydatów. Decyzje dotyczące wynagrodzeń. Kiedy wynik modelu znajduje się w dokumentacji, osoba, która go zatwierdziła, zyskuje wiarygodną możliwość zaprzeczenia, której wcześniej nie miała.
Badanie ResumeBuilder z 2025 roku unaocznia ten problem. Wśród menedżerów wykorzystujących AI do podejmowania decyzji personalnych 64% używa go do pomocy w ustalaniu zwolnień, a ponad jeden na pięciu przyznaje, że często pozwala AI podjąć ostateczną decyzję bez udziału człowieka.
Badania behawioralne są jeszcze bardziej wymowne. Badanie opublikowane w Nature w 2025 roku przez Köbisa i jego współpracowników wykazało, że agenci AI stosowali się do całkowicie nieetycznych instrukcji w 58–98% przypadków, zależnie od modelu, w porównaniu z 25–40% w przypadku ludzi otrzymujących te same instrukcje.
Maszyny są znacznie bardziej skłonne niż ludzie wykonać etycznie wątpliwe polecenia, co jest dokładnie tą właściwością, która czyni je użytecznymi jako infrastruktura rozliczalności.
Literatura badawcza ma określenie na ludzką stronę tego zjawiska. Madeleine Clare Elish nazwała ją „strefą moralnego zgniatania”, w której osoby znajdujące się na ostrym końcu zautomatyzowanego systemu przyjmują na siebie winę za błędy wynikające z rozproszonych decyzji projektowych i zarządczych. Pracownicy zaczynają mówić o tym, „co zdecydował system”, zamiast o tym, „co zdecydowaliśmy”, nawet gdy nadal mają swobodę podejmowania decyzji.
Najtrafniejszą nazwą dla całej tej dynamiki jest pranie odpowiedzialności. Model podejmuje decyzję, która wcześniej wymagała możliwego do obrony ludzkiego osądu, i przekształca ją w wynik, którego nikt nie musi bronić. Gdy decyzja okazuje się błędna, porażka należy do wszystkich i do nikogo, a organizacja traci zdolność uczenia się na własnych błędach.
Zarządzanie, inaczej nie trafia do użytkowników
Nadszedł czas, aby liderzy traktowali zakup AI jako decyzję z zakresu zarządzania, a nie decyzję informatyczną.
Każdej decyzji wspomaganej przez AI przypisz konkretną osobę. Jak powiedział niedawno pewien prawnik zajmujący się AI serwisowi CIO, algorytm nie pojawi się w sądzie. Pojawią się w nim ludzie, którzy go opracowali, wdrożyli lub używali. Zanim jakiekolwiek narzędzie AI zostanie wykorzystane w rekrutacji, ocenach wyników pracy, ustalaniu wynagrodzeń lub przy zwolnieniach, wymagaj odpowiedzi na jedno pytanie: gdy okaże się, że ten wynik jest błędny, czyje nazwisko widnieje w dokumentacji? Nie dostawcy. Nie modelu. Konkretnej osoby, wystarczająco wysoko postawionej, aby obronić tę decyzję przed organem regulacyjnym lub prawnikiem reprezentującym powoda.
Dostosuj poziom wyjaśnialności do stawki. Model, który rekomenduje materiały szkoleniowe, może być czarną skrzynką. Model, który przyczynia się do podjęcia decyzji o zwolnieniu, już nie. Większość organizacji ustala standard wyjaśnialności raz, na etapie zakupu. Te zdyscyplinowane ustalają go ponownie dla każdego przypadku użycia i rezygnują z dostawców, którzy nie są w stanie spełnić wyższych wymagań.
Przeprowadzaj własne audyty podwójnej walidacji. Audyty stronniczości prowadzone przez dostawców są konieczne, ale niewystarczające. Sprawdzaj także kompetencje. Czy narzędzie rzeczywiście potrafi odróżnić kandydatów wykwalifikowanych od niewykwalifikowanych na stanowiskach, na które prowadzisz rekrutację? Kilka niedopasowanych CV. Kilka CV naszpikowanych słowami kluczowymi. Porównaj wyniki. Jeśli model nie potrafi dostrzec różnicy, nie może ci pomóc, bez względu na to, jak bezstronny się wydaje.
HR to funkcja, o którą dostawcy AI zabiegają najbardziej, a zarazem funkcja, która ponosi konsekwencje, gdy jedno z tych narzędzi wygeneruje wynik niemożliwy do obrony. Pojawi się pokusa, aby traktować zakup jako kwestię dotyczącą dostawcy. Nie ulegaj jej.
Jak powiedział pewien prawnik prawa pracy dziennikowi The Washington Post, gdy algorytmy po raz pierwszy zaczęły kształtować listy zwolnień: „Nie próbuj zrzucać odpowiedzialności na oprogramowanie”.
Jeśli twoją odpowiedzią na błędną decyzję wspomaganą przez AI jest „system tak zdecydował”, twój system stał się twoim ryzykiem. Gdzieś w organizacji musi być osoba odpowiedzialna za każdą decyzję, której dotykają te narzędzia. Dowiedz się, kto to jest, zanim zrobi to wezwanie na przesłuchanie.
