Weryfikacja kandydatów przez sztuczną inteligencję wymaga kontroli
Kwestia zgodności: Ustawa Kolorado o sztucznej inteligencji nakłada na pracodawców korzystających ze sztucznej inteligencji w rekrutacji obowiązek zapewnienia przejrzystości i odpowiedzialności.
Przejrzystość sztucznej inteligencji: Wielu kandydatów nie wie, że systemy sztucznej inteligencji miały wpływ na ich podania o pracę lub oceny.
Luka interpretacyjna: Działy HR często mają trudności z wyjaśnieniem modeli oceny sztucznej inteligencji i ich wpływu na rekrutację.
Odpowiedzialność dostawcy: Zgodnie z najnowszymi przepisami za negatywne skutki działania narzędzi sztucznej inteligencji odpowiadają pracodawcy, a nie dostawcy.
Zmiana podejścia do zarządzania: Organizacje muszą nadać priorytet wyjaśnialności i dokumentacji w procesach rekrutacyjnych wykorzystujących sztuczną inteligencję, aby zapewnić zgodność z przepisami.
Gdzieś w procesie rekrutacji kandydat został odfiltrowany przez system, którego dział nie potrafi w pełni wyjaśnić. Możliwe, że masz umowę z dostawcą, pulpit nawigacyjny i wynik. Większość organizacji nie ma jednak jasnej odpowiedzi na pytanie, na które nowe regulacje dotyczące AI faktycznie wymagają już udzielenia odpowiedzi: dlaczego.
Ta różnica między tym, co AI robi w ramach rekrutacji w przedsiębiorstwach, a tym, co kandydaci i organy regulacyjne mogą rzeczywiście zobaczyć, stała się kwestią zgodności z przepisami. Ustawa o AI w Kolorado, jedna z pierwszych tego rodzaju ustaw w Stanach Zjednoczonych, weszła w życie w lutym i wymaga od pracodawców korzystających z systemów AI wysokiego ryzyka przy podejmowaniu decyzji dotyczących zatrudnienia powiadamiania kandydatów oraz zapewnienia im mechanizmu umożliwiającego skorygowanie danych lub odwołanie się od niekorzystnego wyniku.
Dla wielu działów HR spełnienie tego wymogu oznacza konieczność wyjaśnienia działania systemów, których sami nie rozumieją w pełni.
Continue Reading for Free
Create a free account to finish this article, plus get ongoing access to timely insights and practical resources.
Have an account? Log In
Rynek narzędzi rekrutacyjnych opartych na AI znacznie się rozwinął w ciągu ostatnich kilku lat. Dostawcy oferują platformy do selekcji, automatyczne ocenianie rozmów kwalifikacyjnych oraz modele przewidywania dopasowania dla pracodawców zarządzających dużą liczbą aplikacji.
Obietnicą jest efektywność, ale rzeczywiste dane pokazują bardziej skomplikowany obraz. Liczba aplikacji na LinkedIn wzrosła w 2025 roku o ponad 45% rok do roku — co minutę na platformę trafiało około 11 000 aplikacji. Jednocześnie 64% rekruterów odnotowało w tym samym okresie wzrost liczby podobnych do siebie aplikacji wygenerowanych przez AI, co zwiększyło ich obciążenie związane z selekcją, zamiast je zmniejszyć. Narzędzia zaprojektowane do filtrowania dużej liczby aplikacji częściowo same tę liczbę generują.
Tatiana Teppoeva, była specjalistka ds. danych w firmach Microsoft i Boeing, która obecnie doradza organizacjom w zakresie ryzyka związanego z rekrutacją wspomaganą przez AI, regularnie obserwuje tę dynamikę u klientów korporacyjnych.
Wiele zespołów HR rozumie deklaracje dostawców, ale ma ograniczoną wiedzę na temat tego, jak generowane są wyniki selekcji lub które sygnały dotyczące kandydatów otrzymują większą wagę. Gdy kandydaci pytają, dlaczego odrzucono ich na etapie selekcji, organizacje często mają trudności z przełożeniem wyniku dostawcy na jasne wyjaśnienie związane z wymaganiami stanowiska.
Z jej doświadczenia wynika, że luka jest konkretna: organizacje łatwiej potrafią opisać wynik generowany przez narzędzie, niż wyjaśnić, co ten wynik oznacza w kategoriach kompetencji istotnych dla danego stanowiska.
Ta nieprzejrzystość ma wymierny koszt po stronie kandydatów. Badanie 1066 osób poszukujących pracy w USA, przeprowadzone przez Enhancv w kwietniu 2026 roku, wykazało, że 68,5% respondentów nigdy nie poinformowano, że AI odegrała jakąkolwiek rolę w ich ocenie, a tylko 9,7% stwierdziło, że pracodawca jasno to ujawnił.
Prawie jedna trzecia badanych stwierdziła, że zrezygnowała z ubiegania się o stanowisko, zamiast ukończyć jednostronną selekcję z użyciem AI, a zjawisko to nie rozkładało się równomiernie. Prawie 80% porzuconych stanowisk oferowało wynagrodzenie poniżej $100,000. Kandydaci mający najmniej możliwości są najbardziej narażeni na działanie systemów, których nie widzą i na które nie wyrazili zgody.
Czarna skrzynka z umową z dostawcą
Kwestia odpowiedzialności nie dotyczy wyłącznie nieprzejrzystości, choć jest ona jej częścią. Wiele platform do selekcji działa jako systemy typu czarna skrzynka lub zbliżone do czarnej skrzynki, w których logika przypisywania wag przez model nie jest widoczna dla pracodawcy, a tym bardziej dla kandydata.
Nawet gdy dostawcy udostępniają funkcje wyjaśnialności, wyjaśnienie widoczne dla rekrutera może być uproszczonym przybliżeniem bardziej złożonego procesu zachodzącego w tle. Osoba kierująca działem HR może odczytać wynik. Często nie może jednak przeanalizować, w jaki sposób został on wygenerowany.
Ma to jeszcze większe znaczenie przy dużej skali działania. Firma przetwarzająca dziesiątki tysięcy aplikacji rocznie podejmuje za pośrednictwem systemu wiele decyzji o istotnych konsekwencjach, a jej własny zespół może nie mieć odpowiednich kompetencji, by przeprowadzić jego audyt. Wymogi ustawy w Kolorado dotyczące powiadamiania i odwołań zmuszają do otwartego postawienia tego pytania. Jeśli kandydat zapyta, dlaczego został odrzucony, kto odpowie i na podstawie jakich informacji?
Praca Teppoevy koncentruje się właśnie na tym, co określa ona mianem „warstwy interpretacji” — przestrzeni między sygnałem rekrutacyjnym wygenerowanym przez AI a decyzją człowieka. Pierwsze pytanie, które zadaje organizacjom, które wdrożyły już narzędzie do selekcji, brzmi: dlaczego: „Dlaczego ten kandydat otrzymał niski wynik, mimo że zespół rekrutacyjny oceniał go jako silnego? Dlaczego inny kandydat uzyskał wysoki wynik, ale później został objęty planem poprawy wyników?”
Jak mówi, większość organizacji nie potrafi odpowiedzieć na te pytania. Mają wynik, ale nie mają stojącego za nim uzasadnienia.
Organizacje często polegają na wynikach generowanych przez dostawców, nie utrzymując jasnych wewnętrznych ram interpretowania ani dokumentowania tych wyników — mówi. — Może to utrudniać wyjaśnienie, w jaki sposób zastosowano osąd człowieka lub jak podjęto ostateczną decyzję.
Gdy decyzja zostaje zakwestionowana, ta luka staje się obciążeniem.
Odpowiedzialność spadła na pracodawcę
Moment wejścia w życie przepisów ujawnia również problem związany ze sposobem, w jaki zwykle pozyskiwano narzędzia AI do rekrutacji. Decyzje dotyczące wyboru platformy często podejmowały zespoły ds. pozyskiwania talentów, koncentrujące się na przepustowości, podczas gdy działy prawne, ds. zgodności z przepisami, a czasem także kierownictwo HR były w mniejszym stopniu zaangażowane w ocenę tego, co narzędzie faktycznie robi.
Prawo stanu Kolorado zmienia tę sytuację. Zgodnie z ustawą SB 205 odpowiedzialność za negatywne skutki stosowania systemów AI wysokiego ryzyka w zatrudnieniu spoczywa na pracodawcy, a nie na dostawcy. Firma korzystająca z narzędzia odpowiada za jego wyniki.
Jimmy Hurff, COO i współzałożyciel Brightmove, dostawcy systemu do śledzenia kandydatów, twierdzi, że rozmowy dotyczące zakupów, które obserwuje, dokładnie odzwierciedlają ten problem.
Pracodawcy wydają się najbardziej koncentrować na integracji funkcji i liczbie kandydatów. Nasi potencjalni klienci w większości sprawdzają funkcje integracji, ale rzadko skupiają się na jakości puli kandydatów oraz automatyzacji oceniania i ewaluacji.
Najważniejsze pytania w ramach systemu ustanowionego przez Kolorado — dotyczące możliwości wyjaśnienia działania, audytowalności i procedur odwoławczych — zwykle nie są zadawane podczas takich rozmów.
Brightmove opublikowało Politykę odpowiedzialnej AI w bezpośredniej odpowiedzi na ustawę SB 205, a Hurff twierdzi, że prawo wymusiło szerszą refleksję w całym środowisku dostawców. Wyjaśnia również, w jakim kierunku jego zdaniem powinna teraz zmierzać debata regulacyjna — ku jednemu federalnemu standardowi zamiast mozaiki wymogów zgodności z przepisami obowiązujących w poszczególnych stanach. Jego zdaniem dałoby to dostawcom wyraźniejsze wytyczne dotyczące tworzenia rozwiązań.
Problem z dokumentacją staje się najbardziej doniosły, gdy kandydaci, których wzorce komunikacji odbiegają od tych, na których system został wytrenowany — ze względu na niepełnosprawność, neuroróżnorodność lub tło językowe — są oceniani przez narzędzia, które nie potrafią uwzględnić kontekstu. Teppoeva opisuje sedno problemu.
„Sygnał może zostać dokładnie zmierzony, a mimo to błędnie zinterpretowany” — mówi.
Gdy kandydat kwestionuje wynik, większość organizacji potrafi odtworzyć rezultat. Nie potrafią jednak wyjaśnić decyzji i rzadko dysponują dokumentacją pokazującą, że to, co zmierzono, było rzeczywiście istotne dla danego stanowiska.
EEOC monitoruje ten obszar co najmniej od 2021 roku, kiedy uruchomiła inicjatywę dotyczącą AI i algorytmicznej sprawiedliwości w rekrutacji. Wytyczne z 2023 roku jasno wskazały, że pracodawcy nie mogą przenosić odpowiedzialności za dyskryminujące wyniki selekcji na zewnętrznego dostawcę.
Prawo stanu Kolorado idzie dalej, nakładając obowiązki związane z przejrzystością i odwołaniami, do których realizacji większość procesów rekrutacyjnych w dużych przedsiębiorstwach nie była przygotowana.
Co liderzy HR muszą wiedzieć
W praktyce tworzy to obszar zgodności z przepisami, którego wiele osób kierujących działami HR jeszcze nie zmapowało. Mogą mieć umowę z dostawcą. Mogą ogólnie wiedzieć, co robi narzędzie. Jednak dokumentacja dotycząca sposobu trenowania modelu, tego, pod kątem czego jest optymalizowany, oraz sposobu rejestrowania decyzji i ich odzyskiwania na potrzeby rozpatrywania odwołań jest często uboższa, niż wymaga tego obecna sytuacja regulacyjna.
Teppoeva ujmuje tę zmianę w kategoriach, które liderzy HR rozpoznają z innych rozmów o zgodności z przepisami.
Nowe regulacje przesuwają punkt ciężkości rozmowy z pytania „Czy narzędzie działa?” na pytanie „Czy potrafimy wyjaśnić i obronić sposób, w jaki zostało wykorzystane?”
Najbardziej narażone są organizacje, które traktują selekcję kandydatów z wykorzystaniem AI jako decyzję zakupową, a nie jako proces ciągłego zarządzania, gdy kandydat lub regulator zada pytanie, na które narzędzie nie potrafi odpowiedzieć.
Część tych problemów rozwiąże się dzięki presji ze strony klientów na dostawców. Jeśli klienci korporacyjni zaczną wymagać dokumentacji wyjaśniającej działanie systemu i ścieżek audytowych jako elementu procesu zakupowego, dostawcy je opracują. Proces ten przebiega jednak powoli, a w międzyczasie kandydaci w Kolorado i innych miejscach są filtrowani przez systemy, których logiki pracodawcy obsługujący te narzędzia nie potrafią w pełni wyjaśnić.
Rozmowa, którą liderzy HR powinni prowadzić, nie dotyczy wyłącznie tego, czy narzędzia AI do selekcji CV działają. Chodzi o to, czy organizacje korzystające z tych narzędzi potrafią rozliczyć ich działanie.
