Pytania dotyczące zarządzania, na które odpowiedzi może udzielić wyłącznie HR
Narzędzie Amazona: Amazon porzucił stronnicze narzędzie rekrutacyjne wytrenowane na danych z dekady rekrutacji zdominowanej przez mężczyzn.
Obawy dotyczące stronniczości: Ocena systemu sztucznej inteligencji nie skupiała się na sprawiedliwych rezultatach, co doprowadziło do niekontrolowanych uprzedzeń i luk w zarządzaniu.
Role w zarządzaniu: HR odgrywa kluczową rolę w zarządzaniu sztuczną inteligencją, zapewniając pracownikom sprawiedliwe rezultaty i przejrzyste procesy.
Sztuczna inteligencja wysokiego ryzyka: Akt UE w sprawie sztucznej inteligencji klasyfikuje AI wykorzystywaną w zatrudnieniu jako rozwiązanie wysokiego ryzyka, wymagające ścisłej dokumentacji i nadzoru.
Wyzwanie stojące przed HR: HR nie ma wystarczających uprawnień w zakresie zarządzania sztuczną inteligencją, dlatego potrzebuje wsparcia najwyższego kierownictwa w ustanawianiu standardów i odpowiedzialności.
W 2018 roku Amazon porzucił narzędzie uczenia maszynowego, które rozwijał przez lata, aby analizować życiorysy. System został wytrenowany na danych z dziesięciu lat rekrutacji, które odzwierciedlały historyczne preferowanie przez firmę mężczyzn na stanowiskach technicznych.
Model nauczył się tego schematu i go powielił, obniżając ocenę życiorysów zawierających słowa takie jak „women's” oraz gorzej oceniając absolwentki żeńskich szkół wyższych. Inżynierowie Amazona próbowali to skorygować. Nie byli jednak w stanie zagwarantować, że uprzedzenia nie ujawnią się w inny sposób, więc wyłączyli system.
Ta historia jest często przytaczana jako przestroga dotycząca sztucznej inteligencji i uprzedzeń. Mniej uwagi poświęca się strukturalnemu pytaniu, które się dzięki niej pojawiło. Czyim zadaniem było wykrycie tego problemu w pierwszej kolejności?
Continue Reading for Free
Create a free account to finish this article, plus get ongoing access to timely insights and practical resources.
Have an account? Log In
Zespoły techniczne tworzące system koncentrowały się na tym, czy działał. Dział prawny prawdopodobnie skupiał się na ryzyku odpowiedzialności. Najwyraźniej nikt nie koncentrował się na tym, czy system zapewnia sprawiedliwe wyniki osobom, których życiorysy analizował — przynajmniej nie jako na podstawowej funkcji nadzorczej.
W większości organizacji ten problem nie został rozwiązany. Jeśli już, wraz z rozszerzaniem i przyspieszaniem wdrażania sztucznej inteligencji w przedsiębiorstwach jeszcze trudniej jednoznacznie go określić.
Dwa pytania, na które udziela się teraz odpowiedzi
Większość ram zarządzania sztuczną inteligencją w przedsiębiorstwach stworzono po to, aby odpowiadały na dwie kategorie pytań.
Pierwsza ma charakter prawny: jaka odpowiedzialność istnieje, jeśli ten system zawiedzie, doprowadzi do dyskryminacyjnego wyniku lub ujawni dane objęte regulacjami?
Druga ma charakter techniczny: jakie są tryby awarii, na jakich danych system został wytrenowany i gdzie występują luki w zabezpieczeniach? Obie kategorie mają znaczenie. Żadna z nich nie jest jednak wystarczająca sama w sobie, ponieważ żadnej nie zaprojektowano z podstawowym obowiązkiem wobec osób, na które wpływają te systemy.
Nie jest to krytyka działów prawnych ani IT. To te funkcje zbudowały ramy zarządzania, aby odpowiadać na pytania, na które zostały zatrudnione. Problem polega na tym, że wdrażanie sztucznej inteligencji w przedsiębiorstwach postępowało na tyle szybko, że wyprzedziło zamierzoną dyskusję o tym, kto odpowiada za pozostałe pytania, a większość organizacji domyślnie korzystała z już istniejących ram.
Według badania PwC dotyczącego odpowiedzialnej sztucznej inteligencji z 2025 roku 56% osób na stanowiskach kierowniczych twierdzi, że zespoły pierwszej linii — IT, inżynieria, dane i sztuczna inteligencja — kierują obecnie działaniami na rzecz odpowiedzialnej sztucznej inteligencji. HR nie pojawia się w tej wartości w żaden istotny sposób.
Według badania Pacific AI dotyczącego zarządzania sztuczną inteligencją z 2025 roku trzy czwarte organizacji ustanowiło zasady korzystania ze sztucznej inteligencji, jednak tylko 36% przyjęło formalne ramy zarządzania, czyli określone role, mechanizmy kontroli i egzekwowanie zasad. Odległość między dokumentem zawierającym zasady a funkcjonalną odpowiedzialnością to dokładnie miejsce, w którym pytania dotyczące ludzi pozostają bez odpowiedzi.
Akt w sprawie sztucznej inteligencji UE, który w 2024 roku rozpoczął etapowe wprowadzanie wymogów dotyczących egzekwowania przepisów, klasyfikuje systemy sztucznej inteligencji wykorzystywane w zatrudnieniu i zarządzaniu personelem jako systemy wysokiego ryzyka z definicji. Oznaczenie to obejmuje narzędzia wykorzystywane do rekrutacji, oceny wyników pracy, przydzielania zadań i monitorowania. Zasadniczo chodzi o zestaw systemów, które większość przedsiębiorstw wdraża obecnie na dużą skalę.
Klasyfikacja jako system wysokiego ryzyka oznacza bardziej rygorystyczne wymogi dotyczące dokumentacji, przejrzystości i nadzoru człowieka. Nie określa jednak, kto w organizacji odpowiada za spełnienie tych wymogów. To pytanie pozostawia przedsiębiorstwu.
W większości organizacji odpowiedź brzmi: „ktokolwiek już odpowiada za zarządzanie”. Zazwyczaj oznacza to dział prawny, zgodność lub bezpieczeństwo IT — funkcje dysponujące ugruntowanymi ramami. HR często zostaje włączony jako interesariusz lub konsultowany podczas wdrożenia. Rzadko nim kieruje.
Pomijane pytania
Pytania decydujące o tym, czy sztuczna inteligencja faktycznie szkodzi ludziom, nie wpisują się dokładnie ani w ryzyko prawne, ani w awarię techniczną. Wymagają innego punktu wyjścia.
Czy ten system generuje stronnicze wyniki w poszczególnych grupach demograficznych?
Odpowiedź na to pytanie wymaga wiedzy o tym, jak wygląda sprawiedliwość w konkretnym kontekście zatrudnienia, a nie tylko o tym, co można uznać za możliwe do obrony pod względem prawnym. Są to różne standardy.
System może być możliwy do obrony pod względem prawnym, a mimo to generować wyniki, które są systematycznie gorsze dla jednej grupy pracowników niż dla innej. Wykrycie tego wymaga osoby, która rozumie, jak wygląda sprawiedliwa praktyka zatrudnienia, i ma odpowiednią pozycję, aby zgłosić odstępstwo systemu od tego standardu.
Czy pracownicy są oceniani na podstawie danych, których nie rozumieją lub o których gromadzeniu nie zostali poinformowani?
Według badania miejsca pracy przeprowadzonego przez firmę Owl Labs w 2025 roku 20,5% pracowników nie ma pewności, czy monitoring w ogóle ma miejsce, a 12,8% nie wie, co jest śledzone.
Nie jest to kwestia drugorzędna. 61% firm w Stanach Zjednoczonych korzysta obecnie z analiz opartych na AI do pomiaru produktywności lub zachowania pracowników. To, czy pracownicy wiedzą, że ma to miejsce, rozumieją, jak wpływa to na ich ocenę, oraz mają możliwość zakwestionowania wyników generowanych przez system, to wszystko kwestie związane z relacją pracodawca–pracownik. Należą one do funkcji odpowiedzialnej za tę relację.
Kto decyduje, kiedy rekomendacja AI zostaje odrzucona i na jakiej podstawie?
W organizacjach, w których narzędzia AI wpływają na decyzje dotyczące zatrudniania, awansów, ocen wyników pracy lub rozwiązania stosunku pracy albo dostarczają informacji na ich temat, kwestia odrzucania rekomendacji należy do najważniejszych decyzji dotyczących zarządzania, jakie może podjąć przedsiębiorstwo.
Pomyłka w jednym kierunku oznacza, że rekomendacje AI pozostają bez kontroli. Pomyłka w drugim oznacza, że wyniki systemu są traktowane jako pozorowane zalecenia lub kosztowna infrastruktura, której nikt nie ufa.
Ustalenie tego progu wymaga zrozumienia zarówno sposobu działania narzędzia, jak i tego, jak menedżerowie podejmują decyzje, gdzie do ludzkiego osądu wkrada się uprzedzenie oraz jak wygląda odpowiedzialność, gdy wyniki są kwestionowane.
W większości ram zarządzania przedsiębiorstwem nie ma miejsca na żadne z tych pytań. Wymagają one wiedzy dziedzinowej, która znajduje się w obszarze HR i projektowania organizacji, a nie prawa czy inżynierii.
Mapa odpowiedzialności
To, co należy do HR w zakresie zarządzania AI, nie jest kwestią preferencji ani polityki organizacyjnej. Wynika z funkcji. HR jest funkcją przedsiębiorstwa, której podstawowym obowiązkiem jest dbałość o pracowników — od ich sprawiedliwego traktowania po rozwój i prawa w ramach relacji pracowniczej.
Obowiązek ten nie znika, gdy AI zostaje włączona do procesu, ale staje się bardziej złożony.
Kilka decyzji dotyczących odpowiedzialności z natury należy do HR, a nie z powodu formalnego przydziału.
Audyt uprzedzeń w AI wykorzystywanej w zatrudnieniu jest najbardziej bezpośrednim przykładem
Zespoły techniczne mogą sprawdzać, czy model działa spójnie dla różnych danych wejściowych. Tylko HR może ocenić, czy spójne działanie przekłada się na sprawiedliwe wyniki w danym kontekście oraz czy narzędzie do zarządzania wynikami pracy, które ocenia wszystkich według tych samych kryteriów, w praktyce generuje rozkłady ocen stawiające w niekorzystnej sytuacji pracowników na określonych stanowiskach, w określonych lokalizacjach geograficznych lub należących do określonych grup demograficznych.
Wymaga to dostępu do danych HR, znajomości prawa pracy i standardów równego traktowania oraz pozycji organizacyjnej pozwalającej na podjęcie działań na podstawie ustaleń.
Obowiązki przejrzystości wobec pracowników
Pracownicy mają prawo wiedzieć, kiedy AI jest wykorzystywana do podejmowania decyzji dotyczących ich osoby, jakie dane są używane i w jaki sposób wyciągane są wnioski.
W niektórych jurysdykcjach mają oni ustawowe prawo do tych informacji. To, czy organizacja wypełnia te obowiązki poprzez politykę, szkolenia lub projektowanie procesów oraz czy traktuje je jako minimalny wymóg, czy jako rzeczywisty standard, zależy od praktyk HR.
Prawo do odrzucenia rekomendacji
Projektowanie zasad ludzkiej ingerencji jest bardziej zniuansowane i ma większe znaczenie, niż zwykle się mu przypisuje. Kwestia tego, kiedy człowiek może lub musi odrzucić rekomendację AI, wymaga zrozumienia, gdzie narzędzia AI prawdopodobnie zawiodą, gdzie ludzki osąd jest bardziej wiarygodny oraz jak wbudować odpowiedzialność w decyzje o odrzuceniu rekomendacji, aby nie stały się one po prostu nowym źródłem uprzedzeń.
Wymaga to osoby, która rozumie zarówno narzędzie, jak i zachowania organizacyjne z nim związane. HR, działając w ścisłej współpracy z zespołami wdrażającymi AI, ma najlepsze warunki, aby odpowiadać za ten obszar.
More Articles
- Sztuczna inteligencja w HR ma problem administracyjny. Od tego należy zacząć.
- Wdrażaj, ucz się, skaluj. Co dalej?
- Dyrektor generalny firmy technologicznej z branży HR mówi, że przejście na model natywnie wykorzystujący AI ujawniło, jaką pracę pracownicy naprawdę chcą wykonywać
- Sztuczna inteligencja informuje, ludzie decydują: jak zachować odpowiedzialność HR w erze automatyzacji
- Umiejętności przede wszystkim — to jest cel. AI właśnie przesunęła poprzeczkę.
Możliwość dochodzenia roszczeń przez pracownika
To, co dzieje się, gdy ktoś uważa, że decyzja podjęta z udziałem AI była błędna, należy do zarządzania HR. Nie tylko dlatego, że HR zarządza procesami skargowymi, lecz także dlatego, że zaprojektowanie możliwości dochodzenia roszczeń wymaga przeanalizowania, w jaki sposób badane są spory dotyczące wyników AI, jakie dowody są dostępne i jakie środki zaradcze można zastosować.
Prawo wyznacza minimum. HR określa, czy organizacja rzeczywiście traktuje to poważnie.
Ekspertyza techniczna
Istnieje uzasadniony sprzeciw wobec założenia, że zarządzanie sztuczną inteligencją powinno być prowadzone przez HR, i warto odnieść się do niego bezpośrednio. HR nie zawsze ma wiedzę techniczną niezbędną do oceny systemów sztucznej inteligencji.
To prawda. Jednak uprawnienia w zakresie zarządzania i ocena techniczna to dwie różne kwestie. Dział prawny nie programuje, a dział finansowy nie prowadzi procesów inżynieryjnych, które audytuje.
Funkcja odpowiedzialna za dany obszar zarządzania nie musi koniecznie wykonywać pracy technicznej, potrzebuje natomiast odpowiedniej pozycji i wiedzy specjalistycznej, aby ustanawiać standardy, oceniać wyniki i rozliczać innych.
Aby HR mógł przewodzić zarządzaniu sztuczną inteligencją, nie potrzebuje zespołu informatyków. Potrzebuje jasności co do pytań, na które ma obowiązek odpowiadać, uprawnień organizacyjnych do ich zadawania oraz dostępu do zasobów technicznych i danych niezbędnych do uzyskania odpowiedzi.
W większości przedsiębiorstw HR ma obecnie ograniczone możliwości we wszystkich tych trzech obszarach. Najtrudniejsze do zbudowania są często uprawnienia organizacyjne, ponieważ wymagają od CHRO przejęcia odpowiedzialności za obszar zarządzania, który inne funkcje zajęły domyślnie.
To roszczenie musi zostać zgłoszone na poziomie najwyższego kierownictwa. Komitet ds. zarządzania sztuczną inteligencją, który działa wyłącznie w ramach działu prawnego i IT, stworzy ramy dotyczące ryzyka prawnego i technicznego. Dodanie HR jako uczestnika cudzych ram nie zmienia tego, na czyje pytania odpowiada się w pierwszej kolejności.
CHRO, z którymi rozmawiam i którzy stworzyli skuteczne, skoncentrowane na ludziach zarządzanie sztuczną inteligencją, zazwyczaj osiągnęli to, jasno ustanawiając odpowiedzialność HR, zanim podjęto decyzje dotyczące wdrożenia, a nie próbując wprowadzać wpływu do procesu, który już został zorganizowany wokół innych priorytetów.
Niepowodzenie narzędzia rekrutacyjnego firmy Amazon nastąpiło, ponieważ organizacja, która je stworzyła, nie miała funkcji wyraźnie odpowiedzialnej za pytanie: "czy te wyniki są sprawiedliwe dla osób poddawanych selekcji?" Dział prawny pytał o odpowiedzialność. Dział inżynieryjny pytał o wydajność. Żadne z tych pytań nie uchwyciło tego, co faktycznie szło nie tak.
Sztuczna inteligencja w przedsiębiorstwach podejmuje obecnie decyzje dotyczące tego, kto zostanie zatrudniony i awansowany, wpływa na nie, a także decyduje o sposobie oceniania wyników i monitorowania pracy — na skalę wielokrotnie przewyższającą to, co mógłby osiągnąć pojedynczy menedżer. W związku ze zbliżającym się w sierpniu pełnym egzekwowaniem unijnego aktu o sztucznej inteligencji w odniesieniu do systemów stosowanych w zatrudnieniu ta niejednoznaczność staje się obciążeniem na więcej niż jeden sposób.
HR został powołany do ochrony ludzi wewnątrz organizacji. Zarządzanie sztuczną inteligencją jest obecnie jednym z głównych obszarów, w których ten obowiązek musi być realizowany. Funkcja ta albo przejmie odpowiedzialność za ten obszar, albo odda go ramom stworzonym z myślą o innych pytaniach.
