Nikt nie ponosi odpowiedzialności: wewnątrz próżni odpowiedzialności za AI
Rzeczywistość odrzuceń: Systemy AI odrzucają kandydatów do pracy bez weryfikacji człowieka, rodząc pytania o odpowiedzialność prawną.
Luka w zarządzaniu: W zarządzaniu AI brakuje jasno określonej odpowiedzialności, ponieważ zasady nie przypisują nikomu odpowiedzialności za skutki podejmowanych decyzji.
Odpowiedzialność za AI: Sądy kwestionują to, kto powinien monitorować decyzje AI, pociągając pracodawców do odpowiedzialności za dyskryminujące skutki decyzji opartych na AI.
Niedopasowanie zasad: Istniejące zasady nie dostosowują się do zmian organizacyjnych, co prowadzi do problemów z zarządzaniem narzędziami AI.
Konsekwencje prawne: Ustawa Kolorado dotycząca AI ustanawia precedens w zakresie odpowiedzialności za AI, wpływając na decyzje dotyczące zatrudnienia i standardy prawne w całym kraju.
O 1:50 w nocy Derek Mobley otrzymał odmowę. Złożył aplikację niecałą godzinę wcześniej. Żaden kierownik ds. rekrutacji nie przeanalizował jego życiorysu, żaden rekruter nie ocenił jego doświadczenia.
System przetworzył jego kandydaturę, wydał werdykt i zakończył działanie, zanim ktokolwiek w firmie rozpoczął swój dzień pracy. Mobley, który jest czarnoskóry i ma ponad czterdzieści lat, aplikował za pośrednictwem platformy Workday na ponad sto stanowisk i za każdym razem otrzymywał odmowę.
Pozew, który złożył w 2023 roku, jest obecnie certyfikowanym ogólnokrajowym pozwem zbiorowym, potencjalnie obejmującym setki milionów kandydatów. Workday twierdzi, że nie jest pracodawcą, co jest technicznie prawdą. Pracodawcy twierdzą, że to nie oni podejmowali decyzje, co również jest technicznie prawdą. Sąd federalny uznał, że właśnie współistnienie tych dwóch faktów stanowi problem.
Continue Reading for Free
Create a free account to finish this article, plus get ongoing access to timely insights and practical resources.
Have an account? Log In
Kiedy platforma korzysta z własnego osądu — nie tylko stosując kryteria, lecz także uczestnicząc w podejmowaniu decyzji — działa jako przedstawiciel pracodawcy. W związku z tym pracodawca przejmuje odpowiedzialność prawną. To, na co sądy obecnie kładą nacisk, nie dotyczy tego, czy AI podjęła złą decyzję. Chodzi o to, kto miał ją nadzorować.
To pytanie trafia na biurka dyrektorów ds. zasobów ludzkich. Nie dlatego, że się tego podjęli, i z pewnością nie dlatego, że mają uprawnienia, budżet czy infrastrukturę prawną potrzebne do udzielenia odpowiedzi. Po prostu ktoś musi to zrobić, a oni są najbliżsi temu, by w większości organizacji pełnić funkcję właściciela ryzyka związanego z personelem, które AI generuje na dużą skalę.
Wszędzie przypisane, nigdzie nie ponosi się odpowiedzialności
Sean McIntire, dyrektor ds. prawnych w PEBL, obserwował, jak organizacje z autentyczną starannością tworzą zasady dotyczące AI, a następnie widział, jak rozpływają się one gdzieś pomiędzy kierownictwem a osobami faktycznie podejmującymi decyzje.
„Wszędzie przypisane, gdzieś ponosi odpowiedzialność” — powiedział w tym tygodniu podczas panelu na temat ryzyka związanego z AI na konferencji Transform w Las Vegas. Taka konstrukcja brzmi jak rozwiązanie. Nie jest nim.
Porównuje tę sytuację do RODO. Kiedy pojawiły się te przepisy, firmy wpadły w panikę. Wiele z nich nie miało jasnego obrazu tego, gdzie przechowywane są ich dane osobowe, kto je przetwarza ani jakie dokładnie mają obowiązki.
Chaos był realny, ale stał się również czynnikiem wymuszającym zmiany. Organizacje, które wyszły z tego procesu z solidnymi programami zarządzania danymi, nie tylko osiągnęły zgodność z przepisami — zbudowały infrastrukturę, która okazała się trwała.
McIntire twierdzi, że AI znajduje się obecnie w takim samym momencie poprzedzającym wymuszenie zmian, a większość firm zachowuje się dokładnie tak jak przed wejściem w życie RODO: reaguje na zagrożenie widoczne na powierzchni, podczas gdy leżący u podstaw problem strukturalny pozostaje nierozwiązany.
Ten problem strukturalny można ująć wprost. Narzędzia AI weszły do środowiska pracy przede wszystkim przez drzwi efektywności, prowadzące do szybszego zatrudniania, automatycznych sygnałów dotyczących wyników pracy, analizy porównawczej wynagrodzeń i ciągłych pętli informacji zwrotnej.
Organizacje wdrażające te narzędzia traktowały zakup i zarządzanie nimi jako odrębne problemy. Dział prawny analizował umowy. Dział IT zatwierdzał poziom bezpieczeństwa. Dział finansowy podpisywał budżet. Dział HR otrzymywał wdrożone rozwiązanie i polecenie zarządzania nim.
Nikt nie ustalił jasno, kto ponosi odpowiedzialność za ryzyko, gdy narzędzie podejmie brzemienną w skutki decyzję, która kogoś skrzywdzi.
Ujęcie McIntire'a dokładnie to oddaje. Zarządzanie AI w większości organizacji jest z założenia rozproszone. Zasady istnieją. Grupa robocza istnieje. Wytyczne dotyczące korzystania z narzędzi istnieją. Nie istnieje natomiast wskazana z imienia i nazwiska osoba, która miałaby zarówno uprawnienia, jak i zasoby, by ponosić odpowiedzialność, gdy coś pójdzie nie tak.
Komitetu nie ma o 2:00 w nocy
Dane konkretyzują ten problem. Sondaż firmy Gartner przeprowadzony wśród ponad 1800 liderów kadry kierowniczej wykazał, że 55% organizacji deklaruje obecnie istnienie rady ds. AI lub wyspecjalizowanego komitetu nadzorczego. Brzmi to jak postęp, dopóki nie spojrzy się na towarzyszącą temu liczbę z badania McKinsey: tylko 28% organizacji twierdzi, że dyrektor generalny bierze bezpośrednią odpowiedzialność za nadzór nad zarządzaniem AI.
W przypadku rad nadzorczych sytuacja wygląda jeszcze gorzej — zaledwie 17% formalnie uwzględnia zarządzanie AI w statutach swoich komitetów.
Komitety istnieją. Odpowiedzialność za nimi nie podąża.
Vittoria Reimers, która kieruje funkcją personalną w Juniper Square i zbudowała jeden z bardziej operacyjnie zaawansowanych modeli zarządzania AI, jakie można znaleźć w firmie średniej wielkości, nie przywiązuje dużej wagi do samych komitetów.
Pierwszą linią obrony są ludzie i procesy. Komitet ds. zarządzania po prostu nie będzie obecny przy podejmowaniu decyzji w ułamku sekundy o 2 w nocy.
Wskazuje ona na organizacyjną rzeczywistość, której ramy zarządzania rzadko uwzględniają. Decyzje generujące największe ryzyko nie są podejmowane w salach posiedzeń komitetów. Podejmują je inżynierowie, którzy pod presją czasu tworzą funkcje modeli, menedżerowie reagujący na wygenerowane przez AI sygnały dotyczące wyników pracy, aby zarekomendować zwolnienie, oraz rekruterzy przepuszczający kandydatów przez narzędzia selekcyjne, których podstawowej logiki do końca nie rozumieją.
Struktura zarządzania działa na poziomie abstrakcji, na którym nie odbywa się rzeczywista praca.
Reimers stworzyła w Juniper Square praktyczną odpowiedź na ten problem. Jej zespół powołał grupę, którą nazwali ACE. Liczy ona około dziesięciu do dwunastu pracowników z różnych części organizacji, pełniących funkcję nieformalnych doradców ds. AI, a jednocześnie zachowujących swoje regularne role.
Przekaz był bezpośredni: jeśli coś tworzysz i nie wiesz, czy jest bezpieczne lub skalowalne, przyjdź do ACE. Skala zainteresowania zaskoczyła Reimers. Ludzie przychodzili regularnie, ponieważ wreszcie mieli proces, który odpowiadał na rzeczywiste problemy, z jakimi się mierzyli, a nie dokument dotyczący polityki, który pozostawał ponad nimi.
Poświęć dużo czasu na politykę korzystania z narzędzi, radę ds. zarządzania i komitet ds. zarządzania — powiedziała. — Następnie poświęć dziesięć razy więcej czasu na inwestowanie w swoich ludzi — na ich przygotowanie, szkolenia i kulturę.
Model ACE nie rozwiązuje kwestii odpowiedzialności na szczycie organizacji. Robi jednak coś, czego formalna struktura zarządzania nie potrafi: przenosi odpowiedzialność tam, gdzie faktycznie podejmowane są decyzje.
Co odziedziczył dział HR
Matt Poepsel analizuje tę lukę z innej perspektywy. Jako wiceprezes ds. optymalizacji talentów w The Predictive Index ściśle współpracuje z liderami HR, którzy próbują pokonać dystans między tym, co AI obiecuje, a tym, co dostarcza po wdrożeniu bez kontekstu organizacyjnego.
Opowiada o okresie w swojej karierze menedżerskiej, gdy brakowało mu kontekstu potrzebnego do dobrego przewodzenia — podejmował decyzje, których później żałował, nie ze złych intencji, lecz z powodu niepełnych informacji.
Jego zdaniem właśnie to AI robi teraz na masową skalę w każdej organizacji, która wdrożyła ogólne narzędzie i oczekiwała, że zrozumie specyfikę jej pracowników.
Mówi się, że człowiek musi pozostać w pętli. Ja powiedziałbym, że zasoby ludzkie muszą pozostać w pętli. Widzę, że HR zmaga się z tym samym problemem, z którym ja się zmagałem, gdy nadmiernie koncentrowałem się na technicznej stronie równania.
Ta marginalizacja ma częściowo charakter strukturalny, a częściowo historyczny. Przez lata HR próbował zdobyć miejsce przy stole zarządu. Gdy pojawiły się narzędzia AI, często przedstawiano je jako sposób na wykazanie przez HR zwrotu z inwestycji poprzez skrócenie procesów rekrutacyjnych, zmniejszenie kosztów rotacji i zautomatyzowanie zapewniania zgodności.
Takie ujęcie uczyniło z HR beneficjenta wdrażania AI, a nie jego architekta. W rozmowach o zarządzaniu, jeśli w ogóle do nich dochodziło, zwykle uczestniczyli przedstawiciele działów prawnego, IT i finansowego. HR otrzymał narzędzia. Odpowiedzialność za te narzędzia spoczęła gdzie indziej albo nigdzie konkretnie.
Krytyka Poepsela jest jednoznaczna: ogólne AI nie zna twojej organizacji. Nie zna jej kultury, dynamiki zachowań, historii ani konkretnych grup, których dotyczą podejmowane decyzje.
Wytwarza wiarygodnie brzmiące wyniki pozbawione kontekstu, który każdy doświadczony specjalista HR posiada intuicyjnie. Gdy AI sygnalizuje odstępstwo w wynikach pracy, ocenia kandydata lub rekomenduje korektę wynagrodzenia, opiera się na wzorcach, które nic nie wiedzą o osobie stojącej przed nim. Lider HR, który od trzech lat uczestniczy w tych rozmowach, wie.
Jeśli AI potrafi coś zrobić, z definicji staje się to towarem — powiedział Poepsel. „Tym, co wnosisz, jest wyróżnienie.”
To niewygodne, ale ważne. Wartość HR w organizacji wspieranej przez AI nie polega na wykonywaniu zadań — narzędzia mogą robić to szybciej. Wartością jest osąd: wiedza o tym, kiedy wynik jest błędny, kiedy kontekst ma znaczenie i kiedy decyzja niesie konsekwencje, których model nie jest w stanie dostrzec.
To właśnie ten osąd zostaje dokładnie wyparty z organizacji, które wdrażają AI bez przeprojektowania procesów i ról wokół niego.
More Articles
- Raport sygnałów: Wnioski z Transform 2026
- Umiejętności przede wszystkim — to jest cel. AI właśnie przesunęła poprzeczkę.
- Sztuczna inteligencja w operacjach biznesowych: jak przekształcić nowe technologie w strategiczną przewagę biznesową
- Wiceprezes ds. Ludzi i Organizacji w firmie AI o statusie jednorożca mówi, że liderzy HR muszą stać się architektami zespołu ludzi i maszyn
- Czego firmy średniej wielkości nauczyły się o transformacji AI w 2025 roku
Prawny czynnik wymuszający zmiany
30 czerwca 2026 r. wchodzi w życie ustawa o AI w Kolorado, stając się pierwszym w kraju prawem stanowym nakładającym kompleksowe obowiązki w zakresie zarządzania zarówno na twórców, jak i użytkowników systemów AI wpływających na decyzje dotyczące zatrudnienia o istotnych konsekwencjach.
Wymogi są znaczące. Pracodawcy muszą utrzymywać udokumentowane programy zarządzania ryzykiem, przeprowadzać coroczne oceny wpływu, powiadamiać pracowników, gdy AI wpłynęła na decyzję, która ich dotyczyła, oraz zgłaszać dyskryminujące wyniki stanowemu prokuratorowi generalnemu.
Ustawa zaleca ramy zarządzania ryzykiem AI NIST jako obowiązujący standard zgodności. Ma zastosowanie niezależnie od wielkości pracodawcy.
Kolorado może mieć tu większe znaczenie, niż wskazywałaby jego wielkość. Inne stany obserwują sytuację, a grupa robocza ds. regulacji powołana przez gubernatora Jareda Polisa osiągnęła jednomyślny konsensus w sprawie zmian jeszcze w tym miesiącu, co oznacza, że ostateczny kształt ustawy nadal się zmienia, ale nie jej ambicje.
Sprawa Mobley pokazuje, dlaczego ma to znaczenie wykraczające poza granice Kolorado. Sąd nie potrzebował stanowej ustawy o AI, aby stwierdzić, że Workday może ponosić odpowiedzialność jako przedstawiciel pracodawców korzystających z jego platformy.
Teoria odpowiedzialności przedstawicielskiej, zgodnie z którą udział w decyzji o istotnych konsekwencjach tworzy współodpowiedzialność, jest obecnie stosowana wobec narzędzi AI na podstawie obowiązujących federalnych przepisów antydyskryminacyjnych. Pracodawca nie musi prowadzić działalności w Kolorado, aby spotkać się z argumentem, że przekazał decyzję rekrutacyjną systemowi, który samodzielnie dokonał rzeczywistej oceny, a ta ocena doprowadziła do dyskryminującego wyniku o 1:50 w nocy, gdy wszyscy spali.
Ryzyko prawne wynika bezpośrednio z luki w zarządzaniu. Pracodawca, który nie jest w stanie wykazać, kto sprawdził narzędzie AI przed wdrożeniem, kto monitoruje je pod kątem dyskryminacyjnych wzorców i kto odpowiada za jego wyniki, nie ma realnej obrony, gdy zakwestionowana zostanie decyzja. Komitet odbył posiedzenie. Nikt nie sprawował nadzoru.
Przeprojektowanie odpowiedzialności
Chelsea Gregory z firmy Suki zajmującej się AI w ochronie zdrowia niedawno nadzorowała kompleksową aktualizację podręcznika pracownika. Podczas wydarzenia Transform przedstawiła publiczności konkretny przykład tego, jak luka w zarządzaniu ujawnia się, zanim przerodzi się w problem prawny.
Elastyczna polityka PTO, która dobrze sprawdzała się w mniejszym zespole, zaczęła wywoływać skargi dotyczące równego traktowania w miarę rozwoju firmy. Menedżer zatwierdzał dłuższe urlopy nowszym pracownikom, podczas gdy osoby z dłuższym stażem miały poczucie, że polityka jest stosowana niespójnie. Nie było w tym nic złośliwego. Dokumentacja po prostu nie nadążała za skalą organizacji.
Ta sama dynamika występuje w przypadku narzędzi AI. Polityki zaprojektowane dla jednego kontekstu wdrożenia nie przenoszą się automatycznie, gdy organizacja się rozwija, zmienia się siła robocza lub narzędzie zostaje zaktualizowane.
Czy mają Państwo odpowiednią dokumentację i procesy? I w jaki sposób weryfikują Państwo, że są one dokładne i spełniają swój cel?
W większości organizacji nikt formalnie nie odpowiada za sprawdzanie.
Usunięcie tej luki wymaga czegoś bardziej znaczącego niż lepszego dokumentu dotyczącego polityki. McIntire opowiada się za integracją — innymi słowy, ryzyko związane z AI nie powinno być oddzielone od ram zarządzania ryzykiem przedsiębiorstwa jako osobna i egzotyczna kategoria. Powinno być częścią istniejącej architektury ryzyka, z taką samą jasnością odpowiedzialności, jaka obowiązuje w przypadku każdego innego ryzyka operacyjnego.
Powstaje więc pytanie: czy osoby zarządzające istniejącymi procesami zarządzania ryzykiem mają uprawnienia, przeszkolenie i dostęp do organizacji, aby stosować je do AI?
Reimers i Poepsel dochodzą do tego samego wniosku z różnych perspektyw. Model ACE działa, ponieważ umieszcza odpowiedzialność blisko wykonywanej pracy. Ramy mnożnika HR działają, ponieważ jasno określają, co HR zapewnia w wyjątkowy sposób — wiedzę o organizacji, kontekst behawioralny oraz zdolność do sprawdzenia wyniku modelu w odniesieniu do konkretnego człowieka, którego ten wynik dotyczy. Żadne z tych rozwiązań nie zastępuje formalnego zarządzania. Oba sprawiają, że formalne zarządzanie nabiera znaczenia.
Obecnie od dyrektorów HR oczekuje się przyjęcia odpowiedzialności za decyzje AI bez uprawnień do zarządzania nimi, co jest strukturalną porażką błędnie odczytywaną jako problem z talentami.
Organizacje traktujące to jako tę drugą opcję prawdopodobnie będą nadal obsadzać stanowiska w komitetach, które nie mają rzeczywistego znaczenia. Rzeczywista praca polega na przeprojektowaniu sposobu rozdzielania uprawnień w zakresie nadzoru między członków najwyższego kierownictwa, tak aby odpowiedzialność i władza szły ze sobą w parze.
Badania Gartnera z 2025 roku jasno przedstawiają obecny stan: mniej niż co czwarty lider IT twierdzi, że ma pełne zaufanie do zdolności swojej organizacji do zarządzania nadzorem podczas wdrażania narzędzi generatywnej sztucznej inteligencji. Więcej przedsiębiorstw niż kiedykolwiek wcześniej ma formalne strategie zapisane na papierze. Bardzo niewiele z nich z powodzeniem przełożyło je na praktykę operacyjną.
Luka między polityką a strukturą nadzoru z rzeczywistą odpowiedzialnością to miejsce, w którym pojawia się ryzyko. Na podstawie kierunku, w jakim rozwijają się postępowania sądowe, to również właśnie tam zostanie złożona kolejna seria pozwów.
