Dlaczego większość strategii zarządzania sztuczną inteligencją już teraz napotyka problemy
Ryzyko związane z przestrzeganiem przepisów: Organizacje często uważają, że dokumentacja prawna jest wystarczająca, nie dostrzegając rzeczywistych zagrożeń związanych z przestrzeganiem przepisów dotyczących sztucznej inteligencji.
Otoczenie regulacyjne: Zarządzanie sztuczną inteligencją odbywa się w ramach rozproszonych przepisów prawa, co wymaga znajomości obowiązujących standardów prawnych i zobowiązań.
Wykrywanie uprzedzeń: Uprzedzenia w sztucznej inteligencji wynikają z danych historycznych i wpływają na praktyki rekrutacyjne, często bez zamiaru lub świadomości.
Odpowiedzialność dostawców: Poleganie wyłącznie na certyfikatach zgodności dostawców może przesłaniać istotne ryzyko organizacyjne związane z narzędziami sztucznej inteligencji.
Konieczność zarządzania: Skuteczne zarządzanie sztuczną inteligencją wymaga nadzoru kadry kierowniczej i jasno określonej odpowiedzialności, aby zapewnić zgodność z przepisami i ograniczyć ryzyko.
Formalności mogą sprawiać, że zgodność z przepisami wydaje się załatwiona. Dział prawny zatwierdza wszystko, umowy zostają zarchiwizowane wraz z klauzulą odszkodowawczą obiecującą ochronę. Jednak te kroki często tworzą iluzję bezpieczeństwa, a nie jego rzeczywistość.
Niedawno uczestniczyłem w konferencji, podczas której kilka sesji poświęcono otoczeniu prawnemu sztucznej inteligencji w miejscu pracy. Praktycy, prawnicy prawa pracy i eksperci ds. zgodności przez większą część dwóch dni analizowali założenia, na których organizacje oparły swoje strategie zarządzania sztuczną inteligencją. Obraz, który się wyłonił, nie przedstawiał nadchodzącego zagrożenia. Ryzyko już istnieje.
Obraz regulacyjny
Rząd federalny nie uchwalił kompleksowych przepisów dotyczących sztucznej inteligencji. Na tym fakcie poprzestają niektórzy członkowie kadry kierowniczej — i właśnie dlatego tak wiele osób nie docenia swojego ryzyka. Rzeczywiste otoczenie prawne stanowi mozaikę przepisów stanowych, lokalnych rozporządzeń i istniejącego prawa federalnego, które nie wymaga nowych regulacji dotyczących konkretnie sztucznej inteligencji, aby mieć zastosowanie.
Continue Reading for Free
Create a free account to finish this article, plus get ongoing access to timely insights and practical resources.
Have an account? Log In
Słyszycie całą tę retorykę obecnej administracji o tym, że „nie będziemy tego regulować”. Nie dajcie się na to nabrać. Sprzedają pewność tam, gdzie jej nie ma.
Kelly i każdy inny prawnik występujący na konferencji dość bezpośrednio mówili o tym, jakie koszty dla organizacji niesie ze sobą ta błędna interpretacja. Strategiczne priorytety EEOC na lata 2024–2028, obejmujące inicjatywę na rzecz nowego podejścia do równości w zatrudnieniu, kładą szczególny nacisk na systemy pozornie neutralne, czyli narzędzia, które nie dyskryminują w sposób jawny, ale prowadzą do dyskryminujących wyników.
Prawo federalne już to obejmuje. To samo dotyczy unijnego aktu o sztucznej inteligencji, który ma zastosowanie do każdej organizacji prowadzącej działalność lub zatrudniającej pracowników w Europie.
Obecnie osławiona sprawa Workday, pozew zbiorowy zarzucający, że oprogramowanie kadrowe tej firmy dyskryminowało kandydatów ze względu na wiek i rasę, wyraźnie pokazała, że odpowiedzialność prawna nie czeka na Kongres.
Problem z ujawnianiem informacji
Jedna z bardziej wstrząsających rozmów podczas konferencji dotyczyła dokumentacji. A konkretnie tego, co dzieje się, gdy decyzje podejmowane przez sztuczną inteligencję trafiają do postępowania dowodowego.
Polecenia kierowane do sztucznej inteligencji mogą zostać objęte wezwaniem sądowym. Wewnętrzna logika, dane wejściowe decyzji oraz konfiguracje modeli wykorzystywane w rekrutacji, zarządzaniu wynikami pracy lub procesach wynagradzania mogą zostać zażądane jako dowody. Organizacje, które nie są w stanie przedstawić szczegółowych rejestrów decyzji podejmowanych przez sztuczną inteligencję z okresu sięgającego czterech lat wstecz, są narażone na poważne ryzyko — zarówno w postępowaniach sądowych, jak i podczas kontroli regulacyjnych.
To nie jest teoria. W miarę jak agenci sztucznej inteligencji przejmują coraz bardziej autonomiczne role w operacjach kadrowych, kwestia odpowiedzialności staje się bardziej wyraźna. Gdy system agentowy podejmuje decyzję dotyczącą zatrudnienia lub wpływa na nią, a następnie coś idzie nie tak, prawo jednoznacznie przypisuje odpowiedzialność pracodawcy, a nie dostawcy.
Odpowiedzialność na zasadzie ryzyka za agentów stawia organizację w sytuacji, w której odpowiada ona za wyniki generowane przez narzędzia, których może w pełni nie rozumieć.
Wymogi dotyczące przechowywania dokumentów odpowiednio się zmieniają. Zarządzanie, które nie zostało zaprojektowane z myślą o możliwości ujawnienia informacji, będzie wymagało odtworzenia pod presją.
Gdzie rzeczywiście pojawia się stronniczość
Większość organizacji traktuje stronniczość sztucznej inteligencji jako problem dostawcy. Kupują narzędzie wykorzystujące sztuczną inteligencję, pytają, czy zostało poddane audytowi, otrzymują jakąś wersję odpowiedzi twierdzącej i działają dalej. Środowisko prawne i eksperci ds. zgodności zaczęli wskazywać, jak bardzo niepełne jest takie podejście.
Stronniczość trafia do systemów sztucznej inteligencji poprzez dane historyczne, definicje sukcesu, filtry selekcji i zmienne zastępcze. Gdy system sztucznej inteligencji jest szkolony na podstawie lat informacji o tym, kogo zatrudniano, kogo awansowano i jak wyglądały oceny wyników pracy, uczy się preferencji organizacji. Preferencje te często zawierają zakorzenioną dyskryminację, której nikt celowo nie zaprojektował, ale którą model koduje, a następnie skaluje.
Stronniczość jest wzmacniana — zauważył Kelly — przekształcając pojedyncze decyzje we wzorce obejmujące całą instytucję.
Standard prawny dotyczący dyskryminacji pośredniej nie wymaga zamiaru. Powód musi wykazać statystyczną rozbieżność, a próg jest już określony. Zasada czterech piątych, znana również jako reguła 80%, stanowi, że jeśli wskaźnik wyboru członków grupy chronionej jest niższy niż 80% wskaźnika grupy wybieranej najczęściej, stanowi to dowód dyskryminacji pośredniej.
Narzędzie sztucznej inteligencji analizujące tysiące życiorysów miesięcznie może przekroczyć ten próg, mimo że żadna osoba w firmie nie zamierzała do tego doprowadzić.
Badanie Uniwersytetu Waszyngtońskiego, przywołane podczas jednej z sesji, pokazało skalę problemu. Gdy nazwiska czarnoskórych kandydatów porównano z nazwiskami białych kandydatów w systemach selekcji opartej na sztucznej inteligencji, systemy preferowały czarnoskóre nazwiska w zero procentach przypadków.
Standard odmiennego traktowania, który obejmuje umyślną dyskryminację, wiąże się z własnymi komplikacjami dotyczącymi sztucznej inteligencji. Bezpośrednie dane wejściowe wykorzystujące chronione cechy jako wyraźne punkty danych są oczywistym przypadkiem. Jednak ukryte motywy są trudniejsze do wykrycia i trudniej się przed nimi bronić, na przykład wybór dostawcy właśnie dlatego, że jego narzędzie selekcji ma tendencję do odrzucania starszych kandydatów, przy jednoczesnym przedstawianiu tego wewnętrznie jako preferencji dla „dynamicznej kultury pracy”.
Takie przedstawienie sprawy nie neutralizuje zamiaru z prawnego punktu widzenia.
Dlaczego nadzór ukierunkowany na dostawcę zawodzi
Domyślny model zarządzania w większości organizacji opiera się na relacji z dostawcą. Założenie jest takie, że jeśli narzędzie dostawcy przejdzie certyfikację lub zostanie dostarczone z dokumentacją audytową, organizacja wypełniła swoje obowiązki.
To założenie nie wytrzymuje konfrontacji ani z prawem, ani z rzeczywistością operacyjną.
„Ostatecznie odpowiedzialność spadnie na organizację” — powiedziała Kelly. „Całe ryzyko będzie pochodzić z tego samego źródła. Można współpracować z dowolnymi osobami zajmującymi się zgodnością, ryzykiem czy kwestiami prawnymi, z których każda działa na rzecz minimalizowania ryzyka w swojej jurysdykcji, ale jedynym sposobem na osiągnięcie tego celu jest zrozumienie przez osoby w organizacji, czego używacie i do czego tego używacie. Jeśli nie zauważę, że wasz zespół rekrutacyjny korzysta z technologii, której nie testujemy pod kątem ryzyka, nasza praca jest w pewnym sensie bezużyteczna”.
Chris Lippert, dyrektor w firmie Schellman, wskazał na krajobraz certyfikacji dostawców jako część problemu. Wiele narzędzi sztucznej inteligencji wykorzystywanych w funkcjach HR nie zostało niezależnie certyfikowanych.
Greenhouse, jedna z szerzej stosowanych platform do śledzenia kandydatów, otrzymała certyfikat ISO/IEC 42001 dopiero w lutym tego roku. Wniosek dla całej branży jest taki, że organizacje wdrażały funkcje wzbogacone o sztuczną inteligencję na długo przed zatwierdzeniem narzędzi, a wiele z nich nadal korzysta z niezweryfikowanych wersji.
Samo to, że aplikacja wykorzystuje sztuczną inteligencję, nie oznacza, że należy jej używać. A jeśli dodaje funkcje sztucznej inteligencji, to właśnie wtedy trzeba coś zauważyć i o tym powiedzieć. Czy zasady obowiązujące w firmie są aktualizowane przed wdrożeniem technologii? Nie. Narażacie się na ryzyko, zanim zostanie ono uregulowane w zasadach.
Lippert zalecił oparcie się na ocenach skutków dla prywatności, które organizacje prawdopodobnie już przeprowadziły. Przeglądu ryzyka związanego ze sztuczną inteligencją nie trzeba tworzyć od podstaw. Ci sami interesariusze, te same ramy analityczne i znaczna część tej samej infrastruktury dokumentacyjnej już istnieją w większości programów zgodności.
Traktowanie zarządzania sztuczną inteligencją jako rozszerzenia tych działań, a nie odrębnej inicjatywy, sprawia, że łatwiej je realizować i utrzymać w dłuższej perspektywie.
More Articles
- Czy możesz przekształcić zgodność AI w przewagę konkurencyjną?
- Raport sygnałów: Wnioski z Transform 2026
- Ukryta sztuczna inteligencja: wyzwanie związane z zarządzaniem, które nie pozwala liderom spać po nocach
- Sztuczna inteligencja w miejscu pracy: praktyczne zastosowania, przykłady z życia i przewodnik wdrażania
- AI w zarządzaniu wynikami pracy: zastosowania i przewodnik wdrażania
Luka w zarządzaniu na najwyższym szczeblu
Wymagania dotyczące zarządzania operacyjnego nie są skomplikowane do wyliczenia.
- Punkty kontrolne nadzoru człowieka
- Częstotliwość walidacji
- Odpowiedzialność dostawcy
- Monitorowanie wyników
- Dokumentacja,
- Kontrola wersji
Wszystkie te kwestie są dobrze rozumiane. W wielu organizacjach mniej jasne jest natomiast to, kto za nie odpowiada i czy ktokolwiek posiadający uprawnienia organizacyjne aktywnie je monitoruje.
Ogólny konsensus dotyczący wszystkich ram ryzyka związanego z AI jest taki, że musi ono być wspierane odgórnie. Trzeba mieć zaangażowanie kierownictwa.
Teza Howard łączy się z szerszym problemem. Struktury zarządzania tworzone na poziomie zespołu lub funkcji, bez mandatu kadry zarządzającej i jasno określonej odpowiedzialności, zwykle są stosowane niespójnie i trudno je egzekwować.
Gdy jednostka biznesowa wdraża nowe narzędzie AI bez przejścia przez ustalony proces oceny, powstała luka wychodzi na jaw dopiero wtedy, gdy pojawia się skarga, pozew lub zapytanie organu regulacyjnego.
Dryf modelu pogłębia ten problem. Narzędzia AI zmieniają się z czasem — czasami w wyniku aktualizacji dostawcy, a czasami na skutek zmian w danych, które przetwarzają. Narzędzie, które przeszło audyt pod kątem stronniczości w momencie wdrożenia, może go nie przejść osiemnaście miesięcy później.
„W miarę jak modele dryfują, przejmujesz coraz większe ryzyko” — powiedziała Howard. „Trzeba dać pracownikom możliwość zgłaszania problemów, gdy coś wygląda nieprawidłowo”.
Testowanie na własnych zasadach
Brak obowiązkowych federalnych ram oznacza, że organizacje w dużej mierze muszą samodzielnie opracowywać protokoły testowania. Rada Kelly'ego w tej kwestii była dosadna.
Jesteście zdani na siebie — powiedział. — Taka jest rzeczywistość.
W praktyce oznacza to, że organizacje muszą stale przeprowadzać własne testy pod kątem stronniczości i robić to z zapewnioną ochroną prawną. Przeprowadzanie testów w ramach tajemnicy adwokacko-klienckiej pozwala organizacjom ujawniać problemy bez automatycznego tworzenia dowodów tych problemów podlegających ujawnieniu w postępowaniu.
To inwestycja o wyraźnym zwrocie, szczególnie w przypadku organizacji wykorzystujących AI w rekrutacji, gdzie ryzyko prawne jest największe, a wymagania dotyczące dokumentacji są najbardziej rygorystyczne.
Organizacje, które wyprzedzają ten problem, przestały zakładać, że dostawca wykonał całą pracę, i zaczęły traktować zarządzanie AI jako dyscyplinę operacyjną opartą na rzeczywistej odpowiedzialności, rzeczywistych testach i rzeczywistym rozliczaniu.
