Dryf AI jest już obecny w systemach zarządzania pracownikami. Oto co należy z nim zrobić

Dla osób zarządzających organizacjami definicja powinna być szersza i bardziej bezpośrednia: dryf AI to powolny, kumulujący się proces, w wyniku którego narzędzia AI przestają robić to, co — jak sądzicie — robią.

W systemach kadrowych, takich jak platformy rekrutacyjne, narzędzia do oceny wyników pracy, mechanizmy wynagradzania czy algorytmy planowania, dryf przybiera formy, które mają dla dyrektora HR lub dyrektora generalnego znacznie większe znaczenie niż wykres rozkładu danych dla analityka danych.

• Dryf wyników jest najbardziej widoczny. Decyzje systemu zaczynają odbiegać od wzorców bazowych. Rekomendacje rekrutacyjne zaczynają faworyzować określone profile kandydatów. Oceny wyników pracy zaczynają układać się inaczej w poszczególnych zespołach. Rezultaty planowania zmieniają się w sposób, którego nikt nie zatwierdził. Żadna z tych zmian nie wymaga modyfikacji kodu. Model reaguje na nowe dane lub na stare dane, które nie odzwierciedlają już rzeczywistości, w której działa.
• Dryf sprawiedliwości jest bardziej subtelny i niebezpieczniejszy. Z czasem wyniki dotyczące grup chronionych zaczynają się rozchodzić, nawet jeśli system przeszedł testy stronniczości podczas wdrożenia. Narzędzie rekrutacyjne, które w 2022 roku przeprowadzało sprawiedliwą selekcję, może nie robić tego sprawiedliwie w 2026 roku, jeśli zmieniła się pula kandydatów, ewoluowały wymagania dotyczące stanowiska lub dane bazowe odzwierciedlają wzorce, z którymi model nigdy nie był szkolony.
• Dryf zakresu decyzyjności to forma, której większość osób zarządzających w ogóle nie dostrzega. Zakres autonomicznego podejmowania decyzji przez AI po cichu wykracza poza pierwotny mandat systemu. Narzędzie wdrożone do uszeregowania kandydatów zaczyna w praktyce ich eliminować. System oceniania wyników pracy zaczyna wpływać na decyzje dotyczące wynagrodzeń, których nigdy nie został zaprojektowany podejmować. Nikt nie zatwierdził tego rozszerzenia. Nastąpiło ono stopniowo, poprzez integrację z przepływem pracy i zachowania użytkowników, a nikt nie zasygnalizował problemu, ponieważ nikt tego nie monitorował.
• Dryf zarządzania to rozbieżność między tym, co zgodnie z zasadami system AI robi, a tym, co faktycznie robi. To właśnie tutaj koncentruje się ryzyko prawne. Wasza polityka odpowiedzialnego AI opisuje system zweryfikowany w momencie uruchomienia. System działający dziś może mieć niewiele wspólnego z tym opisem. Polityka nie uległa dryfowi, ale system — tak.

Najważniejsze w zrozumieniu dryfu jest to, że nie jest on tyle zdarzeniem oznaczającym awarię, ile procesem degradacji. System AI, który był zgodny z wymaganiami w momencie wdrożenia, może stać się obciążeniem bez zmiany ani jednej linijki kodu — po prostu dlatego, że zmienił się otaczający go świat. 

Zanim objawy ujawnią się w postaci skargi dotyczącej dyskryminacji, ustaleń audytowych lub wzorca wyników niezgodnego z oczekiwaniami, ryzyko zdąży narastać przez wiele miesięcy.

Dlaczego dryf AI wymaga uwagi właśnie teraz

Większość organizacji wdrożyła AI w systemach kadrowych, a następnie przestała się tym interesować. Przeprowadziły testy podczas uruchomienia. Przygotowały dokumentację podczas uruchomienia. Od tamtej pory nie testowały ani nie aktualizowały dokumentacji. W międzyczasie organy egzekwujące przepisy nadrobiły zaległości.

Otoczenie procesowe

Mobley v. Workday to obecnie najważniejsza sprawa. Pięcioro powodów, wszyscy w wieku powyżej 40 lat, zarzuciło, że narzędzia AI do selekcji kandydatów firmy Workday dyskryminowały ze względu na wiek. W maju 2025 roku sąd federalny w Północnym Okręgu Kalifornii uznał sprawę za ogólnokrajowe powództwo zbiorowe na podstawie ustawy o zakazie dyskryminacji w zatrudnieniu ze względu na wiek. 

Potencjalny zakres orzeczenia obejmuje każdego kandydata w wieku powyżej 40 lat poddanego selekcji za pośrednictwem platformy Workday od września 2020 roku. Sama firma Workday oświadczyła w dokumentach sądowych, że w odnośnym okresie za pomocą jej narzędzi odrzucono 1,1 miliarda aplikacji.

Uzasadnienie sądu było bezpośrednie. Sędzia Rita Lin stwierdziła, że Workday był wystarczająco zaangażowany w proces rekrutacyjny, aby traktować go jako przedstawiciela pracodawców korzystających z jego narzędzi. 

Ostrzegając przed rozróżnianiem między programowymi a ludzkimi decydentami, sąd stwierdził, że takie podejście pozbawiłoby przepisy antydyskryminacyjne skuteczności we współczesnej rzeczywistości.

W lipcu 2025 roku zakres sprawy rozszerzono, obejmując nim również osoby przetwarzane za pośrednictwem HiredScore, platformy AI przejętej przez Workday po wniesieniu pierwotnej skargi.

Następnie pojawiła się firma Eightfold AI. W styczniu 2026 roku w pozwie zbiorowym zarzucono, że Eightfold pozyskała dane dotyczące ponad miliarda pracowników, oceniała kandydatów w skali od zera do pięciu i odrzucała ich, zanim jakikolwiek człowiek zapoznał się z ich aplikacją — a wszystko to bez ujawnień wymaganych przez ustawę o rzetelnym raportowaniu kredytowym. 

Ten przypadek różni się od sprawy Mobley w istotny sposób: nie zarzuca się w nim stronniczości. Zarzuca się tajność. Algorytm istniał, działał i odfiltrowywał ludzi od możliwości, a nikt spoza firmy nie wiedział, że to się dzieje. Sprawę wniosła była przewodnicząca EEOC Jenny R. Yang, co pokazuje rangę uwagi prawnej, jaką skupia obecnie sztuczna inteligencja w zarządzaniu personelem.

Rozpatrywane łącznie, te sprawy tworzą atak z dwóch stron. Mobley kwestionuje rezultaty. Eightfold kwestionuje proces. Obie wskazują ten sam kierunek: dostawcy AI, którzy podejmują decyzje dotyczące zatrudnienia lub mają na nie istotny wpływ, będą pociągani do odpowiedzialności za te decyzje.

It starts with one signal.

Each week, AI Signal takes one meaningful shift in AI and helps people leaders understand what changed, why it matters, and what to consider next.

Get Free Access

Have an account? Log In

Presja odpowiedzialności dostawców

W tym miejscu sytuacja arytmetyczna staje się dla pracodawców niekomfortowa. Badania przeprowadzone przez platformy technologii prawniczych pokazują, że 88% dostawców AI ogranicza własną odpowiedzialność, często limitując odszkodowania do wysokości miesięcznych opłat abonamentowych. Tylko 17% daje gwarancję zgodności z przepisami. Szerokie klauzule odszkodowawcze rutynowo wymagają od klientów zwolnienia dostawców z odpowiedzialności za dyskryminujące rezultaty.

Oznacza to, że pracodawcy ponoszą prawną odpowiedzialność za rezultaty, których nie mogą kontrolować, generowane na podstawie danych, których nie mogą audytować, i przetwarzane za pomocą logiki, której nie mogą zbadać. Gdy pojawia się pozew zbiorowy, umowa z dostawcą ogranicza odpowiedzialność, wyłącza gwarancje zgodności i ogranicza audyty algorytmiczne. Pracodawca zostaje z problemem.

Problem „człowieka w pętli”

Sama nominalna obecność człowieka w łańcuchu oceny nie jest już skuteczną linią obrony. 

Aaron Pease, prawnik w kancelarii Highbridge Law Firm, który doradza w zakresie zarządzania AI i zgodności działań związanych z personelem z przepisami, ujął to dosadnie w niedawnej prezentacji dotyczącej ryzyka związanego z autonomicznym personelem. 

\u0022Nadzór bez widoczności jest teatrem i rozpada się podczas postępowania dowodowego.\u0022

Share This Quote on:

• Share on Twitter
• Share on LinkedIn
• Share on Facebook

Aaron PeaseOpens new window

Członek założyciel i główny prawnik

Organizacje nie potrafią wykazać, co człowiek faktycznie przeanalizował, jakie decyzje zmienił ani jakie kryteria zastosował. Sądy i organy regulacyjne zmierzają w kierunku wymagania udokumentowanego, możliwego do wykazania nadzoru, a nie samej deklaracji, że ktoś, gdzieś, przyjrzał się czemuś, zanim proces był kontynuowany.

Egzekwowanie przepisów nabiera realnych kształtów

Ustawa o AI stanu Kolorado, uchwalona w maju 2024 roku, jest pierwszą w kraju kompleksową ustawą stanową regulującą systemy AI wykorzystywane w decyzjach o dużym znaczeniu, w tym w zatrudnieniu. Ustawa wymaga obowiązkowych ocen wpływu, programów zarządzania ryzykiem i obowiązków informacyjnych, a także przewiduje kary w wysokości $20,000 za każde naruszenie.

Droga do jej egzekwowania była burzliwa, ponieważ podczas nadzwyczajnej sesji legislacyjnej w sierpniu 2025 roku pojawiło się ponad 150 lobbystów, a cztery konkurencyjne projekty ustaw próbowały ją osłabić lub uchylić. Żaden z nich nie odniósł sukcesu. Legislatura zgodziła się jedynie odroczyć egzekwowanie ustawy do 30 czerwca 2026 roku, pozostawiając jej zasadnicze wymogi bez zmian.

Na początku 2026 roku sesja legislacyjna Kolorado nie doprowadziła do porozumienia w sprawie dalszych zmian.

Tymczasem Kalifornia sfinalizowała przepisy regulujące wykorzystywanie AI przez pracodawców w sprawach dotyczących dyskryminacji, a Illinois wprowadziło wymogi dotyczące ujawniania zastosowania AI. Wzorzec jest spójny w poszczególnych stanach: opóźnienie jest możliwe, ale odchodzenie od regulacji nie następuje.

Koszt biernego zarządzania

Odpis Zillow w wysokości $569 milionów z listopada 2021 roku pozostaje jednym z najwyraźniejszych przykładów tego, co dzieje się, gdy dryf algorytmiczny pozostaje bez monitorowania. Platforma iBuying firmy wykorzystywała model wyceny do określania wartości domów i składania ofert zakupu. Gdy warunki rynkowe po pandemii zaczęły się zmieniać, algorytm nadal zakładał, że rynek jest gorący, podczas gdy rzeczywiste warunki ulegały ochłodzeniu.

Przez wiele miesięcy Zillow kupowało domy po zawyżonych cenach, zanim ktokolwiek to zauważył. Gdy nadszedł moment rozliczenia, firma zamknęła cały dział iBuying, zwolniła 25% swoich pracowników i poniosła łączne straty przekraczające $900 milionów. W ciągu kilku dni wartość rynkowa akcji spadła o około $7.8 miliarda.

Odpis nie był spowodowany nagłą awarią. Był skutkiem stopniowego dryfu, który narastał, ponieważ nikt nie obserwował sygnałów. Zastąp „wyceny domów” „decyzjami rekrutacyjnymi” lub „ocenami wyników pracy”, a wzorzec pozostaje identyczny. Dryf jest cichy. Ekspozycja narasta. Rozliczenie już nie.

Dla kadry kierowniczej zarządzającej AI w obszarze personelu kategorie kosztów są konkretne.

• Ekspozycja finansowa wynika z błędnych decyzji AI, których skutki kumulują się z czasem w postaci nietrafionych rekrutacji, bezprawnych zwolnień i niewłaściwego przydzielania talentów
• Ekspozycja na ryzyko sporów sądowych wynika z faktu, że miesiące stronniczych decyzji dotyczących selekcji kandydatów, wszystkie udokumentowane w dziennikach systemowych, tworzą dokładnie taki rodzaj systematycznych dowodów, jakich szukają prawnicy prowadzący pozwy zbiorowe
• Kary regulacyjne nie są już wyłącznie teoretyczne, ponieważ ramy egzekwowania przepisów dojrzewają
• Szkody dla reputacji uderzają w markę pracodawcy na konkurencyjnym rynku talentów
• Zakłócenia na poziomie zarządu pojawiają się, gdy uchybienia w zarządzaniu procesem podejmowania decyzji przez AI wkraczają w obszar obowiązków powierniczych. Dyrektorzy pytają, czy organizacja może wykazać sprawowanie nadzoru, a odpowiedź „mamy politykę” nie jest wystarczająca. W tym może pomóc AI w zarządzaniu zarządem.

Dlaczego większość ram zarządzania zawodzi

Większość organizacji przyjęła język odpowiedzialnej AI. Mają polityki. Mają zasady. Niektóre odwołują się do NIST. Nigdy jednak nie wdrożyły wewnętrznego monitorowania pozwalającego zweryfikować, czy rzeczywiście przestrzegają któregokolwiek z tych założeń. Potrafią opisać swoje podejście do zarządzania AI. Nie potrafią go zmierzyć.

To właśnie luka w zakresie oprzyrządowania i monitorowania, w której znajduje się rzeczywiste ryzyko.

Dr Fern Halper, wiceprezeska i starsza dyrektorka ds. badań w obszarze zaawansowanej analityki w TDWI, powołuje się na badanie przeprowadzone przez firmę pod koniec 2025 roku wśród kilkuset organizacji. Tylko około jedna trzecia określiła swoje zarządzanie AI jako dojrzałe pod względem poparcia organizacyjnego, zdefiniowanych procesów, odpowiedzialności, narzędzi i zdolności do pomiaru wyników. 

Możliwości monitorowania były jeszcze mniej powszechne. Mniej niż 25% respondentów poinformowało o korzystaniu z jakichkolwiek narzędzi do monitorowania AI, które mogłyby wykrywać dryf.

W wielu organizacjach problem nie leży między polityką a pomiarem, lecz pojawia się wcześniej. Wiele organizacji wciąż opracowuje podstawowe struktury zarządzania, takie jak polityki, modele odpowiedzialności i rejestry modeli. Nie osiągnęły jeszcze etapu, na którym ciągłe monitorowanie modeli działających produkcyjnie jest wdrożone operacyjnie.

Share This Quote on:

• Share on Twitter
• Share on LinkedIn
• Share on Facebook

Dr. Fern HalperOpens new window

Wiceprezeska i starsza dyrektorka ds. badań w obszarze zaawansowanej analityki w TDWI

To ustalenie zmienia sposób, w jaki wielu liderów postrzega problem zarządzania. Rozmowy w salach posiedzeń zarządów zwykle zakładają, że zarządzanie istnieje, a pytanie brzmi, czy jest wystarczająco dobre. W przypadku większości organizacji infrastruktura pozwalająca zarządzać decyzjami AI w mierzalny sposób po prostu nie została jeszcze zbudowana.

Ramy zarządzania ryzykiem AI NIST, opublikowane w styczniu 2023 roku, definiują cztery podstawowe funkcje: Zarządzaj, Mapuj, Mierz i Zarządzaj ryzykiem. Większość organizacji wie, że te ramy istnieją. Niewiele wdrożyło je operacyjnie poza dwoma pierwszymi funkcjami.

• Zarządzaj stanowi przekrojową podstawę — kulturę ryzyka, struktury odpowiedzialności, zaangażowanie liderów oraz role i obowiązki. NIST zaprojektował tę funkcję tak, aby przenikała trzy pozostałe, a nie była traktowana jako samodzielne pole wyboru. Bez funkcji Zarządzaj funkcje Mapuj, Mierz i Zarządzaj ryzykiem pozostają ćwiczeniami na papierze.
• Mapuj określa, gdzie przekazano AI uprawnienia do podejmowania decyzji, jakie dane ją zasilają, kogo dotyczą skutki tych decyzji i jaka jest ich stawka. To etap tworzenia rejestru i właśnie na nim zatrzymuje się większość organizacji. Przeprowadziły ocenę krajobrazu. Udokumentowały, które systemy wpływają na które decyzje. Następnie przeszły dalej.
• Mierz to moment, w którym zarządzanie staje się rzeczywiste. Wymaga narzędzi ilościowych, jakościowych lub wykorzystujących metody mieszane do analizowania, porównywania i monitorowania ryzyka AI względem zdefiniowanych poziomów bazowych. NIST wyraźnie wskazuje, że systemy AI powinny być testowane przed wdrożeniem i regularnie podczas działania. Regularnie. Nie tylko raz.
• Zarządzaj ryzykiem oznacza działania naprawcze — ustalanie priorytetów i reagowanie na zidentyfikowane ryzyka, rejestrowanie działań korygujących oraz łączenie sygnałów wykrywania z udokumentowanymi reakcjami.

Problem polega na tym, że większość organizacji zatrzymuje się na funkcji Mapuj, a dokładniej — na częściowym Mapuj, któremu brakuje podstawy w postaci funkcji Zarządzaj, aby można było przełożyć je na konkretne działania. Rzadko określają ilościowo dryf, śledzą sygnały ekspozycji na ryzyko lub rejestrują działania korygujące.

Według Pease'a zdecydowanie nie łączą sygnałów z udokumentowanymi działaniami naprawczymi. Mapowanie bez pomiaru jest katalogiem. Pomiar bez zarządzania to tylko dane. Żadne z tych działań nie chroni organizacji podczas postępowania dowodowego, chyba że prowadzi do udokumentowanego działania.

Warto zauważyć: Zgodność z NIST staje się czymś więcej niż tylko najlepszą praktyką. Ustawa Kolorado dotycząca sztucznej inteligencji wyraźnie wskazuje NIST AI RMF jako punkt odniesienia dla zgodności. Podmioty wdrażające, które dostosują się do tych wytycznych, otrzymują wzruszalne domniemanie, że zastosowały „należytą staranność”. Oznacza to, że NIST staje się standardem, względem którego mierzy się odpowiedzialność prawną, a nie tylko dobrowolną wytyczną.

Jak wykrywać i mierzyć dryf sztucznej inteligencji

Podstawowa zmiana, której muszą dokonać organizacje, ma charakter koncepcyjny, zanim stanie się techniczna. Należy przestać traktować nadzór nad sztuczną inteligencją jako funkcję audytową — z corocznym lub kwartalnym przeglądem, zaplanowanym z wyprzedzeniem i raportowanym po fakcie — i zacząć traktować go jako funkcję operacyjną. Ciągłe monitorowanie sygnałów przy użyciu zdefiniowanych progów, prowadzone równolegle z systemami, które są monitorowane.

Co monitorować

W systemach sztucznej inteligencji wykorzystywanych w obszarze zatrudnienia znaczenie ma pięć kategorii sygnałów.

• Wzorce wyników: czy rekomendacje dotyczące zatrudnienia, oceny wyników pracy lub decyzje dotyczące wynagrodzeń odbiegają od wartości bazowych ustalonych podczas wdrożenia?
• Wskaźniki sprawiedliwości: czy wyniki dla grup chronionych stopniowo się różnicują?
• Dane wejściowe: czy skład danych zasilających system zmienił się w sposób, dla którego model nie został zaprojektowany?
• Zakres decyzyjności: czy faktyczne uprawnienia sztucznej inteligencji wykraczają poza jej pierwotny zakres?
• Zgodność z regulacjami: czy wymagania zmieniają się szybciej niż dokumentacja zarządzania sztuczną inteligencją?

Żadne z tych danych nie jest egzotyczne. Są to wskaźniki operacyjne, które powinny już istnieć w każdym systemie podejmującym istotne decyzje dotyczące ludzi. Większość organizacji nigdy nie stworzyła infrastruktury umożliwiającej ich ciągłe śledzenie ani nie określiła wartości bazowych, względem których można mierzyć zmiany.

Od opisu do pomiaru

Luka, którą większość organizacji musi zamknąć, to dystans między zarządzaniem jakościowym a zarządzaniem ilościowym. Między stwierdzeniem „mamy politykę odpowiedzialnej sztucznej inteligencji” a „możemy wykazać miesięczne wskaźniki dryfu wraz z udokumentowanymi progami i działaniami naprawczymi”.

Pomiar oznacza mierzenie:

• Wielkość dryfu: jak bardzo i w jakim kierunku wyniki oddaliły się od wartości bazowej
• Ocena narażenia finansowego: przekłada wskaźniki techniczne na język biznesowy, przedstawiając szacunkowy miesięczny koszt niekorygowanego dryfu.
• Indeksowanie narażenia prawnego: na podstawie wzorców dotyczących wyników dla grup chronionych w czasie
• Pomiar luki w zgodności: dystans między bieżącym działaniem systemu a mającymi zastosowanie wymogami regulacyjnymi.

Można to postrzegać jako mechanizm analizy wrażliwości ryzyka, ponieważ jest to ciągły mechanizm śledzenia, który przekształca sygnały dryfu we wskaźniki narażenia finansowego i prawnego z miesiąca na miesiąc.

To właśnie zmienia zarządzanie z dokumentu w pulpit nawigacyjny. Zapewnia kierownictwu widoczność niezbędną do podjęcia działań, zanim narażenie skumuluje się do poziomu odpowiedzialności, która trafia na salę sądową.

Od wykrywania do działania: telemetria zarządcza

„Zarządzanie bez telemetrii to proces sądowy, który tylko czeka, by się wydarzyć” — powiedział Pease. „Delegowanie wymaga nadzoru”.

Przedstawione przez niego ramy wyraźnie rozdzielają zarządzanie jako dokument od zarządzania jako zdolności operacyjnej. Standardy opisują, jak powinno wyglądać zarządzanie. Telemetria nadaje mu wymiar operacyjny. Różnica jest taka jak między podręcznikiem polityk a systemem operacyjnym.

Telemetria w tym kontekście oznacza ciągłe przechwytywanie sygnałów połączone z oceną progów i udokumentowanym śladem działań. Jej działanie opiera się na pięciu elementach.

• Przechwytywanie sygnałów to ciągłe gromadzenie wskaźników dryfu we wszystkich punktach decyzyjnych, którym delegowano zadania AI. Nie próbkowanie. Nie audyty kwartalne. Ciągłe monitorowanie. Jeśli system podejmuje decyzje każdego dnia, monitorowanie powinno odbywać się każdego dnia.
• Logika progów określa z góry ustalone granice odróżniające dopuszczalne odchylenia od dryfu wymagającego działania. Należy je skalibrować do tolerancji ryzyka organizacji i wymogów regulacyjnych. Zmiana o 2% we wzorcach rekomendacji dotyczących zatrudniania oznacza coś innego w środowisku wykonawcy federalnego niż w startupie. Progi trzeba określić, zanim będą potrzebne, a nie odtwarzać je wstecznie po ujawnieniu się problemu.
• Kierowanie eskalacji przekazuje oznaczone sygnały właściwemu decydentowi na odpowiednim szczeblu za pośrednictwem zautomatyzowanych ścieżek. Nie każdy sygnał dryfu wymaga uwagi CHRO. Niektóre tak. Logika eskalacji zmienia dryf z niezauważonego punktu danych w zarządzane ryzyko. Bez niej sygnały gromadzą się na pulpitach, których nikt nie sprawdza, dopóki nie jest za późno.
• Dziennik audytowy zapewnia niezmienną dokumentację tego, co wykryto, kiedy to wykryto, jakie działanie podjęto i przez kogo. To artefakt, który przetrwa ujawnienie dowodów w postępowaniu prawnym. To właśnie on potwierdza, że zarządzanie faktycznie miało miejsce i nie było jedynie deklaracją intencji.
• Pętla działań korygujących zamyka cały łańcuch. Wykrycie prowadzi do oceny. Ocena prowadzi do działania. Działanie zostaje zarejestrowane. Bez tego masz monitorowanie. Z tym masz zarządzanie.

Te pięć elementów bezpośrednio odpowiada funkcjom NIST AI RMF. Funkcja zarządzania zapewnia strukturę odpowiedzialności, która gwarantuje istnienie telemetrii, odpowiednie zasoby oraz widoczność dla kierownictwa. Funkcja mapowania wskazuje, gdzie muszą istnieć punkty telemetrii — w każdym punkcie decyzyjnym, któremu delegowano zadania AI. Funkcja pomiaru określa, co przechwytuje telemetria: wielkość dryfu, sygnały ekspozycji, przekroczenia progów i wskaźniki sprawiedliwości. Funkcja zarządzania ryzykiem określa, co uruchamia telemetria: eskalację, działania korygujące, udokumentowane środki naprawcze i odpowiedzialność w zamkniętej pętli.

To mapowanie ma znaczenie, ponieważ łączy praktykę operacyjną ze standardem zgodności, który ustawa o AI w Kolorado — a prawdopodobnie także kolejne ustawy stanowe — będzie wykorzystywać do oceny, czy organizacja zachowała należytą staranność.

Trzy pytania, na które każdy lider musi teraz odpowiedzieć

Pease ujmuje minimalny możliwy poziom zarządzania w trzech pytaniach. Jeśli kierownictwo nie potrafi odpowiedzieć na wszystkie trzy, zarządzanie w organizacji ma charakter reaktywny i koncentruje się na ryzyku reputacyjnym, a nie operacyjnym.

1. Gdzie w systemach pracowniczych przekazano AI uprawnienia do podejmowania decyzji? Nie chodzi o to, gdzie AI jest „wykorzystywana”. Chodzi o miejsca, w których przyznano jej uprawnienia do podejmowania decyzji dotyczących ludzi lub wywierania na nie istotnego wpływu, takich jak zatrudnianie, selekcja, ocena, wynagrodzenia, planowanie harmonogramów czy ocena ryzyka rozwiązania umowy. Jeśli nie potrafisz stworzyć takiej mapy, nie możesz zarządzać czymś, czego nie widzisz.
2. Czy potrafisz określić skalę dryfu w zarządzaniu w ujęciu miesiąc do miesiąca? Nie chodzi o pytanie: „czy mamy politykę?”. Czy potrafisz przedstawić wskaźnik pokazujący, czy systemy AI działają w ramach określonych parametrów i czy zmieniło się to od zeszłego miesiąca? Jeśli zarządzania nie można zmierzyć, nie można nim zarządzać.
3. Czy potrafisz przedstawić udokumentowane działania korygujące? Co się stało, gdy wykryto dryf? Kogo powiadomiono? Jaka była decyzja? Co się zmieniło? Jeśli nie możesz pokazać ścieżki od wykrycia do reakcji, w najlepszym razie masz monitorowanie. Nie masz zarządzania.

Od czego zacząć

Dla wielu firm priorytety wdrożeniowe są praktyczne.

• Zacznij od systemów pracowniczych. Wiążą się one z największą ekspozycją, ponieważ bezpośrednio wpływają na ludzi i podlegają najsilniejszej kontroli regulacyjnej.
• Najpierw zbuduj ścieżkę audytową. Tego będą żądać organy regulacyjne i sądy. Możliwość wykazania, że zarządzanie faktycznie miało miejsce, zapewnia bardziej bezpośrednią ochronę niż samo doskonalenie monitorowania.
• Dodaj instrumentację przed skalowaniem. Dodanie telemetrii po wdrożeniu jest wielokrotnie trudniejsze i droższe niż zbudowanie jej od początku. Każde nowe wdrożenie AI bez instrumentacji zarządzania oznacza nowe, niemonitorowane zagrożenie.

Organizacje, które budują telemetrię zarządzania wraz z AI w zarządzaniu operacyjnym, tworzą infrastrukturę pozwalającą wdrażać AI z przekonaniem, szybciej ją upowszechniać oraz wykazywać przed organami regulacyjnymi, zarządami i pracownikami, że osoby, na które te systemy wpływają, są chronione. Nie przetwarzane. Chronione.

Okno egzekwowania przepisów się zawęża. Pytanie brzmi, czy będziesz mieć dowody potwierdzające, że zwracałeś uwagę.