Trzy zmiany umożliwiające przejście od wsparcia AI do pełnej odpowiedzialności
Luka organizacyjna: Główną przeszkodą we wdrażaniu AI nie jest technologia, lecz brak infrastruktury organizacyjnej.
Zmiana podejścia do osądu: Organizacje muszą przejść od indywidualnego do zbiorowego osądu, aby usprawnić podejmowanie decyzji przez systemy AI.
Znaczenie nadzoru: Należy wdrożyć jasny podział odpowiedzialności i audytowanie, aby zapewnić rozliczalność systemów AI i reagować na błędy.
Nowe definiowanie wartości: Należy przekształcić mierniki wartości, odchodząc od szybkości na rzecz dokładności i jakości podejmowania decyzji, aby usprawnić integrację AI.
Czynniki sukcesu pilotażu: Jasno określone rezultaty, zdefiniowana odpowiedzialność oraz zgodność celów IT i biznesu mają kluczowe znaczenie dla powodzenia pilotażu AI.
Według badania Deloitte dotyczącego trendów wschodzących technologii na 2025 rok 30% organizacji analizuje agentową sztuczną inteligencję, a 38% prowadzi pilotażowe wdrożenia rozwiązań. Jednak tylko 11% wykorzystuje te systemy produkcyjnie.
Problemem nie jest gotowość techniczna. Modele działają. Dane istnieją. Narzędzia są dostępne. Brakuje infrastruktury organizacyjnej — systemów zarządzania, odpowiedzialności i zachęt, które umożliwiają bezpieczne przekazywanie decyzji sztucznej inteligencji.
Zespoły, które przechodzą od projektów pilotażowych do produkcji, wprowadzają trzy konkretne zmiany. Żadna z nich nie ma przede wszystkim charakteru technicznego.
Continue Reading for Free
Create a free account to finish this article, plus get ongoing access to timely insights and practical resources.
Have an account? Log In
Zmiana pierwsza: zdefiniowanie osądu jako zdolności organizacyjnej
Większość organizacji traktuje osąd jako osobistą umiejętność, która znajduje się w głowach starszych stażem pracowników. Dwie osoby mogą rozpatrywać tę samą sprawę w różny sposób, a nikt nie potrafi wyjaśnić dlaczego. Nie ma możliwości systematycznego doskonalenia procesu, ponieważ odpowiedzialność za decyzje podejmowane przez sztuczną inteligencję pozostaje nieokreślona.
Ahmed Zaidi, dyrektor generalny Accelirate, zetknął się z tym schematem podczas współpracy z dużym systemem szpitalnym. Zespół 15 pielęgniarek odpowiedzialnych za przygotowywanie pism odwoławczych w sprawie odmowy wypłaty świadczeń przez firmy ubezpieczeniowe pozornie postępował według prostego procesu. Na pierwszy rzut oka praca ta wyglądała na łatwą do skodyfikowania.
To, co szybko stało się przedmiotem sporu, polegało na tym, że w rzeczywistości nie istniał „jeden” proces — mówi Zaidi. — Każda pielęgniarka przez lata doświadczenia wypracowała własną strategię.
Kiedy zespół Zaidi próbował spisać „jak naprawdę to robimy”, pielęgniarki nie zgadzały się w kwestiach zasadniczych:
- Co stanowiło mocne uzasadnienie kliniczne?
- Na której dokumentacji należało się skupić?
- Na jaki ton lub język reagowali poszczególni ubezpieczyciele?
- Kiedy eskalować sprawę, a kiedy przeformułować odwołanie?
Ukryte zależności sięgały głębiej. Decyzje nie opierały się wyłącznie na kodzie odmowy. Zależały od notatek lekarzy ukrytych w jednym systemie, danych dotyczących wcześniejszej autoryzacji w innym oraz niuansów sformułowań klinicznych zawartych w dokumentacji w formie dowolnego tekstu. Niektóre strategie opierały się na konkretnych nawykach lekarzy związanych z dokumentowaniem informacji, które nie były ustandaryzowane.
To, co wyglądało prosto — „zautomatyzować odwołania” — przekształciło się w organizacyjne ćwiczenie polegające na przełożeniu niejawnego osądu na jawną formę — mówi Zaidi.
Przełom nastąpił, gdy zespół odszedł od próby wybrania „właściwego” podejścia pojedynczej pielęgniarki i skupił się na zebraniu wiedzy praktycznej wszystkich 15 pielęgniarek. Zorganizowano moderowane sesje, podczas których pielęgniarki omawiały strategie, ujawniały przypadki nietypowe i uzgadniały, co w przeszłości prowadziło do skutecznego odzyskiwania należności. Następnie nałożono na to rzeczywiste dane o wynikach — które szablony wygrywały więcej odwołań i które połączenia dokumentów poprawiały wskaźniki zmiany decyzji.
Zamiast kodować opinie, zakodowano zweryfikowane wzorce.
Ta eksternalizacja tworzy coś, czego organizacje rzadko posiadają — możliwość obserwowania i doskonalenia osądu na dużą skalę. Każde działanie jest rejestrowane. Każdy wyjątek staje się widoczny. Każde odstępstwo od decyzji systemu pokazuje, gdzie reguły nie odpowiadają rzeczywistości. Zespoły mogą dostrzegać wzorce, udoskonalać wartości progowe i z czasem poprawiać wyniki.
Rezultat był wymierny: większa dokładność odwołań, krótszy czas realizacji, wyższe wskaźniki odzyskiwania należności oraz mniejsze ryzyko braku zgodności z przepisami, ponieważ decyzje były teraz ustandaryzowane, udokumentowane i możliwe do skontrolowania.
Zarządzanie nie spowolniło systemu — dało organizacji sposób na systematyczne uczenie się na podstawie własnych decyzji.
Zmiana druga: przypisanie jasnej odpowiedzialności za zachowanie agenta
Ograniczeniem, które najbardziej utrudnia przejście do produkcji, jest przekonanie organizacji, że działania sztucznej inteligencji są ograniczone, możliwe do skontrolowania, odwracalne i nadzorowane.
Zespoły, które posuwają się naprzód, wyznaczają jedną osobę odpowiedzialną operacyjnie, która przyjmuje wyraźną odpowiedzialność za zachowanie agenta, w tym za jego błędy. Pierwszy poważny błąd sprawdza, czy ta infrastruktura rzeczywiście działa.
W ramach wdrożenia systemu odwołań szpitalnych Zaidi miał agenta wspierającego przygotowywanie i ustalanie priorytetów odwołań od odmów, zaprojektowanego do wstępnej klasyfikacji spraw i rekomendowania eskalacji po spełnieniu określonych progów ryzyka.
Pierwsza istotna awaria wystąpiła, gdy agent błędnie zaklasyfikował odmowę o wysokiej wartości i krótkim terminie jako rutynową i nie przekazał jej do eskalacji. Logika poprawnie zinterpretowała kod odmowy, ale nie uwzględniła w wystarczającym stopniu drugorzędnego czynnika kontekstowego — zbliżającego się końca terminu odwołania wynikającego z umowy z danym płatnikiem.
Błąd został opanowany, ale miał istotne konsekwencje finansowe. Wykryto go dzięki codziennemu audytowi wyjątków, który zespół wbudował w obieg pracy — warstwie kontroli człowieka obejmującej losową próbę spraw o wysokiej wartości.
To, co ujawnił ten moment, nie polegało na tym, że agent działał lekkomyślnie, lecz na tym, że nasze kryteria eskalacji były niekompletne — mówi Zaidi. — Zakodowaliśmy logikę kliniczną i logikę odmów, ale nie zintegrowaliśmy w pełni metadanych umownych z systemem ustalania priorytetów.
Struktura zarządzania pomogła na dwa sposoby:
- Rejestrowanie i identyfikowalność dokładnie pokazały, dlaczego agent podjął taką decyzję, a audyt z udziałem człowieka wychwycił przypadki wysokiego ryzyka.
- Ujawniło to pewną lukę. Definicja „ryzyka” była zbyt wąska.
Zespół zareagował, rozszerzając zasady eskalacji o zmienne ryzyka finansowego i czasowego, wdrażając dynamiczne progi oparte na umowach, zwiększając monitorowanie wygasających odwołań oraz dodając bardziej przejrzyste ścieżki ręcznego nadpisywania decyzji.
W systemach agentowych błędy rzadko wynikają z jednej złej decyzji — częściej są skutkiem niepełnego modelowania kontekstu. Odpowiedzialność liderów AI oznacza projektowanie systemów z myślą o wczesnym wykrywaniu problemów, a nie zakładanie ich doskonałości.
Sposób, w jaki liderzy poradzą sobie z tym pierwszym błędem, determinuje wszystko. Jeśli potraktują go jako okazję do nauki i dostosują system, zespoły zyskają pewność siebie. Jeśli się wycofają lub przypiszą winę konkretnej osobie, pilotaż zakończy się niepowodzeniem.
Organizacje, które odnoszą sukces, nie unikają błędów. Budują systemy, które szybko ujawniają błędy, traktują je jako dane i wprowadzają usprawnienia.
Ślepy punkt w zarządzaniu
Jednym z najczęstszych niepowodzeń w zarządzaniu, jakie obserwuje Zaidi, jest to, co nazywa pasywnym zarządzaniem AI, czyli przekonanie, że rejestrowanie danych jest równoznaczne z kontrolą.
„Organizacje z przekonaniem mówią: «Każda decyzja podjęta przez agenta jest rejestrowana. Mamy pełną identyfikowalność»” — mówi Zaidi. „Brzmi to uspokajająco, zwłaszcza w środowisku regulowanym. Jednak samo rejestrowanie nie zmniejsza ryzyka. Po prostu je zapisuje”.
W opiece zdrowotnej decyzje agentów i zastosowania AI często obejmują zarządzanie umowami oraz niuanse, język kliniczny, interpretację płatników i ograniczenia czasowe. Nawet jeśli każdy wynik jest technicznie identyfikowalny, ryzyko kumuluje się w przypadkach granicznych, które znajdują się tuż poza zdefiniowanymi progami, w zmianach wzorców dokumentacji lub sposobu reagowania płatników, a także w eskalacjach, które powinny były nastąpić, ale technicznie nie naruszyły żadnej reguły.
Wiele organizacji zakłada, że skoro nic się nie zepsuło, system jest zgodny z przepisami. Jednak brak natychmiastowej awarii nie jest dowodem bezpieczeństwa. Może po prostu oznaczać, że nikt nie przygląda się systemowi wystarczająco dokładnie.
Prawdziwa dojrzałość w zakresie zarządzania AI obejmuje ustalone częstotliwości przeglądów próbek decyzji, ilościowe progi ryzyka, które automatycznie uruchamiają weryfikację przez człowieka, jasno określoną odpowiedzialność za monitorowanie na poziomie operacyjnym oraz pętle informacji zwrotnych, w których powtarzające się wzorce wyjątków prowadzą do udoskonalania reguł.
Często zadaję liderom proste pytanie: „Kto rano bierze odpowiedzialność za to, co agent zdecydował wczoraj?” — mówi Zaidi. „Jeśli nie ma jasnej odpowiedzi, model zarządzania nie jest jeszcze kompletny”.
Zmiana trzecia: zmień to, co jest cenione
W większości organizacji wiedza ekspercka była ściśle powiązana ze statusem, bezpieczeństwem zatrudnienia i nieformalną władzą. Bycie „osobą, która wie” to sposób na budowanie i ochronę wpływów. Uczynienie osądu jawnym może sprawiać wrażenie rezygnacji z jedynej dźwigni, na której poleganie nauczył ludzi system.
W systemie szpitalnym zespół pielęgniarski był historycznie oceniany na podstawie liczby — tego, ile listów odwoławczych był w stanie przygotować w ciągu dnia.
Po wprowadzeniu tworzenia projektów wspomaganego przez agenta ten wskaźnik stał się nieproduktywny. Jeśli AI generowała pierwsze wersje, sama liczba przygotowanych dokumentów nie odzwierciedlała już wartości.
Pomiar wyników przesunął się w stronę dokładności oceny klinicznej, skuteczności modyfikacji listów wygenerowanych przez AI, odzyskanych środków, na które wywierano wpływ, oraz wkładu w ulepszanie szablonów i logiki eskalacji.
Jedna z pielęgniarek wyróżniła się jako liderka. Miała wyjątkową zdolność wyjaśniania, dlaczego określone sformułowania lepiej sprawdzały się w przypadku konkretnych ubezpieczycieli. Zamiast oceniać ją na podstawie szybkości pracy, zaczęto wykorzystywać jej wiedzę do przekładania osądu na wielokrotnego użytku reguły i szablony systemowe.
Jej wpływ wzrósł, ponieważ potrafiła przekładać intuicję na uporządkowaną logikę — mówi Zaidi. „To zupełnie inny zestaw umiejętności, który w środowiskach agentowych jest niezwykle cenny”.
Zmiana miała charakter kulturowy: od pytania „Jak szybko możesz coś przygotować?” do pytania „Jak dobrze potrafisz kształtować systemy decyzyjne?”
Gdy organizacje nagradzają bohaterskie działania, szybkość lub intuicję, ale nie nagradzają dokumentowania, nadzoru ani ulepszania systemu, wiedza ekspercka pozostaje uwięziona w jednostkach. Zespoły, które dokonują tej zmiany, awansują osoby potrafiące przekazywać swój osąd systemowi, z czasem go ulepszać i dzięki niemu podnosić kompetencje innych.
Gdy ekspertyza jest postrzegana jako coś, co zwiększa możliwości organizacji, zamiast jako coś, co czyni daną osobę niezbędną, opór wobec AI zanika. Przekazanie zadań agentom staje się oznaką starszeństwa, a nie zagrożeniem dla niego.
Wczesne sygnały ostrzegawcze niepowodzenia
W ciągu pierwszych 30–60 dni pilotażu niepowodzenie jest niemal zawsze możliwe do przewidzenia.
Największym sygnałem ostrzegawczym jest brak jasno zdefiniowanego rezultatu. Jeśli zespół nie potrafi określić w kategoriach operacyjnych, jak wygląda sukces — skrócony czas cyklu, zwiększone odzyskiwanie należności, niższy wskaźnik błędów — pilotaż prawdopodobnie jest jedynie eksperymentowaniem bez wyraźnego kierunku.
Inne sygnały ostrzegawcze to brak jasno wyznaczonego właściciela operacyjnego, rozbieżność między biznesem a IT w kwestii wymaganego zaangażowania czasowego i złożoności, niezdolność do przedstawienia rzeczywistego procesu decyzyjnego, który ma zostać zautomatyzowany, oraz traktowanie inicjatywy jako „eksploracji AI” zamiast przeprojektowania operacyjnego.
Pilotaże zatrzymują się, gdy interesariusze biznesowi nie doceniają wysiłku potrzebnego do przekształcenia osądu w zewnętrzną, ustrukturyzowaną logikę, podczas gdy IT nie docenia zmienności i przypadków brzegowych w procesach biznesowych.
Udane pilotaże robią trzy rzeczy w ciągu pierwszych 30 dni:
- Definiują wąski zakres z mierzalnymi rezultatami
- Wyznaczają odpowiedzialność po stronie biznesu i zapewniają zaangażowanych ekspertów merytorycznych
- Zapewniają wsparcie kadry kierowniczej na potrzeby eksperymentowania i usuwają proceduralne blokady.
„Agentczna sztuczna inteligencja nie jest problemem wdrożenia technologii — jest problemem architektury decyzji” — mówi Zaidi. „Jeśli nie zostanie to rozwiązane na wczesnym etapie, stanie się dowodem poniesionych kosztów”.
Jak wygląda gotowość
Gdy organizacja twierdzi, że jest gotowa skalować rozwiązanie agentowe, Zaidi szuka dojrzałości strukturalnej w obszarach ludzi, procesów i technologii. Oznacza to:
- Wyznaczonego właściciela biznesowego odpowiedzialnego za rezultaty
- Jasno zdefiniowanej ścieżki obsługi wyjątków i eskalacji
- Wgląd w decyzje i rezultaty
- Ekonomiki jednostkowej uzasadniającej skalowanie
- Już działających podstawowych ram zarządzania.
Większość zespołów nie docenia dwóch rzeczy: kosztu analizy oraz czasu potrzebnego do właściwego przeniesienia logiki decyzyjnej na zewnątrz.
Sygnał dojrzałości, któremu Zaidi nauczył się ufać:
Jeśli zapytam: „Jak agent podejmuje decyzję, gdy nie ma pewności?”, a oni potrafią jasno odpowiedzieć — w tym określić progi eskalacji i odpowiedzialność — prawdopodobnie są gotowi. Jeśli odpowiedź jest niejasna albo odsyła do stwierdzenia „model sam to rozwiąże”, wciąż są optymistyczni, ale nie są przygotowani.
Obecnie najważniejsza jest zdolność znajdująca się na styku osądu i systemów. Chodzi o osoby, które potrafią wyjaśnić, dlaczego podjęto daną decyzję, a nie tylko co zdecydowały. Które potrafią rozłożyć intuicję na sygnały, progi i wyjątki. Które są ciekawe tego, gdzie zawodzi ich własny osąd.
Na co dzień poświęcają mniej czasu na wykonywanie pracy, a więcej na nadzorowanie, korygowanie i udoskonalanie sposobu wykonywania pracy — przez ludzi lub agentów.
Organizacje, które opanują tę zmianę, zyskują coś, czego nie mają konkurenci tkwiący w trybie pilotażowym — zdolność do doskonalenia osądu na dużą skalę. Mogą testować założenia, mierzyć rezultaty i iteracyjnie poprawiać jakość decyzji w sposób, który był niemożliwy, gdy ekspertyza pozostawała wyłącznie w głowach ludzi.
Przewagą konkurencyjną nie jest posiadanie lepszej AI. Jest nią infrastruktura organizacyjna, która umożliwia przejęcie odpowiedzialności za AI. Ta infrastruktura — zarządzanie umożliwiające szybkość działania, odpowiedzialność tworząca rozliczalność oraz zachęty doceniające przenośną ekspertyzę — odróżnia 11% organizacji działających produkcyjnie od 38% uwięzionych w pilotażach.
