Sztuczna inteligencja znalazła problem. To Twoje decyzje
Adopcja sztucznej inteligencji: Mniej niż 30% organizacji korzystających ze sztucznej inteligencji osiąga znaczące rezultaty. Przeprojektowanie procesu podejmowania decyzji ma kluczowe znaczenie.
Teatr produktywności: Sztuczna inteligencja poprawia szybkość, ale nie sposób podejmowania decyzji. Organizacje często wpadają w pułapkę „człowieka w pętli”.
Projektowanie organizacji: Sztuczna inteligencja wymaga zmiany struktur decyzyjnych, a nie tylko wdrażania narzędzi, aby usprawnić procesy i wyniki.
Podejście behawioralne: Reakcja ludzi i integralność procesów mają kluczowe znaczenie w adopcji sztucznej inteligencji, wykraczając poza samo wdrożenie technologii.
Zmiana przywództwa: Sztuczna inteligencja wymaga adaptacyjnego przywództwa wykraczającego poza tradycyjne ramy i koncentrującego się na wyznaczaniu kierunku zamiast na kontroli.
Mniej niż 30% organizacji próbujących wdrożyć AI osiąga dzięki niemu znaczące zwroty, a odsetek ten uparcie utrzymuje się na tym samym poziomie, mimo że wdrażanie narzędzi przyspieszyło.
Paul Gibbons, konsultant i autor książki "Wdrażanie AI: podejście stawiające ludzi na pierwszym miejscu", od trzech dekad obserwuje, jak wdrożenia technologii napotykają trudności z tego samego podstawowego powodu.
Bariery mają charakter organizacyjny. Silosy, kultura, sposób myślenia, kompetencje.
W analizach przeprowadzanych po zakończeniu projektów zwykle nie pojawia się następująca kwestia: organizacja nigdy nie przeprojektowała sposobu podejmowania decyzji.
Continue Reading for Free
Create a free account to finish this article, plus get ongoing access to timely insights and practical resources.
Have an account? Log In
Ta obserwacja może brzmieć abstrakcyjnie, dopóki nie przyjrzymy się temu, jak porażka wygląda od wewnątrz. Jurgen Appelo, autor książki "Człowiek, robot, agent" i założyciel newslettera Solo Chief, nazywa najczęstszy schemat teatrem produktywności.
Osoby zarządzające nakazują wdrażanie narzędzi AI. Zespoły uczą się z nich korzystać, podsumowań przybywa, a narzędzia do sporządzania notatek pojawiają się na każdym spotkaniu. Następnie, niemal niezauważalnie, organizacja uświadamia sobie, że wszystko odbywa się szybciej, ale nic zasadniczo się nie zmieniło.
Firmy nakładają AI na zepsute przepływy pracy i widać tego skutki.
Przepływy decyzji leżące u podstaw tych procesów — kto podejmuje decyzję, jakie dane ją kształtują, gdzie potrzebny jest ludzki osąd, a gdzie działa jedynie przyzwyczajenie — pozostały całkowicie niezmienione.
Appelo nazywa to pułapką człowieka w pętli: każda interakcja z AI nadal zaczyna się i kończy na człowieku, systemy nigdy się ze sobą nie komunikują, a wszystko działa z prędkością najwolniejszego wąskiego gardła. Innymi słowy, narzędzia stały się inteligentniejsze, ale architektura się nie zmieniła.
Jak to wygląda, gdy jednak się zmienia?
Gdy narzędzie działa, ale organizacja nie
Carla Catelan od ponad dwóch dekad zarządza operacjami związanymi z pozyskiwaniem talentów na dużą skalę, prowadząc w firmach takich jak Thoughtworks, Cognizant i Hewlett-Packard zespoły, które co roku przeprowadzają setki rekrutacji. Kiedy mówi o AI w rekrutacji, nie mówi o nim jako o narzędziu. Mówi o nim jako o problemie projektowym.
Przywództwo w erze, w której AI jest priorytetem, polega na projektowaniu architektur decyzyjnych — tworzeniu systemów, w których ludzie, dane i AI współpracują, aby osiągać lepsze rezultaty.
To ujęcie wynikało z trudnej, ale cennej obserwacji.
Kiedy Thoughtworks zaczęło stosować analitykę predykcyjną w procesie rekrutacji, zespół Catelan odkrył coś nieoczekiwanego. Czas trwania procesu — liczba dni od otwarcia stanowiska do jego obsadzenia — już wcześniej był dobry i konsekwentnie mieścił się w przedziale od 30 do 35 dni. Szybkość nie była problemem. Zespół zaczął więc szukać prawdziwej przyczyny.
Odkryto, że zmienność w definiowaniu ról znacznie bardziej niezawodnie prowadziła do gorszych rezultatów rekrutacji niż jakość kandydatów. Opisy stanowisk, które były niejednoznaczne, przesadnie rozbudowane lub miały niespójną strukturę, zakłócały sposób uczenia się AI na wcześniejszym etapie procesu, powodując niższe wskaźniki konwersji, większą liczbę odrzuceń na późnym etapie i słabsze wyniki na początku pracy — niezależnie od tego, kto znajdował się w puli kandydatów.
Rozwiązaniem nie był nowy model. Thoughtworks przebudowało opisy stanowisk, tworząc z nich to, co Catelan nazywa „artefaktami predykcyjnymi”, usuwając wymagania skorelowane raczej z szumem niż z sukcesem i koncentrując sygnał trafiający do modelu. AI się poprawiło, ponieważ poprawiły się dane wejściowe do podejmowania decyzji.
Ta logika działania na wcześniejszym etapie — jakość tego, co trafia do architektury decyzyjnej, determinuje jakość tego, co z niej wychodzi — przewija się przez każdą aplikację stworzoną przez Catelan.
AI służy do wykrywania wzorców, agregowania danych podłużnych i porządkowania sygnałów ilościowych. Ludzie zachowują odpowiedzialność za ocenę jakościową i podejmowanie ostatecznych decyzji. Granica między tymi obszarami jest wyraźnie określona, a nie zakładana.
Pilotaże się nie skalują. Architektura tak.
Najczęstszym błędem, który Catelan obserwuje w organizacjach próbujących powtórzyć ten model, jest traktowanie AI jako serii pilotaży, a nie jako fundamentalnej zmiany sposobu podejmowania decyzji dotyczących pracy.
Większość firm dużo inwestuje w narzędzia AI i oczekuje poprawy — mówi. — Ale zachowują te same systemy zachęt, te same struktury hierarchiczne i ten sam niski poziom kompetencji w zakresie danych wśród kadry kierowniczej. W rezultacie AI jest albo wykorzystywana w niewystarczającym stopniu, albo niewłaściwie. Potężne modele generują spostrzeżenia, którym nikt nie ufa, których nikt nie rozumie ani nie wykorzystuje w działaniu.
Thoughtworks rozwiązało ten problem, tworząc międzyfunkcyjny zespół roboczy poświęcony konkretnie projektowaniu decyzji wspieranych przez AI w pozyskiwaniu talentów.
Zespół działa w oparciu o jasno określone cele biznesowe:
- Zwiększenie współczynników konwersji na kolejnych etapach lejka rekrutacyjnego o 50% dzięki segmentacji predykcyjnej
- Skrócenie czasu poświęcanego na rozmowy kwalifikacyjne o 30% dzięki wcześniejszemu eliminowaniu kandydatów o niskim prawdopodobieństwie zatrudnienia.
Te liczby nie są wyrazem aspiracji. Stanowią mandat.
Kolejność działań jest równie ważna jak cele. Zanim zostanie wprowadzona jakakolwiek automatyzacja, zespół mapuje miejsca podejmowania kluczowych decyzji, ustala, kto jest za nie odpowiedzialny, jakie dane są wymagane i gdzie ocena człowieka musi pozostać centralnym elementem.
Dopiero gdy ta architektura jest jasna, do obrazu wkracza AI, wspierając konkretne etapy zamiast nakładania jej na niezbadane procesy.
„Przeprojektowujemy przepływy decyzyjne przed wprowadzeniem automatyzacji — mówi Catelan. — Nie po nim”.
90% wdrożeń pomija ten etap
Yannick Fouagou, dyrektor ds. operacji personalnych i rozwiązań w Greenshield, doszedł do podobnego wniosku z innej perspektywy. Jego doświadczenie obejmuje inżynierię elektroniczną oraz systemy jakości w branży naftowo-gazowej — środowiska, w których integralność procesów nie podlega negocjacjom, a błędy mają fizyczne konsekwencje. Kiedy przeszedł do obszaru operacji personalnych, przeniósł tę samą rzetelność na ludzką stronę wdrażania AI.
Zaskoczyło go, jak niewielkie znaczenie miała sama technologia w porównaniu z ludzką reakcją na nią.
Wdrażanie AI to w 10% technologia, a w 90% psychologia człowieka. Początkowo zakładałem, że wszyscy będą równie chętnie korzystać z tych narzędzi, ale szybko zrozumiałem, że AI wymaga tego samego tradycyjnego zarządzania zmianą, które stosujemy od dziesięcioleci. Jeśli pominiemy ludzką pracę polegającą na zmierzeniu się ze strachem, oporem i krzywą zmiany, nawet najbardziej zaawansowana technologia poniesie porażkę.
Dla Fouagou architektura decyzyjna nie jest wyłącznie kwestią projektowania organizacji. Jest również kwestią zachowania. Jego podejście polega na podzieleniu interesariuszy według miejsca, które zajmują na krzywej adopcji, spotkaniu się z nimi w tym miejscu, a następnie ujęciu nowego sposobu pracy w formalnych procesach i dokumentacji, tak aby zmiana stała się elementem struktury, a nie chwilowym skokiem entuzjazmu.
Nie tylko wdrażamy narzędzia — mówi. — Ujmujemy nowy sposób pracy w standardowych procedurach operacyjnych i politykach, aby zapewnić rozliczalność.
Ta kodyfikacja tworzy pętlę sprzężenia zwrotnego. System monitoruje, o co pytają pracownicy, identyfikuje braki w dokumentacji i generuje rekomendacje dotyczące ich uzupełnienia. Baza wiedzy uczy się na podstawie wzorców osób, które z niej korzystają. Tak wygląda architektura podejmowania decyzji, gdy warstwa behawioralna jest wbudowana od początku, a nie dodana później.
Pętla, z której liderzy muszą się wydostać
Praktycy, którzy pracują nad tym na poziomie poszczególnych funkcji, mają przestrzeń do przeprojektowania procesów. Trudniejszy problem znajduje się na szczycie organizacji.
Gibbons prowadził programy rozwijające kompetencje w zakresie AI dla zespołów kierowniczych i uznał ich wyniki za niepokojące. Kiedy zapytał grupę dwunastu liderów, ile formalnej edukacji ukończyli w poprzednim roku, łącznie odpowiedzieli, że trzy dni.
„To po prostu nie wystarczy” — mówi.
Problem ma przede wszystkim charakter strukturalny, a nie indywidualny. Zdaniem Gibbonsa sukces sprawił, że większość starszych rangą liderów stała się odporna na rodzaj uczenia się, którego wymaga wdrażanie AI. Ich autorytet opiera się na posiadaniu wiedzy. AI podważa ten fundament.
Appelo inaczej przedstawia wyzwanie stojące przed przywództwem, ale dochodzi do tego samego wniosku. Gdy AI przewyższa ludzi w większości zadań analitycznych, przywództwo przestaje polegać na posiadaniu odpowiedzi.
Większość osób na stanowiskach kierowniczych była szkolona w ramach modeli zarządzania opracowanych z myślą o warunkach względnej przewidywalności. Appelo wskazuje konkretnie na przywództwo transformacyjne — model pochodzący z lat 70., który zakłada istnienie lidera kontrolującego przepływ informacji, zatwierdzającego decyzje i znajdującego się w centrum pętli.
To właśnie ten model należy rozmontować, aby wdrażanie AI było możliwe. Menedżerowie znajdujący się w pętli stają się wąskimi gardłami. Nowa architektura wymaga menedżerów stojących ponad pętlą — kierujących, dostosowujących działania i wykorzystujących osąd w naprawdę trudnych decyzjach.
Gibbons nazywa analogiczną zmianę przywództwem adaptacyjnym. Jest ono stworzone z myślą o szybkim tempie, wyłanianiu się nowych rozwiązań i działaniu bez wiedzy o tym, jak będzie wyglądał punkt końcowy.
Nie wiemy, jaki kształt przyjmą projekty pilotażowe ani jak łatwo będzie je skalować — mówi Gibbons. — Dawne paradygmaty przywództwa powstały z myślą o przewidywalności, która już nie istnieje.
Budowanie architektury podejmowania decyzji na potrzeby AI
Opisani powyżej praktycy nie korzystają ze wspólnej metodologii, ale ich podejścia opierają się na spójnej logice. Oto jak ją zastosować.
Zacznij od decyzji, nie od narzędzia
Zanim wybierzesz jakąkolwiek aplikację AI, zmapuj każdą istotną decyzję w procesie, który chcesz objąć zmianą. Kto odpowiada za każdą decyzję? Jakie dane na nią wpływają? Gdzie rzeczywiście potrzebny jest ludzki osąd, a gdzie jest on tylko nawykiem?
Zespół Catelan wykonał tę pracę w całym procesie pozyskiwania talentów, zanim wprowadził modele predykcyjne. Mapowanie ujawniło, że największym źródłem późniejszych błędów nie był proces selekcji, lecz opisy stanowisk, które do niego trafiały.
Przeprowadź audyt danych wejściowych
AI uczy się na podstawie tego, czym ją zasilasz. Jeśli dane wprowadzane do modelu są niespójne, zawyżone lub źle uporządkowane, dane wyjściowe będą to odzwierciedlać. Przeprojektowanie opisów stanowisk przez Catelan poprawiło działanie modelu bez ingerowania w sam model.
Zanim wdrożysz AI w dowolnym procesie, przeanalizuj jakość i spójność danych wejściowych, od których ten proces zależy. Błędy na wejściu skalują się teraz szybciej.
Wyznaczaj cele biznesowe, a nie wskaźniki procesu
Nieprecyzyjne cele prowadzą do nieprecyzyjnych wyników. Grupa robocza Catelan działa w oparciu o konkretne liczby: wzrost współczynników konwersji w lejku o 50% oraz skrócenie czasu rozmów kwalifikacyjnych o 30%.
Takie cele wywierają presję na utrzymanie wyników na poziomie całego systemu, zamiast koncentrować się na odosobnionych eksperymentach. Jeśli nie potrafisz określić, jakie rezultaty biznesowe zapewnia pomyślnie przeprojektowany proces pracy z AI, projekt nie jest jeszcze gotowy.
Wyraźnie określ granicę między człowiekiem a AI
Każde przeprojektowanie wymaga jasnych odpowiedzi na dwa pytania: za co odpowiada AI, a za co ludzie? Zasada Catelan zakłada, że AI porządkuje sygnały ilościowe i wydobywa spostrzeżenia, podczas gdy ludzie zachowują osąd jakościowy i podejmują ostateczne decyzje.
Ta granica powinna być udokumentowana, znana wszystkim i ponownie analizowana w miarę dojrzewania systemu. Bez niej odpowiedzialność staje się rozproszona, a błędów nie można prześledzić.
More Articles
- Sztuczna inteligencja informuje, ludzie decydują: jak zachować odpowiedzialność HR w erze automatyzacji
- Doradczyni ds. talentów mówi, że sztuczna inteligencja przyspiesza narastanie długu organizacyjnego, zamiast go rozwiązywać
- Trzy zmiany umożliwiające przejście od wsparcia AI do pełnej odpowiedzialności
- Założycielka zaangażowana w uczłowieczanie pracy dzięki sztucznej inteligencji ujawnia emocjonalne podstawy niezbędne do udanej integracji
- Sztuczna inteligencja w miejscu pracy: praktyczne zastosowania, przykłady z życia i przewodnik wdrażania
Wbuduj zasady zarządzania, zanim rozpoczniesz skalowanie
Wbuduj od początku w architekturę możliwość interwencji człowieka, monitorowanie stronniczości i dryfu oraz jasną odpowiedzialność za wyniki modelu. Fouagou formalizuje zmiany w polityce zamiast pozostawiać je jako nieformalną praktykę.
Zarządzanie dodane po fakcie zwykle pojawia się dopiero wtedy, gdy coś już pójdzie nie tak.
Traktuj wdrożenie jako problem behawioralny
Obserwacja Fouagou dotycząca proporcji 10/90 to obszar, który większość organizacji całkowicie pomija, co często prowadzi do kosztownych błędów w pomiarze zwrotu z inwestycji w AI. Wdrożenie techniczne i adopcja przez ludzi nie są tym samym wydarzeniem.
Podziel interesariuszy na segmenty. Zidentyfikuj obszary, w których prawdopodobny jest opór, i zajmij się nimi przed wdrożeniem, a nie w jego trakcie. Mierz nie tylko wzrost efektywności, lecz także to, czy odzyskany czas rzeczywiście jest przeznaczany na pracę o większej wartości.
Istnieje luka, z którą większość organizacji jeszcze się nie zmierzyła. Znajduje się ona między narzędziami, które wdrożyły, a logiką podejmowania decyzji, której nie zmieniły.
Ujęcie gotowości na AI autorstwa Catelan zasługuje na uwagę.
„Oznacza to konsekwentne zadawanie lepszych pytań — mówi. — Które sygnały mają znaczenie, gdzie występuje niepewność i jak dane mogą kształtować ludzki osąd.”
Narzędzia ujawniły pytanie. To prace projektowe dostarczają na nie odpowiedzi.
