Luka między panelami a decyzjami, której zespół ds. danych nie potrafi naprawić
Wskaźnik sukcesu AI: Tylko 5 procent inicjatyw związanych z AI osiąga zamierzone rezultaty biznesowe, ujawniając problemy systemowe.
Gotowość organizacji: Niepowodzenia projektów AI często wynikają z nieprzygotowania organizacji na transformację.
Diagnoza problemu: Firmy często błędnie identyfikują rzeczywisty problem, co prowadzi do niewłaściwego wdrażania AI.
Zaangażowanie interesariuszy: Zaangażowanie interesariuszy na wczesnym etapie procesu może zapobiec oporowi i zwiększyć akceptację narzędzi AI.
Znajomość zasad zarządzania: Zrozumienie odpowiedzialnego wykorzystania AI ma kluczowe znaczenie dla osób podejmujących decyzje, które nie mają wykształcenia technicznego.
Bez wątpienia słyszałeś już te wiadomości. Gartner szacuje, że tylko 5% inicjatyw AI przynosi obiecane rezultaty biznesowe.
Ta liczba jest dość często przywoływana, gdy mówimy o AI — albo jako potępienie tej technologii, albo jako oskarżenie pod adresem naszych umiejętności skutecznego wykorzystywania jej.
Beverly Wright obserwuje powtarzanie się tego schematu od czasów, gdy większość dzisiejszych dostawców AI jeszcze nie istniała. Karierę rozpoczęła w naukach o podejmowaniu decyzji na początku lat 90., gdy w kraju istniały zaledwie trzy programy studiów magisterskich, a każdego roku kończyło je około 20 osób.
Continue Reading for Free
Create a free account to finish this article, plus get ongoing access to timely insights and practical resources.
Have an account? Log In
„Mieliśmy podobny problem” — powiedziała w zeszłym tygodniu podczas konferencji Optimized AI w Atlancie. „Ale teraz problem występuje na większą skalę i wiąże się z automatyzacją. To jeszcze większe wyzwanie”.
Wright przez dziesięciolecia zajmowała stanowiska związane z analizą danych w Southern Company i Cox Communications, a następnie przeszła do obszaru edukacji menedżerskiej na Georgia State University. Jej diagnoza przyczyn ciągłych niepowodzeń inwestycji w AI jest sprzeczna z tym, co większość dostawców technologii chciałaby usłyszeć: problem ma charakter organizacyjny.
Przepraszamy, dostawcy. To nie jest problem, który powinniście rozwiązać.
Rzeczywisty problem rzadko jest tym, od którego zaczynasz
Wright rozpoczęła swoją sesję od opowieści o windach. Dawno temu do budynków napływały skargi, że windy poruszają się zbyt wolno. Oczywistym rozwiązaniem było przyspieszenie wind. Okazało się jednak, że prawdziwym problemem nie była prędkość, lecz nuda. Zmuszeni do czekania w ciszy albo, co gorsza, w towarzystwie obcych osób, ludzie odczuwali dyskomfort związany z nudą, przez co oczekiwanie na windę wydawało się niepotrzebnie długie.
Co więc rozwiązało problem? Lustra. To wszystko. Nie była potrzebna żadna inżynieria.
Ta luka między problemem, który ujawnia się na pierwszy rzut oka, a problemem rzeczywistym jest miejscem, w którym większość inicjatyw AI zaczyna zmierzać w złym kierunku. Firmy formułują wyzwanie biznesowe, przekazują je zespołowi analityki danych i oczekują, że model zajmie się diagnozą. Tak się nie dzieje.
„Znalezienie rzeczywistego problemu jest znacznie trudniejsze, niż nam się wydaje” — powiedziała Wright.
Sięganie po AI przed określeniem, jaką decyzję ma ono wspierać, jest jej zdaniem pierwszym z trzech powodów, dla których 95% inicjatyw nie przynosi żadnych rezultatów.
Drugim jest możliwość wyjaśnienia działania systemu. Gdy kalkulator podaje wynik, możesz sprawdzić, czy jest on rozsądny. Wiesz mniej więcej, jakiej skali powinna być odpowiedź na zadane pytanie. Systemy AI oparte na sieciach neuronowych nie pozwalają na tego rodzaju intuicyjną weryfikację.
Ma to znaczenie wszędzie, ale jest szczególnie istotne w branżach regulowanych, w których prawo wymaga kontroli człowieka. Wright obserwuje w praktyce, że organizacje odhaczają ten punkt, wykorzystując AI do oceniania AI. Człowiek w pętli nie rozumie wystarczająco dobrze działania modelu, aby wychwycić jego błędy.
Trzecim obszarem niepowodzeń jest ten, za który nikt nie chce wziąć odpowiedzialności: organizacja po prostu nie była gotowa.
Wright rozróżnia umożliwienie wykorzystania technologii i przygotowanie kulturowe, zauważając, że firmy traktują je jako procesy następujące po sobie, a nie równoległe. Najpierw tworzą rozwiązanie, a dopiero potem pytają, czy ludzie są przygotowani do korzystania z tego, co powstało. W tym momencie odpowiedź zazwyczaj brzmi: nie, a inwestycja zostaje odłożona na półkę.
Jako punkt odniesienia wykorzystała tornada: tylko około 0,1% z nich powoduje poważne szkody, ale strach przed tą częścią kształtuje sposób, w jaki wszyscy reagują na każde tornado. Opór wobec zmian działa tak samo. Postrzegane ryzyko przyjęcia czegoś nowego przewyższa udowodnione ryzyko pozostania przy obecnym stanie, nawet gdy matematyka wskazuje coś przeciwnego.
Zwykle większe szkody wynikają z zaniechania. Wydaje im się, że unikają ryzyka, ale ryzyko nierobienia niczego jest większe.
Nigdy nie powinno być efektu „ta-da”
Gdy Wright mówi o tym, co rzeczywiście działa, nie skupia się na inwestycjach w technologię. Zamiast tego opisuje, w jaki sposób organizacje odbudowują relację między wnioskami a działaniem.
Zacznij od decyzji, nie od narzędzia
Wright bezpośrednio mówi o presji ze strony zarządu, w ramach której firmy ogłaszają inicjatywy AI, aby wpłynąć na cenę akcji, a samo ogłoszenie staje się celem.
„To zły powód, by podejmować projekt AI” — powiedziała. „Musisz zacząć od rzeczywistej strategii, która mówi: oto jak zamierzamy rozwiązywać problemy, a AI może, ale nie musi, być do tego wykorzystane.
Poznaj firmę taką, jaka jest
Jest to sprzeczne z myśleniem, w którym najpierw określa się aspiracje, dominującym w większości rozmów o transformacji cyfrowej. Organizacje tworzą plany działań prowadzące do przyszłego stanu, a następnie próbują dopasować do nich bieżące operacje.
Argument Wright zmierza w przeciwnym kierunku: zrozumieć, czym rzeczywiście dysponujesz, i budować rozwiązania AI, które przynoszą korzyści w tej rzeczywistości.
More Articles
- Koniec teatru AI: dlaczego spowolnienie wdrażania jest oznaką dojrzałości
- Czy zasada 70-20-10 dotycząca transformacji AI sprawdza się w organizacjach różnej wielkości?
- Doradczyni ds. talentów mówi, że sztuczna inteligencja przyspiesza narastanie długu organizacyjnego, zamiast go rozwiązywać
- Wiceprezes ds. Ludzi i Organizacji w firmie AI o statusie jednorożca mówi, że liderzy HR muszą stać się architektami zespołu ludzi i maszyn
- Gotowość na AI to fraza, nie strategia
Zaangażuj interesariuszy od samego początku
„Nie powinno być żadnego efektu „ta-da”” — powiedziała. Model ujawniania rozwiązania dopiero na końcu, w którym zespół ds. danych pracuje w izolacji i przedstawia gotowy produkt, to niezawodna droga do jego odrzucenia.
Zanim narzędzie trafi do osób, które muszą z niego korzystać, nie miały one żadnego wpływu na kształt jego działania. Opór nie jest irracjonalny. To przewidywalny skutek wykluczenia.
Problem z zarządzaniem
Wright rozróżnia dwa typy użytkowników AI obecnych obecnie w większości organizacji: osoby wywodzące się z obszaru danych i analityki, które wkroczyły w AI dzięki stopniowo zdobywanej biegłości technicznej, oraz osoby, które trafiły do niego z obszarów operacyjnych lub funkcjonalnych, często bez podstaw pozwalających rozpoznać, gdy coś wygląda nieprawidłowo. Opracowanie strategii gotowości AI wymaga zrozumienia tych różnych typów użytkowników.
Ta luka to problem z zarządzaniem, za który odpowiadają osoby zarządzające firmą, a nie zespół ds. danych. Jeśli ludzie wyznaczeni do sprawdzania wyników AI nie rozumieją, co sprawdzają, weryfikacja jest teatrem. A teatr powtarzany w ramach wystarczającej liczby inicjatyw prowadzi do 5-procentowego wskaźnika sukcesu.
Rozwiązaniem zalecanym przez Wright jest rozwijanie kompetencji, a nie pełne zanurzenie. Liderzy operacyjni nie muszą rozumieć sieci neuronowych. Muszą wiedzieć, jak wygląda odpowiedzialne korzystanie z AI, jakie są mechanizmy ochronne i dlaczego one istnieją.
„To faktycznie uniemożliwia popełnienie błędu” — powiedziała, opisując, jak takie ujęcie zwykle trafia do odbiorców nietechnicznych. „I dotyczy to nas wszystkich.”
Większość organizacji poświęciła dekadę na budowanie infrastruktury danych. Luka między tą inwestycją a rzeczywistymi decyzjami biznesowymi ma charakter organizacyjny i żadna modernizacja platformy jej nie zamknie.
