Istnieje nazwa na to, co dzieje się z osądem Twoich pracowników
Nadmierne poleganie: Zbyt duże poleganie na narzędziach AI może prowadzić do znaczących negatywnych skutków dla pracowników.
Zanik umiejętności: Poleganie na AI może osłabiać umiejętności krytycznego myślenia, ograniczając zdolność pracowników do samodzielnej analizy informacji.
Wpływ na pracowników: Organizacje muszą oceniać wpływ wdrażania AI na pracowników jako część procesu podejmowania decyzji dotyczących technologii.
Są rzeczy, które dzieją się z pracownikami, gdy narzędzia AI rozprzestrzeniają się w organizacjach, i w pewnym momencie pojawia się pytanie: czy zespół kierowniczy ma język, by opisać to, co się dzieje?
Nie martw się. Raport opublikowany w zeszłym miesiącu przez MIT Sloan Management Review i Boston Consulting Group właśnie go dostarcza.
Artykuł „Poza modelem: dlaczego odpowiedzialna AI musi uwzględniać wpływ na pracowników” to piąte doroczne badanie odpowiedzialnej AI przeprowadzone przez te dwie instytucje, oparte na globalnych ankietach wśród kadry kierowniczej i specjalnie dobranych panelach eksperckich.
Continue Reading for Free
Create a free account to finish this article, plus get ongoing access to timely insights and practical resources.
Have an account? Log In
W poprzednich latach badania koncentrowały się na dojrzałości zarządzania, ryzyku związanym z podmiotami zewnętrznymi i strukturach odpowiedzialności. W tym roku badacze zwrócili uwagę na coś bardziej bezpośredniego: jaki wpływ wdrażanie AI w przedsiębiorstwach ma na korzystających z niej ludzi.
Wskazali pięć skutków.
- Nadmierne poleganie na AI
- Zanik umiejętności
- Utrata sprawczości
- Intensyfikacja pracy
- „Przeciążenie mózgu przez AI”.
Argument autorów, Elizabeth Renieris, Davida Kirona, Stevena Millsa i Anne Kleppe, jest bezpośredni, gdy mówią, że nie są to hipotetyczne zagrożenia ani przypadki skrajne. Są to mierzalne skutki dla pracowników, które powinny być uwzględniane w decyzjach o wdrożeniu lub rezygnacji jeszcze przed podjęciem przez organizację zobowiązania do korzystania z konkretnego narzędzia AI.
Ten język oceny produktu jest celowy. Autorzy twierdzą, że wpływ na pracowników powinien być analizowany na równi z wydajnością techniczną, zgodnością z przepisami i całkowitym kosztem, a obecnie tak się nie dzieje.
Co pokazują badania
Najdokładniej zmierzonym z pięciu skutków jest to, co badacze nazywają „przeciążeniem mózgu przez AI” — termin ten pojawił się w literaturze badawczej w marcu za sprawą badania BCG i University of California w Riverside opublikowanego w Harvard Business Review.
Badacze zdefiniowali je jako zmęczenie psychiczne wynikające z nadmiernego korzystania z narzędzi AI, interakcji z nimi lub nadzorowania ich w stopniu przekraczającym możliwości poznawcze pracownika.
Dane z tego badania pokazują, że 14% pracowników korzystających z AI przyznało, że doświadczyło tego zjawiska.
Pracownicy dotknięci przeciążeniem mózgu popełniali o 39% więcej poważnych błędów niż ci, których ono nie dotyczyło. Produktywność zaczynała spadać, gdy pracownicy jednocześnie korzystali z więcej niż trzech narzędzi AI. Najbardziej obciążającą poznawczo formą korzystania z AI nie była złożoność poleceń ani ilość wyników, lecz nadzorowanie. Pracownicy monitorujący systemy AI zgłaszali o 12% większe zmęczenie psychiczne niż pozostali oraz o 19% większe przeciążenie informacyjne.
Najbardziej dotknięte grupy pracowały w marketingu, tworzeniu oprogramowania, zasobach ludzkich, finansach i IT. Nie są to funkcje drugorzędne.
Paradoks zidentyfikowany przez badaczy ma istotne znaczenie dla każdego COO lub CHRO, który myśli o planowaniu zatrudnienia. Pracownicy najbardziej narażeni na przeciążenie mózgu to zazwyczaj pierwsi użytkownicy — osoby najbardziej entuzjastycznie nastawione do AI.
Korzystają z większej liczby narzędzi, nadzorują więcej wyników i w tym procesie przyjmują na siebie większe obciążenie poznawcze. Technologia zaprojektowana po to, by zmniejszyć ich obciążenie, w praktyce je zwiększa.
Eliza Jackson, dyrektor operacyjna w ButcherBox, opisała to zjawisko z własnej perspektywy.
W końcu zaczynasz się zastanawiać: „Co ja właściwie zrobiłam? Czy właśnie odpowiedziałam na 800 wiadomości? Czy podjęłam jakiekolwiek przemyślane decyzje? Czy zastanowiłam się nad czymkolwiek, co zdecydowałam?
Dodała, że jej organizacja aktywnie stara się wygospodarować więcej czasu na refleksję, ale przyznała, że wciąż pracują nad tym, jak to zrobić.
Zanik umiejętności przebiega w wolniejszym tempie. Badanie przeprowadzone przez Microsoft Research i Carnegie Mellon University, zaprezentowane w ubiegłym roku na konferencji CHI i oparte na 936 rzeczywistych przykładach pochodzących od 319 pracowników umysłowych, wykazało, że większa pewność siebie w korzystaniu z narzędzi AI była konsekwentnie powiązana z mniejszym poziomem krytycznego myślenia.
Pracownicy nie rezygnowali z analizy. Ufali wynikom i przechodzili dalej. Badanie wykazało również, że korzystanie z AI zmienia charakter krytycznego myślenia: z tworzenia analiz na ich weryfikowanie. Może to brzmieć jak adaptacja, ale w rzeczywistości oznacza zawężenie. Gdy AI się myli, pytanie brzmi, czy pracownicy nadal mają wystarczająco dużo niezależnego osądu, by to wychwycić.
Kliniczna wersja tej dynamiki została już udokumentowana w praktyce. Vivienne Ming, teoretyczna neurobiolożka i badaczka AI, wskazuje na badanie gastroenterologów korzystających z systemów kolonoskopii wspomaganych przez AI. Gdy te systemy wyłączono, lekarze osiągali mierzalnie gorsze wyniki niż przed rozpoczęciem korzystania z AI.
Dzięki temu stają się lepsi, gdy z tego korzystają, ale później ich wyniki są zdecydowanie gorsze.
Ryzyko nie dotyczy wyłącznie bieżącej wydajności — chodzi również o kompetencje, które w tle ulegają osłabieniu, gdy narzędzie wykonuje pracę.
Nadmierne poleganie na AI jest wzorcem leżącym u podstaw obu tych problemów. Gdy pracownicy zdają się na wyniki AI nawet wtedy, gdy narzędzie jest zawodne lub działa poza zakresem swoich kompetencji, indywidualne błędy się kumulują. W całej organizacji, w której pracownicy podążają za tymi samymi wynikami ku tym samym decyzjom, błędy te przybierają większą skalę.
Na poziomie indywidualnym jest to problem z wydajnością. W całej organizacji korzystającej z tych samych narzędzi w celu osiągania tych samych rezultatów jest to problem systemowy.
Kwestią zarządzania
Raport MIT Sloan zawiera zalecenie, które ma strukturalne znaczenie dla pozycji dyrektorów HR i dyrektorów operacyjnych w procesie podejmowania decyzji dotyczących AI. Wpływ na pracowników należy oceniać jako część uzasadnienia biznesowego dla wykorzystania AI, uwzględniać w planach wdrożenia i brać pod uwagę przed zakupem. Tak obecnie nie wygląda większość decyzji.
Badacze przedstawiają to jako obowiązek, a nie sugestię. Organizacje powinny otwarcie komunikować pracownikom, w jaki sposób AI zmieni lub wyeliminuje ich zadania, na czym będzie polegać wsparcie w okresie przejściowym oraz jak podejmowano te decyzje. Nie jako wyraz uprzejmości — piszą — lecz jako podstawowy obowiązek w zakresie zarządzania.
Powstająca w ten sposób luka w zakresie odpowiedzialności jest realna. Dyrektorzy HR zazwyczaj odpowiadają za rezultaty dotyczące pracowników, ale rzadko uczestniczą w podejmowaniu decyzji o wyborze narzędzi AI. Liderzy technologiczni odpowiadają za stos technologiczny, ale nie za późniejsze osłabienie kompetencji pracowników, którzy z niego korzystają.
Liderzy operacyjni śledzą wydajność, ale często nie mają ram umożliwiających monitorowanie pogarszania się kompetencji, które poprzedza spadek wydajności.
Terminy wskazane przez MIT Sloan są przydatne właśnie dlatego, że są wystarczająco precyzyjne, by przypisać za nie odpowiedzialność, i wystarczająco szczegółowe, by je mierzyć.
Nadmierne poleganie na AI nie jest tym samym ryzykiem co pozbawienie sprawczości. Każde z nich wymaga innych kwestii zarządczych w momencie wdrożenia, a także innej osoby odpowiedzialnej w organizacji.
W większości firm żadna z tych osób jeszcze nie istnieje.
Badanie nie narzuca struktury organizacyjnej. To, co robi — jasno i z poparciem w postaci pięciu lat danych dotyczących odpowiedzialnego AI — to wskazanie istniejącej luki.
To właśnie przy decyzjach o wdrożeniu lub rezygnacji z wdrożenia te kwestie powinny zostać podniesione. Zanim zostanie podpisana umowa, zanim rozpocznie się wdrożenie, zanim odbędzie się pierwsze szkolenie, ktoś w organizacji musi zapytać, jak to narzędzie wpłynie na osąd osób, które z niego korzystają, oraz zapobiec przekształceniu korzystania z AI w miernik wydajności.
Obecnie większość organizacji nie wie, kto powinien być tą osobą.
