Czego nadzór pracowników oparty na sztucznej inteligencji nie może Ci powiedzieć

David Rice: Nikt tak naprawdę nie planuje stworzenia systemu nadzoru nad pracownikami. Zaczyna się od optymalizacji, poprawy produktywności i zarządzania czasem. Brzmi z natury pozytywnie, prawda? A potem stopniowo, bez podjęcia przez kogokolwiek świadomej decyzji, przekraczasz pewną granicę. W dzisiejszym programie rozmawiam z Lynn Parramore, dyrektorką ds. projektów specjalnych w Institute for New Economic Thinking, o tym, gdzie przebiega ta granica i dlaczego sztuczna inteligencja utrudnia jej dostrzeżenie.

Główny argument Lynn jest taki, że monitorowanie w miejscu pracy opiera się na błędnym założeniu, iż wszystko, co ważne w pracy, da się zmierzyć. Pomoc współpracownikowi, trafna ocena sytuacji, odwaga moralna i kreatywność — nic z tego nie pojawia się w rejestrze naciśnięć klawiszy, a jednak właśnie te cechy często decydują o tym, że ktoś jest naprawdę wartościowym pracownikiem. Kiedy zaczynasz sprowadzać ludzi do zbiorów punktów danych, zmieniasz to, czym faktycznie zarządzasz.

Nadzór nie jest neutralny. W chwili, gdy decydujesz się stale obserwować kogoś, zakładasz już coś na jego temat, a pracownicy to odczuwają. Niszczy to zaufanie. A zaufanie, jak zauważa Lynn, jest kluczowe dla wszystkiego innego: zaangażowania, innowacyjności i utrzymania pracowników. Dlatego dziś omawiamy, gdzie kończy się uzasadnione monitorowanie, a zaczyna nadzór, dlaczego założenie, że wszystko, co ważne, można zmierzyć, jest błędne, odwrotną zależność między intensywnością monitorowania a zaufaniem oraz dlaczego liderzy muszą podchodzić do sztucznej inteligencji filozoficznie, a nie tylko praktycznie.

Nazywam się David Rice. To jest People Managing People. Jeśli Twoja organizacja traktuje monitorowanie pracowników jako narzędzie zwiększania produktywności, ta rozmowa jest warta Twojego czasu. Zaczynajmy.

Jeśli jesteś właścicielem małej firmy i zatrudniasz pierwszego pracownika, obsługa płac może wydawać się dużym krokiem. QuickBooks Workforce ułatwia ten proces, upraszczając obsługę płac, przelewy bezpośrednie i zarządzanie dokumentacją pracowników w jednym miejscu. Twoi pracownicy mogą uzyskać dostęp do własnych pasków wynagrodzeń i formularzy podatkowych za pośrednictwem portalu samoobsługowego, oszczędzając Twój czas i ograniczając ilość dokumentów. Jeśli chcesz poświęcać mniej czasu na obsługę płac, a więcej na rozwijanie firmy, sprawdź QuickBooks Workforce.

Lynn, witaj w programie!

Lynn Parramore: Dziękuję za zaproszenie.

David Rice: Rozmawialiśmy przed programem o tym, że od zawsze w jakiś sposób mierzyliśmy pracę, w takiej czy innej formie, ale sztuczna inteligencja zasadniczo zmienia skalę i stopień szczegółowości tego, co jest możliwe.

Chciałbym poznać Twoją opinię: w którym momencie mierzenie pracy przestaje służyć poprawie wyników, a staje się po prostu nadzorem?

Lynn Parramore: To pytanie, z którym wszyscy się zmagamy — zarówno pracownicy, jak i pracodawcy. Zacznę chyba od tego, że istnieją dobre zastosowania monitorowania algorytmicznego czy nadzoru opartego na sztucznej inteligencji, jakkolwiek to nazwiemy.

Na przykład wykrywanie zmęczenia. Możemy wyobrazić sobie pilota używającego urządzeń ubieralnych do wykrywania zmęczenia. Myślę, że większość z nas uznałaby, że to ma sens. Istnieją urządzenia wykorzystujące sztuczną inteligencję, które mogą wspierać naukę ergonomii. Jeśli ktoś podnosi ciężary, urządzenie może wykryć, jakie ruchy z większym prawdopodobieństwem doprowadzą do urazu.

Są też zastosowania związane z cyberbezpieczeństwem. Istnieją więc sytuacje, w których takie rozwiązania mogą być użyteczne i nie sprawiają wrażenia naruszenia prywatności. Muszą jednak mieć jasny, uzasadniony cel, po pierwsze, a pracodawca powinien gromadzić tylko niezbędne dane, a nie deklarować jeden cel i wykorzystywać ich do innego.

Pracownik powinien wiedzieć, jakie dane są gromadzone, w jaki sposób się to odbywa i jak dane są przechowywane. W procesie podejmowania wszelkich decyzji wynikających z gromadzenia tych danych — dotyczących awansu, karania czy rozwiązania umowy — powinien być obecny człowiek.

Nie należy też używać takich systemów do automatycznego nakładania konsekwencji. I właśnie tutaj pojawiają się rzeczy, które dla wielu z nas stały się niepokojące. Mam na myśli ciągły nadzór za pomocą kamer internetowych, rejestrowanie każdego naciśnięcia klawisza lub ruchu myszy czy wykonywanie zrzutów ekranu co dwadzieścia sekund.

To właśnie takie zastosowania przechodzą do kategorii naruszenia prywatności i mogą naprawdę negatywnie wpływać na wyniki pracowników.

David Rice: To ciekawe, prawda? Mam wrażenie, że dzieje się to stopniowo. Na początku chyba nikt nie mówi: „Będziemy nadzorować naszych pracowników”.

Raczej: poprawmy produktywność, skupmy się na zarządzaniu czasem i wszystkich tych innych rzeczach. Brzmi to jak optymalizacja, więc z natury pozytywnie, prawda? Ale ostatecznie przekracza się tę granicę. Zastanawiam się, czy dzieje się tak dlatego, że liderzy stają się tak skupieni na gromadzonych danych, że przestają pytać, czy samo ich gromadzenie zmienia zachowanie ludzi albo czy w ogóle warto je gromadzić?

Lynn Parramore: Zdecydowanie. Wynika to z bardzo ludzkiego odruchu — martwimy się tym, czego nie możemy zobaczyć. To naturalny ludzki odruch. Pracodawcy zawsze obawiali się tego, co dzieje się poza ich zasięgiem wzroku, a wszystko naprawdę sięga zmian, które nastąpiły wraz z rewolucją przemysłową.

Jeśli przed rewolucją przemysłową pracowałeś, powiedzmy, w zakładzie szewskim, szef siedział tuż obok, więc mógł widzieć, co robisz. Mógł zaglądać Ci przez ramię, ale nie było wielkiego pytania o to, co się dzieje. Kiedy zaczęły powstawać fabryki i większe zakłady pracy, pracodawcy zaczęli martwić się tym, co działo się poza ich bezpośrednim polem widzenia.

Pod koniec XVIII wieku pojawiła się idea panoptykonu, którą niektórzy znają. Kojarzy się ją z filozofem Jeremym Benthamem, choć samą koncepcję stworzył jego brat Samuel. Pracował on dla rosyjskiego urzędnika i mieli problem w fabrykach.

Ludzie się upijali, wszczynali bójki. Panował chaos. Trzeba było coś z tym zrobić. Samuel Bentham zaprojektował więc fabrykę, w której pośrodku znajdowała się przestrzeń, z której można było obserwować pracowników rozmieszczonych wokół centralnej wieży obserwacyjnej. Nie musieli wiedzieć, kiedy są obserwowani.

Wszyscy musieli więc mieć się na baczności, a część chaotycznych zachowań rzeczywiście ograniczono. Jeremy Bentham stworzył później podobny projekt więzienia i myślę, że właśnie tutaj skojarzenie staje się nieco niepokojące. Czekaj, po co jesteśmy obserwowani i w jakim celu? Nadzór może zmienić założenia, jakie przyjmujesz na temat ludzi.

Z „To pracownik działający w dobrej wierze” przechodzisz do „To osoba, którą muszę stale obserwować, kontrolować i monitorować jej zachowanie”. To dwa różne sposoby patrzenia i mają oczywiście różne skutki dla pracownika. To cienka granica, ale nikt nie lubi czuć, że jest cały czas monitorowany i że mu się nie ufa.

Zmniejsza to poczucie bezpieczeństwa psychologicznego i ma wiele negatywnych konsekwencji. Nikt nie chce czuć się w pracy jak w więzieniu.

David Rice: Tak, zaangażowanie i tak jest wystarczająco niskie, nawet bez poczucia, że jest się w prawdziwym areszcie. To raczej nie pomoże.

Lynn Parramore: Nie. Postęp technologiczny pozwolił nam monitorować rzeczy na bardziej szczegółowym poziomie i obserwować rzeczy, których wcześniej raczej nie spodziewalibyśmy się po pracodawcach.

Śledzenie emocji jest jednym z tych bardzo kontrowersyjnych obszarów. Można używać urządzeń ubieralnych lub innych form monitorowania kamerą internetową do wykrywania emocji ujawniających się w głosie czy ruchach ciała. Trudno wyobrazić sobie sytuację, w której zastosowano by to w sposób zapewniający pracownikom komfort.

Może dobrowolny program coachingowy. Załóżmy, że pracujesz na telefonie alarmowym i podczas rozmowy szczególnie ważne jest zachowanie spokoju. W czasie szkolenia mógłbyś dobrowolnie zgodzić się na ocenę przez program sztucznej inteligencji, który sprawdzałby, jak utrzymujesz poziom emocjonalny podczas rozmowy.

Ale nawet wtedy kluczowym słowem byłaby dobrowolność. Nie chodziłoby o działania dyscyplinarne ani ocenianie pracownika, ponieważ problemy pojawiają się między innymi dlatego, że nie wszyscy wyrażamy emocje w ten sam sposób — zależnie od płci, wieku, pochodzenia etnicznego, kultury i wielu innych czynników.

Psychologowie i socjologowie badają dane dotyczące śledzenia emocji i odkrywają, że w wielu przypadkach nie są one zbyt dokładne. Naprawdę nie chcesz więc, by na podstawie takich danych oceniano pracowników — zarówno dlatego, że są niedokładne, jak i dlatego, że pracownik odbiera je jako bardzo inwazyjne.

David Rice: To ciekawe.

W tym programie gościliśmy osoby, które mówiły o aspekcie dobrostanu. Organizacje uzasadniają takie działania, twierdząc, że służą one dobremu samopoczuciu albo wsparciu pracowników. Ty jednak twierdzisz, że istnieje niemal odwrotna zależność między takim nadzorem a zaufaniem, co oczywiście na wiele sposobów wpływa na dobrostan ludzi.

Dlaczego częstsze mierzenie prowadzi do mniejszego zaufania? A właściwie dlaczego tak się dzieje?

Lynn Parramore: Wraca tu idea, że wszystko opiera się na założeniach dotyczących osób, które dla Ciebie pracują. Czy przychodzą z zamiarem dobrej pracy? Czy działają w dobrej wierze?

Czy też są osobami, które chcesz cały czas obserwować, mikrozarządzać ich zachowaniem i sprowadzać do zbiorów punktów danych? Wracamy do fundamentalnego pytania: czym właściwie jest pracownik? Czy jesteśmy tylko zbiorami punktów danych? Czy wszystko, co robimy i co jest ważne w pracy, można zmierzyć?

Osoby nadmiernie entuzjastycznie podchodzące do oprogramowania szpiegującego pracowników albo do algorytmicznego monitorowania i zarządzania czasem zakładają czasem, że wszystko da się zmierzyć. Wszystko, co ważne i co robi pracownik, ma być mierzalne. Ale pomaganie współpracownikowi może nie być mierzalne.

Dobre rozeznanie, kreatywność i odwaga moralna — istnieje wiele rzeczy określanych mianem wiedzy ukrytej. Tego po prostu nie da się zmierzyć, a wszystkie te cechy są naprawdę ważne dla dobrego pracownika. Entuzjazm wobec takiego monitorowania spycha więc na dalszy plan to, co faktycznie czyni kogoś dobrym pracownikiem.

David Rice: Im bardziej próbujemy weryfikować zachowania za pomocą technologii, tym mniej miejsca pozostaje na zaufanie.

Lynn Parramore: Tak.

David Rice: Zaufanie jest niezwykle trudne do zmierzenia, ale leży u podstaw niemal wszystkiego, na czym zależy nam w miejscu pracy: zaangażowania, innowacyjności, utrzymania pracowników i całej reszty.

Zaufanie jest kluczowym elementem tego wszystkiego. Kiedy ludzie zaczynają czuć, że są stale oceniani, szczególnie przez coś, co wydaje się wszechwiedzące i obecne wszędzie, pojawia się ogromny dyskomfort i pytanie: „Dlaczego pracodawca w ogóle chce to wiedzieć?”.

Lynn Parramore: Dokładnie. Widzimy to w rzeczywistych sytuacjach.

JPMorgan Chase ogłosił wprowadzenie systemów monitorowania młodszych bankierów. Mieli problem z tym, że młodsi bankierzy pracowali absurdalnie długo, a oczekiwania wobec nich powodowały duży stres i zmęczenie. To uzasadniony problem. Wprowadzili więc program jako narzędzie wspierające dobrostan, co brzmi dobrze, ale kiedy system mierzy każde naciśnięcie klawisza i robi to bez przerwy, staje się czymś innym, a pracownicy niekoniecznie są z tego zadowoleni.

Jak wyrazić zgodę na taki rodzaj monitorowania? Czy naprawdę jest to wybór przy przyjmowaniu pracy, szczególnie gdy jest się młodszym pracownikiem? Jakiego wyboru można dokonać? To również powoduje napięcia. Dowody pokazują, że zamiast poprawiać dobrostan, niektóre rodzaje monitorowania — zwłaszcza ciągłe — mogą zwiększać stres i niepokój.

Może pojawić się stres wyprzedzający: „Jeśli przez kilka minut nie korzystam z komputera, bo po prostu myślę nad problemem, czy system mnie oznaczy?”. Towarzyszy temu ciągłe poczucie bycia obserwowanym, brak wiedzy o tym, jak zostaną wykorzystane informacje i czy nie wyciekną w jakieś miejsce.

Zdarzały się przypadki, w których dane pracowników zebrane za pomocą monitorowania algorytmicznego wyciekały. W 2025 roku firma WorkComposer stworzyła oprogramowanie instalowane na komputerach pracowników w celu ich monitorowania. Dane zostały naruszone, stały się publicznie dostępne, choć nie powinny.

Część materiałów stanowiły surowe nagrania z kamer internetowych pracowników i tego, co robili w pracy. Nikt nie chce chyba, aby takie materiały krążyły publicznie i były wykorzystywane do dowolnych celów. Może dojść do przypadkowego wycieku danych albo włamania. Informacje mogą zostać użyte w złośliwy sposób.

Nieufność zaczyna się nawarstwiać i wkrótce otrzymujesz zespół, który stracił motywację wewnętrzną, czuje mniejszą lojalność wobec pracodawcy i może zacząć szukać innej pracy.

David Rice: Wspomniałaś, że algorytmy mogą mierzyć zachowanie, ale nie mogą mierzyć intencji, osądu ani kontekstu. To ważne, bo jeśli obserwujesz wszystko, co robię, czy wiesz, dlaczego to robię?

Czy zaczynamy mylić to, co można zmierzyć, z tym, co rzeczywiście ma znaczenie?

Lynn Parramore: Tak. Pojawia się też pytanie: skoro możesz coś zmierzyć, czy powinieneś to mierzyć? Jakie są niezamierzone konsekwencje takiego pomiaru? Istnieją systemy monitorowania, które rejestrują, jak długo przedstawiciel obsługi klienta rozmawia z klientem. Pracownik zostaje oznaczony, jeśli rozmowa przekroczy uznany za optymalny czas.

Dobry pracownik może jednak zostać dłużej na rozmowie, ponieważ klient ma trudny problem. Jeśli zostanie ukarany za dłuższą rozmowę, czy zacznie przekazywać klienta komuś innemu albo po prostu zakończy połączenie zbyt szybko?

Wkrótce będziesz mieć zarówno niezadowolonych klientów, jak i niezadowolonych pracowników. Nie ma rozwiązania uniwersalnego, a to również może być problem. To, co mierzysz, nie uwzględnia intencji — w tym przypadku intencji pracownika, by pomóc klientowi — ani kontekstu czy niuansów.

Może ktoś ma zły dzień. To się zdarza pracownikom. Czy zostanie za to oznaczony? Czy dane pojawią się na panelu pracodawcy i wpłyną na jego ocenę w sposób, którego nawet nie będzie widzieć? Nie wie, kiedy dokładnie zebrano dane, jak to zrobiono ani w jakim celu.

Ostatecznie doprowadzi to do poważnego załamania zaufania między pracodawcą a pracownikiem.

David Rice: Wspomniałaś o niuansach. Wydają mi się coraz ważniejsze, ponieważ sposób, w jaki rozmawiamy o rzeczach i na nie reagujemy, często pozbawiony jest niuansów. Rozróżnienie między informacją a zrozumieniem jest niezwykle istotne.

Przywództwo zawsze polegało na interpretowaniu niuansów — na rozumieniu, dlaczego coś się wydarzyło, a nie tylko na odnotowaniu, że się wydarzyło. Istnieje niebezpieczeństwo, że liderzy pomylą kompletne dane z pełnym zrozumieniem, choć dane są tylko informacją.

Lynn Parramore: Zdecydowanie. Część tego podejścia wywodzi się z ruchu z początku lat 2000. Alex Pentland z MIT tworzył urządzenia ubieralne. Wiele z tych pomysłów pochodziło z wojska i ze świata sportu. Urządzenie mogło śledzić funkcjonowanie miotacza na boisku albo wysiłek osoby podczas operacji wojskowej.

To interesujące dane, które mogą być użyteczne i korzystne dla osoby poddawanej pomiarowi. Przeniesienie tego podejścia do zwykłego środowiska pracy — na przykład do pracowników banku czy przedstawicieli obsługi klienta — nie zawsze działa jednak tak, jak oczekujesz, ani tak, by rzeczywiście przynosiło korzyści.

Sam fakt, że wiele takich rozwiązań wywodzi się z wojska i więzień, pokazuje, dlaczego mogą być odbierane jako inwazyjne i problematyczne w miejscu pracy. Ludziom zależy na prywatności. Martwimy się tym, czego nie możemy zobaczyć, ale martwimy się też tym, że ktoś widzi nas zbyt dokładnie.

Unia Europejska ma silniejsze przepisy uznające prywatność za podstawowe prawo w miejscu pracy i nakłada więcej ograniczeń na gromadzenie danych. Pracodawca musi wykazać uzasadnioną przyczynę, a zakres powinien być możliwie ograniczony. Gromadzenie danych musi być celowe i ograniczone, a pracownik ma prawo sprzeciwić się, zakwestionować lub podważyć dane, które są zbierane.

Wszystko musi być bardzo przejrzyste. W niektórych przypadkach pracodawca musi skonsultować z radami pracowników lub związkami zawodowymi sposób wdrożenia takich programów. W Stanach Zjednoczonych sytuacja jest znacznie bardziej rozdrobniona i zagmatwana. Nie ma tam ogólnego prawa dotyczącego prywatności w pracy. Domyślnie zakłada się, że jeśli firma jest właścicielem urządzenia, może monitorować pracownika.

Stało się to szczególnie widocznym problemem podczas pandemii, gdy więcej osób pracowało z domu. Pracodawcy myśleli: „To niepokojące, że ludzie pracują z salonu, więc w niektórych przypadkach podłączymy urządzenie do firmowego laptopa i będziemy ich monitorować przez cały dzień”. Powstawały programy wymagające nawet podania powodu wyjścia do łazienki lub zrobienia pięciominutowej przerwy.

Pandemia stała się pretekstem do zwiększenia monitorowania i nadzoru. Wszystko wydarzyło się tak szybko, że prawo za tym nie nadążyło.

David Rice: Pandemia była świetna, bo podobnie jak wiele osób lubię pracę zdalną, ale miała swoją cenę. Wcześniej polegaliśmy po prostu na tym, że menedżer zaglądał komuś przez ramię. Teraz istnieje tak wiele różnych rzeczy, które mogą pełnić funkcję oczu nad ramieniem, że trudno to ogarnąć.

Lynn Parramore: Pojawia się pytanie: co właściwie mierzysz? Jeśli mierzysz liczbę sprzedaży zamkniętych danego dnia, czy naprawdę ma znaczenie, że ktoś zrobił rano trzy przerwy na skorzystanie z łazienki? Jaki jest cel gromadzenia tych danych?

Jeśli przesadzisz albo nie będziesz transparentny, pracownicy zaczną się sprzeciwiać i znajdą sposoby na obchodzenie systemu. Frederick Taylor próbował rozłożyć działania na hali fabrycznej na małe, mierzalne jednostki, aby przyspieszyć pracę. Działało to do pewnego momentu, ale pracownicy frustrowali się i zaczynali manipulować systemem.

Przestawiali zegar, gdy wychodził z pomieszczenia. Podczas pandemii ludzie znajdowali sposoby na poruszanie myszą tak, aby wyglądało to na ciągłą aktywność.

David Rice: Tak, urządzenie poruszające myszą.

Lynn Parramore: Czytałam nawet zabawną historię o kimś, kto odkrył, że jeśli postawi ananasa przed laptopem, kamera uzna go za głowę człowieka i dane zostaną zaakceptowane.

Ludzie mają naturalny opór wobec inwazyjnego i natrętnego monitorowania. To się nie zmieni. Taka jest ludzka natura.

David Rice: Krótka przerwa. Czy obsługa płac stała się bardziej skomplikowana wraz z rozwojem Twojej firmy? Być może zarządzasz pracownikami etatowymi i kontraktorami, różnymi harmonogramami wypłat albo działasz w kilku stanach.

QuickBooks Workforce pomaga upraszczać te wyzwania dzięki automatyzacji płac, obliczeniom podatkowym, wsparciu w zakresie zgodności i narzędziom pomagającym terminowo i prawidłowo wypłacać wynagrodzenia zespołowi. Jeśli procesy płacowe stają się coraz bardziej złożone, dowiedz się, jak QuickBooks Workforce może je usprawnić.

Interesujące jest to, co mówisz o Taylorze. Naukowe zarządzanie ma ponad sto lat, ale wygląda na to, że obecnie powraca w znacznie większej skali. Wydaje się, że zapomnieliśmy o części lekcji z tamtej epoki. Tworzy to mnóstwo działań ukrytych, co jest po prostu ludzką naturą.

Niektórzy twierdzą, że trzeba tylko zachować transparentność i wyjaśnić, dlaczego coś robisz. Oczywiście trzeba, ale to nie oznacza, że wszyscy się temu podporządkują.

Lynn Parramore: Nie, zdecydowanie nie.

Nawet jeśli pracownicy się podporządkują, możesz nie uzyskać od nich najlepszych wyników. Algorytm może wiedzieć, ile czasu zajęło Ci wykonanie zadania, ale nie wie, że poświęcałeś dodatkowy czas, próbując pomóc współpracownikowi. A właśnie takiego zachowania oczekujesz od pracownika.

Potrzebujemy uznania naszego człowieczeństwa, intencji, dobrej wiary i złożoności. Im bardziej złożona aktywność, tym trudniej sprowadzić ją do dyskretnych, mierzalnych jednostek. Musimy uznać to, co czyni nas ludźmi.

Czy jako pracownicy jesteśmy ludźmi, którzy rozwijają się i uczą, czy tylko zasobami? Potrzebujemy również możliwości popełniania błędów bez ryzyka zwolnienia przez algorytm — niewidzialnego przełożonego, którego nie widzimy i którego kryteriów nie znamy. Wiele elementów zarządzania algorytmicznego i oprogramowania nadzorującego pracowników stoi w sprzeczności z tym, co wiemy o ludzkim funkcjonowaniu.

David Rice: Czy system rozumie, że musiałeś uśpić psa w zeszłym tygodniu? Czy rozumie, że pokłóciłeś się z siostrą? Nie. I na tym polega problem. Usuwamy kolejne warstwy zarządzania i zastępujemy je czymś, co nie rozumie, kim jesteśmy ani dlaczego zachowujemy się tak, a nie inaczej.

Lynn Parramore: Zdecydowanie.

Dużo piszę i prowadzę badania. Jedną z moich głównych aktywności w ciągu dnia jest to, co wygląda jak wpatrywanie się w przestrzeń i nierobienie niczego. Tak naprawdę myślę. Czasem chodzę w kółko po mieszkaniu, bo pomaga mi to myśleć.

Jak system zarządzania algorytmicznego ma to uchwycić? Prawdopodobnie mnie oznaczy. Wiele rzeczy niezbędnych do dobrej pracy nie mieści się jednak w tych dyskretnych jednostkach i systemach. Nigdy się w nich nie zmieści.

David Rice: System nie zrozumie, że jem dużo precli, ale mam ku temu powód. Tak właśnie porządkuję myśli.

Lynn Parramore: To zabawne, bo pracownicy skarżyli się na niektóre systemy algorytmiczne instalowane podczas pandemii, że nie pozwalały im jeść w pracy. Oczywiście, jeśli jesteś przedstawicielem obsługi i rozmawiasz z klientem przez telefon, nikt nie chce, żebyś chrupał precle podczas rozmowy.

Ale dlaczego problemem miałoby być zjedzenie precla po zakończeniu rozmowy? Sprawdzanie, kiedy idziemy do łazienki albo kiedy chcemy zjeść precla, jest infantylizujące. Odbiera nam godność jako pracownikom i ludziom.

David Rice: Nikt nie lubi mikrozarządzania podczas wykonywania procesu, a tym bardziej decydowania, kiedy wolno mu jeść. To nie przedszkole. Zjem, kiedy będę chciał.

Lynn Parramore: Każdy rodzic nastolatka zmaga się z granicą między tym, co chce monitorować, a skutkami takiego monitorowania.

W pewnym momencie wobec każdej osoby, której ufamy, musimy zaakceptować pewien poziom niepewności. Istnieją oczywiście sytuacje, w których monitoring ma uzasadniony cel. Jeśli dziecko prowadziło samochód po alkoholu, można przez sześć miesięcy kontrolować jego poziom alkoholu w wydychanym powietrzu. Wielu ludzi uznałoby to za rozsądne.

Jeśli jednak będziesz robić to bezterminowo, dziecko nie będzie miało możliwości pokazania, że odzyskało Twoje zaufanie, a relacja się załamie. Nie chcę porównywać przełożonego w pracy do rodzica — właściwie to właśnie jest problem. Nie jesteśmy rodzicami. Jesteśmy ludźmi, którzy razem pracują, a pewien poziom wzajemnego zaufania jest konieczny, by wykonać pracę.

David Rice: Bardziej przypomina to trenera. Wyznaczasz zawodnikom nastawienie i plan, a potem pozwalasz im działać. Musisz pozwolić im wyrażać siebie i wykorzystywać własny talent.

Lynn Parramore: Tak. Nawet w przypadku sportowców osiągających wysokie wyniki jest to prawdą. Nie wszystko jest jak w filmie „Moneyball”. Nie wszystko dotyczy optymalizacji. Programy wprowadzane w drużynach sportowych również spotykały się z oporem.

Jeśli trener chce wiedzieć dokładnie, ile ktoś śpi każdej nocy, w niektórych sytuacjach może istnieć uzasadniony cel. Ale jeśli dzieje się to cały czas, każdej nocy, staje się inwazyjne i ludziom się to nie podoba.

Jeśli umieścisz śledzenie GPS w samochodzie osoby realizującej dostawy, może to mieć sens w godzinach pracy. Po pracy przekracza jednak granicę i ludzie będą się temu sprzeciwiać. W Stanach Zjednoczonych, ze względu na rozdrobnienie prawa, pojawia się coraz więcej aktywizmu. Pracownicy wspólnie wyrażają niepokój wobec takich systemów.

Słyszymy o pracownikach firmy Meta, którzy obawiają się wdrażania monitorowania algorytmicznego. W tym przypadku system ma uczyć sztuczną inteligencję, czym zajmuje się pracownik. To dodaje kolejną warstwę niepokoju: czy jestem monitorowany po to, żeby system sztucznej inteligencji mógł ostatecznie przejąć moją pracę?

Musimy zdecydować, gdzie przebiega granica. W Stanach Zjednoczonych jesteśmy trochę z tyłu i potrzebujemy silniejszej ochrony prywatności oraz większej możliwości udziału pracowników w tej rozmowie.

Jeśli pracownicy będą uczestniczyć w rozmowie o tym, jak wdrażać takie programy, co będą monitorować i w jakich warunkach, program będzie znacznie skuteczniejszy. Pracownicy nie są przecież przeciwni każdemu rodzajowi monitorowania.

Jeśli ktoś doświadcza uprzedzeń w pracy albo ma przełożonego, który wydaje się go nie lubić, pomiar wyników może pomóc udowodnić, że rzeczywiście dobrze wykonuje swoją pracę.

Monitorowanie może więc wspierać prawa pracownika. To narzędzia, które mogą działać w różny sposób zależnie od intencji pracodawcy. Czym innym jest pomocnik w postaci programu sztucznej inteligencji, a czym innym niewidzialny przełożony. Tego drugiego raczej nikt nie chce.

David Rice: To wraca do rozmowy o etyce i filozofii. Na tym etapie trzeba podchodzić do tych kwestii filozoficznie, ponieważ biznes może być dobry dla społeczeństwa, ale może też być dla niego bardzo szkodliwy. Nie jest z natury dobry.

Lynn Parramore: Przekonaliśmy się o tym w przypadku przemysłu tytoniowego. Wszyscy wiemy, jak szkodliwe dla społeczeństwa mogą być określone działania biznesowe. Nauczyliśmy się tego na własnych błędach i nie powinniśmy wciąż od nowa odrabiać tej samej lekcji.

David Rice: A jednak to robimy. Widzieliśmy to w przypadku firm mediów społecznościowych, firm reklamowych i kolejnych przedsiębiorstw technologicznych.

Lynn Parramore: To również kwestia zaufania ogółu społeczeństwa. Ludzie są zaskoczeni skalą sprzeciwu wobec sztucznej inteligencji i obawami związanymi z nadzorem.

Wcześniej wielokrotnie zostaliśmy oszukani. Firmy mówiły nam, że coś jest całkowicie bezpieczne i korzystne, a później okazywało się inaczej. Nie wiemy już nawet, którym badaniom ufać. Wiele osób prowadzących badania nad sztuczną inteligencją na uniwersytetach straciło pracę i przeszło do firm prywatnych.

W publikacjach naukowych dotyczących na przykład nadzoru opartego na sztucznej inteligencji często współautorem jest osoba związana z firmą. To również problem, przypominający badania sponsorowane przez R.J. Reynolds, które przekonywały, że nikotyna nie uzależnia.

Wokół technologii i jej korzyści dla pracowników narosła nieufność. Obiecywano, że większa produktywność doprowadzi do wyższych płac i mniejszej ilości pracy. Przez ostatnie czterdzieści czy pięćdziesiąt lat te obietnice nie zostały spełnione.

Ludzie są więc zrozumiale zaniepokojeni, szczególnie biorąc pod uwagę tempo i skalę zmian.

David Rice: Wspomniałaś o młodszych pracownikach. Liderzy muszą zrozumieć, że to pokolenie jest trochę idealistyczne, ale jednocześnie otwarcie sceptyczne.

W odróżnieniu od wcześniejszych fal technologii w miejscu pracy wielu przedstawicielom pokolenia Z trudniej zaakceptować sztuczną inteligencję. Są wobec niej wręcz wrogo nastawieni w środowisku pracy. Dlaczego Twoim zdaniem reagują tak odmiennie i co liderzy powinni uwzględnić w swoim podejściu?

Lynn Parramore: To bardzo interesujące zjawisko. Starsza część pokolenia Z, osoby mające dziś od dwudziestu kilku do prawie trzydziestu lat, dorastała w świecie geopolitycznych wstrząsów, zamachów z 11 września i kryzysu finansowego.

XXI wiek był dotąd bardzo burzliwy. Młodzi ludzie doświadczyli niestabilności i wielkiej recesji. Wielokrotnie słyszeli, że mobilność społeczna w Stanach Zjednoczonych się zatrzymuje i że niekoniecznie będą żyć lepiej niż ich rodzice.

Teraz osoby, które ciężko pracowały, studiowały i przygotowywały się do wejścia na rynek pracy, słyszą: „Może nie będzie dla was żadnych stanowisk początkowych. Może gospodarka wcale was nie potrzebuje”.

Do tego dochodzi inflacja i wiele innych przeciwności. Nic dziwnego, że są zdenerwowani. Sztuczna inteligencja jest im narzucana, zanim zdążyli się do niej dostosować, a czasem słyszą nawet, że ich kierunek studiów nie ma już znaczenia.

Nie wiedzą, jak za pięć lat, a może nawet za sześć miesięcy, będzie wyglądała ich ścieżka kariery. To bardzo przerażająca sytuacja. Widzieli już, jak Dolina Krzemowa ich zawiodła za pomocą mediów społecznościowych, gromadzenia danych i szkodliwych form reklamy.

Próba wmówienia im, że sztuczna inteligencja będzie najlepszą rzeczą od czasu wynalezienia krojonego chleba i ułatwi im życie, raczej nie zadziała. Mają dobre powody, by w to nie wierzyć.

David Rice: To pokolenie dorastało z technologią. To nie są luddyści ani osoby przeciwne technologii. Prawdopodobnie jest to najbardziej biegłe technologicznie pokolenie w historii.

Ich sceptycyzm nie dotyczy samej sztucznej inteligencji, ale granicy między tym, co użyteczne, a tym, co inwazyjne, oraz tego, czy ufają osobom, które ją tworzą i obsługują.

Wielokrotnie zawiedli ich źli liderzy i ludzie o złych intencjach. Media społecznościowe zostały wplecione w ich życie od bardzo młodego wieku. W dużej mierze wykorzystywano je do utrzymywania ich w pętli ciągłego przewijania i sprawiania, by źle się ze sobą czuli.

Lynn Parramore: Dokładnie. Kiedy pracodawca mówi: „Zbierzemy te dane, ale będą bezpiecznie przechowywane”, ludzie pytają: „Naprawdę?”. Ciągle słyszą przecież o ogromnych wyciekach danych. „Zrobimy to dla waszego dobrostanu”. Naprawdę? „Ta technologia uratuje ludzkość”. Naprawdę?

Młodzi ludzie nie dadzą się już łatwo przekonać takim obietnicom i słusznie się sprzeciwiają. Jeśli gospodarka nie oferuje im wiele, dlaczego mieliby być wobec niej lojalni? Jeśli słyszą, że mogą nie mieć pracy ani kariery i są właściwie zbędni, dlaczego mieliby się nie sprzeciwiać?

To naturalna reakcja. To pokolenie wchodzi w dorosłość w warunkach bezprecedensowej niepewności związanej ze zmianami klimatu, wstrząsami politycznymi, rozwojem technologii i wszystkimi obawami, które mu towarzyszą.

Rozmawiałam niedawno z młodą kobietą, która rozpoczęła pierwszą pracę jako pielęgniarka. Cały osąd, dobra intencja i odwaga moralna, które doprowadziły ją do wyboru tego zawodu, zostały zderzone z algorytmicznym programem określającym, którzy pacjenci w szpitalu są narażeni na upadek.

Program analizuje różne punkty danych i ocenia ryzyko. Jeśli pacjent zostanie uznany za zagrożonego, trzeba wdrożyć określone procedury. Brzmi to dobrze, z wyjątkiem tego, że pielęgniarki wiedzą, iż system czasem się myli, a one nie mogą go zastąpić własnym osądem.

Muszą więc szukać sposobów obchodzenia programu, który oznaczy je za nieprzestrzeganie procedur, jednocześnie próbując zapewnić pacjentom bezpieczeństwo. Nie chcemy, by ludzie wchodzili do miejsca pracy z poczuciem, że ich ludzki osąd został całkowicie unieważniony. To doskonały sposób na natychmiastowe obniżenie morale, szczególnie gdy chodzi o bezpieczeństwo i życie ludzi.

Nie można pozostawić takich decyzji algorytmowi.

David Rice: Jako starszy milenials myślę o tym, że choć ukończyłem szkołę w czasie kryzysu z 2008 roku, miałem już lata na budowanie doświadczenia i kompetencji. Młodszym przez lata mówiono, by się specjalizowali, skupiali na matematyce i naukach ścisłych oraz uczyli programowania, a teraz słyszą, że ważne będą kompetencje miękkie.

Nic dziwnego, że nie ufają systemowi. Wszystko wydaje się kłamstwem.

Lynn Parramore: Co mają z tym zrobić? Studiowali kierunki STEM, a teraz słyszą, że dobrze byłoby studiować filozofię, bo właśnie tego potrzebuje Dolina Krzemowa. Jak mają zmienić kierunek? Nie da się cofnąć czterech lat takiego kształcenia.

Musimy zmienić programy nauczania i oczekiwania wobec studentów, ale trzeba też pomóc osobom, wobec których zasady gry się zmieniły. Należy zapewnić im szkolenia, przekwalifikowanie i edukację. Skala problemu jest ogromna, więc odpowiedź społeczeństwa również musi być odpowiednio duża.

Nie można wyrzucić całego pokolenia za burtę. Jeśli młodzi ludzie nie będą mieli nadziei, perspektyw ani zasobów, może to doprowadzić do wybuchowej sytuacji.

David Rice: Mówimy o pięciu do dziesięciu rocznikach absolwentów. To ogromna liczba wyszkolonych pracowników, którzy będą musieli odnaleźć się w nowej rzeczywistości. Nie ma możliwości, żeby obyło się bez chaosu.

Lynn Parramore: Nie ma, ale nie musi być aż tak bolesny, jeśli odpowiemy na to mądrzej. Duża firma, na przykład Microsoft, której dyrektor generalny zarobił w ubiegłym roku 100 milionów dolarów, zwalnia pracowników. Dlaczego nie wykorzystać części tych środków albo pieniędzy przeznaczanych na wykup akcji do wznowienia szkolenia zwolnionych pracowników?

Jeśli zmienimy normy i oczekiwania wobec liderów, zaczniemy pamiętać, że spółka publiczna działa na podstawie przywileju nadanego przez społeczeństwo. Ma zobowiązania wobec społeczeństwa i osób, które przyczyniły się do jej sukcesu. Korzyści nie powinny trafiać wyłącznie do akcjonariuszy.

Mam nadzieję, że wahadło wychyliło się tak mocno w stronę wzbogacania akcjonariuszy, iż zacznie wracać i ponownie ocenimy oczekiwania wobec liderów i korporacji. W latach 50. i 60. oczekiwania były inne. Liderzy korporacji publicznie mówili o odpowiedzialności wobec wielu interesariuszy — pracowników, społeczności i innych grup.

Chciałabym, abyśmy do tego wrócili. Gospodarka nie rozpadła się tylko dlatego, że dyrektorzy musieli uwzględniać wielu interesariuszy. Firmy dobrze sobie radziły, wielu liderów się wzbogaciło, kupowali jachty. Może nie pięć superjachtów, ale wszyscy jakoś przetrwali.

David Rice: Myślę, że to coś więcej niż wahadło. Bardziej przypomina przejażdżkę w wesołym miasteczku, która wykonuje pełny obrót i na chwilę stawia wszystko do góry nogami. Społeczeństwo może ostatecznie zmienić sposób przyznawania korporacjom statusu.

Kiedyś trzeba było wykazać publiczną korzyść, aby uzyskać status korporacji i związane z nim przywileje. Dziś wystarczy wypełnić formularz online i zapłacić sto pięćdziesiąt dolarów. To poszło za daleko.

Lynn Parramore: Do czego służy korporacja? Nie powinna istnieć wyłącznie po to, by wzbogacać kilka osób i produkować bilionerów. To nie jest dobre dla społeczeństwa i nie współgra z demokracją. Ktoś kiedyś powiedział, że można mieć koncentrację bogactwa albo demokrację, ale bardzo trudno mieć jedno i drugie jednocześnie.

Potrzebujemy korporacji tworzących dobre produkty i usługi, niepopełniających oszustw w celu podbijania cen akcji i niewykorzystujących wszystkich zysków do wzbogacania nielicznych osób, które nawet nie wykonują pracy. Niezależnie od poglądów politycznych większość z nas może się z tym zgodzić.

Bernie Sanders mówi o problemie myślenia skoncentrowanego na wartości dla akcjonariuszy. Mówi o tym także J.D. Vance, więc nie jest to kwestia jednej partii. Coraz więcej ludzi dostrzega, że system całkowicie stracił równowagę.

Wraz z rozwojem sztucznej inteligencji pytanie o punkt zwrotny staje się pilniejsze, ponieważ wszystko dzieje się bardzo szybko, obietnice dotyczące tej technologii są ogromne, a pytania o szkody pozostają bez odpowiedzi. Centra danych to tylko jeden z przykładów.

Jedno centrum typu hyperscaler może zużywać tyle energii co mały kraj. W północnej Wirginii istnieją już setki takich obiektów. Co to oznacza dla cen energii elektrycznej, zanieczyszczenia i zużycia wody? Jak poradzą sobie rolnicy? To wielkie pytania. Korporacja nie powinna móc po prostu zdecydować, że zrobi coś takiego bez regulacji i udziału społeczności, których to dotyczy.

To przepis na katastrofę.

David Rice: Liderzy muszą zastanowić się, jak używać tej technologii w najbardziej inteligentny sposób, co chcą dzięki niej osiągnąć i czego wcale nie muszą jej powierzać. To część ich pracy. Trzeba być gotowym wejść w szczegóły i nacisnąć przycisk pauzy.

Lynn Parramore: Widzieliśmy firmy zbyt szybko i bez dostatecznej refleksji wdrażające sztuczną inteligencję, a potem ponoszące konsekwencje. Zwolniono pracowników, bo zakładano, że sztuczna inteligencja wykona ich pracę, po czym okazywało się, że jednak byli potrzebni i trzeba było ich ponownie zatrudniać.

Dotyczy to także całego społeczeństwa. Przy budowie centrów danych powinniśmy w wielu przypadkach nacisnąć przycisk pauzy, dopóki nie poznamy lepiej konsekwencji. Argument, że jeśli nie ruszymy naprzód, zrobi to za nas ktoś inny, staje się wymówką dla działania bez regulacji.

Gdy technologia trafia do systemów uzbrojenia, obiektów jądrowych i innych krytycznych obszarów, brak regulacji staje się szczególnie niepokojący.

David Rice: Lynn, dziękuję, że byłaś dziś z nami. To była świetna rozmowa.

Lynn Parramore: Dziękuję. Cieszę się, że o tym rozmawiasz. Jestem pewna, że będziemy mieli jeszcze wiele do powiedzenia, gdy sytuacja będzie się rozwijać.

David Rice: Słuchacze, jeśli chcecie dowiedzieć się więcej od Lynn, zajrzyjcie na jej profil na LinkedIn. Wydała książkę, którą zdecydowanie warto przeczytać.

Do następnego razu. Jeśli jeszcze tego nie zrobiliście, odwiedźcie peoplemanagingpeople.com/subscribe i zapiszcie się do newslettera. Otrzymacie ten podcast oraz wszystko inne, co tworzymy: mnóstwo artykułów i wirtualne wydarzenia nadchodzące jesienią.

Do następnego razu — nie bójcie się podejść do tego filozoficznie.

Zanim zakończymy, coś dla firm, których zespoły pracują w terenie. Jeśli zarządzasz ekipami w wielu lokalizacjach, śledzenie godzin i kosztów pracy może szybko stać się wyzwaniem. Dzięki QuickBooks Workforce i QuickBooks Time możesz rejestrować czas pracy pracowników, monitorować koszty pracy według projektu i łączyć obsługę płac z pracą wykonywaną w terenie.

Niezależnie od tego, czy działasz w budownictwie, usługach terenowych czy innej firmie realizującej projekty, QuickBooks Workforce może uprościć obsługę płac i zarządzanie pracownikami. Dowiedz się więcej i sprawdź, jak może wesprzeć Twój zespół.