Czy Twoi pracownicy wiedzą, że pracują obok agentów AI?
Luka w świadomości: Wielu pracowników nie zdaje sobie sprawy z obecności agentów AI działających w ich miejscach pracy, co prowadzi do braku zaufania i dezorientacji.
Znaczenie przejrzystości: Ramy zarządzania zakładają ludzki nadzór, jednak brak świadomości pracowników stwarza ryzyko niepowodzeń w zakresie odpowiedzialności.
Erozja zaufania: Wielu pracowników uważa systemy AI za zawodne, a 62% wyraża obawy dotyczące wiarygodności agentów AI.
Zaangażowanie pracowników: Ujawnianie informacji ma kluczowe znaczenie; pracownicy muszą rozumieć rolę AI, aby skutecznie nadzorować systemy i współpracować z nimi.
Brak szkoleń: Tylko 38% organizacji zapewnia szkolenia z obsługi narzędzi AI, nasilając poczucie pracowników, że stają się zbędni.
Większość pracowników nie wie, z czym współpracuje.
Agentowa sztuczna inteligencja dawno wyszła poza etap pilotażowy i obecnie kieruje zgłoszenia do obsługi klienta, oznacza nietypowe wyniki pracowników, planuje rozmowy kwalifikacyjne i podsumowuje spotkania, zanim ktokolwiek zdąży się wylogować.
W coraz większej liczbie organizacji tworzy odpowiedzi i podejmuje decyzje o niewielkim znaczeniu w imieniu pracowników, którym nie powiedziano, co się dzieje.
Continue Reading for Free
Create a free account to finish this article, plus get ongoing access to timely insights and practical resources.
Have an account? Log In
Tempo wdrażania wyprzedziło tempo informowania. Według badania Cloud Security Alliance opublikowanego w kwietniu, 82% przedsiębiorstw wykryło w ciągu ostatniego roku wcześniej nieznane agenty AI działające w ich środowiskach IT, a wiele z nich pojawiało się wielokrotnie. To problem z widocznością IT. Problem ze świadomością pracowników sięga znacznie głębiej.
Globalne badanie Workday z 2025 roku, w którym wzięło udział niemal 3000 osób decyzyjnych z Ameryki Północnej, regionu APAC i EMEA, wykazało, że tylko 24% pracowników czuje się komfortowo z agentami AI działającymi w tle bez ich wiedzy.
Nie możemy uznać tego za marginalną kwestię, skoro trzy czwarte pracowników wyraźnie wyznacza granicę, a większość z nich robi to bez pełnej wiedzy o tym, gdzie ta granica faktycznie przebiega w ich własnym miejscu pracy.
Przejrzystość i wspólne założenia
Etyczne uzasadnienie zamknięcia tej luki jest proste. Pracownicy mają uzasadnione prawo rozumieć systemy, które wpływają na przydzielane im zadania, obciążenie pracą, a w niektórych przypadkach także na oceny ich wyników. Jednak argument operacyjny może być bardziej zrozumiały dla kadry kierowniczej, która powinna go usłyszeć.
Ramy zarządzania, takie jak ramy zarządzania ryzykiem AI opracowane przez NIST, wymogi dotyczące przejrzystości zawarte w unijnym akcie w sprawie AI oraz większość zasad dotyczących AI w przedsiębiorstwach opracowanych w ciągu ostatnich dwóch lat, opierają się na wspólnym założeniu, że ludzie pozostają w pętli decyzyjnej.
Nie chodzi tylko o kadrę kierowniczą czy zespoły ds. zgodności, lecz także o osoby wykonujące pracę. Nadzór człowieka oznacza, że gdy agent popełni błąd, niewłaściwie przekieruje sprawę, zastosuje błędne kryteria lub odbiegnie od zamierzonego sposobu działania, ktoś to zauważy. Tą osobą niemal zawsze jest pracownik pierwszej linii, znajdujący się wystarczająco blisko rezultatu, by rozpoznać, że coś jest nie tak.
Gdy pracownicy nie wiedzą, że agent podejmuje działania, nadzór ten znika na poziomie strukturalnym. Architektura odpowiedzialności zależy od świadomości, której brakuje.
Co się dzieje, gdy się dowiedzą?
Gdy dochodzi do załamania, ma ono zwykle osobisty charakter. Około ośmiu miesięcy przed rozmową z People Managing People Mike Rolfe, wiceprezes ds. produktu w Outbuild — platformie do planowania prac budowlanych — wdrożył w operacjach obsługi klienta system agentowy, który mógł autonomicznie monitorować kondycję kont, planować rozmowy w imieniu menedżerów ds. sukcesu klienta i tworzyć raporty dotyczące ryzyka odnowienia umowy bez konieczności uruchamiania go przez kogokolwiek.
Kadra kierownicza została poinformowana, ale szerszy zespół obsługi klienta już nie, częściowo dlatego, że wewnątrz organizacji wszyscy nadal nazywali to „automatyzacją”, zamiast określać to zgodnie z rzeczywistością.
CSM wszedł na rozmowę z klientem, a klient wspomniał o spotkaniu, które było już zaplanowane, choć CSM nigdy go nie organizował.
Uszczerbek na zaufaniu w zespole wymagał kilku tygodni, by go naprawić. Jego obecna zasada mówi, że w chwili, gdy system AI podejmuje działanie widoczne dla innej osoby, osoba, której nazwisko jest przypisane do tego działania, musi wiedzieć o nim, zanim do niego dojdzie.
Jego zespół całkowicie przestał także używać słowa „automatyzacja”, zastępując je prostymi opisami. Na przykład: „system zarezerwuje spotkania za ciebie i powiadomi klienta, podając twoje nazwisko”.
Dzieje się tak dlatego, że szczególnie w kulturze branży budowlanej nieprecyzyjny język technologiczny nie tworzy świadomej zgody. Tworzy warunki do wystąpienia dokładnie takiej sytuacji, jakiej doświadczył jego CSM.
Odpowiedzialność spoczywa na człowieku
Steven Betito, dyrektor operacyjny i inspektor ochrony danych w Elestio, również doświadczył tego osobiście.
Gdy jego zespół zintegrował agentową AI z codziennymi operacjami, od samego początku zadbał o przejrzystość. Każdy agent miał udokumentowaną rolę i został wyraźnie przedstawiony zespołowi jako AI, dzięki czemu nikt nigdy nie miał wątpliwości, z czym pracuje. Tym, czego nie zbudowali wystarczająco wcześnie, była jasna struktura eskalacji.
W ciągu pierwszych kilku miesięcy nie sformalizowaliśmy ścieżek eskalacji. Członek zespołu wysyłał agentowi wiadomość e-mail z niejednoznaczną prośbą, agent interpretował ją najlepiej, jak potrafił, a wynik czasami trafiał na produkcję bez wyraźnie wskazanej osoby odpowiedzialnej za weryfikację po stronie człowieka.
Rozwiązanie było proste, gdy tylko zidentyfikowali problem. Każde działanie agenta przekraczające określony próg wymaga teraz zatwierdzenia przez wskazaną osobę, ale lekcja pozostała aktualna. Przejrzystość co do tego, czym jest agent, nie prowadzi automatycznie do odpowiedzialności za jego działania. To odrębne problemy i wymagają odrębnych rozwiązań.
Nie ma tu za grosz zaufania
Raport Asany „Globalny stan AI w pracy 2025”, w ramach którego przebadano ponad 2000 pracowników wiedzy w Stanach Zjednoczonych i Wielkiej Brytanii, wykazał, że 62% z nich uważa agentów AI za niewiarygodnych.
Jeszcze bardziej wymowne jest to, co kryje się za tą liczbą: 82% pracowników stwierdziło, że odpowiednie szkolenie jest niezbędne do skutecznego korzystania z agentów AI, ale zapewniło je tylko 38% organizacji.
Problem nie polega tu tyle na tym, że pracownicy odrzucają agentów AI, ile na tym, że muszą radzić sobie z niedopasowaniem między tym, co im przekazano, a tym, czego ich nauczono, i czują się coraz mniej potrzebni w miarę przyspieszania wdrażania.
Gdy pracownicy dowiadują się od współpracownika, w wyniku zmiany procesu lub na podstawie niewytłumaczalnego dla nich rezultatu, że systemy AI działają w ich przepływach pracy, ich reakcją zazwyczaj nie jest ciekawość. To szczególny rodzaj nieufności wynikający z poczucia, że są zarządzani, a nie włączani w proces. Ta nieufność nie ogranicza się tylko do kwestii AI.
Część problemu ma charakter definicyjny. „Agentowa AI” nie trafiła jeszcze do większości podręczników pracowniczych ani programów szkoleń dla menedżerów, mimo że same narzędzia już w nich funkcjonują. Wiele organizacji wdrożyło agentów pod nazwami produktów dostawców — asystenci przepływów pracy, integracje z CRM, platformy do planowania — które nie ujawniają kryjącej się za nimi autonomii.
Pracownik postępujący zgodnie z rekomendacją dotyczącą przekierowania sprawy może nie mieć pojęcia, że przekierowanie zostało dokonane przez agenta AI, a nie menedżera czy statyczną regułę.
Badanie miejsca pracy WalkMe z 2025 roku wykazało, że 78% pracowników korzysta z narzędzi AI, których nie zapewnia im pracodawca, a niemal połowa unika ujawniania swojego korzystania z AI w pracy, aby uniknąć oceniania. Ukryte wdrażanie i instytucjonalny brak przejrzystości wzajemnie się napędzają.
Naprawienie tego problemu nie jest jednorazowym ćwiczeniem komunikacyjnym. Skuteczne rozwiązanie polega na wbudowaniu ujawniania informacji w proces wdrażania: wyjaśnieniu, co system robi, a czego nie robi, zanim zostanie uruchomiony w przepływie pracy zespołu, zapewnieniu stałej widoczności miejsc, w których działają agenci, oraz udostępnieniu pracownikom jasnego kanału do zgłaszania sytuacji, gdy coś wygląda nieprawidłowo.
Ten ostatni element ma większe znaczenie, niż przyznaje większość planów wdrażania AI.
Pracownicy nie są jedynie odbiorcami informacji o działaniu systemu. Są główną warstwą wykrywania błędów w każdym systemie agentowym działającym w ich obszarze. Gdy wiedzą, co działa, i rozumieją, co zrobić, gdy system zawiedzie, zarządzanie funkcjonuje zgodnie z założeniami. Gdy tego nie wiedzą, te ramy pozostają czysto teoretyczne.
