Dlaczego tradycyjne ramy zarządzania ryzykiem AI zawodzą

David Rice: Dyrektor prawny w firmie z listy Fortune 500 ujął to tak: jej firma nie płonęła, ale miała wrażenie, że każdy trzyma miotacz ognia. Właśnie w tym miejscu znajduje się obecnie większość organizacji — są świadome ryzyka, ale nie wiedzą, gdzie skierować wąż, a zagrożenie nie nadchodzi z zewnątrz. To wewnętrzny pęd, którego nikt nie wie, jak spowolnić.

W dzisiejszym programie rozmawiam z Reidem Blackmanem, autorem książki „Etyczne koszmary”, o tym, dlaczego tradycyjne ramy zarządzania nie są przygotowane na to, co dzieje się obecnie. Wasi pracownicy już używają AI w sposób, którego nie przewidzieliście. Nie da się przewidzieć, jak będą korzystać z agentów AI, a jedyną dźwignią, którą większość liderów wie, jak pociągnąć, jest ograniczenie dostępu — co tak naprawdę nie jest rozwiązaniem.

Reid zwraca uwagę na coś, co przebija się przez cały szum wokół tego tematu. Szybkie działanie i poważne traktowanie etyki AI nie wykluczają się wzajemnie. Firmy, które traktują to jako wybór jednej z dwóch możliwości, tworzą dokładnie te katastrofalne kryzysy zaufania, których próbują uniknąć. Nie trzeba też budować kompleksowego programu etyki AI z dnia na dzień.

Można zacząć na poziomie projektu — od dwóch lub trzech zespołów, dziesięciotygodniowego programu pilotażowego, a nawet jednej szczerej rozmowy o tym, skąd mogą nadejść koszmary. Jakie jest więc pierwsze pytanie, które warto zadać w organizacji? Może takie: czy zatrzymaliśmy się, aby określić, jakie etyczne, reputacyjne i prawne koszmary mogą wyniknąć ze sposobu, w jaki wdrażamy AI?

Większość organizacji, jeśli odpowie szczerze, powie „nie” — i właśnie od tego należy zacząć. Dzisiaj omówimy więc, dlaczego tradycyjne zarządzanie ryzykiem nie jest przygotowane na generatywną AI ani agentów. Co sprawia, że agentowa AI stanowi zasadniczo inny rodzaj wyzwania związanego z zarządzaniem, dlaczego szybkość i etyka nie są kompromisem oraz ile naprawdę kosztuje zasada „działaj szybko i psuj rzeczy”. Na koniec porozmawiamy o tym, jak rozpocząć wyzwanie etycznych koszmarów na poziomie projektu.

Nazywam się David Rice, a to jest „People Managing People”. Jeśli w waszej organizacji nie zatrzymano się jeszcze, by zapytać, co może pójść źle i kto może ucierpieć, ta rozmowa pokaże wam, dlaczego nie można dłużej odkładać tego pytania. Zaczynajmy.

No dobrze, Reid. Witaj w programie. Miło cię gościć.

Reid Blackman: Dzięki za zaproszenie.

David Rice: Mam tutaj twoją książkę. Podoba mi się. Myślę, że to dobra lektura dla wszystkich, którzy zastanawiają się nad etycznymi wyzwaniami związanymi z AI.

Reid Blackman: To nie jest moja ulubiona książka, ale cieszę się, że ci się podoba.

David Rice: Opisujesz w tekście dyrektorkę prawną z firmy z listy Fortune 500, która powiedziała, że jej firma nie płonęła, ale miała wrażenie, jakby każdy trzymał miotacz ognia. Bardzo podoba mi się ten obraz.

Reid Blackman: Tak, tak, to cytat. Dosłowny cytat.

David Rice: To niezwykły obraz, prawda? Oddaje dokładnie to, jak czuje się obecnie wielu liderów. Są świadomi ryzyka, ale nie bardzo wiedzą, gdzie skierować wąż w całej tej sprawie z AI. Jestem więc ciekaw, twoim zdaniem, z czego strukturalnie wynika to, że większość organizacji znalazła się w takim położeniu?

I dlaczego tradycyjne zarządzanie ryzykiem nie zamyka tej luki?

Reid Blackman: To duże pytanie. Powodów jest wiele. Jednym z głównych jest jednak to, że organizacje nie wiedzą, do jakich działań mogą posunąć się ich pracownicy. Problem z rozwiązaniami takimi jak generatywna AI, a następnie agenci AI, polega na tym, że mogą być wykorzystywane w bardzo wielu kontekstach, przez bardzo różne osoby i do bardzo różnych celów — a tego nie da się przewidzieć.

Po prostu nie można przewidzieć wszystkich sposobów wykorzystania tego narzędzia. Wiadomo też, że rozwiązania te mogą angażować się w określone rodzaje naruszeń prywatności, mogą być stronnicze lub dyskryminujące na różne sposoby, mogą halucynować albo po prostu wymyślać informacje. W wiadomościach pojawiały się kancelarie prawne i firmy z grupy Wielkiej Czwórki, które przekazywały klientom materiały zawierające treści wygenerowane przez AI.

Kiedy połączysz fakt, że AI może pójść źle na wiele sposobów, z faktem, że nie możesz przewidzieć, jak wszyscy pracownicy będą z niej korzystać, nic dziwnego, że pojawia się niepokój — wszyscy trzymają teraz miotacze ognia. Jeśli chodzi o odpowiedź na pytanie, dlaczego standardowe podejście jeszcze nie działa, zatrzymam się na chwilę.

David Rice: Myślę, że w tym obrazie uderza mnie to, iż umieszcza on zagrożenie w rękach ludzi, którzy mają sterować sytuacją. To nie jest zewnętrzne zagrożenie. To wewnętrzny pęd, którego nikt obecnie nie wie, jak spowolnić. Wydaje mi się, że to po prostu problem przywództwa i kultury, o którym cały czas rozmawiamy.

Jest to w takim samym stopniu problem zarządzania.

Reid Blackman: Jedynym znanym im sposobem spowolnienia sytuacji jest ograniczenie dostępu, nieużywanie tych rozwiązań i całkowite wycofanie narzędzi. Mogą je zakazać.

David Rice: Co tak naprawdę nie jest rozwiązaniem.

Reid Blackman: Nie. W najlepszym razie jest to rozwiązanie tymczasowe. A w przypadku agentowej AI sytuacja staje się jeszcze trudniejsza. Kiedy mówisz pracownikom: „Hej, używajcie tych najnowszych systemów agentowych, używajcie Claude Code”, albo „Zbudujcie własnego agenta, własnego asystenta, własny pulpit”, sprawy naprawdę wymykają się spod kontroli. Nikt nie wie, co mogą zbudować, do czego będą tego używać i jak włączą to do swoich przepływów pracy.

Czy zastosują właściwe mechanizmy kontrolne? Czy będą znać ryzyko? Jak będą korzystać ze swojego profesjonalnego osądu w tak szarej i niejednoznacznej sytuacji?

David Rice: To bardzo trudne, prawda? Agentowa AI jest może trochę inna ze względu na sposób, w jaki trzeba ją zbudować. Kiedy jednak myślimy o dużych modelach językowych i generatywnej AI w miejscu pracy, interesujące jest dla mnie również to, że w analogii do miotacza ognia dział HR wchodzi do pokoju, gdy urządzenie jest już zapalone i strzela na wszystkie strony.

Wszyscy już się do tego dostosowują, używają AI i włączają ją do swoich przepływów pracy na sposoby, o których nawet nie wiecie i których nie przewidzieliście. Próba opanowania tego stanu rzeczy jest więc kolejnym wyzwaniem. A teraz pojawia się pomysł: „Zbudujemy coś niestandardowego — co dokładnie?”

To naprawdę interesujący czas. Wracam myślami do tego, że wiele z tych działań jest wyborem. Wdrażamy AI na różne sposoby, ale kto w zarządzie ma uprawnienia, żeby nacisnąć hamulec? Kto może powiedzieć: presja na przyspieszenie nie pochodzi od nas?

Obecnie pochodzi zewsząd. Wygląda na to, że naciskają zarządy, inwestorzy, kadra kierownicza i konkurenci. Kto przejmie odpowiedzialność za moment, w którym trzeba powiedzieć: „Chwileczkę. Musimy zwolnić. Musimy zadać kilka pytań etycznych”?

Reid Blackman: Tak, tak.

David Rice: Może się to wydawać ograniczające karierę, ale chcemy działać odpowiedzialnie.

Reid Blackman: Pozwól, że szybko zdefiniuję agentów AI, bo myślę, że pomoże to słuchaczom — właśnie w tym kierunku zmierzamy.

Agent AI zazwyczaj ma w centrum duży model językowy, podobny do chatbota, z którym wchodzisz w interakcję. Aby można było mówić o agencie, muszą być spełnione dwa warunki. Po pierwsze, musi być połączony z innymi narzędziami. Łączysz więc model językowy z internetem, bazami danych przedsiębiorstwa albo oprogramowaniem firmowym, takim jak system CRM.

Może być również połączony z innymi systemami AI. Pierwszy warunek oznacza więc, że model językowy ma dostęp do różnych baz danych, programów, innych systemów AI i podobnych zasobów. Drugi warunek polega na wykazywaniu pewnego stopnia autonomii. Nadajesz mu cel, który ma osiągnąć. Zamiast mówić: „Najpierw przejdź do tej bazy danych i pobierz informacje, potem przetwórz je przez drugi system AI, wykonaj wyszukiwanie w internecie, a następnie…”, możesz powiedzieć: „Wyślij e-mail do moich pięciu najważniejszych klientów i napisz im to i to, na podstawie tych i tych informacji”.

Agent sam „ustala”, z jakich narzędzi skorzystać, jakie wyszukiwania przeprowadzić, do jakich baz danych uzyskać dostęp i z jakimi innymi systemami się połączyć. Ponieważ samodzielnie ustala sposób realizacji celów określonych przez użytkownika, jest autonomiczny w odniesieniu do środków prowadzących do tych celów. Jeśli model językowy spełnia oba warunki — jest połączony z narzędziami i może samodzielnie ustalić sposób realizacji wyznaczonych celów — masz do czynienia z agentem AI.

Zaczynasz wtedy rozumieć całą złożoność sytuacji, ponieważ wygląd agenta zależy od konkretnego kontekstu. Kto go używa? Z jakimi narzędziami został połączony? Do jakich danych i programów ma dostęp? W jakiej kolejności korzysta z tych narzędzi? Jakie decyzje może podejmować? I tak dalej.

Pojawia się więc ogromna złożoność. Nieprzewidywalne jest nie tylko to, jak ludzie będą korzystać z samych modeli językowych i generatywnej AI, lecz jeszcze trudniej przewidzieć, jak będą korzystać z agentów AI. Teraz, kiedy to powiedziałem, zapomniałem, jakie było twoje pytanie.

David Rice: Myślę, że druga część dotyczyła tego, dlaczego tradycyjne zarządzanie ryzykiem nie zamyka tej luki. Wydaje mi się, że wskazujesz na tę złożoność.

Reid Blackman: Tak.

David Rice: W niektórych przypadkach nie tworzymy nawet jasnych opisów stanowisk dla agentów AI, a dryf jest realnym problemem — zaczynamy obserwować, że robią rzeczy, których nigdy nie zamierzaliśmy.

Złożoność i kompetencje technologiczne będą więc prawdopodobnie nadal odgrywać dużą rolę.

Reid Blackman: To wszystko ma znaczenie. Kiedy myślę o tym, jak wygląda tradycyjne zarządzanie AI, mówię to jako osoba, która przez osiem lat doradzała dużym organizacjom w zakresie odpowiedzialnej AI, zarządzania AI i etyki AI. To podejście ma kilka problemów. Nie dotyczy to tylko mnie, ale również moich współpracowników i konkurentów. Moja pierwsza książka przedstawiała i broniła standardowego podejścia do zarządzania AI.

Kilka elementów przestało jednak działać. Uważam, że to podejście jest zepsute. Po pierwsze, jest bardzo odgórne i oparte na politykach. Jeśli pracujesz w dużej organizacji, wiesz, ile czasu zajmuje przyjęcie polityki. Ostateczne zatwierdzenie polityki obowiązującej w całym przedsiębiorstwie przez radę dyrektorów zajmuje co najmniej rok.

W niektórych miejscach są to dwa lata. To trwa bardzo długo. Najszybciej, jak kiedykolwiek widziałem, udało się to zrobić w dziewięć miesięcy, a odpowiadali za to bardzo kompetentni i sprawnie działający decydenci. Mimo wszystko zajęło to dziewięć miesięcy. W tym czasie technologia posuwa się naprzód skokowo.

Ta firma z miotaczem ognia, o której mówisz, to przedsiębiorstwo dóbr konsumpcyjnych z listy Fortune 500. Dyrektorka mówiła o generatywnej AI w porównaniu z wąską AI. Przepisali swoją politykę i tak dalej. Była bardzo solidna — prawdopodobnie najbardziej kompleksowa polityka, jaką kiedykolwiek przyjęliśmy u któregoś z naszych klientów. Bardzo mi się podobała. Pomyślałem: „To niesamowite”.

Następnie zaczęliśmy ją wdrażać, bo oczywiście po opublikowaniu polityki nikt się nią nie przejmuje. Nikt nie budzi się rano i nie wyskakuje z łóżka z entuzjazmem, by przeczytać nową politykę. Trzeba więc przeprowadzić kampanię informacyjną. Być może w firmie są trzy osoby, które się tym interesują, ale w większości przypadków trzeba budować świadomość polityki i jej znaczenia.

Trzeba przełożyć ją na potrzeby działu, stanowiska i przepływy pracy. To proces trwający wiele miesięcy, a właściwie wiele lat. Kiedy realizowaliśmy go u tego klienta, pojawiła się agentowa AI. Nagle wdrażaliśmy nieaktualną politykę i musieliśmy ponownie uzyskać zgodę kadry kierowniczej oraz rady dyrektorów. Widać więc, że jest to niekończący się bałagan.

A to tylko AI. Możemy później porozmawiać o komputerach kwantowych i łańcuchu bloków — krajobraz technologiczny bardzo szybko staje się coraz bardziej złożony. Odgórne podejście oparte na politykach jest niezwykle powolne.

Jeśli chodzi o złożoność agentów AI, dokument wynikający z polityki będzie zawierał szereg procedur zgodności. Załóżmy, że mamy ich dwadzieścia. W przypadku agentów AI, ze względu na ich złożoność i zależność od kontekstu, może się okazać, że dziesięć z tych procedur rzeczywiście trzeba zastosować. Kolejne dziesięć będzie całkowicie nieistotne dla konkretnego kontekstu agentowego. Pojawi się też dziesięć innych procedur, których w ogóle nie ma na liście, a które będą dla ciebie bardzo ważne ze względu na to, co budujesz i jak tego używasz.

Założenie, że od początku znamy wszystkie mechanizmy kontrolne i wszystkie procedury, których ludzie muszą przestrzegać, aby zapewnić prawidłowe działanie, jest więc błędne. Ten model jest po prostu zepsuty w obliczu złożoności agentowej AI.

David Rice: Właśnie powiedziałeś coś interesującego. Załóżmy, że znamy wszystkie ryzyka, złożoności i role. Wiemy, że tak nie jest.

Reid Blackman: W stu procentach.

David Rice: Widziałem dane dotyczące incydentów AI z repozytorium ryzyka AI MIT. Wynika z nich, że liczba potwierdzonych awarii niemal potroiła się w ciągu czterech lat, między 2021 a 2025 rokiem. A to tylko przypadki, które zostały zgłoszone. Większość rad traktuje etykę AI jak pole wyboru na liście zgodności. Wiele osób uważa ją za problem informatyczny. W którym momencie takie podejście staje się zasadniczo niewypełnieniem obowiązku powierniczego? Jak wygląda odpowiedzialność, gdy system AI powoduje rzeczywistą szkodę?

Reid Blackman: Moja odpowiedź na to pytanie zmieniała się na przestrzeni lat. Kiedyś osoby, które uważam za przesadnie nastawione na sprzedaż, mówiły: „Etyka AI i zarządzanie AI nie spowalniają cię. Dzięki nim działasz szybciej — tak jak hamulce w samochodzie pozwalają jechać szybciej”. Zawsze uważałem, że to bzdura. Chciałbym, żeby to była prawda, bo mógłbym więcej sprzedać, ale to po prostu nieprawda.

Myślę jednak, że w przypadku agentowej AI sytuacja się zmienia. Jest to oczywiste, ponieważ agenci AI mogą bardzo łatwo wymknąć się spod kontroli. Kiedy mówisz: „Stworzymy systemy AI, które będą podejmować decyzje na skalę i z szybkością, których ludzie nigdy nie osiągną, korzystając z dziesiątek programów”, łatwo pomyśleć: „To może bardzo szybko pójść naprawdę źle”.

Nie trzeba być technologiem, żeby uznać to za szalone. Autonomia, cała moc przekazana agentowi, dostęp do danych i narzędzi, a potencjalnie także do klientów — wszystko to wydaje się niepokojące. Zamiast o hamulcach myślę więc teraz bardziej o kierownicy.

Jeśli nie wiesz, jak właściwie sterować agentami, jest oczywiste, że sytuacja pójdzie w złym kierunku. Agenci AI sprawili, że stało się jasne, iż coraz więcej starszych liderów, a zwłaszcza osób z kadry kierowniczej spoza obszaru technologii, musi się tym zająć.

David Rice: To interesujące. Często myślę o tym, że nie jest to wyłącznie problem prawny. Z perspektywy HR jest to również problem kultury i zaufania, ale także problem ciągłości działania. Czy dyrektor ds. personalnych powinien podnieść ten temat, zanim trafi on do działu prawnego? Narzędzia takie jak Workday i Eightfold są obecnie przedmiotem pozwów. Nie są to niszowi dostawcy, tylko rozwiązania głównego nurtu technologii HR. Czy samo przyjęcie takich narzędzi wiąże się z odpowiedzialnością, której świadomie na siebie nie przyjęliście? To sygnał ostrzegawczy dotyczący odpowiedzialności dostawców i sposobu prowadzenia zakupów.

Zastanawiam się też nad radami. Istnieje wyraźna luka między tym, co rady mówią o zarządzaniu AI, a tym, co rzeczywiście wiedzą.

Reid Blackman: Nie mają pojęcia.

David Rice: Właśnie o to chciałem zapytać: czy mają obecnie wystarczającą wiedzę, aby zadawać właściwe pytania?

Reid Blackman: Nie. Za każdym razem, gdy rozmawiam z radą, jestem szczerze zdumiony, jak niewiele jej członkowie wiedzą. To nadal pierwszy dzień. Członkowie rad firm z listy Fortune 500 zazwyczaj nie dorastali z internetem ani komputerem osobistym. Są zwykle starsi i wiedzą bardzo niewiele o AI.

Technologia ich onieśmiela. Wielu nietechnologów czuje się zastraszonych przez technologię. Uważają, że to sprawa działu IT albo naukowców zajmujących się danymi. Nie są technologami, a temat jest skomplikowany. Myślą: „Nie jestem matematykiem, nie umiem programować. To zadanie dla nich”.

Ten lęk przed niemożnością zrozumienia tematu sprawia, że trzymają AI na dystans, zwłaszcza gdy trzeba myśleć o unikaniu koszmarów i naprawdę złych scenariuszy. Mówią: „To nie należy do mojego zakresu”. Uważam, że jest to katastrofalne, szczególnie teraz.

Jedną z rzeczy, które wszyscy chwalą w AI, zwłaszcza generatywnej i agentowej, jest jej demokratyzacja. AI trafia w ręce każdego. To wspaniałe. Mimo że koncentruję się na wyzwaniach etycznych i koszmarach związanych z AI, nie jestem sceptykiem. Uważam, że AI jest świetna i korzystam z niej codziennie.

Musimy jednak sprawić, by ludzie czuli się swobodnie, jeśli chcemy ją demokratyzować i czerpać z niej pełne korzyści. Musimy umożliwić wszystkim rozmowę o AI i myślenie o niej w sposób, który nie onieśmiela. Trzeba obniżyć próg wejścia do wartościowych rozmów o ryzyku i sposobach jego unikania.

David Rice: Jesteśmy dopiero od sześciu miesięcy do roku w okresie, w którym pracownicy HR naprawdę zaczęli korzystać z AI i uzyskiwać z niej coś wartościowego. Jeszcze rok temu wiele osób mówiło: „Nie mam odpowiednich kwalifikacji, żeby z niej korzystać”. Technologia była dla nich początkowo onieśmielająca. Wyobrażam sobie, że podobnie jest z radami, zwłaszcza że ich członkowie mogli dojść do swoich stanowisk zupełnie inną drogą niż poprzez naturalne przyswajanie technologii.

Reid Blackman: Tak. Opowiem krótką historię. Prowadziłem prezentację o AI, ryzyku, uprzedzeniach i podobnych kwestiach dla wszystkich pracowników firmy biotechnologicznej z listy Fortune 500. Podałem przykład wykorzystania AI w HR, prawdopodobnie mówiąc o wąskiej AI używanej do oceniania życiorysów.

Na spotkaniu była osoba zajmująca się zgodnością, która gorączkowo pisała na czacie: „Dla jasności — zgodnie z polityką nikt nie może w żaden sposób używać AI do rekrutacji”. Widziałem, jak ludzie bardzo się oburzali na samo hasło „nie używajcie AI w HR”.

Drugim problemem standardowego, odgórnego podejścia opartego na polityce jest to, że zwykle wymaga ono, aby inicjatywę przejęła osoba z kadry kierowniczej odpowiedzialna za technologię, bo tylko ona czuje się wystarczająco pewnie. Najczęściej będzie to dyrektor ds. informacji, bezpieczeństwa informacji albo danych.

Pracownicy HR zazwyczaj nie są pierwszym wyborem, choć często są jednym z pierwszych działów, w których wdraża się politykę, ponieważ dysponują dużą ilością wrażliwych danych i podejmują decyzje o dużym znaczeniu.

Potrzebujemy teraz rozwiązania, które można szybko wdrożyć i skalować oraz które może rozpocząć się w dowolnym miejscu organizacji. Dyrektor ds. produktu powinien móc powiedzieć: „Musimy ustalić, jak wygląda zarządzanie AI w obszarze produktu”. Dyrektor ds. personalnych powinien móc powiedzieć: „Musimy ustalić, jak wygląda zarządzanie AI w HR. Nie będziemy czekać na politykę obejmującą całe przedsiębiorstwo, bo potrwa to zbyt długo. Sami rozwiążemy problem unikania tych koszmarów w HR”.

Potrzebujemy więc podejścia, które można szybko wdrożyć i skalować, które może pojawić się w wielu miejscach organizacji i nie czeka na działania całej kadry kierowniczej ani rady.

Moje mniej neutralne stanowisko jest takie: szefowie działów powinni wspólnie ustalać, jakie potencjalne koszmary etyczne, reputacyjne i prawne mogą wystąpić w ich obszarze. Powinni określić, jakich zasobów potrzebuje HR, aby ich uniknąć, oraz jak przeszkolić pracowników HR w skutecznym korzystaniu z tych zasobów.

Potrzebujemy rozwiązania, które można szybko wdrożyć. Nie może być tak, że czekamy na zaangażowanie działu prawnego.

David Rice: Zgadzam się. Konwencjonalne ramy odpowiedzialnej AI zostały stworzone z myślą o wąskich i przewidywalnych systemach. W książce twierdzisz, że są już przestarzałe, a większość organizacji jeszcze tego nie zrozumiała. Jestem jednak ciekaw psychologii organizacyjnej stojącej za tym opóźnieniem. Czy chodzi o zaprzeczanie, presję na szybkość, czy o to, że osoby ustalające strategię nie rozumieją, co wdrażają?

Reid Blackman: Istnieje kilka sposobów odpowiedzi. Współpracowaliśmy z wieloma klientami — z niektórymi bardzo skutecznie, z innymi mniej. Różne organizacje napotykają różne przeszkody w różnym czasie.

Pracowaliśmy z osobą odpowiedzialną za innowacje AI w banku. Budowaliśmy program odpowiedzialnej AI, ale dział zarządzania ryzykiem modeli dowiedział się o tym i powiedział: „Co robicie? To nasza domena”. Pojawiła się walka polityczna.

Innym razem przyjęliśmy politykę i próbowaliśmy wdrożyć ją w konkretnym dziale. Szef działu powiedział: „Co chcecie zrobić? Nie zamierzam tego robić”. Nawet po przyjęciu polityki można więc natrafić na kolejną przeszkodę podczas wdrożenia.

Jedna z moich koleżanek powiedziała: „Ostatecznie ich etyka nie obchodzi”. Pomyślałem jednak, że to nie jest problem. W większości mamy do czynienia z dobrymi ludźmi, którzy chcą postępować właściwie. Chcą dobrze działać dla swojej marki i organizacji. Duża część tego tematu dotyczy zarządzania ryzykiem reputacyjnym.

Uważam, że napotykamy przeszkody, ponieważ polegamy na dyrektorach ds. danych, informacji czy bezpieczeństwa informacji, oczekując od nich przeprowadzenia zmiany organizacyjnej. To ogromne zadanie, a oni nie wiedzą, jak je wykonać, ponieważ są technologami.

Znaleźli się w kadrze kierowniczej po stronie technologicznej, bo dobrze zarządzali zespołami technicznymi. Nigdy nie uczono ich, jak docierać do dyrektora ds. personalnych, operacyjnych, marketingowych i innych osób. Nie nauczono ich prowadzenia tak dużej zmiany organizacyjnej. To właśnie dlatego występuje opóźnienie.

Początkowo pomyślałem, że musimy pomagać klientom w przeprowadzaniu zmian organizacyjnych i szkolić ich pracowników w tym zakresie. Później uznałem jednak, że problem polega na tym, iż od początku stawiamy przed nimi zbyt duże zadanie polityczne. Musimy znaleźć rozwiązanie, które nie wymaga ogromnego poziomu uzgodnień między starszymi menedżerami, aby osiągnąć postęp.

Musimy zacząć od mniejszej skali, wejść w temat kawałkami i rozwijać działania, zamiast wymagać odgórnego uzgodnienia na poziomie dyrektora generalnego. Standardowe podejście do AI jest bardzo powolne, między innymi dlatego, że powoli buduje wolę polityczną i pęd potrzebny do przyjęcia polityki, wdrożenia jej i zintegrowania z przepływami pracy.

David Rice: Przy każdej dużej zmianie technologicznej technologia wyprzedza reakcję instytucji. Istniejące ramy wydają się lepsze niż nic, więc nadal ich używamy, nawet gdy ich założenia przestają obowiązywać. Dochodzi też wymiar ludzki. Liderzy, którzy stworzyli te ramy, zbudowali je w dobrej wierze i zainwestowali w nie swoją wiarygodność. Przyznanie, że trzeba je odrzucić, może być dla nich trudne.

Dla każdego dyrektora ds. personalnych i operacyjnych słuchającego tej rozmowy ważne jest to, że jeśli system zarządzania został zaprojektowany, zanim systemy agentowe pojawiły się na horyzoncie, szybko stanie się nieaktualny. Nie będzie już zapewniał ochrony. Nie jest to krytyka wcześniejszej pracy — to po prostu rzeczywistość tempa zmian.

Reid Blackman: Jeśli chcesz, możesz wykorzystać rozdziały cztery i siedem z mojej pierwszej książki jako podpałkę. To podejście było wtedy dobre. Nie wiem, czy całkowicie się pomyliliśmy, ale pomyliliśmy się na tyle, że nie zabezpieczyliśmy go odpowiednio na przyszłość. Nie wiedziałem, że pojawi się ChatGPT. Nie wiedziałem, że pojawią się agenci AI, dopóki nie zobaczyliśmy ich pierwszych oznak w lutym 2024 roku.

Stare podejście było rozsądne w odniesieniu do wąskiej AI, dlatego napisałem tamtą książkę. Nie zostało jednak stworzone dla świata agentów. Należy o nim zapomnieć.

David Rice: W 2022 roku, gdyby ktoś powiedział mi o AI, odpowiedziałbym: „Musisz być naukowcem zajmującym się danymi, żeby zrozumieć, co się dzieje”. Teraz dzieje się milion rzeczy. Każdy korzysta z AI i będzie ona coraz bardziej rozpowszechniona. Sytuacja stanie się coraz bardziej skomplikowana i przyciągnie coraz więcej osób, które będą próbowały robić rzeczy, których nie potrafimy przewidzieć.

Reid Blackman: To prawda, ale pokazuje też ważną rzecz: musimy poprawić jasność komunikacji. Wszyscy próbują zrozumieć AI, używają jej albo rozważają użycie, eksperymentują z nią i interesują się nią. Musimy umieć ze sobą o tym rozmawiać.

Naukowcy zajmujący się danymi nie wiedzą, jak rozmawiać z HR ani dyrektorami operacyjnymi. Z kolei osoby z HR mogą nie wiedzieć, jak rozmawiać z zespołami produktowymi. Przy całej tej złożoności, jeśli sposób, w jaki o niej mówimy, jest niejasny i posługujemy się różnymi językami, sytuacja staje się jeszcze trudniejsza.

Musimy stworzyć jasny język rozmowy o tych zagadnieniach. Potrzebujemy go nie tylko po to, aby zrozumieć krajobraz, ale również po to, aby współpracować. Agenci mogą działać między działami i funkcjami, dlatego działy muszą współpracować przy ich budowaniu, monitorowaniu i kontrolowaniu.

Właśnie dlatego książka nosi tytuł „Etyczne koszmary”. Każdy wie, czym jest koszmar. Nie jest to termin techniczny ani żargon. Można zapytać: „Jakie są tutaj scenariusze koszmarów?”. Pracownicy HR potrafią odpowiedzieć na takie pytanie. Koszmarem byłoby odkrycie, że AI systematycznie odrzuca kobiety powyżej czterdziestego roku życia podczas rekrutacji.

Można jasno określić te koszmary, a następnie powiedzieć naukowcowi zajmującemu się danymi: „Podoba nam się to, co robisz, ale oto jeden z koszmarów, których obawiamy się w związku z dostarczanym przez ciebie rozwiązaniem AI”. Rozmawiamy wtedy o konkretnych rezultatach, których chcemy uniknąć, a nie o skomplikowanych procedurach operacyjnych i zasadach minimalizacji danych.

Zapomnijmy o tym żargonie. Skupmy się na tym, co naprawdę złe, i na tym, jak upewnić się, że nie napotkamy tych problemów.

David Rice: Wspomniałeś o scenariuszach koszmarów. Książka zachęca liderów, by wyobrazili sobie najgorsze prawdopodobne skutki działania ich systemów AI, zanim one nastąpią. Brzmi to oczywiście, ale najwyraźniej nie jest powszechną praktyką. Co dzieje się podczas takich spotkań i czego liderzy się nie spodziewają? Co taki przegląd mówi o tym, jak dobrze organizacja zna własny stos technologiczny AI?

Reid Blackman: Nie zna go. Rozmowy o koszmarach były dla wielu osób przełomowe. Masz rację, to oczywiste. Jak mogliśmy od tego nie zacząć?

Sam nie zacząłem od tego z dwóch powodów. Po pierwsze, byłem profesorem filozofii i specjalizowałem się w etyce. Etycy zwykle mówią o dobru i właściwym postępowaniu. Zajmują się tym, co złe, dozwolone i niedozwolone, ale rozmowa o scenariuszach koszmarów nie jest typowa dla tej dziedziny.

Próbujemy określić, jak wygląda dobro i jak się do niego zbliżyć. Z perspektywy ryzyka podejście jest natomiast zwykle bardzo proceduralne. Nauczyłem się tego, pracując z kolegą, który był dyrektorem ds. ryzyka i zgodności. Zawsze chodziło o procedury: czy zbierasz tylko tyle danych, ile potrzebujesz, i ani trochę więcej?

Mimo że rozpoczęcie od określenia najgorszych scenariuszy wydaje się oczywiste, sposób myślenia etyków i osób zajmujących się ryzykiem nie prowadził naturalnie do takiego podejścia. W inżynierii jest to jednak standard. Jeśli budujesz samolot, szukasz sposobów, w jakie może ulec awarii, a następnie próbujesz naprawić te możliwości.

Kiedy zacząłem myśleć o wyzwaniu etycznych koszmarów, którego pierwszy krok polega na określeniu etycznych koszmarów związanych z AI w danej organizacji, uznałem to za oczywiste. Potwierdzenie znalazłem w innych praktykach inżynieryjnych.

Dawniej rozmowy na poziomie rady zaczynały się od wartości: sprawiedliwości, przejrzystości, odpowiedzialności i prywatności. Następnie pytano: „Co właściwie oznacza to, że opowiadamy się za sprawiedliwością?”. Wszyscy patrzyli na siebie i nie wiedzieli, co odpowiedzieć.

Jeśli chce się przełożyć wartości na praktykę, trzeba zamienić je na procedury. Sprawiedliwość oznaczałaby na przykład sprawdzanie uprzedzeń na każdym etapie cyklu życia AI i identyfikowanie interesariuszy, którzy mogą być dyskryminowani. Przejrzystość oznaczałaby informowanie użytkowników końcowych, że mają do czynienia z AI.

Rozmowa sprowadzałaby się do pytania, czy zastosujemy te procedury. Na poziomie kadry kierowniczej i rady jest to nudne i zbyt techniczne. Rozumiem to. Problem polega na tym, że nigdy nie robiliśmy z wartości niczego więcej.

Zapytaj dyrektora ds. personalnych, operacyjnych, marketingowych, dyrektora generalnego albo radę, jak wygląda sprawiedliwa AI. Otrzymasz miliard odpowiedzi, które będą ze sobą sprzeczne. To złe miejsce, żeby zaczynać.

Kiedy pytam liderów o scenariusze koszmarów, znacznie lepiej rozumieją, o co chodzi. Wiedzą, co byłoby prawdziwym koszmarem, ponieważ inwestorzy byliby wściekli i ucierpiałaby reputacja firmy. Łatwiej jest uzyskać zgodę wokół tego, co naprawdę złe, niż wokół idealnego obrazu sytuacji. Nie eliminuje to sporów, ale znacznie zmniejsza tarcia.

David Rice: Jest to również motywujące. Nadaje sprawie właściwą pilność.

Reid Blackman: Nikt nie mówi: „Musimy szybko wdrożyć te procedury. Jestem bardzo podekscytowany tym, jak realizują one wartość sprawiedliwości”. Nikt się tym nie przejmuje. Kiedy jednak zaczynamy myśleć o scenariuszach koszmarów, ich prawdopodobieństwie i sposobach, w jakie możemy się z nimi zetknąć, pojawia się właściwy rodzaj niepokoju. Koszmary nie dają nam spać i właśnie dlatego chcemy coś z nimi zrobić.

David Rice: Rozmowa o koszmarach daje uporządkowany sposób na osiągnięcie intelektualnej uczciwości. Organizacje nie zawsze są gotowe na taki poziom szczerości, gdy za konkretnym projektem stoją już pęd i inwestycje. Ktoś musi powiedzieć: „To, co robimy, jest interesujące, ale co, jeśli doprowadzi do takiego skutku?”.

To powoduje dyskomfort, ale ktoś w pokoju musi to powiedzieć. Gotowość do wyobrażania sobie najgorszych scenariuszy wymaga kultury, w której można wypowiedzieć niewygodną uwagę bez uznania za malkontenta czy czarnowidza. Twój proces jest więc również narzędziem diagnozowania kultury organizacyjnej.

Reid Blackman: To dobre ujęcie. Jest to również sposób budowania kultury etycznej. Wymaga bezpieczeństwa psychologicznego tylko w minimalnym sensie, ponieważ można powiedzieć: „Tak właśnie tutaj pracujemy”.

Chcę podkreślić część rozwiązania. Wyzwanie etycznych koszmarów składa się z trzech pytań. Po pierwsze: jakie są etyczne koszmary związane z AI w naszej organizacji? Po drugie: jakie zasoby mamy, aby ich uniknąć? Po trzecie: jak przeszkolimy ludzi, aby skutecznie korzystali z tych zasobów?

Te trzy pytania są bardzo uniwersalne i można je zadawać na każdym poziomie organizacji. Można zastosować je do konkretnego rozwiązania AI, działu, pionu albo całego przedsiębiorstwa.

Uważam, że wszyscy powinni zostać przeszkoleni w zakresie tych trzech pytań, podstaw działania AI oraz scenariuszy koszmarów, takich jak uprzedzenia, halucynacje, automatyzacyjne uprzedzenie i kaskadowe awarie w systemach agentowych.

W przypadku zakupu rozwiązania od dostawcy albo opracowywania go wewnętrznie potrzebne są zespoły ENC — zespoły Wyzwania Etycznych Koszmarów. Ich zadaniem jest odpowiedzieć na te trzy pytania. Powinny być międzyfunkcyjne i obejmować osoby z HR, nauki o danych, prawa, ryzyka i zgodności. W idealnej sytuacji w zespole powinien znaleźć się również przedstawiciel dostawcy.

Samo zebranie ekspertów w jednym pokoju nie wystarczy. Potrzebna jest metoda siedmiu kroków i arkusz, który zespół wypełnia. Określa się koszmary, ocenia ich prawdopodobieństwo i dotkliwość skutków, a następnie ustala ogólny wynik ryzyka i priorytety unikania koszmarów.

Zespoły ENC można tworzyć w razie potrzeby. Jeśli AI jest szeroko stosowana w HR, ale nie w marketingu, można utworzyć zespół ENC dla HR, a nie dla marketingu. Jeśli jedno rozwiązanie AI jest wysokiego ryzyka, a inne ma niewielkie znaczenie, tworzy się zespół tylko dla tego pierwszego.

Tworząc zespoły ENC tam, gdzie są potrzebne, budujemy zdolność organizacyjną do unikania koszmarów. Im łatwiej ludziom posługiwać się wspólnym językiem i im łatwiej tworzyć zespoły ENC, tym bardziej organizacja zyskuje zdolność do unikania koszmarów AI na dużą skalę. To przenika do kultury, ponieważ wspólny język i wspólne praktyki kształtują sposób działania organizacji.

David Rice: Z perspektywy operacji personalnych powinno się to wydarzyć przed wdrożeniem, a nie po incydencie. Wielu liderów HR ciągle reaguje, zamiast przewidywać. Jak włączyć przewidywanie do początkowych procesów, jeśli dotychczas nie było to nawykiem?

Reid Blackman: Zespoły ENC na poziomie projektu działają proaktywnie. Ich zadaniem jest określenie potencjalnych koszmarów oraz stworzenie zasobów i szkoleń potrzebnych do ich uniknięcia. Częścią tego działania jest przygotowanie narzędzi do monitorowania AI po wdrożeniu. Nie można jej po prostu uruchomić i zapomnieć. Trzeba ustalić, co oznacza uważne monitorowanie konkretnego rozwiązania.

Na poziomie działu zespół ENC również zadaje trzy pytania: jakich koszmarów musimy uniknąć, jakie mamy zasoby i jakiego szkolenia potrzebujemy? To działanie proaktywne. Liderzy powinni na nowo zdefiniować swoją rolę jako osób pomagających unikać koszmarów.

Zespoły ENC są przede wszystkim zespołami rozwiązującymi problemy, a nie zespołami zajmującymi się proceduralną zgodnością. Potrzebujemy ludzi, którzy potrafią ustalić, gdzie są góry lodowe i jak je ominąć.

To jest umożliwianie działań kaskadowych, a nie kaskadowe przekazywanie reguł. Szefowie działów nie powinni wyłącznie ustanawiać zasad. Powinni pomagać w rozwiązywaniu problemów. Mogą tworzyć wyspecjalizowane szkolenia, katalogi koszmarów, biblioteki strategii i taktyk ich unikania oraz organizować comiesięczne lub kwartalne dyskusje liderów projektów.

David Rice: Agentowa AI zmienia kalkulację ryzyka. Systemy nie tylko odpowiadają, ale inicjują działania, łączą decyzje w łańcuchy i działają w świecie w imieniu organizacji. Dla dyrektora operacyjnego albo dyrektora ds. personalnych oznacza to, że ludzie pracują obok autonomicznych agentów. Co dzieje się, gdy coś pójdzie źle? Gdzie organizacja musi przejąć odpowiedzialność? Kto odpowiada za agentów?

Reid Blackman: Zespoły ENC są pierwszą warstwą. Jeśli jednak cofniemy się i zadamy szersze pytanie o odpowiedzialność, odpowiedź nie zawsze jest oczywista.

Wyobrażam sobie katastrofę helikoptera. Kto jest odpowiedzialny? Trzeba zbadać, czy przyczyną była wada projektu, produkcji, konserwacji, błąd pilota albo kontrolera ruchu lotniczego. Istnieje wiele możliwości, ponieważ mamy do czynienia ze skomplikowaną maszyną, nad którą pracowało wiele zespołów.

Tak samo jest z agentami AI. Wygodnie postrzegamy je jak ludzi — jako spójnych agentów. W rzeczywistości są to mniej lub bardziej inteligentnie połączone zestawy narzędzi. Co poszło źle? Czy narzędzie, z którym agent był połączony, zaczęło działać nieprawidłowo? Kto je stworzył? Być może był to dostawca zewnętrzny. Czy odpowiedzialność ponosi twórca dużego modelu językowego, taki jak Google, Microsoft, OpenAI albo Anthropic?

Modele bazowe są modyfikowane przez wewnętrznych twórców. Firma może dodawać adaptery i dostrajać model. Nie ma bardziej ogólnej odpowiedzi na pytanie o winę w przypadku awarii agentów AI niż w przypadku katastrofy helikoptera.

David Rice: Zmiana agentowa rozmywa ludzki punkt decyzyjny, który zwykle łatwo wskazać. To właśnie tam zazwyczaj lokujemy odpowiedzialność.

Reid Blackman: Można do pewnego stopnia przypisać odpowiedzialność osobie, która zatwierdziła wdrożenie. Istnieje niedbałe albo lekkomyślne zatwierdzanie rozwiązań AI. Duża część odpowiedzialności spadnie na osobę, która powiedziała „wdrażamy” albo „nie wdrażamy”. Zatwierdza ona jednak coś fundamentalnie nieprzewidywalnego. Mogą wystąpić sposoby awarii, których rozsądnie nie można było przewidzieć, więc nie zawsze właściwe byłoby pociągnięcie tej osoby do odpowiedzialności.

David Rice: W wielu organizacjach ludzie nawet nie wiedzą, z czym pracują ani że są oceniani przez AI. Pojawia się więc wymiar przejrzystości i zgody, który wykracza poza samą zgodność. Rozmawiamy o zaufaniu i rozczarowaniu pracowników, a takie działania dolewają oliwy do ognia.

Reid Blackman: Kierownictwo boi się rozmawiać z pracownikami o tych sprawach. Uważa, że jeśli powiemy o ryzyku i złych konsekwencjach, ludzie nie przyjmą AI. Spotkałem się z opinią, że słowo „koszmary” jest zbyt negatywne. Uważam jednak, że to błędne podejście.

Problemy są realne. Nie rozwiążemy ich, chowając głowę w piasek i mówiąc: „Nie martwcie się, wszystko jest wspaniale”. Jeśli chcemy rozwiązać problem, musimy go nazwać.

Poza tym ludzie są niespokojni i przestraszeni przez AI. Nie rozumieją jej, a brak zrozumienia wywołuje lęk. Nie zwiększymy adopcji, mówiąc: „Nie martwcie się, wszystko jest świetnie”. Psychologicznie rozsądniej jest powiedzieć: „Chcemy, abyście częściej korzystali z tych narzędzi. Wiemy, że wiążą się z problemami. Wiemy, że możecie czuć niepokój. Chcemy dać wam sposób odpowiedzialnego korzystania z AI zgodnie z profesjonalnym osądem”.

David Rice: Powinniśmy przestać łagodzić język tylko po to, żeby uczynić trudne sprawy bardziej przystępnymi. W tym przypadku można zapytać: jeśli nie „koszmar”, to co — katastrofa?

Reid Blackman: Katastrofa? Właśnie. Pochodzę z filozofii, gdzie chcemy wyjaśniać problemy wprost, prostym językiem i bez ogródek. AI jest niesamowita, ale nie musimy przez cały czas się uśmiechać. Możemy uznać, że istnieją związane z nią poważne problemy.

David Rice: Media społecznościowe mogą być zabawne, ale można jednocześnie dostrzec, że są dla nas szkodliwe i uczyniły debatę publiczną koszmarem. Musimy uznać rzeczywistość taką, jaka jest.

Reid Blackman: To dziwne, że traktujemy pracowników jak dzieci. Są dorosłymi ludźmi i potrafią sobie poradzić. Korzystali już wcześniej z narzędzi i nowych technologii. Jeśli nie damy im pomocnych wskazówek i kierunku działania, sami to rozpracują — a rezultat może nam się nie spodobać.

David Rice: Twierdzisz, że etyczne koszmary rzadko wynikają ze złych zamiarów. Powodują je często ludzie mający dobre intencje, którzy działają szybko w systemach, których w pełni nie rozumieją albo które nie zostały zaprojektowane do takiego tempa. Jak przekonać dyrektora generalnego, który uważa, że większym ryzykiem jest pozostanie w tyle i chce szybko uzyskać wzrost produktywności?

Reid Blackman: Nie ma tu sprzeczności. Jeśli chcesz działać szybko i konkurować, musisz odpowiednio wyedukować ludzi. Chcesz działać szybko, ale tylko edukować ich po jednej stronie medalu — po stronie szans, bez strony ryzyka? To wydaje mi się szalone.

Agenci AI wykoleją się, jeśli nie zostaną właściwie stworzeni, nadzorowani i używani. Jeśli powiesz wszystkim, żeby ruszyli natychmiast po sygnale startu, potkną się na początku albo w dalszej części drogi. Trzeba nauczyć ich, jak się nie potykać.

David Rice: Jednym z najważniejszych przeformułowań tej rozmowy jest to, że etyczna porażka AI nie dotyczy wyłącznie złych aktorów. Dotyczy też organizacji, którym bardzo zależy, ale które działają szybciej, niż ich osąd może nadążyć.

Reid Blackman: To dobre ujęcie — działanie szybsze niż tempo ludzkiego osądu.

David Rice: Zmienia to również sposób interwencji. Nie chodzi wyłącznie o instalowanie etyki jako zestawu reguł, lecz o budowanie w organizacji zdolności do zwalniania we właściwych momentach. W kulturze obsesyjnie nastawionej na szybkość jest to naprawdę kontrkulturowe.

Reid Blackman: Zasada „działaj szybko i psuj rzeczy” może oznaczać, że jesteś amoralny albo że przychody przewyższą wszelkie grzywny i szkody reputacyjne. Nie każda firma tak działa. Jeśli zależy ci na marce, nie powinieneś działać w ten sposób. To bardzo nierozsądne.

David Rice: Podoba mi się, że podważasz schemat szybkość kontra etyka. To fałszywy wybór.

Reid Blackman: Rozumiem, jak rzeczy mogą pójść źle, wiem, że muszę weryfikować informacje i potrafię oprzeć się odruchowi zaufania komputerowi. To właśnie pozwala mi robić z AI tak wiele. Nie jest prawdą, że albo działasz szybko i psujesz rzeczy, albo nie możesz działać szybko.

David Rice: Rzeczywistym ryzykiem jest wielka, katastrofalna porażka niszcząca zaufanie publiczne i cofająca firmę. Może po prostu działajmy w normalnym tempie i sprawiajmy, żeby rzeczy stawały się lepsze.

Reid Blackman: Nie istnieje jeden rozstrzygający argument, który przekona każdą firmę i każdego sceptyka do poważnego traktowania zarządzania AI. Jednak firmy inne niż ogromne platformy technologiczne mają oczywiste powody, by nie działać według zasady „działaj szybko i psuj rzeczy”. Ich marki mogą tego nie wytrzymać. Etycznie również nie należy niszczyć rzeczy, których niszczyć nie powinno się.

David Rice: Jeśli lider kadry kierowniczej rozpoznaje ryzyko i wie, że obecne ramy prawdopodobnie nie wystarczą, jak powinna wyglądać pierwsza poważna rozmowa w organizacji i kto powinien w niej uczestniczyć?

Reid Blackman: Nie musi to być duża grupa. Wyzwanie etycznych koszmarów można rozpocząć na poziomie działu, pionu albo projektu. Jedno pytanie brzmi: czy zatrzymaliśmy się i określiliśmy, jakie etyczne, reputacyjne i prawne koszmary mogą wiązać się z naszym wdrażaniem AI?

Jeśli odpowiedź brzmi „tak”, świetnie. Założę się jednak, że większość odpowie „nie”. Jeśli to nie skłoni ich do działania, nie wiem, co mogłoby to zrobić.

David Rice: Warto podkreślić praktyczny punkt: można zacząć w różnych miejscach, nawet na poziomie projektu. Nie trzeba z dnia na dzień budować kompleksowego programu etyki AI. Trzeba jednak rozpocząć od co najmniej jednej szczerej rozmowy o tym, w jakim miejscu znajduje się organizacja.

Reid Blackman: Dzięki temu, czego uczymy klientów, możemy dziś zrobić coś, czego nie dało się zrobić przy standardowym podejściu. Możemy przeprowadzić pilotaż Wyzwania Etycznych Koszmarów. Możemy powiedzieć: „Mamy szkolenie. Wybierzmy dwa lub trzy zespoły”. Mogą to być zespoły projektowe albo dwa zespoły projektowe w jednym dziale.

Przeszkolimy te osoby, przeprowadzimy je przez metodę i przez dziesięciotygodniowy pilotaż będziemy pracować nad unikaniem koszmarów. Jeśli rozwiązanie nie zadziała albo okaże się niepotrzebne, kończymy. To niewielki krok: kilka zespołów projektowych i sprawdzenie, co o tym sądzą.

Jeśli działa, można zadać pytanie, czy trzeba zwiększyć skalę. Jeśli nie, nie trzeba tego robić. Skalujesz rozwiązanie wtedy, gdy jest potrzebne. Nie musisz zaczynać od ogromnego, ciężkiego przedsięwzięcia. Możesz i powinieneś zacząć od małej skali.

David Rice: Reid, dziękuję za udział w programie. Świetnie się rozmawiało.

Reid Blackman: Wzajemnie. Dzięki za zaproszenie.

David Rice: Słuchacze, koniecznie poznajcie Reida Blackmana i jego książkę „Etyczne koszmary”. Warto się z nią zapoznać i poświęcić jej uwagę. Zawiera wiele dobrych pytań i tematów, nad którymi wszyscy powinniśmy się zastanawiać.

Jeśli jeszcze tego nie zrobiliście, odwiedźcie peoplemanagingpeople.com/subscribe i zapiszcie się do newslettera. Ten podcast i wszystkie inne tworzone przez nas materiały trafią bezpośrednio do waszej skrzynki odbiorczej.

Do następnego razu wyróbmy w sobie nawyk pytania: „Co może pójść tutaj źle i kto ucierpi?”, zamiast: „Jak szybko możemy to dostarczyć?”. Do usłyszenia.