Co mylimy w kwestii sztucznej inteligencji i produktywności
No więc tak — wasze pulpity wyglądają świetnie. Wasz zespół dostarcza szybciej, więcej podsumowuje, „zyskuje przewagę” dzięki AI… a przez cały ten czas możecie po cichu oddawać w zamian jedyny zasób, którego nie da się odkupić w ramach abonamentu: ludzki osąd.
W tym odcinku dołącza do mnie dr Vivienne Ming — neurobiolożka, przedsiębiorczyni i „realistka AI”, która nie ma za grosz cierpliwości ani do utopijnego hype’u, ani do fanfików o Skynet. Vivienne przedstawia jasny wybór: automatyzacja poznawcza (AI myśli za ciebie) kontra wspomaganie poznawcze (AI sprawia, że myślisz lepiej — często przez to, że czyni pracę trudniejszą). Jeśli wasza strategia AI opiera się głównie na wygodzie, oto wasze delikatne, no, względnie delikatne ostrzeżenie: wygoda nie jest strategią. To środek uspokajający.
Czego się dowiesz
- Dlaczego „AI ułatwia życie” to jedna z najniebezpieczniejszych obietnic we współczesnym biznesie
- Jak dane niskiej jakości mogą wykoleić systemy AI — i dlaczego ludzie mają zdolność filtrowania informacji, której wciąż brakuje modelom LLM
- Różnica między AI, które zastępuje myślenie, a AI, które rozwija myślenie
- Dlaczego najlepsi nauczyciele AI nie podają odpowiedzi (i co to oznacza dla AI w miejscu pracy)
- Jak „hybrydowa inteligencja zbiorowa” może przewyższać samych ludzi lub samo AI — ale tylko przy wystarczającym kapitale ludzkim
- Dlaczego wskaźniki efektywności pomijają rzeczywiste czynniki napędzające produktywność w organizacjach
Najważniejsze wnioski
- Jeśli AI wykonuje „nudne części”, nie zakładaj, że ludziom przypadną „części kreatywne”. Vivienne stawia sprawę jasno: im więcej nudnej pracy wykonuje AI, tym częściej nudna praca się rozrasta (witajcie w nieskończonych pętlach e-mailowych, w których boty wysyłają spam innym botom). „Wzrost efektywności” może zamienić się w kokainę produktywności — świetną na krótką metę, fatalną w dłuższej perspektywie.
- Automatyzacja oznacza, że otrzymujesz wynik. Wspomaganie oznacza, że stajesz się lepszy. Jeśli jesteś lepszy, gdy narzędzie działa, ale gorszy, gdy jest wyłączone, to nie jest postęp — to zależność. Vivienne posługuje się przykładami z medycyny (diagnostyka wspomagana przez AI), aby podkreślić ryzyko: zanik umiejętności jest realny i nie jest „problemem szkoleniowym”. Tak po prostu działają mózgi.
- Twórz (lub konfiguruj) AI tak, aby było „lojalną opozycją”, a nie bezkrytycznym potakiwaczem. Najlepszym przykładem jest jej „prompt nemezis”: sama pisze rozdział, a następnie każe AI go rozebrać na części — znaleźć to, co jest nie tak, co jest słabe, co łatwo obalić i jak to poprawić. To właśnie wspomaganie: używanie AI, aby wymuszać głębię, a nie jej unikać.
- Wasza firma to sieć neuronowa złożona z 500 000 osób — a wy mierzycie niewłaściwe wyniki. Vivienne opisuje badania, w których stosunkowo niewielka część pracowników odpowiadała za ogromną część produktywności, której nie uwzględniały indywidualne wskaźniki. Osoby, które miały największe znaczenie, nie zawsze były „gwiazdami”. Były to osoby, które pomagały — czasem „nieefektywnie” — i sprawiały, że wszyscy wokół nich stawali się lepsi. Większość systemów produktywności nie ma nawet pola, w którym można by to zaznaczyć.
- Praca na początku kariery to nie tylko tania siła robocza; to ścieżka od wiedzy do rozumienia. Jej stwierdzenie zapada w pamięć: świeżo upieczeni absolwenci często „wiedzą wszystko i niczego nie rozumieją”. To na wczesnych stanowiskach ludzie uczą się, co robić z wiedzą — jak korzystać z osądu, etyki, kompromisów i kontekstu. Jeśli AI całkowicie usunie pracę polegającą na „zdobywaniu wiedzy”, nie zdziwcie się, gdy skończycie z kadrą, która potrafi tworzyć wyniki, ale nie umie wyjaśniać, bronić ani ulepszać decyzji.
- Liderzy decydują, czy stanie się to rewolucją rozwijającą umiejętności, czy zdeprofesjonalizowaną „gospodarką Jiffy Lube”. Koszmarnym scenariuszem Vivienne nie jest masowe bezrobocie — są nim stanowiska wydrążone i przekształcone w role o niskich wymaganiach, będące otoczką dla AI, bo tak jest taniej i „wystarczająco dobrze”. Świetna perspektywa dla wizerunku CFO. Fatalna dla kompetencji, zaufania i społeczeństwa.
Rozdziały
- 00:00 – Wzrost produktywności, spadek umiejętności
- 01:48 – „Zgnilizna mózgu” AI i złe dane
- 04:57 – Czym jest AI (a czym nie jest)
- 07:00 – Niebezpieczeństwo „łatwej” pracy
- 10:30 – Wykorzystanie AI do utrudniania pracy
- 12:38 – Dlaczego to nie jest rewolucja przemysłowa
- 17:03 – Ludzie + AI: kiedy to naprawdę działa
- 22:04 – Mit efektywności w pracy
- 27:29 – Ludzie, którzy sprawiają, że wszyscy stają się lepsi
- 30:22 – Co tracimy bez pracy na poziomie podstawowym
- 39:51 – Dlaczego udzielanie odpowiedzi zabija naukę
- 43:25 – Deprofesjonalizacja i przyszłość w stylu „Jiffy Lube”
- 46:18 – Automatyzacja a rozszerzanie możliwości
- 47:50 – GPS, wygoda i utrata zdolności poznawczych
- 53:57 – Decyzja przywódcza, która ma znaczenie
Poznaj naszą gościnię
Dr Vivienne Ming jest wizjonerską teoretyczną neurobiolożką, przedsiębiorczynią, autorką i samozwańczą „zawodową szaloną naukowczynią”, której prace obejmują potencjał człowieka, sztuczną inteligencję i transformację społeczną. Jest założycielką i przewodniczącą zarządu Socos Labs oraz współzałożycielką i główną naukowczynią przedsięwzięć takich jak The Human Trust i Dionysus Health, w których wykorzystuje najnowocześniejsze metody uczenia maszynowego i neuronauki w edukacji, ochronie zdrowia, obszarze inkluzji oraz rozwoju człowieka. Znana z angażujących wystąpień i opiniotwórczych wypowiedzi na temat roli technologii we wzmacnianiu ludzkich możliwości, Vivienne pojawiała się w BBC 100 Women, Financial Times, The Atlantic i Quartz, a także nadal inspiruje odbiorców na całym świecie do ponownego przemyślenia tego, w jaki sposób ludzie i inteligentne systemy mogą wspólnie tworzyć bardziej sprawiedliwą przyszłość.
Powiązane linki:
- Dołącz do społeczności People Managing People
- Zapisz się do naszego newslettera AI Signal
- Nawiąż kontakt z Vivienne na LinkedIn
Powiązane artykuły i podcasty:
David Rice: Więc twój zespół wykorzystuje sztuczną inteligencję do pisania raportów, analizowania danych i szybszego podejmowania decyzji. Produktywność wzrosła, prawda? Wasze kwartalne wskaźniki prawdopodobnie wyglądają całkiem dobrze, ale zgadnijcie co? Po cichu sprawiacie, że wasi ludzie stają się mniej bystrzy. Nie przesadzam. Niedawne badanie pracowników medycznych korzystających z narzędzi diagnostycznych wspomaganych przez sztuczną inteligencję wykazało, że stali się oni tak zależni od tej technologii, że po jej wyłączeniu radzili sobie zdecydowanie gorzej niż przed rozpoczęciem korzystania z niej. To nie jest problem szkoleniowy. To zanik funkcji mózgu.
Dzisiejszym gościem podcastu jest dr Vivienne Ming. Jest teoretyczną neurobiolożką i przedsiębiorczynią, która 15 lat temu przewidziała, że korzystanie z nawigacji GPS przyczynowo zwiększy wskaźniki demencji. Dziś istnieją empiryczne dowody potwierdzające, że miała rację, ale nie po to tutaj jest.
Chce nam powiedzieć, że właśnie teraz mamy wybór między dwiema zupełnie różnymi ścieżkami — automatyzacją poznawczą, w której sztuczna inteligencja wykonuje pracę za nas i daje szybkie rezultaty, ale prowadzi do długoterminowych strat, oraz rozszerzaniem zdolności poznawczych, w którym sztuczna inteligencja sprawia, że praca staje się trudniejsza w sposób, który naprawdę rozwija ludzi.
Omówimy, dlaczego twierdzenie, że sztuczna inteligencja ułatwia życie, jest obecnie najniebezpieczniejszą obietnicą w biznesie, czym różni się automatyzacja osłabiająca umiejętności od rozszerzania zdolności, które je buduje, jak przeprojektować narzędzia AI, aby ludzie byli lepsi po zakończeniu pracy z nimi niż przed jej rozpoczęciem, oraz dlaczego liderzy wybierający leniwą wersję zobaczą krótkoterminowe zyski i strategiczną porażkę.
Nazywam się David Rice. To „People Managing People”. Jeśli świętujecie wzrost produktywności, nie pytając, co tracicie po drodze, ta rozmowa będzie dla was sygnałem ostrzegawczym. Zaczynajmy.
Dobrze, Vivienne, witaj w programie.
Vivienne Ming: Miło tu być.
David Rice: Przed rozpoczęciem rozmowy przeglądałem wiadomości, jak czasami mam w zwyczaju, i zobaczyłem artykuł. „Nature” opublikowało w zeszłym tygodniu badanie, z którego wynika, że gdy sztuczna inteligencja otrzymuje informacje, zwłaszcza z mediów społecznościowych, ma trudności z nadaniem sensu czemukolwiek. Chciałem poznać twoją reakcję, bo użyto tam dokładnie takich słów: zbyt duża ilość mediów społecznościowych powoduje zgniliznę mózgu u chatbotów AI.
Vivienne Ming: Tak.
David Rice: Czyli ta treść nie jest dobra dla nikogo?
Vivienne Ming: Zgnilizna mózgu to obecnie modne określenie. Zgnilizna mózgu i bezwartościowa praca. Mogę udzielić bardzo nerdowskiej odpowiedzi na temat tego, co się dzieje i co powinniśmy z tym zrobić. Jednak w przypadku szerokiej publiczności powinniśmy się martwić, prawda? Okazuje się, że wystarczy bardzo niewielka ilość informacji niskiej jakości, aby skierować duży model językowy w zupełnie przypadkowym kierunku.
Nawet jeśli wrócimy do tego, co nazywa się dostrajaniem z udziałem człowieka i uczeniem ze wzmocnieniem, model ma ogromne trudności z powrotem do swojego pierwotnego potencjału. Wiele osób mówi o znaczeniu danych dobrej jakości. To jeden z tych przykładów, w których nawet stosunkowo niewielkie, niezamierzone, a czasem celowe wstrzyknięcie śmieciowych danych do systemu może przynieść taki rezultat. W pewnym sensie jest to sposób na zhakowanie mózgu.
To nie jest nawet zgnilizna mózgu, tylko raczej robak mózgowy. To rzeczy, których należy się obawiać. Oto moja nieco nerdowska odpowiedź, o której napisałam artykuł, jaki zamierzam złożyć do publikacji. Posłuchajcie: ludzie są niedoskonali. Jesteśmy również pełni uprzedzeń. Okazuje się też, że kiedy wystawicie nas na działanie internetu, nasze mózgi również zaczynają gnić.
Mimo tych szczerych i prawdziwych stwierdzeń ludzie jako zasada robią coś naprawdę ważnego. Jeśli otrzymamy informację, która jest kompletnym nonsensem, ignorujemy ją. Oczywiście są wyjątki. W badaniach nad zgnilizną mózgu, o których mowa w tym badaniu, często chodziło o bełkot.
Żaden człowiek nie trafiłby na stronę pełną bełkotu i nie pomyślał: „O mój Boże, muszę to zapamiętać”. Mamy więc supermoc, której obecna sztuczna inteligencja naprawdę nie posiada. Mamy model świata. W świecie AI dużo mówi się o modelach świata, ale nie do końca o to chodzi. Patrzymy na świat, stosujemy ten model i odrzucamy rzeczy, które do niego nie pasują.
Mówimy: „Wiesz co? To jest mniej ważne i nie zakoduję tego tak głęboko”. Musimy zastanowić się, jak sprawić, aby sztuczna inteligencja również tak działała. Pomysł, że musimy ręcznie dostrajać idealne zbiory danych i że nigdy nie możemy pokazać AI jednego nieprawidłowego zdjęcia rentgenowskiego ani odrobiny śmieci z internetu, bo inaczej dostanie zgnilizny mózgu, jest poważną słabością sposobu, w jaki obecnie ją szkolimy.
