Co mylimy w kwestii sztucznej inteligencji i produktywności
David Rice: Więc twój zespół wykorzystuje sztuczną inteligencję do pisania raportów, analizowania danych i szybszego podejmowania decyzji. Produktywność wzrosła, prawda? Wasze kwartalne wskaźniki prawdopodobnie wyglądają całkiem dobrze, ale zgadnijcie co? Po cichu sprawiacie, że wasi ludzie stają się mniej bystrzy. Nie przesadzam. Niedawne badanie pracowników medycznych korzystających z narzędzi diagnostycznych wspomaganych przez sztuczną inteligencję wykazało, że stali się oni tak zależni od tej technologii, że po jej wyłączeniu radzili sobie zdecydowanie gorzej niż przed rozpoczęciem korzystania z niej. To nie jest problem szkoleniowy. To zanik funkcji mózgu.
Dzisiejszym gościem podcastu jest dr Vivienne Ming. Jest teoretyczną neurobiolożką i przedsiębiorczynią, która 15 lat temu przewidziała, że korzystanie z nawigacji GPS przyczynowo zwiększy wskaźniki demencji. Dziś istnieją empiryczne dowody potwierdzające, że miała rację, ale nie po to tutaj jest.
Chce nam powiedzieć, że właśnie teraz mamy wybór między dwiema zupełnie różnymi ścieżkami — automatyzacją poznawczą, w której sztuczna inteligencja wykonuje pracę za nas i daje szybkie rezultaty, ale prowadzi do długoterminowych strat, oraz rozszerzaniem zdolności poznawczych, w którym sztuczna inteligencja sprawia, że praca staje się trudniejsza w sposób, który naprawdę rozwija ludzi.
Omówimy, dlaczego twierdzenie, że sztuczna inteligencja ułatwia życie, jest obecnie najniebezpieczniejszą obietnicą w biznesie, czym różni się automatyzacja osłabiająca umiejętności od rozszerzania zdolności, które je buduje, jak przeprojektować narzędzia AI, aby ludzie byli lepsi po zakończeniu pracy z nimi niż przed jej rozpoczęciem, oraz dlaczego liderzy wybierający leniwą wersję zobaczą krótkoterminowe zyski i strategiczną porażkę.
Nazywam się David Rice. To „People Managing People”. Jeśli świętujecie wzrost produktywności, nie pytając, co tracicie po drodze, ta rozmowa będzie dla was sygnałem ostrzegawczym. Zaczynajmy.
Dobrze, Vivienne, witaj w programie.
Vivienne Ming: Miło tu być.
David Rice: Przed rozpoczęciem rozmowy przeglądałem wiadomości, jak czasami mam w zwyczaju, i zobaczyłem artykuł. „Nature” opublikowało w zeszłym tygodniu badanie, z którego wynika, że gdy sztuczna inteligencja otrzymuje informacje, zwłaszcza z mediów społecznościowych, ma trudności z nadaniem sensu czemukolwiek. Chciałem poznać twoją reakcję, bo użyto tam dokładnie takich słów: zbyt duża ilość mediów społecznościowych powoduje zgniliznę mózgu u chatbotów AI.
Vivienne Ming: Tak.
David Rice: Czyli ta treść nie jest dobra dla nikogo?
Vivienne Ming: Zgnilizna mózgu to obecnie modne określenie. Zgnilizna mózgu i bezwartościowa praca. Mogę udzielić bardzo nerdowskiej odpowiedzi na temat tego, co się dzieje i co powinniśmy z tym zrobić. Jednak w przypadku szerokiej publiczności powinniśmy się martwić, prawda? Okazuje się, że wystarczy bardzo niewielka ilość informacji niskiej jakości, aby skierować duży model językowy w zupełnie przypadkowym kierunku.
Nawet jeśli wrócimy do tego, co nazywa się dostrajaniem z udziałem człowieka i uczeniem ze wzmocnieniem, model ma ogromne trudności z powrotem do swojego pierwotnego potencjału. Wiele osób mówi o znaczeniu danych dobrej jakości. To jeden z tych przykładów, w których nawet stosunkowo niewielkie, niezamierzone, a czasem celowe wstrzyknięcie śmieciowych danych do systemu może przynieść taki rezultat. W pewnym sensie jest to sposób na zhakowanie mózgu.
To nie jest nawet zgnilizna mózgu, tylko raczej robak mózgowy. To rzeczy, których należy się obawiać. Oto moja nieco nerdowska odpowiedź, o której napisałam artykuł, jaki zamierzam złożyć do publikacji. Posłuchajcie: ludzie są niedoskonali. Jesteśmy również pełni uprzedzeń. Okazuje się też, że kiedy wystawicie nas na działanie internetu, nasze mózgi również zaczynają gnić.
Mimo tych szczerych i prawdziwych stwierdzeń ludzie jako zasada robią coś naprawdę ważnego. Jeśli otrzymamy informację, która jest kompletnym nonsensem, ignorujemy ją. Oczywiście są wyjątki. W badaniach nad zgnilizną mózgu, o których mowa w tym badaniu, często chodziło o bełkot.
Żaden człowiek nie trafiłby na stronę pełną bełkotu i nie pomyślał: „O mój Boże, muszę to zapamiętać”. Mamy więc supermoc, której obecna sztuczna inteligencja naprawdę nie posiada. Mamy model świata. W świecie AI dużo mówi się o modelach świata, ale nie do końca o to chodzi. Patrzymy na świat, stosujemy ten model i odrzucamy rzeczy, które do niego nie pasują.
Mówimy: „Wiesz co? To jest mniej ważne i nie zakoduję tego tak głęboko”. Musimy zastanowić się, jak sprawić, aby sztuczna inteligencja również tak działała. Pomysł, że musimy ręcznie dostrajać idealne zbiory danych i że nigdy nie możemy pokazać AI jednego nieprawidłowego zdjęcia rentgenowskiego ani odrobiny śmieci z internetu, bo inaczej dostanie zgnilizny mózgu, jest poważną słabością sposobu, w jaki obecnie ją szkolimy.




