Jak opracować ogólną dla całej organizacji etyczną strategię podejścia do AI

AI przekształca miejsce pracy — ale jak odróżnić rzeczywiste, praktyczne przypadki zastosowania od przereklamowanych trendów, które nie przynoszą rezultatów? I na jakie zagrożenia etyczne powinniśmy uważać?

Prowadzący David Rice rozmawia z Jonathanem Conradt’em — byłym głównym naukowcem ds. AI w Amazonie i doradcą zarządu w Synerise — o rzeczywistym wpływie AI na HR i przywództwo. Omawiają, jak AI kształtuje rekrutację, dobrostan pracowników i podejmowanie decyzji, a także kluczową rolę odpowiedzialnej AI. Jonathan wyjaśnia również, dlaczego firmy często niewłaściwie inwestują w AI — i jak liderzy mogą podejmować trafniejsze decyzje.

Najważniejsze momenty wywiadu

  • Poznaj Jonathana Conradta [00:52]
    • Jonathan ma bogate doświadczenie w branży technologicznej.
    • Pracował w pierwotnym zespole Chrome w Google, koncentrując się na wersjach dla komputerów Mac i systemu Linux.
    • Zarządzał marketingiem i wdrażał rozwiązania AI/ML w serwisie eBay.
    • Spędził 12 lat w Amazonie, gdzie zauważył, że projekty AI często były błędnie oceniane.
    • Osoby zarządzające w Amazonie miały trudności z oceną inwestycji w AI z powodu braku odpowiedniej wiedzy.
    • W ostatnim roku pracy w Amazonie szkolił wiceprezesów i dyrektorów w zakresie AI/ML.
    • Odszedł z Amazona, aby pomóc firmom lepiej rozumieć możliwości i ryzyka związane z AI.
  • AI w HR: praktyczne zastosowania [02:37]
    • Generatywna AI jest popularna, ale tradycyjne uczenie maszynowe również się rozwinęło.
    • Jednym z najważniejszych osiągnięć jest automatyczne uczenie maszynowe (AutoML).
    • AutoML automatyzuje powtarzalne zadania związane z tworzeniem modeli.
    • Pakiet AutoGluon o otwartym kodzie źródłowym sprawia, że AI jest dostępna dla osób posiadających podstawowe umiejętności w zakresie SQL i Pythona.
    • AutoML umożliwia szybkie tworzenie wysokiej jakości modeli, których przygotowanie wcześniej zajmowało miesiące.
    • AI jest przydatna w HR do zadań takich jak klasyfikacja pracowników, przewidywanie odejść oraz identyfikowanie osób do szkoleń dla kadry kierowniczej.
    • Pomaga w prognozach liczbowych, takich jak zapotrzebowanie na nowych pracowników i planowanie zatrudnienia.
    • Wspiera analizę szeregów czasowych w celu wykrywania trendów sezonowych.
    • Pozwala zbudować światowej klasy model za pomocą zaledwie trzech wierszy kodu.
  • Aspekty etyczne AI [05:03]
    • Dział HR odgrywa kluczową rolę w rozwoju AI, zapewniając zgodność z prawem i zasadami etyki.
    • Naukowcom często brakuje wiedzy specjalistycznej dotyczącej przepisów związanych z HR i uprzedzeń.
    • Modele AI mogą nieumyślnie uczyć się historycznych uprzedzeń i je wzmacniać, na przykład faworyzując kandydatów, którzy grali w lacrosse.
    • Odpowiedzialna AI koncentruje się na sprawiedliwości, przejrzystości i etycznym przetwarzaniu danych.
    • Specjaliści HR są dobrze przygotowani do kierowania działaniami na rzecz sprawiedliwości AI, zwłaszcza w modelach dotyczących rekrutacji i awansów.
    • Uprzedzenia AI w prognozowaniu awansów, na przykład faworyzowanie absolwentów uczelni należących do Ivy League lub mężczyzn, należy ograniczać.
    • Pojawiają się regulacje dotyczące etyki AI, przy czym UE odgrywa wiodącą rolę, a Stany Zjednoczone rozważają wprowadzenie przepisów.
    • Dział HR może pomóc naukowcom zrozumieć i wdrażać odpowiedzialne praktyki związane z AI.
    • Modele AI, takie jak ChatGPT, nie wykorzystują bezpośrednio danych wprowadzanych przez użytkowników do trenowania, aby uniknąć zniekształcenia wartościowych danych.
    • Uczą się na podstawie interakcji z użytkownikami, takich jak przeformułowane pytania sygnalizujące niezadowolenie z odpowiedzi.
    • Uprzedzenia mogą pojawić się, jeśli interakcje odzwierciedlają uprzedzenia społeczne, na przykład dotyczące płci, dochodów lub preferencji geograficznych.
    • Krążący przykład sugeruje, że modele OpenAI przejęły wzorce językowe przypominające te używane przez kenijskich wykonawców zaangażowanych w uczenie ze wzmocnieniem.
    • Uprzedzenia obecne w opiniach ludzi, takie jak preferowanie dłuższych odpowiedzi, wpłynęły na zachowanie modelu.
    • AI może nieumyślnie faworyzować sposób mówienia, tematy lub preferencje dominujących grup użytkowników.
    • Uprzedzenia w AI mogą pojawiać się w nieoczekiwany sposób, wzmacniając wzorce pochodzące od grup demograficznych najbardziej zaangażowanych użytkowników.

Aby postępować właściwie w kontekście odpowiedzialnej AI, trzeba usunąć czynniki, które nie powinny być brane pod uwagę. Nie pozwalaj modelowi analizować ani wyciągać wniosków na podstawie informacji, których nie uwzględnilibyście podczas rzeczywistego awansu.

Jonathan Conradt
  • Środki ochronne i edukacja kadry kierowniczej [12:36]
    • Systemy AI wykorzystują modele ochronne do odfiltrowywania szkodliwych lub nieetycznych zapytań przed ich przetworzeniem.
    • Pracownicy znajdą sposoby na korzystanie z narzędzi AI, jeśli firmy nie zapewnią bezpiecznego, zatwierdzonego dostępu.
    • Przesyłanie poufnych danych firmowych do publicznych modeli AI stwarza poważne zagrożenia dla bezpieczeństwa.
    • Firmowe konta AI mogą zapewniać kontrolowane środowiska ograniczające ryzyko.
    • Kadra kierownicza, pomimo swojej wiedzy, może mieć trudności z rozróżnieniem bezpiecznych i niezabezpieczonych narzędzi AI.
    • Zapewnienie szkoleń i oficjalnych narzędzi AI może pomóc zapobiegać naruszeniom bezpieczeństwa.
    • Strategie wdrażania AI są różne:
      • Wcześni użytkownicy: Inwestowali znaczne środki, ponosili wysokie ryzyko i często mieli trudności.
      • Całkowici sceptycy: Sceptyczni i oporni, narażeni na utratę znaczenia.
      • Szybko naśladujący: Uczą się od wczesnych użytkowników, wdrażają AI niższym kosztem i mają duże szanse na sukces.
    • AI osiągnie prawdopodobnie plateau wydajności, co pozwoli szybko naśladującym dogonić wczesnych użytkowników.
  • Zrozumienie szkoleń i wdrażania AI [20:03]
    • Wiele osób, w tym specjaliści techniczni, nie ma dogłębnego zrozumienia uczenia maszynowego.
    • AI jest zasadniczo funkcją matematyczną, która przyjmuje dane wejściowe, przetwarza je i generuje dane wyjściowe.
    • AI nie „myśli” ani nie „pamięta” między użyciami — istnieje tylko wtedy, gdy zostanie wywołana.
    • Imponujące możliwości AI wynikają z dodatkowego kodu i organizacji danych.
    • Szkolenia powinny być dostosowane do różnych ról w organizacji (użytkowników, techników, kadry kierowniczej itp.).
    • Jedno uniwersalne podejście do szkoleń się nie sprawdzi.
    • Dział HR musi określić odpowiednie strategie szkoleniowe dotyczące AI dla różnych grup pracowników.
    • Pracownicy, w tym osoby nietechniczne, potrzebują edukacji na temat AI, aby zmniejszyć obawy i umożliwić wdrażanie tej technologii.
    • Kadra kierownicza wymaga innych szkoleń dotyczących AI niż pracownicy pierwszej linii.
  • Dobrostan pracowników i AI [23:20]
    • Jonathan współpracuje z naukowcami nad pomiarem i poprawą dobrostanu pracowników z wykorzystaniem AI.
    • AI jest cierpliwa i może dostarczać pracownikom praktycznych informacji zwrotnych.
    • Jego wcześniejsza praca z narzędziem StrengthsFinder firmy Gallup miała na celu poprawę relacji między menedżerami a pracownikami dla ogólnego dobrostanu.
    • Tradycyjne oceny opierają się na odpowiedziach wymuszających wybór, które mogą nie oddawać w pełni opinii pracowników.
    • Nowe podejście pozwala pracownikom otwarcie wyrażać swoje opinie, dodając cenne dane jakościowe.
    • AI może przekształcać tekst w wektory matematyczne, umożliwiając lepszą analizę.
    • Wcześniejszy eksperyment polegający na wykorzystaniu AI do analizy prac badawczych poprawił trafność prognoz o 14%.
    • Zastosowanie podobnych technik AI do ankiet dotyczących zadowolenia pracowników mogłoby znacząco pogłębić zrozumienie ich opinii.
  • Przyszłość AI w miejscu pracy [26:35]
    • Agenci AI będą prawdopodobnie wykorzystywani przez specjalistów HR do pomocy w zarządzaniu złożonymi zadaniami, gromadzeniu informacji i upraszczaniu procesów.
    • AI może pełnić funkcję asystenta kadry kierowniczej, organizując zadania, czytając wiadomości e-mail i przedstawiając sugestie, przy jednoczesnym pozostawieniu ostatecznych decyzji ludziom.
    • AI szczególnie dobrze radzi sobie z syntezą informacji, dzięki czemu sprawdza się w przypadku ról takich jak wiceprezesi, którzy potrzebują szerokiego obrazu organizacji.
    • Asystenci wykorzystujący AI (np. rozwiązania Copilot firmy Microsoft) zaoszczędzą czas i poprawią rozumienie działalności firmy.
    • Firmy mogą wykorzystywać AI do zwiększania produktywności, ale powinny unikać redukcji zatrudnienia; zamiast tego powinny skupić się na zwiększaniu wyników przy zachowaniu tej samej liczby pracowników.
    • Firmy, które wdrożą AI w celu poprawy efektywności, wyprzedzą konkurentów redukujących zatrudnienie, ale utrzymujących ten sam poziom wyników.

Firmy, które zdecydują się na redukcję zatrudnienia i zwolnienie ludzi, utrzymując ten sam poziom pracy przy mniejszej liczbie pracowników, zostaną zmiażdżone przez firmy, które zachowają tę samą liczbę pracowników, ale znacząco zwiększą ilość pracy, jaką mogą wykonać, oraz wartość, jaką mogą dostarczyć klientom.

Jonathan Conradt

Poznaj naszego gościa

Jonathan Conradt jest doświadczonym ekspertem w dziedzinie sztucznej inteligencji i uczenia maszynowego, obecnie pełniącym funkcję doradcy zarządu w firmie Synerise, specjalizującej się w rozwiązaniach z zakresu sztucznej inteligencji i analizy dużych zbiorów danych. Przed objęciem tej funkcji był głównym naukowcem zajmującym się sztuczną inteligencją i uczeniem maszynowym w firmie Amazon, gdzie opracowywał program nauczania dla Uniwersytetu Uczenia Maszynowego Amazon i prowadził zajęcia w ramach tego programu. Jego bogate doświadczenie obejmuje stanowisko dyrektora ds. zarządzania produktami w obszarze inżynierii internetu i poczty elektronicznej w firmie eBay, stanowisko menedżera produktu ds. inżynierii przeglądarki internetowej Chrome w firmie Google oraz stanowisko menedżera produktu odpowiedzialnego za produkt telewizyjny oparty na technologii telewizji internetowej w firmie Microsoft. Jonathan jest posiadaczem ośmiu patentów związanych z uczeniem maszynowym i marketingiem, a także jednym z twórców popularnego narzędzia do zarządzania StrengthsFinder. Jest również znany ze swojego wkładu w rozwój automatycznego uczenia maszynowego, szczególnie dzięki narzędziom takim jak AutoGluon.

Jedną z największych zalet sztucznej inteligencji jest jej ogromna cierpliwość. Może być cennym źródłem informacji, ponieważ można dostarczać jej dokładne i praktyczne dane, a sztuczna inteligencja może odpowiadać ludziom, oferując im tego rodzaju spostrzeżenia.

Jonathan Conradt

You may also like