Działania przedsiębiorstw na rzecz sztucznej inteligencji rozwiązują niewłaściwy problem zaufania
Definicja zaufania: Zaufanie w przedsiębiorstwach może oznaczać różne rzeczy; jedna z definicji obejmuje bezpieczeństwo, podczas gdy perspektywy pracowników są często pomijane.
Bezpieczeństwo przede wszystkim: Francis deSouza podkreśla, że architektura bezpieczeństwa stanowi fundament zaufania do sztucznej inteligencji w organizacjach.
Potrzeba przejrzystości: Szczerość w relacjach między dostawcami a klientami jest niezbędna, ale nie jest równoznaczna z równością ani prawem pracowników do wyrażania opinii.
Słowo „zaufanie” pojawiło się dziesiątki razy podczas dwóch sesji poświęconych sztucznej inteligencji w przedsiębiorstwach na konferencji HumanX w ubiegłym tygodniu. Z tych sesji wynikało, że w organizacji zaufanie nie zawsze oznacza to samo.
Dla Francisa deSouzy, dyrektora operacyjnego Google Cloud, zaufanie zaczyna się od architektury bezpieczeństwa.
„Nie ma czegoś takiego jak rozmowa o sztucznej inteligencji bez rozmowy o bezpieczeństwie” — powiedział, wyjaśniając, że przedsiębiorstwa muszą zmierzyć się z nowymi powierzchniami ataku, zagrożeniami związanymi z agentami oraz koniecznością zbudowania strategii danych od podstaw, zanim wdrożą sztuczną inteligencję na dużą skalę.
Continue Reading for Free
Create a free account to finish this article, plus get ongoing access to timely insights and practical resources.
Have an account? Log In
Kiedy opisywał pracowników pobierających narzędzia poza zakresem nadzoru działu IT, przedstawiał to jako problem zarządzania ryzykiem. Rozwiązaniem jest zatwierdzona platforma, objęta nadzorem i możliwa do audytowania.
Podczas osobnej sesji poświęconej projektowaniu systemów sztucznej inteligencji, które zdobywają zaufanie użytkowników, Wendy Gonzalez z Sama zaproponowała inny punkt wyjścia. Opisała rozmowę, którą odbyła ze współpracownikiem tuż przed wejściem na scenę. Obawa nie dotyczyła utraty pracy. Nie jest to pytanie o bezpieczeństwo. Żaden model zagrożeń tego nie uwzględnia.
To nawet nie chodzi o to, czy to odbierze mi pracę. Bardziej o to: jeśli ludzie zobaczą moje prompty, czy pomyślą, że nie jestem tak inteligentna?
Luka jest widoczna na pierwszy rzut oka
Na tym polega problem. Wdrożenia sztucznej inteligencji w przedsiębiorstwach stają się coraz bardziej zaawansowane pod względem technicznej definicji zaufania — bezpieczeństwa, niezawodności, możliwości audytu i walidacji modeli. Są znacznie mniej rozwinięte pod względem ludzkiego wymiaru zaufania: tego, czy pracownicy wierzą, że systemy kształtujące ich pracę są sprawiedliwe, szczerze informują o swoich ograniczeniach i zostały stworzone z uwzględnieniem osób, które z nich korzystają.
Organizacje zacierają różnicę między tymi dwoma wymiarami. Zbuduj bezpieczną, zgodną z przepisami i dobrze zarządzaną platformę sztucznej inteligencji, a problem zaufania wydaje się rozwiązany. Rozwiązana została jednak definicja dostawcy, która pojawia się w audytach bezpieczeństwa i ramach zgodności.
Definicja dotycząca pracowników pozostaje w dużej mierze bez odpowiedzi, a w większości rozmów o sztucznej inteligencji w przedsiębiorstwach — w dużej mierze nawet nie zostaje postawiona.
Christina Casioppo z Vanta przedstawiła to, co nazwała najjaśniejszym ujęciem zaufania w przedsiębiorstwie: odpowiedzialnością polegającą na „robieniu tego, co jest napisane na opakowaniu”.
Innymi słowy, jeśli powiedziałeś, że zrobisz X, a robisz Y, powiedz o tym. To rozsądny standard, ale jest to standard relacji między przedsiębiorstwami, dotyczący tego, jak dostawca zdobywa zaufanie klienta. Temu, co należy się pracownikom, poświęca się mniej uwagi.
Najbardziej szczery moment sesji nastąpił, gdy Casioppo opisała podejście Vanta do wewnętrznej przejrzystości: informowanie nowych pracowników od samego początku, że w razie konfliktu klienci są najważniejsi.
Logika jest taka, że ujawnienie tej informacji łagodzi późniejszy szok związany z poczuciem, że zostało się odsuniętym na dalszy plan. To uczciwe. Jednak praktyki przejrzystości w zakresie sztucznej inteligencji nie są tym samym co równe traktowanie, a świadomość swojego miejsca w rankingu ważności nie jest równoznaczna z możliwością wpływania na ten ranking.
Gonzalez najbardziej zbliżyła się do modelu zaufania pracowników, gdy opisała umożliwienie grupom pracowników testowania różnych narzędzi, dzielenia się tym, co działało, a co nie, oraz świętowania obu rezultatów.
Przedstawiła to jako sposób na budowanie autentycznej pewności siebie zamiast narzucania platformy z góry. To znacząco różni się od nakazywania korzystania z rozwiązania i mierzenia wyników. Jednak nadal kończy się na przyjęciu rozwiązania.
Zaufanie w rozumieniu, które powinno interesować dyrektorów ds. zasobów ludzkich i dyrektorów operacyjnych, oznacza coś więcej: czy pracownicy wierzą, że sztuczna inteligencja jest wdrażana w sposób uwzględniający ich interesy, że decyzje, na które wpływa, są sprawiedliwe oraz że istnieje miejsce, do którego można się zwrócić, gdy takie nie są?
Gdy system staje się decydentem
Warstwa agentowa sprawia, że kwestia ta staje się jeszcze pilniejsza. Gonzalez wskazała różnicę, która trafia w samo sedno problemu.
„Czym innym jest zaufanie do wyniku, a czym innym zaufanie do całego systemu”. — Wendy Gonzalez, Sama
Kiedy AI odpowiada na pytanie, pracownik może ocenić odpowiedź. Kiedy AI kieruje pracą, sygnalizuje problemy z wydajnością lub wpływa na to, kto otrzyma daną szansę, pracownik często w ogóle nie widzi systemu. Standardy przejrzystości, które mają sens na poziomie modelu, nie rozszerzają się automatycznie na osoby funkcjonujące wewnątrz wyników generowanych przez ten model.
DeSouza opisał długoterminowy cel jako budowanie „dwujęzycznej” kadry — biegle posługującej się zarówno wiedzą z zakresu swojej funkcji, jak i AI. Wskazał na wewnętrzne hackathony Google, podczas których zespół HR dwukrotnie z rzędu zwyciężył, jako dowód na to, że szerokie wdrożenie może zapewnić rzeczywistą biegłość w różnych obszarach funkcjonalnych.
To przydatny sygnał. Jednak biegłość w posługiwaniu się narzędziem nie jest tym samym co zaufanie do systemu, do którego to narzędzie należy. Pracownicy mogą być bardzo kompetentnymi użytkownikami AI, a mimo to nie mieć wglądu w to, jak AI jest wykorzystywana do ich oceniania, szeregowania lub przenoszenia na inne stanowiska.
Przyszła odnosząca sukcesy kadra będzie dwujęzyczna w każdym obszarze funkcjonalnym. Każdy będzie znał swoją funkcję i AI.
Obie sesje były merytoryczne. Prelegenci przedstawili przemyślane spostrzeżenia. Godne uwagi nie jest to, czego którykolwiek z nich nie poruszył właściwie, lecz to, na co dyskusja o AI w przedsiębiorstwie, rozpatrywana jako całość, wciąż nie znalazła miejsca.
Bezpieczeństwo i zgodność z przepisami to rzeczywiste, pilne i naprawdę trudne problemy. Opisują jednak infrastrukturę zaufania, a nie doświadczenie zaufania. Dla pracowników, od których oczekuje się budowania swojego życia zawodowego wokół tych systemów, to rozróżnienie jest sednem całej kwestii.
