Virksomheters KI-innsats løser feil tillitsproblem
Definisjon av tillit: Tillit varierer i virksomheter; én definisjon handler om sikkerhet, mens de ansattes perspektiver ofte overses.
Sikkerhet først: Francis deSouza understreker at sikkerhetsarkitektur er grunnleggende for tillit til KI i organisasjoner.
Behov for åpenhet: Ærlighet om samspillet mellom leverandør og kunde er avgjørende, men det er ikke det samme som rettferdighet eller medbestemmelse for de ansatte.
Ordet «tillit» dukket opp dusinvis av ganger i løpet av to sesjoner om kunstig intelligens i virksomheter på HumanX forrige uke. Det som kom frem i disse sesjonene, var et bevis på at tillit ikke alltid betyr det samme i hele organisasjonen.
For Francis deSouza, COO i Google Cloud, begynner tillit med sikkerhetsarkitekturen.
«Det finnes ikke noe som heter en KI-samtale uten en sikkerhetssamtale», sa han, og beskrev hvordan virksomheter må håndtere nye angrepsflater og agentbaserte trusler, samt behovet for å bygge datastrategier på nytt fra grunnen av før de tar i bruk KI i stor skala.
Continue Reading for Free
Create a free account to finish this article, plus get ongoing access to timely insights and practical resources.
Have an account? Log In
Da han beskrev ansatte som laster ned verktøy utenfor IT-avdelingens kontroll, fremstilte han det som et risikostyringsproblem. Løsningen er en godkjent plattform som er underlagt styring og kan revideres.
I en separat sesjon om utforming av KI-systemer som fortjener brukernes tillit, tilbød Wendy Gonzalez fra Sama et annet utgangspunkt. Hun beskrev en samtale hun hadde hatt med en kollega rett før hun gikk på scenen. Bekymringen handlet ikke om å miste jobben. Det er ikke et sikkerhetsspørsmål. Ingen trusselmodell tar høyde for det.
Det handler ikke engang om hvorvidt dette kommer til å ta jobben min. Det var mer slik: Hvis folk ser ledetekstene mine, kommer de da til å tro at jeg ikke er like smart?
Gapet er synlig for alle
Dette er problemet. KI-implementeringer i virksomheter blir stadig mer sofistikerte når det gjelder den tekniske definisjonen av tillit – sikkerhet, pålitelighet, revisjonsmuligheter og modellvalidering. De er betydelig mindre utviklet når det gjelder den menneskelige definisjonen: hvorvidt ansatte tror at systemene som former arbeidet deres, er rettferdige, ærlige om begrensningene sine og utviklet med noen form for hensyn til menneskene som inngår i dem.
Organisasjoner blander de to sammen. Bygg en sikker, etterlevelsesvennlig og velstyrt KI-plattform, så føles tillitsproblemet løst. Det som er løst, er leverandørdefinisjonen som dukker opp i sikkerhetsrevisjoner og rammeverk for etterlevelse.
Den ansattes definisjon forblir i stor grad uadressert, og i de fleste samtaler om KI i virksomheter blir den i stor grad heller ikke stilt som spørsmål.
Christina Casioppo fra Vanta tilbød det hun kalte den tydeligste formuleringen av tillit i virksomheter: ansvarlighet som innebærer å «gjøre det man sier på boksen».
Med andre ord: Hvis du sa at du skulle gjøre X, men gjør Y, må du si fra om det. Det er en rimelig standard, men det er en virksomhet-til-virksomhet-standard for hvordan en leverandør opparbeider seg tillit hos en kunde. Det vies mindre oppmerksomhet til hva ansatte har krav på.
Sesjonens mest oppriktige øyeblikk kom da Casioppo beskrev Vantas tilnærming til intern åpenhet: å fortelle nyansatte på forhånd at kundene kommer først ved enhver konflikt.
Logikken er at åpenhet demper det senere sjokket ved å føle seg nedprioritert. Det er ærlig. Men praksis for åpenhet om KI er ikke det samme som rettferdighet, og det å vite hvor man står på prioriteringslisten, er ikke det samme som å ha noen innflytelse på den.
Gonzalez kom nærmest en modell for tillit hos ansatte da hun beskrev hvordan grupper av arbeidere fikk teste ulike verktøy, dele hva som fungerte og ikke fungerte, og feire begge deler.
Hun fremstilte det som en måte å bygge ekte tillit på, i stedet for å påtvinge en plattform ovenfra. Det er meningsfullt annerledes enn å pålegge bruk og måle tallene. Men det stopper fortsatt ved bruk.
Tillit i den betydningen CHRO-er og COO-er bør bry seg om, innebærer noe mer: Tror de ansatte at KI tas i bruk på måter som ivaretar interessene deres, at beslutningene den påvirker, er rettferdige, og at det finnes et sted å henvende seg når de ikke er det?
Når systemet blir beslutningstakeren
Det agentbaserte laget gjør dette mer presserende. Gonzalez trakk et skille som går rett til kjernen av saken.
«Det er én ting å stole på et resultat, noe annet å stole på et helt system.» — Wendy Gonzalez, Sama
Når AI svarer på et spørsmål, kan en arbeidstaker vurdere svaret. Når AI fordeler arbeid, markerer prestasjoner eller påvirker hvem som får hvilke muligheter, kan arbeidstakeren ofte ikke se systemet i det hele tatt. Åpenhetsstandardene som gir mening på modellnivå, omfatter ikke automatisk menneskene som lever med modellens resultater.
DeSouza beskrev det langsiktige målet som å bygge en arbeidsstyrke som er «tospråklig» — flytende i både sitt fagområde og AI. Han viste til Googles interne hackatoner, der HR-teamet vant to ganger på rad, som bevis på at bred bruk kan skape reell kompetanse på tvers av fagområder.
Det er et nyttig signal. Men det å være fortrolig med et verktøy er ikke det samme som å ha tillit til systemet verktøyet inngår i. Ansatte kan være svært dyktige AI-brukere og likevel ikke ha noe innsyn i hvordan AI brukes til å vurdere, rangere eller omdisponere dem.
Den fremtidige arbeidsstyrken som lykkes, vil være tospråklig innen alle fagområder. Alle vil kjenne sitt fagområde og AI.
Begge øktene var innholdsrike. Talerne var gjennomtenkte. Det bemerkelsesverdige er ikke hva noen av dem tok feil av, men hva samtalen om AI i virksomheten, sett under ett, ennå ikke har gitt plass til.
Sikkerhet og etterlevelse er reelle, presserende og genuint vanskelige problemer. Men de beskriver tillitsinfrastrukturen, ikke opplevelsen av tillit. For de ansatte som blir bedt om å bygge arbeidslivet sitt rundt disse systemene, er dette skillet selve spørsmålet.
