Virksomheders AI-indsats løser det forkerte tillidsproblem
Definition af tillid: Tillid varierer i virksomheder; én definition omfatter sikkerhed, mens medarbejdernes perspektiver ofte overses.
Sikkerhed først: Francis deSouza fremhæver sikkerhedsarkitekturen som grundlaget for tillid til AI i organisationer.
Behovet for gennemsigtighed: Ærlighed om samspillet mellem leverandører og kunder er afgørende, men det er ikke det samme som lighed eller medbestemmelse for medarbejderne.
Ordet "tillid" dukkede op dusinvis af gange på tværs af to sessioner om virksomheds-AI ved HumanX i sidste uge. Det, der kom ud af disse sessioner, var et bevis på, at tillid ikke altid betyder det samme i hele organisationen.
For Francis deSouza, COO hos Google Cloud, begynder tillid med sikkerhedsarkitekturen.
"Der findes ikke nogen AI-samtale uden en sikkerhedssamtale," sagde han og beskrev, hvordan virksomheder skal håndtere nye angrebsflader, agentbaserede trusler og behovet for at genopbygge datastrategier fra bunden, før de implementerer AI i stor skala.
Continue Reading for Free
Create a free account to finish this article, plus get ongoing access to timely insights and practical resources.
Have an account? Log In
Da han beskrev medarbejdere, der downloadede værktøjer uden for IT-afdelingens kontrol, fremstillede han det som et problem inden for risikostyring. Løsningen er en godkendt platform, der er underlagt styring og kan revideres.
I en separat session om design af AI-systemer, der opnår brugernes tillid, tilbød Wendy Gonzalez fra Sama en anderledes indgangsvinkel. Hun beskrev en samtale, hun havde haft med en kollega lige før, hun gik på scenen. Bekymringen handlede ikke om at miste jobbet. Det er ikke et sikkerhedsspørgsmål. Ingen trusselmodel tager højde for det.
Det handler ikke engang om, hvorvidt det her kommer til at tage mit job? Det var mere sådan, at hvis folk ser mine prompts, vil de så tro, at jeg ikke er lige så klog?
Kløften er tydelig
Det er problemet. Implementeringer af virksomheds-AI bliver stadig mere sofistikerede, når det gælder den tekniske definition af tillid — sikkerhed, pålidelighed, revisionsmuligheder og modelvalidering. De er væsentligt mindre udviklede, når det gælder den menneskelige definition: om medarbejderne tror på, at de systemer, der former deres arbejde, er retfærdige, ærlige om deres begrænsninger og udviklet med nogen form for hensyn til de mennesker, der arbejder med dem.
Organisationer forveksler de to ting. Byg en sikker, kompatibel, velstyret AI-platform, og tillidsproblemet føles løst. Det, der er blevet løst, er leverandørens definition, som optræder i sikkerhedsrevisioner og compliance-rammer.
Medarbejderdefinitionen er fortsat stort set uadresseret og i de fleste samtaler om virksomheds-AI stort set ikke blevet stillet som spørgsmål.
Christina Casioppo fra Vanta tilbød det, hun kaldte den klareste formulering af virksomhedstillid: ansvarlighed i form af at "gøre det, der står på dåsen".
Med andre ord: Hvis du sagde, at du ville gøre X, men gør Y, så sig det. Det er en rimelig standard, men det er en virksomhed-til-virksomhed-standard for, hvordan en leverandør opbygger en kundes tillid. Der bliver brugt mindre tid på, hvad medarbejderne har krav på.
Sessionens mest oprigtige øjeblik kom, da Casioppo beskrev Vantas tilgang til intern gennemsigtighed: at fortælle nyansatte på forhånd, at kunderne kommer først i enhver konflikt.
Logikken er, at åbenheden mildner det senere chok ved at føle sig nedprioriteret. Det er ærligt. Men praksisser for AI-gennemsigtighed er ikke det samme som retfærdighed, og det at kende sin placering i rangordenen er ikke det samme som at have nogen indflydelse på den.
Gonzalez kom tættest på en model for medarbejdertillid, da hun beskrev, hvordan grupper af medarbejdere kunne teste forskellige værktøjer, dele, hvad der fungerede, og hvad der ikke gjorde, og fejre begge dele.
Hun fremstillede det som en måde at opbygge ægte tillid på i stedet for at påtvinge en platform ovenfra. Det er meningsfuldt anderledes end at kræve brug og måle tallene. Men det stopper stadig ved brugen.
Tillid i den forstand, som CHRO'er og COO'er bør interessere sig for, betyder noget mere: Tror medarbejderne på, at AI bliver implementeret på måder, der tager hensyn til deres interesser, at de beslutninger, AI påvirker, er retfærdige, og at der findes et sted at henvende sig, når de ikke er det?
Når systemet bliver beslutningstageren
Det agentbaserede lag gør dette mere presserende. Gonzalez trak en skelnen, der rammer selve kernen i det.
Det er én ting at have tillid til et output, noget andet er at have tillid til et helt system." — Wendy Gonzalez, Sama
Når AI besvarer et spørgsmål, kan en medarbejder vurdere svaret. Når AI fordeler arbejde, markerer præstationer eller påvirker, hvem der får hvilke muligheder, kan medarbejderen ofte slet ikke se systemet. De gennemsigtighedsstandarder, der giver mening på modelniveau, omfatter ikke automatisk de mennesker, der lever med modellens resultater.
DeSouza beskrev det langsigtede mål som at opbygge en arbejdsstyrke, der er "tosproget" — fortrolig med både deres funktion og AI. Han henviste til Googles interne hackathons, hvor HR-teamet vandt to gange i træk, som bevis på, at bred anvendelse kan skabe ægte fortrolighed på tværs af funktioner.
Det er et nyttigt signal. Men fortrolighed med et værktøj er ikke det samme som tillid til det system, som værktøjet er en del af. Medarbejdere kan være særdeles kompetente AI-brugere og stadig ikke have nogen indsigt i hvordan AI bruges til at evaluere, rangere eller omplacere dem.
Fremtidens succesfulde arbejdsstyrke vil være tosproget inden for alle funktioner. Alle vil kende deres funktion og AI.
Begge sessioner var indholdsrige. Talerne var velovervejede. Det bemærkelsesværdige er ikke, hvad nogen af dem tog fejl af, men hvad samtalen om AI i virksomheder som helhed endnu ikke har gjort plads til.
Sikkerhed og compliance er reelle, presserende og oprigtigt vanskelige problemer. Men de beskriver tillidsinfrastrukturen, ikke oplevelsen af tillid. For de medarbejdere, der bliver bedt om at opbygge deres arbejdsliv omkring disse systemer, er den forskel hele spørgsmålet.
