Företagens AI-insatser löser fel förtroendeproblem
Definition av förtroende: Förtroende varierar i företag; en definition omfattar säkerhet, medan medarbetarnas perspektiv ofta förbises.
Säkerheten först: Francis deSouza betonar säkerhetsarkitekturen som grundläggande för förtroende för AI i organisationer.
Behov av transparens: Ärlighet kring samspelet mellan leverantörer och kunder är avgörande, men det är inte samma sak som jämlikhet eller inflytande för medarbetarna.
Ordet ”förtroende” dök upp dussintals gånger under två sessioner om företags-AI på HumanX förra veckan. Det som framkom under sessionerna var ett bevis på att förtroende inte alltid betyder samma sak inom organisationen.
För Francis deSouza, COO på Google Cloud, börjar förtroende med säkerhetsarkitektur.
”Det finns inget sådant som ett AI-samtal utan ett säkerhetssamtal”, sade han och beskrev hur företag måste hantera nya angreppsytor, agentbaserade hot och behovet av att bygga om datastrategier från grunden innan de distribuerar AI i stor skala.
Continue Reading for Free
Create a free account to finish this article, plus get ongoing access to timely insights and practical resources.
Have an account? Log In
När han beskrev hur anställda laddar ner verktyg utanför IT-avdelningens kontroll, framställde han det som ett problem inom riskhantering. Lösningen är en godkänd plattform som styrs och kan granskas.
Under en separat session om att utforma AI-system som vinner användarnas förtroende erbjöd Wendy Gonzalez från Sama en annan utgångspunkt. Hon beskrev ett samtal hon hade haft med en kollega precis innan hon gick upp på scenen. Oron handlade inte om att förlora jobbet. Det är inte en säkerhetsfråga. Ingen hotmodell hanterar den.
Det handlar inte ens om huruvida det här kommer att ta mitt jobb. Det var snarare: om folk ser mina instruktioner, kommer de då att tro att jag inte är lika smart?
Glappet är uppenbart
Det här är problemet. Företagens AI-implementeringar blir allt mer sofistikerade när det gäller den tekniska definitionen av förtroende – säkerhet, tillförlitlighet, granskningsbarhet och modellvalidering. De är betydligt mindre utvecklade när det gäller den mänskliga definitionen: huruvida anställda tror att systemen som formar deras arbete är rättvisa, är ärliga om sina begränsningar och har utformats med någon hänsyn till människorna som ingår i dem.
Organisationer blandar ihop de två. Bygg en säker, efterlevnadskompatibel och välstyrd AI-plattform, så känns förtroendeproblemet löst. Det som har lösts är leverantörsdefinitionen som förekommer i säkerhetsgranskningar och ramverk för regelefterlevnad.
Den anställdas definition förblir i stort sett obehandlad och i de flesta samtal om företags-AI i stort sett outtalad.
Christina Casioppo från Vanta erbjöd vad hon kallade den tydligaste formuleringen av förtroende i företag: ansvarstagande som innebär att ”göra det som står på etiketten”.
Med andra ord: om du sade att du skulle göra X men gör Y, säg det. Det är en rimlig standard, men det är en standard mellan företag om hur en leverantör vinner en kunds förtroende. Det som de anställda har rätt att förvänta sig får mindre utrymme.
Sessionens mest uppriktiga ögonblick kom när Casioppo beskrev Vantas inställning till intern transparens: att på förhand berätta för nyanställda att kunderna kommer först i alla konflikter.
Logiken är att öppenheten mildrar den senare chocken av att känna sig nedprioriterad. Det är ärligt. Men metoder för transparens kring AI är inte detsamma som jämlikhet, och att veta var man befinner sig i rangordningen är inte detsamma som att ha något inflytande över den.
Gonzalez kom närmast modellen för förtroende hos anställda när hon beskrev hur grupper av medarbetare får testa olika verktyg, dela med sig av vad som fungerade och inte fungerade och uppmärksamma båda delarna.
Hon framställde det som ett sätt att bygga äkta förtroende i stället för att införa en plattform uppifrån. Det skiljer sig väsentligt från att tvinga fram användning och mäta siffrorna. Men det stannar fortfarande vid användningen.
Förtroende i den mening som CHRO:er och COO:er bör bry sig om innebär något mer: tror de anställda att AI implementeras på sätt som tar hänsyn till deras intressen, att besluten som AI påverkar är rättvisa och att det finns någonstans att vända sig när de inte är det?
När systemet blir den som fattar besluten
Det agentbaserade lagret gör detta mer brådskande. Gonzalez gjorde en åtskillnad som går till kärnan av frågan.
"Det är en sak att lita på ett resultat, en annan sak att lita på ett helt system." — Wendy Gonzalez, Sama
När AI besvarar en fråga kan en medarbetare utvärdera svaret. När AI fördelar arbete, markerar prestationer eller påverkar vem som får vilken möjlighet, kan medarbetaren ofta inte se systemet alls. De transparensstandarder som är meningsfulla på modellnivå omfattar inte automatiskt människorna som lever med modellens resultat.
DeSouza beskrev det långsiktiga målet som att bygga en arbetsstyrka som är "tvåspråkig" — flytande i både sin funktion och AI. Han pekade på Googles interna hackathoner, där HR-teamet vann två år i rad, som bevis på att bred användning kan skapa genuin kompetens inom olika funktioner.
Det är en användbar signal. Men att vara skicklig på ett verktyg är inte samma sak som att känna förtroende för systemet som verktyget ingår i. Medarbetare kan vara mycket skickliga AI-användare och ändå sakna all insyn i hur AI används för att utvärdera, rangordna eller omplacera dem.
Den framgångsrika arbetsstyrkan i framtiden kommer att vara tvåspråkig inom varje funktion. Alla kommer att känna till sin funktion och AI.
Båda sessionerna var innehållsrika. Talarna var eftertänksamma. Det anmärkningsvärda är inte vad någon av dem hade fel om, utan vad samtalet om AI i företag, betraktat som helhet, ännu inte har gett utrymme åt.
Säkerhet och efterlevnad är verkliga, brådskande och genuint svåra problem. Men de beskriver förtroendets infrastruktur, inte upplevelsen av den. För de medarbetare som förväntas bygga sina arbetsliv kring dessa system är den skillnaden hela frågan.
