Inspanningen rond bedrijfs-AI lossen het verkeerde vertrouwensprobleem op
Vertrouwensdefinitie: Vertrouwen verschilt binnen bedrijven; één definitie omvat beveiliging, terwijl de perspectieven van werknemers vaak over het hoofd worden gezien.
Beveiliging eerst: Francis deSouza benadrukt dat de beveiligingsarchitectuur de basis vormt voor vertrouwen in AI binnen organisaties.
Behoefte aan transparantie: Eerlijkheid over interacties tussen leveranciers en klanten is van cruciaal belang, maar staat niet gelijk aan gelijkwaardigheid of inspraak voor werknemers.
Het woord "vertrouwen" kwam vorige week tijdens twee sessies over enterprise-AI bij HumanX tientallen keren ter sprake. Wat uit die sessies naar voren kwam, was het bewijs dat vertrouwen binnen een organisatie niet altijd hetzelfde betekent.
Voor Francis deSouza, COO van Google Cloud, begint vertrouwen bij de beveiligingsarchitectuur.
"Er bestaat niet zoiets als een AI-gesprek zonder een gesprek over beveiliging," zei hij. Hij lichtte toe hoe ondernemingen moeten omgaan met nieuwe aanvalsoppervlakken, agentische dreigingen en de noodzaak om datastrategieën vanaf de basis opnieuw op te bouwen voordat ze AI op grote schaal inzetten.
Create a Free Account to Keep Reading—and Keep Leading Smarter
Unlock this piece and join a community of forward-thinking leaders discovering tools, playbooks, and insights for thriving in the age of AI.
Have an account? Log In
Toen hij beschreef hoe werknemers tools downloaden buiten het toezicht van IT om, presenteerde hij dat als een probleem van risicobeheer. De oplossing is een goedgekeurd platform dat wordt beheerd en gecontroleerd.
Tijdens een aparte sessie over het ontwerpen van AI-systemen die het vertrouwen van gebruikers verdienen, bood Wendy Gonzalez van Sama een ander uitgangspunt. Ze beschreef een gesprek dat ze vlak voordat ze het podium betrad met een collega had gevoerd. De zorg ging niet over het verdwijnen van banen. Het is geen beveiligingskwestie. Geen enkel dreigingsmodel houdt hier rekening mee.
Het gaat niet eens om de vraag: gaat dit mijn baan kosten? Het was meer zoiets als: als mensen mijn prompts zien, zullen ze dan denken dat ik niet zo slim ben?
De kloof is overduidelijk
Dit is het probleem. Implementaties van enterprise-AI worden steeds geavanceerder als het gaat om de technische definitie van vertrouwen — beveiliging, betrouwbaarheid, controleerbaarheid en modelvalidatie. Ze zijn aanzienlijk minder ontwikkeld als het gaat om de menselijke definitie: of werknemers geloven dat de systemen die hun werk vormgeven eerlijk zijn, open zijn over hun beperkingen en zijn ontworpen met aandacht voor de mensen die erin werken.
Organisaties halen de twee door elkaar. Bouw een veilig, compliant en goed beheerd AI-platform en het vertrouwensprobleem lijkt opgelost. Wat is opgelost, is de leveranciersdefinitie die terugkomt in beveiligingsaudits en compliancekaders.
De werknemersdefinitie blijft grotendeels onbeantwoord en wordt in de meeste gesprekken over enterprise-AI grotendeels niet eens gesteld.
Christina Casioppo van Vanta gaf wat zij de duidelijkste omschrijving van vertrouwen binnen ondernemingen noemde: verantwoording afleggen door "te doen wat er op het etiket staat".
Met andere woorden: als je hebt gezegd dat je X zou doen en je doet Y, zeg dat dan. Het is een redelijke norm, maar wel een norm tussen ondernemingen over de manier waarop een leverancier het vertrouwen van een klant wint. Over wat werknemers verschuldigd zijn, wordt veel minder gesproken.
Het meest openhartige moment van de sessie kwam toen Casioppo Vanta's aanpak van interne transparantie beschreef: nieuwe medewerkers meteen vertellen dat klanten bij elk conflict op de eerste plaats komen.
De gedachte is dat openheid de latere schok van het gevoel achtergesteld te worden verzacht. Het is eerlijk. Maar praktijken voor AI-transparantie zijn niet hetzelfde als gelijkwaardigheid, en weten waar je staat in de rangorde is niet hetzelfde als daar enige invloed op hebben.
Gonzalez kwam het dichtst bij het model van werknemersvertrouwen toen ze beschreef hoe groepen werknemers verschillende tools mochten testen, delen wat wel en niet werkte en beide uitkomsten mochten vieren.
Ze presenteerde dit als een manier om echt vertrouwen op te bouwen in plaats van van bovenaf een platform op te leggen. Dat verschilt wezenlijk van het verplicht stellen van gebruik en het meten van de cijfers. Maar het blijft steken bij adoptie.
Vertrouwen in de betekenis waar CHRO's en COO's om zouden moeten geven, houdt meer in: geloven werknemers dat AI wordt ingezet op manieren die rekening houden met hun belangen, dat de beslissingen waarop het invloed heeft eerlijk zijn en dat er ergens terechtkan wanneer dat niet het geval is?
Wanneer het systeem de beslisser wordt
De agentische laag maakt dit urgenter. Gonzalez maakte een onderscheid dat tot de kern van de zaak doordringt.
Het is één ding om een output te vertrouwen, het is iets anders om een heel systeem te vertrouwen." — Wendy Gonzalez, Sama
Wanneer AI een vraag beantwoordt, kan een werknemer het antwoord beoordelen. Wanneer AI werk toewijst, prestaties markeert of invloed heeft op wie welke kans krijgt, kan de werknemer het systeem vaak helemaal niet zien. De transparantienormen die op modelniveau logisch zijn, strekken zich niet automatisch uit tot de mensen die met de resultaten van het model moeten leven.
DeSouza beschreef het langetermijndoel als het opbouwen van een personeelsbestand dat "tweetalig" is — vloeiend in zowel hun functie als AI. Hij wees op de interne hackathons van Google, waar het HR-team twee keer op rij won, als bewijs dat brede toepassing tot echte deskundigheid binnen verschillende functies kan leiden.
Het is een nuttig signaal. Maar vaardigheid in een hulpmiddel is niet hetzelfde als vertrouwen in het systeem waartoe dat hulpmiddel behoort. Werknemers kunnen zeer vaardige AI-gebruikers zijn en toch geen inzicht hebben in hoe AI wordt gebruikt om hen te beoordelen, te rangschikken of opnieuw in te zetten.
Het succesvolle personeelsbestand van de toekomst zal binnen elke functie tweetalig zijn. Iedereen zal zijn functie kennen én AI.
Beide sessies waren inhoudelijk sterk. De sprekers waren bedachtzaam. Opvallend is niet wat een van beiden verkeerd deed, maar wat het gesprek over AI in ondernemingen als geheel nog geen ruimte heeft geboden.
Beveiliging en naleving van regelgeving zijn reële, urgente en oprecht moeilijke problemen. Maar ze beschrijven de infrastructuur van vertrouwen, niet de ervaring ervan. Voor de werknemers aan wie wordt gevraagd hun werkende leven rond deze systemen op te bouwen, is dat onderscheid de hele vraag.
