Yritysten tekoälyponnistelut ratkaisevat väärän luottamusongelman
Luottamuksen määritelmä: Luottamus vaihtelee yrityksissä; yksi määritelmä liittyy tietoturvaan, kun taas työntekijöiden näkökulmat jäävät usein huomiotta.
Turvallisuus ensin: Francis deSouza korostaa tietoturva-arkkitehtuuria tekoälyyn kohdistuvan luottamuksen perustana organisaatioissa.
Läpinäkyvyyden tarpeet: Rehellisyys toimittajien ja asiakkaiden välisestä vuorovaikutuksesta on elintärkeää, mutta se ei merkitse työntekijöiden yhdenvertaisuutta tai mahdollisuutta saada äänensä kuuluviin.
Sana ”luottamus” esiintyi kymmeniä kertoja kahdessa viime viikolla HumanX-tapahtumassa pidetyssä yritys-AI:ta käsitelleessä istunnossa. Istunnoista kävi ilmi, että luottamus ei tarkoita organisaation sisällä aina samaa asiaa.
Google Cloudin operatiiviselle johtajalle Francis deSouzalle luottamus alkaa turvallisuusarkkitehtuurista.
”AI-keskustelua ei ole olemassa ilman turvallisuuskeskustelua”, hän sanoi ja kuvaili, kuinka yritysten on ennen tekoälyn laajamittaista käyttöönottoa varauduttava uusiin hyökkäyspintoihin ja autonomisten agenttien uhkiin sekä rakennettava datan käsittelystrategiat uudelleen alusta alkaen.
Continue Reading for Free
Create a free account to finish this article, plus get ongoing access to timely insights and practical resources.
Have an account? Log In
Kun hän kuvaili työntekijöiden lataavan työkaluja IT-osaston valvonnan ulkopuolella, hän kehysti asian riskienhallintaongelmaksi. Ratkaisu on hyväksytty alusta, jota hallinnoidaan ja jonka käyttöä voidaan valvoa.
Erillisessä istunnossa, jossa käsiteltiin käyttäjien luottamuksen ansaitsevien AI-järjestelmien suunnittelua, Saman Wendy Gonzalez tarjosi toisenlaisen näkökulman. Hän kertoi keskustelusta, jonka oli käynyt kollegansa kanssa juuri ennen lavalle astumistaan. Huolena ei ollut työpaikan menettäminen. Kyse ei ole turvallisuuskysymyksestä. Mikään uhkamalli ei käsittele sitä.
Eikä kyse edes ole siitä, viekö tämä työni. Enemmänkin siitä, että jos ihmiset näkevät kehotteeni, ajattelevatko he, etten ole yhtä älykäs?
Puute on kaikkien nähtävissä
Tässä on ongelma. Yritysten AI-käyttöönotot kehittyvät teknisessä mielessä yhä hienostuneemmiksi luottamuksen osalta – turvallisuus, luotettavuus, auditoitavuus ja mallien validointi. Inhimillisessä mielessä ne ovat huomattavasti vähemmän kehittyneitä: uskovatko työntekijät, että heidän työtään muokkaavat järjestelmät ovat oikeudenmukaisia, rehellisiä rajoitustensa suhteen ja rakennettu niin, että niiden sisällä olevat ihmiset on otettu huomioon.
Organisaatiot sekoittavat nämä kaksi asiaa keskenään. Kun rakennetaan turvallinen, vaatimustenmukainen ja hyvin hallinnoitu AI-alusta, luottamusongelma vaikuttaa ratkaistulta. Todellisuudessa on ratkaistu toimittajan määritelmä, joka näkyy turvallisuusauditoinneissa ja vaatimustenmukaisuuskehyksissä.
Työntekijöiden määritelmä jää suurelta osin käsittelemättä, ja useimmissa yritysten AI-keskusteluissa sitä ei juuri edes esitetä kysymyksenä.
Vantan Christina Casioppo tarjosi sen, mitä hän kutsui yritysten luottamuksen selkeimmäksi kuvaukseksi: vastuullisuutta, joka tarkoittaa ”sen tekemistä, mitä purkissa luvataan”.
Toisin sanoen, jos sanoit tekeväsi X:n mutta teetkin Y:n, kerro se. Se on kohtuullinen periaate, mutta kyse on yritysten välisestä standardista, joka koskee sitä, miten toimittaja ansaitsee asiakkaan luottamuksen. Se, mitä työntekijöille kuuluu, jää vähemmälle huomiolle.
Istunnon suorasukaisin hetki koitti, kun Casioppo kuvaili Vantan lähestymistapaa sisäiseen läpinäkyvyyteen: uusille työntekijöille kerrotaan heti, että ristiriitatilanteessa asiakkaat ovat etusijalla.
Ajatuksena on, että asian kertominen etukäteen lieventää myöhempää järkytystä, kun työntekijä kokee jäävänsä tärkeysjärjestyksessä taka-alalle. Se on rehellistä. Mutta AI:n läpinäkyvyyskäytännöt eivät ole sama asia kuin oikeudenmukaisuus, eikä oman paikkansa tietäminen tärkeysjärjestyksessä ole sama asia kuin mahdollisuus vaikuttaa siihen.
Gonzalez pääsi lähimmäksi työntekijöiden luottamuksen mallia kuvatessaan, kuinka työntekijäryhmät saavat kokeilla erilaisia työkaluja, kertoa mikä toimi ja mikä ei, sekä juhlia molempia tuloksia.
Hän kuvasi sitä keinoksi rakentaa aitoa luottamusta sen sijaan, että ylhäältä määrättäisiin yksi alusta. Se eroaa merkittävästi käyttöönoton pakottamisesta ja lukujen mittaamisesta. Silti sekin rajoittuu käyttöönottoon.
Luottamus siinä merkityksessä, josta henkilöstöjohtajien ja operatiivisten johtajien pitäisi välittää, tarkoittaa jotain enemmän: uskovatko työntekijät, että AI:ta otetaan käyttöön tavalla, jossa heidän etunsa otetaan huomioon, sen vaikutuspiirissä olevat päätökset ovat oikeudenmukaisia ja että heillä on paikka, johon kääntyä silloin, kun näin ei ole?
Kun järjestelmästä tulee päätöksentekijä
Autonomisten agenttien kerros tekee tästä entistä kiireellisemmän kysymyksen. Gonzalez teki erottelun, joka osuu asian ytimeen.
On eri asia luottaa yhteen tulokseen kuin luottaa kokonaisen järjestelmän toimintaan." — Wendy Gonzalez, Sama
Kun tekoäly vastaa kysymykseen, työntekijä voi arvioida vastauksen. Kun tekoäly ohjaa työtä, merkitsee suorituksia huomioitaviksi tai vaikuttaa siihen, kuka saa minkäkin mahdollisuuden, työntekijä ei usein näe järjestelmää lainkaan. Mallitasolla järkevät läpinäkyvyysstandardit eivät automaattisesti ulotu ihmisiin, jotka elävät mallin tuottamien tulosten keskellä.
DeSouza kuvaili pitkän aikavälin tavoitteeksi sellaisen työvoiman rakentamisen, joka on "kaksikielinen" — sujuva sekä omassa tehtävässään että tekoälyn käytössä. Hän viittasi Googlen sisäisiin hackathoneihin, joissa HR-tiimi voitti kaksi kertaa peräkkäin, osoituksena siitä, että laaja käyttöönotto voi tuottaa aitoa sujuvuutta eri toimintojen välillä.
Se on hyödyllinen signaali. Työkalun sujuva hallinta ei kuitenkaan ole sama asia kuin luottamus järjestelmään, johon kyseinen työkalu kuuluu. Työntekijät voivat olla erittäin taitavia tekoälyn käyttäjiä ja silti täysin tietämättömiä siitä, miten tekoälyä käytetään heidän arvioimiseensa, sijoittamiseensa paremmuusjärjestykseen tai uudelleensijoittamiseensa.
Tulevaisuuden menestyvä työvoima on kaksikielinen kaikissa tehtävissä. Jokainen tuntee oman tehtävänsä ja tekoälyn.
Molemmat keskustelut olivat sisällöllisesti vahvoja. Puhujat olivat harkitsevia. Huomionarvoista ei ole se, missä kumpikaan heistä olisi ollut väärässä, vaan se, mille yritysten tekoälyä koskeva keskustelu kokonaisuutena ei ole vielä tehnyt tilaa.
Turvallisuus ja vaatimustenmukaisuus ovat todellisia, kiireellisiä ja aidosti vaikeita ongelmia. Ne kuitenkin kuvaavat luottamuksen infrastruktuuria, eivät sen kokemusta. Työntekijöille, joiden odotetaan rakentavan työelämänsä näiden järjestelmien ympärille, tämä ero on koko kysymys.
