Yritysten tekoälyhankkeet ratkaisevat väärän luottamusongelman
Luottamuksen määritelmä: Luottamus vaihtelee yrityksissä; yksi määritelmä liittyy tietoturvaan, kun taas työntekijöiden näkökulmat jäävät usein huomiotta.
Tietoturva ensin: Francis deSouza korostaa tietoturva-arkkitehtuuria organisaatioiden tekoälyyn kohdistuvan luottamuksen perustana.
Avoimuuden tarpeet: Rehellisyys toimittajien ja asiakkaiden välisestä vuorovaikutuksesta on elintärkeää, mutta se ei merkitse työntekijöiden yhdenvertaista kohtelua tai vaikutusmahdollisuuksia.
Sana ”luottamus” esiintyi kymmeniä kertoja kahden yritysten tekoälyä käsittelevän istunnon aikana HumanX-tapahtumassa viime viikolla. Istunnoista kävi ilmi, ettei luottamus tarkoita organisaation sisällä aina samaa asiaa.
Google Cloudin COO:lle Francis deSouzalle luottamus alkaa tietoturva-arkkitehtuurista.
”Tekoälystä ei voi keskustella ilman keskustelua tietoturvasta”, hän sanoi ja kuvasi, kuinka yritysten on varauduttava uusiin hyökkäyspintoihin ja autonomisten tekoälyjärjestelmien uhkiin sekä rakennettava datansa käsittelystrategiat alusta alkaen uudelleen ennen tekoälyn käyttöönottoa laajassa mittakaavassa.
Continue Reading for Free
Create a free account to finish this article, plus get ongoing access to timely insights and practical resources.
Have an account? Log In
Kun hän kuvasi työntekijöiden lataavan työkaluja IT-osaston valvonnan ulkopuolella, hän määritteli sen riskienhallintaongelmaksi. Ratkaisu on hyväksytty alusta, jonka hallinta ja auditointi ovat kunnossa.
Erillisessä istunnossa, jossa käsiteltiin käyttäjien luottamuksen ansaitsevien tekoälyjärjestelmien suunnittelua, Saman Wendy Gonzalez tarjosi erilaisen näkökulman. Hän kuvasi keskustelua, jonka hän oli käynyt kollegansa kanssa juuri ennen lavalle nousemista. Huolena ei ollut työpaikan menettäminen. Kyse ei ole tietoturvakysymyksestä. Mikään uhkamalli ei käsittele sitä.
Kyse ei edes ole siitä, viekö tämä työni. Enemmänkin siitä, että jos ihmiset näkevät kehotteeni, ajattelevatko he, etten ole yhtä älykäs?
Kuilu on kaikkien nähtävillä
Tässä on ongelma. Yritysten tekoälyn käyttöönotot kehittyvät teknisen luottamusmääritelmän osalta yhä monimutkaisemmiksi — tietoturva, luotettavuus, auditointimahdollisuus, mallien validointi. Ne ovat huomattavasti vähemmän kehittyneitä inhimillisen luottamuksen osalta: uskovatko työntekijät, että heidän työtään muokkaavat järjestelmät ovat oikeudenmukaisia, kertovat rehellisesti rajoituksistaan ja että ne on rakennettu huomioiden myös niiden sisällä työskentelevät ihmiset.
Organisaatiot sekoittavat nämä kaksi asiaa keskenään. Rakenna turvallinen, vaatimustenmukainen ja hyvin hallinnoitu tekoälyalusta, ja luottamusongelma vaikuttaa ratkaistulta. Ratkaistu ongelma on toimittajan määritelmä, joka näkyy tietoturvatarkastuksissa ja vaatimustenmukaisuuskehyksissä.
Työntekijöiden määritelmä jää suurelta osin käsittelemättä ja useimmissa yritysten tekoälykeskusteluissa myös suurelta osin kysymättä.
Vantan Christina Casioppo tarjosi sen, mitä hän kutsui yritysten luottamuksen selkeimmäksi määritelmäksi: ”tehdään, mitä luvataan” -vastuullisuuden.
Toisin sanoen, jos sanoit tekeväsi asian X mutta teetkin asian Y, kerro se. Se on järkevä vaatimus, mutta kyseessä on yritysten välinen vaatimus siitä, miten toimittaja ansaitsee asiakkaan luottamuksen. Se, mitä työntekijöille ollaan velkaa, saa vähemmän huomiota.
Istunnon suorasanaisin hetki koitti, kun Casioppo kuvasi Vantan lähestymistapaa sisäiseen läpinäkyvyyteen: uusille työntekijöille kerrotaan heti alussa, että ristiriitatilanteessa asiakkaat menevät aina etusijalle.
Ajatuksena on, että asian kertominen etukäteen lieventää myöhemmin koettavaa järkytystä siitä, että työntekijä on asetettu toissijaiseen asemaan. Se on rehellistä. Mutta tekoälyn läpinäkyvyyskäytännöt eivät ole sama asia kuin tasa-arvo, eikä oman paikkansa tietäminen arvojärjestyksessä ole sama asia kuin mahdollisuus vaikuttaa siihen.
Gonzalez lähestyi eniten työntekijöiden luottamuksen mallia kuvatessaan, kuinka työntekijäryhmien annetaan testata erilaisia työkaluja, jakaa kokemuksiaan siitä, mikä toimi ja mikä ei, sekä juhlistaa kumpaakin lopputulosta.
Hän kuvasi sitä keinoksi rakentaa aitoa luottamusta sen sijaan, että alusta määrättäisiin ylhäältä käsin. Se eroaa merkittävästi käyttöönoton määräämisestä ja lukujen mittaamisesta. Silti se päättyy edelleen käyttöönottoon.
Luottamus siinä merkityksessä, josta CHRO:iden ja COO:iden pitäisi välittää, tarkoittaa jotain vielä pidemmälle menevää: uskovatko työntekijät, että tekoälyä otetaan käyttöön heidän etunsa huomioivilla tavoilla, että sen vaikutuspiirissä olevat päätökset ovat oikeudenmukaisia ja että heillä on paikka, johon mennä silloin, kun ne eivät ole?
Kun järjestelmästä tulee päätöksentekijä
Autonomisten tekoälyjärjestelmien taso tekee tästä entistä kiireellisemmän kysymyksen. Gonzalez teki erottelun, joka osuu asian ytimeen.
On eri asia luottaa yhteen tulokseen kuin luottaa kokonaiseen järjestelmään." — Wendy Gonzalez, Sama
Kun tekoäly vastaa kysymykseen, työntekijä voi arvioida vastauksen. Kun tekoäly ohjaa työtä, merkitsee suorituksia huomioitaviksi tai vaikuttaa siihen, kuka saa minkäkin mahdollisuuden, työntekijä ei usein pysty näkemään järjestelmää lainkaan. Mallitasolla järkevät läpinäkyvyysstandardit eivät automaattisesti ulotu ihmisiin, jotka elävät mallin tuotosten keskellä.
DeSouza kuvaili pitkän aikavälin tavoitteeksi työvoiman rakentamisen niin, että se on "kaksikielistä" — sujuvaa sekä omassa tehtävässään että tekoälyn käytössä. Hän viittasi Googlen sisäisiin hakkerointitapahtumiin, joissa henkilöstöhallinnon tiimi voitti kaksi kertaa peräkkäin, osoituksena siitä, että laaja käyttöönotto voi synnyttää aitoa sujuvuutta eri toiminnoissa.
Se on hyödyllinen signaali. Työkalun sujuva hallinta ei kuitenkaan ole sama asia kuin luottamus järjestelmään, johon työkalu kuuluu. Työntekijät voivat olla erittäin taitavia tekoälyn käyttäjiä ja silti täysin tietämättömiä siitä, miten tekoälyä käytetään heidän arvioimiseensa, asettamiseensa paremmuusjärjestykseen tai uudelleensijoittamiseensa.
Tulevaisuuden menestyvä työvoima on kaksikielistä kaikissa toiminnoissa. Jokainen tuntee oman tehtävänsä ja tekoälyn.
Molemmat istunnot olivat sisällöllisesti vahvoja. Puhujat olivat harkitsevia. Huomionarvoista ei ole se, missä jompikumpi heistä oli väärässä, vaan se, mille tekoälyä yrityksissä koskevassa keskustelussa kokonaisuutena ei ole vielä löytynyt tilaa.
Turvallisuus ja vaatimustenmukaisuus ovat todellisia, kiireellisiä ja aidosti vaikeita ongelmia. Ne kuvaavat kuitenkin luottamuksen infrastruktuuria, eivät sen kokemista. Työntekijöille, joita pyydetään rakentamaan työelämänsä näiden järjestelmien ympärille, tämä ero on koko kysymys.
