Tietävätkö työntekijäsi työskentelevänsä tekoälyagenttien rinnalla?
Tietoisuuskuilu: Monet työntekijät eivät tiedä työpaikoillaan toimivista tekoälyagenteista, mikä johtaa epäluottamukseen ja hämmennykseen.
Läpinäkyvyyden merkitys: Hallintakehykset perustuvat ihmisen valvontaan, mutta työntekijöiden tietämättömyys vaarantaa vastuuvelvollisuuden toteutumisen.
Luottamuksen rapautuminen: Monet työntekijät pitävät tekoälyjärjestelmiä epäluotettavina, sillä 62 % ilmaisee huolensa tekoälyagenttien luotettavuudesta.
Työntekijöiden osallistaminen: Julkistaminen on ratkaisevan tärkeää; työntekijöiden on ymmärrettävä tekoälyn rooli voidakseen valvoa järjestelmiä ja osallistua niiden käyttöön tehokkaasti.
Koulutuksen puute: Vain 38 % organisaatioista tarjoaa koulutusta tekoälytyökaluista, mikä vahvistaa työntekijöiden kokemusta vanhentumisesta.
Useimmat työntekijät eivät tiedä, minkä parissa he työskentelevät.
Toiminnallinen tekoäly on siirtynyt jo kauas pilottivaiheesta ja ohjaa nyt asiakaspalvelutapauksia, ilmoittaa suorituskyvyn poikkeamista, aikatauluttaa haastatteluja ja tiivistää kokouksia ennen kuin kukaan on edes kirjautunut ulos.
Yhä useammissa organisaatioissa se laatii vastauksia ja tekee vähäisen riskin päätöksiä sellaisten työntekijöiden puolesta, joille ei ole kerrottu, mitä tapahtuu.
Continue Reading for Free
Create a free account to finish this article, plus get ongoing access to timely insights and practical resources.
Have an account? Log In
Käyttöönotto on edennyt tiedottamista nopeammin. Cloud Security Alliancen huhtikuussa julkaistun kyselyn mukaan 82 % yrityksistä löysi viime vuoden aikana IT-ympäristöistään aiemmin tuntemattomia tekoälyagentteja, joista monet esiintyivät useita kertoja. Kyse on IT-ympäristön näkyvyysongelmasta. Työntekijöiden tietoisuuteen liittyvä ongelma on vielä syvempi.
Workdayn vuonna 2025 tekemässä maailmanlaajuisessa tutkimuksessa, johon vastasi lähes 3 000 päätöksentekijää Pohjois-Amerikasta, Aasian ja Tyynenmeren alueelta sekä Euroopasta, Lähi-idästä ja Afrikasta, selvisi, että vain 24 % työntekijöistä suhtautuu luottavaisesti siihen, että tekoälyagentit toimivat taustalla heidän tietämättään.
Emme voi pitää tätä vain pienen piirin huolena, kun kolme neljästä työntekijästä vetää selkeän rajan – ja useimmat heistä tekevät sen ilman täyttä tietoa siitä, missä raja heidän omalla työpaikallaan oikeastaan kulkee.
Avoimuus ja yhteiset oletukset
Perustelut tämän kuilun umpeen kuromiselle ovat eettisesti suoraviivaiset. Työntekijöillä on perusteltu oikeus ymmärtää järjestelmiä, jotka vaikuttavat heidän työtehtäviensä jakamiseen, työmääräänsä ja joissakin tapauksissa myös suoritusarviointeihinsa. Toiminnallinen perustelu saattaa kuitenkin olla selkeämpi niille johtajille, joiden on kuultava se.
Hallintakehykset, kuten NISTin tekoälyn riskienhallintakehys, EU:n tekoälysäädöksen läpinäkyvyysvaatimukset ja useimmat viimeisen kahden vuoden aikana laaditut yritysten tekoälypolitiikat, perustuvat yhteiseen oletukseen siitä, että ihmiset pysyvät mukana prosessissa.
Eivät vain johtajat tai vaatimustenmukaisuustiimit, vaan myös työn tekijät. Ihmisen suorittama valvonta tarkoittaa, että kun agentti tekee virheen, ohjaa tapauksen väärin, soveltaa virheellistä arviointiperustetta tai poikkeaa tarkoitetusta toiminnastaan, joku huomaa sen. Tämä joku on lähes aina etulinjan työntekijä, joka on riittävän lähellä lopputulosta tunnistaakseen, kun jokin on pielessä.
Kun työntekijät eivät tiedä agentin toimivan, tämä valvonta katoaa rakenteellisesti. Vastuunalaisuuden rakenne riippuu tietoisuudesta, jota ei ole.
Mitä tapahtuu, kun he saavat tietää?
Kun romahdus tapahtuu, se on yleensä henkilökohtainen. Noin kahdeksan kuukautta ennen kuin Mike Rolfe, Outbuildin – rakennusalan aikataulutusalustan – tuotepäällikkö, keskusteli People Managing Peoplen kanssa, hän oli ottanut asiakkuuksienhallinnan toimintoihin käyttöön toiminnallisen järjestelmän, joka pystyi seuraamaan itsenäisesti asiakkuuksien tilaa, aikatauluttamaan puheluita CSM-asiantuntijoiden puolesta ja laatimaan uusimisriskiraportteja ilman, että kukaan käynnisti niitä.
Johto oli saanut tiedon, mutta laajemmalle asiakaspalvelutiimille ei kerrottu asiasta, osittain siksi, että sisäisesti kaikki kutsuivat sitä jatkuvasti "automatisoinniksi" sen sijaan, että olisivat kutsuneet sitä siksi, mitä se todellisuudessa oli.
CSM-asiantuntija meni asiakaspuheluun, ja asiakas mainitsi kokouksen, jonka he olivat jo sopineet, vaikka CSM-asiantuntija ei ollut koskaan järjestänyt sitä.
Tiimin sisäisen luottamuksen vahingoittuminen vei viikkoja korjata. Hänen nykyinen sääntönsä on, että heti kun tekoälyjärjestelmä tekee toimenpiteen, jonka toinen henkilö näkee, kyseiseen toimenpiteeseen liitetyn nimen haltijan on tiedettävä siitä ennen kuin se tapahtuu.
Hänen tiiminsä lopetti myös kokonaan sanan "automatisointi" käytön ja korvasi sen selkeillä kuvauksilla. Esimerkiksi: "järjestelmä varaa kokoukset puolestasi ja ilmoittaa asiakkaalle sinun nimissäsi".
Tämä johtuu siitä, että erityisesti rakennusalan kulttuurissa epämääräinen teknologian kieli ei synnytä tietoista suostumusta. Se luo edellytykset juuri sellaiselle tilanteelle, jonka hänen CSM-asiantuntijansa koki.
Vastuu on ihmisen vastuulla
Elestion operatiivinen johtaja ja tietosuojavastaava Steven Betito on myös nähnyt tämän käytännössä.
Kun hänen tiiminsä integroi agenttipohjaisen tekoälyn päivittäisiin toimintoihin, he rakensivat avoimuuden mukaan alusta asti. Jokaisella agentilla oli dokumentoitu rooli, ja tiimille kerrottiin selkeästi, että kyseessä oli tekoäly, joten kenellekään ei koskaan ollut epäselvää, minkä kanssa he työskentelivät. Sen sijaan selkeää eskalointirakennetta ei rakennettu riittävän varhaisessa vaiheessa.
Ensimmäisten kuukausien aikana emme formalisoineet eskalointipolkuja. Ihmistiimin jäsen saattoi lähettää agentille sähköpostitse epäselvän pyynnön, agentti tulkitsi sen parhaansa mukaan, ja tulos päätyi joskus tuotantoon ilman selkeästi nimettyä ihmistarkastajaa.
Ratkaisu oli suoraviivainen, kun ongelma oli tunnistettu. Jokainen määritellyn kynnysarvon ylittävä agentin toiminto edellyttää nyt nimettyä ihmishyväksyjää, mutta opetus säilyi. Avoimuus siitä, mikä agentti on, ei automaattisesti synnytä vastuullisuutta sen toiminnasta. Kyse on erillisistä ongelmista, jotka edellyttävät erillisiä ratkaisuja.
Luottamusta ei ole missään
Asanan vuoden 2025 raportissa tekoälyn käytön maailmanlaajuisesta tilasta työssä, johon vastasi yli 2 000 tietotyöntekijää Yhdysvalloista ja Isosta-Britanniasta, todettiin, että 62 % pitää tekoälyagentteja epäluotettavina.
Vielä kertovampaa on se, mitä tämän luvun taustalla on: 82 % työntekijöistä sanoi asianmukaisen koulutuksen olevan välttämätöntä tekoälyagenttien tehokkaalle käytölle, mutta vain 38 % organisaatioista on tarjonnut sitä.
Ongelma ei niinkään ole se, että työntekijät torjuisivat tekoälyagentit, vaan se, että he joutuvat tasapainoilemaan sen välillä, mitä heille on annettu ja mitä heille on opetettu, ja he tuntevat itsensä yhä vähemmän merkityksellisiksi käyttöönoton kiihtyessä.
Kun työntekijät saavat tietää kollegalta, prosessimuutoksen kautta tai selittämättömän lopputuloksen perusteella, että tekoälyjärjestelmät ovat toimineet heidän työnkuluissaan, reaktio ei yleensä ole uteliaisuus. Kyse on erityisestä epäluottamuksesta, joka syntyy siitä, että työntekijä kokee olevansa hallinnoitu sen sijaan, että hänet olisi otettu mukaan. Eikä tämä epäluottamus rajoitu tekoälyä koskevaan kysymykseen.
Osa ongelmasta liittyy määritelmiin. ”Agenttipohjainen tekoäly” ei ole päätynyt useimpiin työntekijäkäsikirjoihin tai esihenkilöiden koulutusohjelmiin, vaikka itse työkalut ovat päätyneet niihin. Monet organisaatiot ovat ottaneet agentteja käyttöön toimittajien tuotenimillä — työnkulkuavustajina, CRM-integraatioina ja aikataulutusalustoina — jotka eivät tuo esiin taustalla olevaa autonomiaa.
Tapausten reitityssuositusta noudattava työntekijä ei välttämättä tiedä, että reitityksen teki tekoälyagentti eikä esihenkilö tai staattinen sääntö.
WalkMen vuoden 2025 työpaikkakyselyssä todettiin, että 78 % työntekijöistä käyttää työnantajansa tarjoamattomia tekoälytyökaluja, ja lähes puolet on välttänyt kertomasta tekoälyn käytöstään työssä välttääkseen arvostelua. Varjokäyttöönotto ja organisaation läpinäkymättömyys ruokkivat toisiaan.
Tämän korjaaminen ei ole kertaluonteinen viestintäharjoitus. Toimivaa on avoimuuden rakentaminen osaksi käyttöönottoa selittämällä, mitä järjestelmä tekee ja mitä se ei tee, ennen kuin se otetaan käyttöön tiimin työnkulussa, luomalla jatkuva näkyvyys siihen, missä agentit toimivat, ja tarjoamalla työntekijöille selkeä kanava ilmoittaa, kun jokin näyttää olevan vialla.
Viimeksi mainittu on tärkeämpää kuin useimmissa tekoälyn käyttöönottosuunnitelmissa myönnetään.
Työntekijät eivät ole vain avoimuuden kohdeyleisö. He ovat minkä tahansa omalla toimialueellaan toimivan agenttipohjaisen järjestelmän ensisijainen virheiden havaitsemisen kerros. Kun he tietävät, mitä järjestelmiä käytetään, ja ymmärtävät, mitä tehdä niiden toimiessa väärin, hallinto toimii suunnitellulla tavalla. Kun he eivät tiedä, nämä viitekehykset jäävät teoreettisiksi.
