Kolme muutosta, joilla siirrytään tekoälyavusta omistajuuteen
Organisaation kuilu: Suurin este tekoälyn käyttöönotolle ei ole tekninen vaan organisatorisen infrastruktuurin puute.
Harkinnan muutos: Organisaatioiden on siirryttävä yksilöllisestä harkinnasta kollektiiviseen harkintaan tekoälyjärjestelmien päätöksenteon parantamiseksi.
Hallinnoinnin merkitys: Määritä selkeä omistajuus ja toteuta auditointi, jotta tekoälyjärjestelmät ovat vastuullisia ja virheisiin puututaan.
Arvon uudelleenmäärittely: Muokkaa arvon mittareita nopeudesta kohti tarkkuutta ja päätöksenteon laatua, mikä tehostaa tekoälyn integrointia.
Pilottien menestystekijät: Selkeät tavoitteet, määritetty omistajuus sekä tietotekniikan ja liiketoiminnan tavoitteiden yhteensovittaminen ovat ratkaisevan tärkeitä tekoälypilottien onnistumiselle.
Deloitten vuoden 2025 Kehittyvän teknologian trendit -tutkimuksen mukaan 30 % organisaatioista tutkii agenttipohjaista tekoälyä ja 38 % pilotoi ratkaisuja. Vain 11 % kuitenkin käyttää näitä järjestelmiä tuotannossa.
Ongelma ei ole tekninen valmius. Mallit toimivat. Dataa on olemassa. Työkalut ovat saatavilla. Puuttuva tekijä on organisaation infrastruktuuri – hallintomalli, omistajuus ja kannustinjärjestelmät, jotka tekevät päätösten turvallisen siirtämisen tekoälylle mahdolliseksi.
Tiimit, jotka siirtyvät piloteista tuotantoon, tekevät kolme erityistä muutosta. Mikään niistä ei ole ensisijaisesti tekninen.
Continue Reading for Free
Create a free account to finish this article, plus get ongoing access to timely insights and practical resources.
Have an account? Log In
Muutos yksi: määrittele harkinta organisaation kyvykkyydeksi
Useimmat organisaatiot käsittelevät harkintaa henkilökohtaisena taitona, joka on kokeneiden työntekijöiden mielessä. Kaksi ihmistä saattaa käsitellä saman tapauksen eri tavoin, eikä kukaan pysty selittämään miksi. Prosessia ei voi kehittää järjestelmällisesti, koska tekoälyn päätöksenteon omistajuutta ei ole määritelty.
Ahmed Zaidi, Acceliraten toimitusjohtaja, kohtasi tämän ilmiön työskennellessään suuren sairaalajärjestelmän kanssa. Vakuutusyhtiöille korvaushakemusten hylkäyksiä koskevia valituskirjeitä laatinut 15 sairaanhoitajan tiimi näytti noudattavan suoraviivaista prosessia. Pinnalta katsottuna työ vaikutti helposti koodattavalta.
Kiistanalaiseksi muuttui nopeasti se, ettei todellisuudessa ollut olemassa ”yhtä” prosessia, Zaidi sanoo. ”Jokainen sairaanhoitaja oli kehittänyt oman strategiansa vuosien kokemuksen aikana.
Kun Zaidin tiimi yritti kirjata ylös, ”miten me oikeasti teemme tämän”, sairaanhoitajat olivat eri mieltä perustavanlaatuisista kysymyksistä:
- Mikä muodosti vahvan kliinisen perustelun?
- Mitä dokumentaatiota tulisi korostaa?
- Mihin sävyyn tai kieleen tietyt vakuutusyhtiöt reagoivat?
- Milloin valitus tulisi eskaloida ja milloin muotoilla uudelleen?
Piilevät riippuvuudet olivat vielä monimutkaisempia. Päätökset eivät perustuneet pelkästään hylkäyskoodiin. Niihin vaikuttivat yhdessä järjestelmässä olevat lääkärin muistiinpanot, toisessa järjestelmässä olevat ennakkolupatiedot sekä vapaamuotoiseen dokumentaatioon sisältyvä hienovarainen kliininen ilmaisu. Jotkin strategiat perustuivat tiettyjen lääkäreiden dokumentointitapoihin, joita ei ollut standardoitu.
Se, mikä näytti yksinkertaiselta – ”automatisoidaan valitukset” – muuttui organisaation harjoitukseksi, jossa implisiittinen harkinta tehtiin eksplisiittiseksi, Zaidi sanoo.
Ratkaiseva läpimurto tapahtui, kun tiimi siirtyi yrittämästä valita ”oikeaa” sairaanhoitajan toimintatapaa kaikkien 15 sairaanhoitajan hiljaisen tiedon kokoamiseen. He järjestivät ohjattuja työskentelytilaisuuksia, joissa sairaanhoitajat keskustelivat strategioista, toivat esiin poikkeustapauksia ja pääsivät yhteisymmärrykseen siitä, mikä oli historiallisesti johtanut onnistuneisiin korvausten palautuksiin. Sen jälkeen he yhdistivät mukaan toteutuneiden tulosten tiedot – mitkä mallit voittivat useampia valituksia ja mitkä dokumentaatioyhdistelmät paransivat päätösten kumoamisastetta.
He eivät koodanneet mielipidettä, vaan vahvistettuja toimintamalleja.
Tämä ulkoistaminen luo jotakin, mitä organisaatioilla harvoin on: mahdollisuuden tarkkailla ja kehittää harkintaa laajassa mittakaavassa. Jokainen toimenpide kirjataan. Jokainen poikkeus tulee näkyväksi. Jokainen ohitus osoittaa, missä säännöt eivät vastaa todellisuutta. Tiimit voivat nähdä toimintamalleja, tarkentaa kynnysarvoja ja parantaa suorituskykyä ajan mittaan.
Tulos oli mitattavissa: valitusten tarkkuus parani, käsittelyaika lyheni, palautusaste nousi ja vaatimustenmukaisuuteen liittyvä riski pieneni, koska päätökset olivat nyt standardoituja, dokumentoituja ja auditoitavia.
Hallintomalli ei hidastanut järjestelmää, vaan antoi organisaatiolle tavan oppia omista päätöksistään järjestelmällisesti.
Muutos kaksi: määritä agentin toiminnalle selkeä omistajuus
Tuotantokäyttöön siirtymisen keskeinen rajoite on organisaation luottamus siihen, että tekoälyn toimet ovat rajattuja, auditoitavia, peruttavissa ja valvottuja.
Etenevät tiimit nimeävät yhden operatiivisen omistajan, joka vastaa nimenomaisesti agentin toiminnasta, myös sen tekemistä virheistä. Ensimmäinen merkittävä virhe osoittaa, toimiiko tämä infrastruktuuri todella.
Sairaalan valitusten käsittelyssä Zaidilla oli käytössään agentti, joka avusti hylkäyksiä koskevien valitusten luonnostelussa ja priorisoinnissa. Sen tehtävänä oli lajitella tapaukset ja suositella eskalointia, kun tietyt riskikynnykset ylittyivät.
Ensimmäinen merkittävä virhe tapahtui, kun agentti luokitteli suuren rahamäärän ja aikakriittisen hylkäyksen rutiinitapaukseksi eikä eskaloinut sitä. Logiikka tulkitsi hylkäyskoodin oikein, mutta ei huomioinut riittävästi toissijaista asiayhteyteen liittyvää tekijää – kyseisen maksajan sopimukseen liittyvän valitusajan umpeutumista.
Virhe saatiin rajattua, mutta sillä oli merkittäviä taloudellisia vaikutuksia. Se havaittiin päivittäisessä poikkeamien tarkastuksessa, jonka tiimi oli rakentanut osaksi työnkulkua – ihmisen suorittamassa tarkistusvaiheessa, jossa otettiin otos arvokkaista tapauksista.
Tuossa hetkessä kävi ilmi, ettei agentti ollut holtiton, vaan että eskalointikriteerimme olivat puutteelliset, Zaidi sanoo. ”Olimme koodanneet kliinisen logiikan ja hylkäyslogiikan, mutta emme olleet täysin yhdistäneet sopimusten metatietoja priorisointikehykseen.
Hallintorakenne auttoi kahdella tavalla:
- Lokitiedot ja jäljitettävyys osoittivat täsmälleen, miksi agentti teki päätöksen, ja ihminen osana prosessia tehtävässä auditoinnissa havaittiin suuren riskin tapaukset.
- Se paljasti puutteen. "Riskin" määritelmä oli liian suppea.
Tiimi vastasi laajentamalla eskalointisääntöjä niin, että ne sisälsivät taloudelliset ja ajalliset riskimuuttujat, ottamalla käyttöön dynaamiset sopimusperusteiset kynnysarvot, lisäämällä vanheneviin valituksiin liittyvää seurantaa ja selkeyttämällä ohituskäytäntöjä.
Agenttipohjaisissa järjestelmissä virheet johtuvat harvoin yhdestä huonosta päätöksestä. Ne johtuvat puutteellisesta kontekstin mallintamisesta. Vastuullisuus tekoälyjohtamisessa tarkoittaa suunnittelua varhaista havaitsemista varten, ei täydellisyyden olettamista.
Se, miten johto käsittelee ensimmäisen virheen, ratkaisee kaiken. Jos sitä kohdellaan oppimismahdollisuutena ja järjestelmää mukautetaan, tiimit saavat lisää luottamusta. Jos johto vetäytyy tai vierittää syyn yksittäisen henkilön niskoille, pilotti epäonnistuu.
Menestyvät organisaatiot eivät vältä virheitä. Ne rakentavat järjestelmiä, jotka tuovat virheet nopeasti esiin, käsittelevät niitä datana ja kehittyvät.
Hallinnon katvealue
Yksi yleisimmistä Zaidiin törmäämistä hallinnon epäonnistumisista on se, mitä hän kutsuu passiiviseksi tekoälyn hallinnoksi eli uskomukseksi, että lokitiedot merkitsevät kontrollia.
"Organisaatiot sanovat luottavaisesti: 'Jokainen agentin tekemä päätös kirjataan lokiin. Meillä on täydellinen jäljitettävyys,'" Zaidi sanoo. "Se kuulostaa rauhoittavalta erityisesti säännellyssä ympäristössä. Mutta lokiin kirjaaminen ei itsessään vähennä riskiä. Se ainoastaan tallentaa sen."
Terveydenhuollossa agenttien päätökset ja tekoälyn käyttötavat liittyvät usein sopimusten hallintaan ja sen erityispiirteisiin, kliiniseen kieleen, maksajan tulkintaan ja ajallisiin rajoitteisiin. Vaikka jokainen tuloste olisi teknisesti jäljitettävissä, riski kasautuu reunatapauksissa, jotka jäävät juuri ennalta määriteltyjen kynnysarvojen ulkopuolelle, dokumentointikäytäntöjen tai maksajan vastauskäyttäytymisen muuttuessa sekä eskaloinneissa, joiden olisi pitänyt tapahtua mutta jotka eivät teknisesti rikkoneet sääntöä.
Monet organisaatiot olettavat, että koska mikään ei mennyt rikki, järjestelmä on vaatimustenmukainen. Mutta välittömän epäonnistumisen puuttuminen ei ole todiste turvallisuudesta. Se voi yksinkertaisesti tarkoittaa, ettei kukaan tarkastele asiaa riittävän perusteellisesti.
Aito tekoälyn hallinnon kypsyys sisältää määritellyt tarkastusvälit päätösotosten arviointia varten, määrälliset riskikynnykset, jotka käynnistävät automaattisesti ihmisen tekemän tarkastelun, selkeän vastuun seurannasta operatiivisella tasolla sekä palautesilmukat, joissa toistuvat poikkeusmallit johtavat sääntöjen tarkentamiseen.
Kysyn johtajilta usein yksinkertaisen kysymyksen: 'Kuka herää aamulla vastuullisena siitä, mitä agentti päätti eilen?'" Zaidi sanoo. "Jos vastaus ei ole selkeä, hallintomalli ei ole valmis.
Muutos kolme: muuta sitä, mitä arvostetaan
Useimmissa organisaatioissa asiantuntemus on kytkeytynyt tiiviisti asemaan, työpaikan säilymiseen ja epäviralliseen valtaan. Se, että on "se henkilö, joka tietää", on tapa rakentaa ja suojella vaikutusvaltaa. Harkinnan tekeminen näkyväksi voi tuntua siltä, että luopuu ainoasta vaikutuskeinosta, johon järjestelmä on opettanut ihmiset turvautumaan.
Sairaalajärjestelmässä hoitotiimiä oli perinteisesti mitattu määrän perusteella – sen mukaan, kuinka monta valituskirjettä se pystyi laatimaan päivässä.
Kun agentin avustama luonnostelu otettiin käyttöön, mittarista tuli haitallinen. Jos tekoäly tuotti ensimmäiset luonnokset, pelkkä määrä ei enää kuvastanut arvoa.
Suoritusten mittaaminen siirtyi kliinisen arvioinnin tarkkuuteen, tekoälyn tuottamien kirjeiden muokkausten tehokkuuteen, takaisin saatujen rahamäärien vaikutukseen sekä panokseen mallipohjien ja eskalointilogiikan parantamisessa.
Eräs sairaanhoitaja nousi erityisesti johtajaksi. Hänellä oli poikkeuksellinen kyky ilmaista, miksi tietty sanamuoto toimi paremmin tiettyjen vakuuttajien kanssa. Sen sijaan, että hänen suoritustaan olisi mitattu tuottamisen nopeudella, hänestä tuli keskeinen henkilö, joka muutti harkintansa uudelleenkäytettäviksi järjestelmäsäännöiksi ja mallipohjiksi.
Hänen vaikutusvaltansa kasvoi, koska hän pystyi muuttamaan intuition jäsennellyksi logiikaksi," Zaidi sanoo. "Se on hyvin erilainen taitokokonaisuus, joka on agenttipohjaisissa ympäristöissä erittäin arvokas.
Muutos oli kulttuurinen: kysymyksestä "Kuinka nopeasti pystyt tuottamaan?" kysymykseen "Kuinka hyvin pystyt muovaamaan päätöksentekojärjestelmiä?"
Kun organisaatiot palkitsevat sankaritekoja, nopeutta tai intuitiota mutta eivät dokumentointia, valvontaa tai järjestelmän kehittämistä, asiantuntemus jää loukkuun yksilöihin. Siirtymän tekevät tiimit edistävät ihmisiä, jotka pystyvät opettamaan harkintansa järjestelmälle, parantamaan sitä ajan mittaan ja tekemään muiden työstä sen avulla parempaa.
Kun asiantuntemus nähdään organisaation kyvykkyyttä kasvattavana asiana henkilökohtaisen korvaamattomuuden sijaan, tekoälyvastustus hiipuu. Tehtävien siirtämisestä agenteille tulee merkki senioriteetista sen sijaan, että se olisi uhka sille.
Epäonnistumisen varhaiset varoitusmerkit
Pilotin ensimmäisten 30–60 päivän aikana epäonnistuminen on lähes aina ennakoitavissa.
Suurin punainen lippu on selkeästi määritellyn tavoitteen puuttuminen. Jos tiimi ei pysty kuvaamaan toiminnallisin termein, miltä onnistuminen näyttää – lyhyempi läpimenoaika, suurempi palautusaste, pienemmät virhemäärät – pilotti on todennäköisesti vain päämäärätöntä kokeilua.
Muita varoitusmerkkejä ovat se, ettei toiminnalle ole nimetty selkeää omistajaa, liiketoiminta ja IT eivät ole yhtä mieltä ajankäytöstä ja monimutkaisuudesta, automatisoitavaa todellista päätöksentekoprosessia ei pystytä kuvaamaan ja aloitetta kohdellaan "tekoälyn tutkimisena" toiminnan uudelleensuunnittelun sijaan.
Pilotit pysähtyvät, kun liiketoiminnan sidosryhmät aliarvioivat harkinnan muuntamiseen jäsennellyksi logiikaksi tarvittavan työn ja IT aliarvioi liiketoimintaprosessien vaihtelun ja poikkeustapaukset.
Onnistuneet pilotit tekevät ensimmäisten 30 päivän aikana kolme asiaa:
- Määrittelevät rajatun laajuuden ja mitattavat tulokset
- Nimeävät liiketoiminnalle omistajan ja sitouttavat nimetyt asiantuntijat
- Tarjoavat johdon tuen kokeiluille ja poistavat menettelyihin liittyvät esteet.
"Toimijapohjainen tekoäly ei ole teknologian käyttöönottoprobleema – se on päätösarkkitehtuurin ongelma", Zaidi sanoo. "Jos siihen ei puututa varhaisessa vaiheessa, siitä tulee todiste kustannuksista."
Miltä valmius näyttää
Kun organisaatio väittää olevansa valmis skaalaamaan toimijapohjaisen ratkaisun, Zaidi etsii rakenteellista kypsyyttä ihmisissä, prosesseissa ja teknologiassa. Se tarkoittaa seuraavaa:
- Nimetty liiketoiminnan omistaja, joka vastaa tuloksista
- Selkeästi määritelty poikkeus- ja eskalointipuu
- Näkyvyys päätöksiin ja tuloksiin
- Skaalausta perusteleva yksikkötalous
- Jo toiminnassa oleva hallintokehys.
Useimmat tiimit aliarvioivat kahta asiaa: analyysin kustannuksia ja päätöslogiikan asianmukaiseen ulkoistamiseen tarvittavaa aikaa.
Yksi kypsyyden merkki, johon Zaidi on oppinut luottamaan:
Jos kysyn: 'Miten agentti päättää ollessaan epävarma?' ja he pystyvät vastaamaan selkeästi – mukaan lukien eskalointikynnykset ja vastuutahot – he ovat todennäköisesti valmiita. Jos vastaus on epämääräinen tai siinä vedotaan siihen, että 'malli kyllä selvittää sen', he ovat edelleen optimistisia, eivät valmistautuneita.
Nyt merkityksellinen kyvykkyys sijaitsee harkinnan ja järjestelmien rajapinnassa. Sellaisten ihmisten kyvykkyydessä, jotka osaavat selittää, miksi päätös tehtiin, eivät vain sitä, mitä he päättivät. Jotka osaavat pilkkoa intuition signaaleiksi, kynnyksiksi ja poikkeuksiksi. Jotka ovat uteliaita sen suhteen, missä heidän oma harkintansa pettää.
Arjessa he käyttävät vähemmän aikaa työn suorittamiseen ja enemmän aikaa sen valvomiseen, korjaamiseen ja hiomiseen, miten työ tehdään – tekevätpä sen ihmiset tai agentit.
Organisaatiot, jotka hallitsevat tämän muutoksen, saavuttavat jotain, mitä pilottivaiheeseen juuttuneilla kilpailijoilla ei ole: kyvyn parantaa harkintaa mittakaavassa. Ne voivat testata oletuksia, mitata tuloksia ja kehittää päätösten laatua tavoilla, jotka olivat mahdottomia silloin, kun asiantuntemus oli vain ihmisten päässä.
Kilpailuetu ei ole parempi tekoäly. Se on organisaation infrastruktuuri, joka tekee tekoälyn omistajuudesta mahdollista. Tämä infrastruktuuri – nopeutta mahdollistava hallinto, vastuullisuutta luova omistajuus ja siirrettävää asiantuntemusta arvostavat kannustimet – erottaa tuotantokäytössä olevat 11 prosenttia piloteissa jumittuneista 38 prosentista.
