Miksi perinteiset tekoälyn riskikehykset ovat hajoamassa

David Rice: Fortune 500 -yrityksen lakiasiainjohtaja kuvasi asian näin: hänen yrityksensä ei ollut tulessa, mutta tuntui siltä, että kaikki pitelivät liekinheittimiä. Siinä useimmat organisaatiot ovat nyt: ne ovat tietoisia riskistä, mutta eivät tiedä, mihin letku pitäisi suunnata, eikä vaara tule ulkopuolelta. Kyse on sisäisestä liikevoimasta, jota kukaan ei tiedä, miten hidastaa.

Tämän päivän ohjelmassa keskustelen Reid Blackmanin, The Ethical Nightmare Challenge -kirjan kirjoittajan, kanssa siitä, miksi perinteisiä hallintakehyksiä ei ole rakennettu nykyistä tilannetta varten. Työntekijäsi käyttävät jo tekoälyä tavoilla, joita et ole osannut ennakoida. Et voi ennustaa, miten he käyttävät tekoälyagentteja, ja useimpien johtajien ainoa tuntema keino on rajoittaa käyttöoikeuksia, mikä ei oikeastaan ole ratkaisu.

Reid esittää asian, joka raivaa tietä suuren kohinan läpi. Nopeasti toimiminen ja tekoälyn etiikan vakavasti ottaminen eivät ole toistensa vastakohtia. Yritykset, jotka käsittelevät asiaa joko–tai-valintana, luovat juuri ne katastrofaaliset luottamuksen menetykset, joita ne yrittävät välttää. Kattavaa tekoälyn etiikkaohjelmaa ei myöskään tarvitse rakentaa yhdessä yössä.

Voit aloittaa projektitasolta: kahdesta tai kolmesta tiimistä, kymmenen viikon kokeilusta tai vaikka yhdestä rehellisestä keskustelusta siitä, mistä pahimmat painajaiset voisivat syntyä. Mikä siis on ensimmäinen kysymys, joka organisaatiossasi kannattaa esittää? Entä tämä: olemmeko pysähtyneet tunnistamaan eettiset, maineeseen liittyvät ja oikeudelliset painajaiset, joita tekoälyn käyttöömme ottamisesta voi seurata?

Useimmat organisaatiot vastaavat rehellisesti kieltävästi, ja siitä aloitetaan. Tänään käsittelemme sitä, miksi perinteinen riskienhallinta ei sovellu generatiiviseen tekoälyyn tai tekoälyagentteihin, mikä tekee agenttipohjaisesta tekoälystä perustavanlaatuisesti erilaisen hallinnan haasteen, miksi nopeus ja etiikka eivät ole vaihtokauppa ja mitä nopea toiminta ja asioiden rikkominen todellisuudessa maksavat. Lopuksi käsittelemme sitä, miten eettinen painajaishaaste aloitetaan projektitasolla.

Minä olen David Rice, ja tämä on People Managing People. Jos organisaatiosi ei ole pysähtynyt kysymään, mikä voisi mennä pieleen ja kuka voisi kärsiä, tämä keskustelu osoittaa, miksi kysymystä ei voi enää lykätä. Aloitetaan.

No niin, Reid. Tervetuloa ohjelmaan. Mukava saada sinut mukaan.

Reid Blackman: Kiitos kutsusta.

David Rice: Minulla on kirja tässä. Pidän siitä. Uskon, että se on hyvä lukemisto kaikille, jotka pohtivat tekoälyyn liittyviä eettisiä haasteita.

Reid Blackman: Se ei ole minun kuppini teetäni, mutta olen iloinen, että pidät siitä.

David Rice: Kuvailet tekstissä oikeudellista johtajaa Fortune 500 -yrityksessä, joka sanoi, ettei hänen yrityksensä ollut tulessa, mutta tuntui siltä, että kaikki pitelivät liekinheittimiä. Pidän tuosta vertauksesta.

Reid Blackman: Se on suora lainaus.

David Rice: Se on vaikuttava mielikuva, koska se kuvaa täsmällisesti sitä, miltä monista johtajista nyt tuntuu. He ovat tietoisia riskistä, mutta eivät oikeastaan tiedä, mihin letku pitäisi suunnata tässä koko tekoälyasiassa. Mikä rakenteellinen syy mielestäsi ajaa useimmat organisaatiot tähän tilanteeseen? Ja miksi perinteinen riskienhallinta ei kuroo tätä kuilua umpeen?

Reid Blackman: Se on suuri kysymys. Yksi tärkeimmistä syistä on se, etteivät he tiedä, millaista ilkivaltaa heidän työntekijänsä voivat saada aikaan. Generatiivisen tekoälyn ja sen jälkeen tekoälyagenttien ongelma on, että niitä voidaan käyttää valtavan monissa tilanteissa, valtavan monien ihmisten toimesta ja valtavan moniin tarkoituksiin tavalla, jota ei voi ennustaa.

Et yksinkertaisesti voi ennustaa kaikkia tapoja, joilla työkalua tullaan käyttämään. Tiedät myös, että nämä järjestelmät voivat loukata yksityisyyttä, olla eri tavoin puolueellisia tai syrjiviä, tuottaa hallusinaatioita tai keksiä tietoja. Uutisissa on ollut asianajotoimistoja ja neljän suuren tilintarkastusyhtiön yrityksiä, jotka ovat toimittaneet asiakastöitä tekoälyn keksimän materiaalin kera.

Kun yhdistät kaikki tekoälyn käytössä mahdollisesti pieleen menevät asiat siihen, ettet voi ennustaa, miten kaikki työntekijäsi käyttävät sitä, on luonnollista olla hermostunut. Kaikilla on nyt liekinheitin.

David Rice: Minusta vertauksessa on kiinnostavaa se, että vaara on niiden ihmisten käsissä, joiden pitäisi ohjata tilannetta. Kyse ei ole ulkoisesta uhasta, vaan sisäisestä liikevoimasta, jota kukaan ei tässä vaiheessa tiedä, miten hidastaa. Se on johtamis- ja kulttuuriongelma yhtä paljon kuin hallintaongelma.

Reid Blackman: Ainoa tapa, jolla he osaavat hidastaa, on rajoittaa käyttöoikeuksia ja olla käyttämättä työkaluja. He voivat kieltää asioita, mutta se ei parhaimmillaankaan ole kuin väliaikainen ratkaisu. Agenttipohjaisen tekoälyn kohdalla tilanne pahenee entisestään. Kun työntekijöitä pyydetään käyttämään uusimpia agenttijärjestelmiä, rakentamaan omia agentteja, avustajia tai koontinäyttöjä, asiat riistäytyvät helposti hallinnasta.

Kukaan ei tiedä, mitä he saattavat rakentaa, mihin he sitä käyttävät tai miten he liittävät sen työnkulkuihinsa. Laittavatko he oikeanlaiset tarkistukset paikalleen? Tietävätkö he riskit? Miten he käyttävät ammatillista harkintaansa tässä hyvin harmaalla alueella?

David Rice: Se on vaikeaa. Agenttipohjainen tekoäly on ehkä hieman erilainen, koska se täytyy rakentaa. Mutta kun ajattelemme suuria kielimalleja ja generatiivista tekoälyä työpaikalla, liekinheitinvertauksessa kiinnostavaa on se, että henkilöstöhallinto astuu huoneeseen, jossa väline on jo sytytetty ja suihkuttaa joka suuntaan. Kaikki ovat jo sopeuttamassa työtään tekoälyyn ja käyttämässä sitä tavoilla, joita et edes tiedä tai ole tullut ajatelleeksi.

Nyt tämän kaiken haltuun ottaminen on oma haasteensa. Ja sitten joku tulee sanomaan: rakennetaan itse mitä? Elämme todella kiinnostavaa aikaa. Mietin, kuka johtoryhmässä on valtuutettu painamaan jarrua ja sanomaan, että hidastetaan hieman ja esitetään muutama eettinen kysymys. Paine kiihdyttää toimintaa tulee nyt kaikkialta: hallituksilta, sijoittajilta, johtoryhmältä ja kilpailijoilta. Kuka ottaa vastuun siitä hetkestä, jolloin sanotaan: odottakaa, meidän täytyy hidastaa?

Reid Blackman: Määritellään ensin nopeasti tekoälyagentit. Tekoälyagentin keskellä on yleensä suuri kielimalli, kuten chatbot, jonka kanssa olet vuorovaikutuksessa. Jotta kyseessä olisi agentti, kahden ehdon on täytyttävä. Ensinnäkin sen on oltava yhdistettynä muihin työkaluihin, kuten internetiin, yrityksen tietokantoihin tai asiakkuudenhallintajärjestelmään. Se voi olla yhdistetty myös muihin tekoälyjärjestelmiin.

Toinen ehto on jonkinasteinen autonomia. Annat sille tavoitteen sen sijaan, että määrittelisit jokaisen yksittäisen vaiheen. Voit esimerkiksi sanoa: lähetä viidelle tärkeimmälle asiakkaalleni sähköposti tietyn viestin perusteella. Järjestelmä päättelee itse, mitä työkaluja sen pitää käyttää, mitä hakuja tehdä, mitä tietokantoja avata ja mitä muita tekoäly- tai ohjelmistotyökaluja hyödyntää.

Koska se päättää itse, miten käyttäjän määrittelemään tavoitteeseen päästään, se on autonominen keinojen suhteen. Kun kielimalli on yhdistetty työkaluihin ja voi itse päättää, miten tavoitteisiin pyritään, sinulla on tekoälyagentti.

Tässä alkaa hahmottua koko asian monimutkaisuus. Agentti riippuu täysin asiayhteydestä: kuka sitä käyttää, mihin työkaluihin se on yhdistetty, mihin tietoihin ja ohjelmistoihin sillä on pääsy, missä järjestyksessä se käyttää työkaluja ja millaisia päätöksiä sen on valtuutettu tekemään.

Siksi ihmisten tapa käyttää kielimalleja on ennakoimaton, mutta tapa, jolla he käyttävät tekoälyagentteja, on vielä ennakoimattomampi.

David Rice: Perinteinen riskienhallinta ei siis sulje tätä kuilua, koska tekoälyagenteille ei aina edes kirjoiteta selkeitä tehtävänkuvauksia ja niiden toiminta voi ajautua vähitellen suuntaan, jota emme koskaan tarkoittaneet.

Reid Blackman: Perinteinen tekoälyn hallinta on ylhäältä alas etenevää ja politiikkavetoista. Suuressa organisaatiossa yrityksen laajuisen politiikan hyväksymiseen voi kulua vähintään vuosi, joskus kaksi. Nopeimmillaan olen nähnyt siihen kuluvan yhdeksän kuukautta, vaikka päätöksentekijät olivat erittäin päteviä ja nopeita.

Sillä välin teknologia kehittyy valtavasti. Kun politiikka lopulta julkaistaan, kukaan ei herää aamulla innokkaana lukemaan uutta ohjetta. Sen jälkeen on rakennettava tietoisuutta, käännettävä ohjeet eri osastojen ja roolien työnkuluiksi ja koulutettava ihmiset. Tämä on kuukausien, jopa vuosien prosessi.

Kun agenttipohjainen tekoäly tulee mukaan, toteutamme yhtäkkiä vanhentunutta politiikkaa. Sitten meidän täytyy saada johtoryhmä ja hallitus hyväksymään uusi versio. Se on loputon sotku.

Agenttien monimutkaisuuden vuoksi politiikan edellyttämässä asiakirjassa voi olla kaksikymmentä menettelyä. Kymmenen niistä saattaa sopia kyseiseen agenttiin, seuraavat kymmenen olla täysin epäolennaisia ja puuttua voi vielä kymmenen sellaista menettelyä, jotka ovat juuri tässä tilanteessa välttämättömiä.

Oletus, että tunnemme etukäteen kaikki kontrollit ja menettelyt, joita ihmisten on noudatettava asioiden pitämiseksi kunnossa, ei enää toimi agenttipohjaisen tekoälyn monimutkaisuudessa.

David Rice: Useimmat hallitukset käsittelevät tekoälyn etiikkaa vaatimustenmukaisuuden valintaruutuna tai IT-asiana. Milloin tästä asenteesta tulee käytännössä luottamusvelvollisuuden laiminlyönti? Miltä vastuu näyttää, kun tekoälyjärjestelmä aiheuttaa todellista haittaa?

Reid Blackman: Agenttipohjainen tekoäly muuttaa asiaa. On ilmeisen selvää, että tekoälyagentit voivat suistua raiteilta. Kun järjestelmät tekevät päätöksiä nopeudella ja mittakaavassa, johon ihmiset eivät koskaan pysty, on helppo nähdä, että asiat voivat mennä nopeasti todella pahasti pieleen.

Sinun ei tarvitse olla teknologia-asiantuntija ymmärtääksesi, että autonomia, tietojen ja työkalujen käyttöoikeudet sekä pääsy asiakkaisiin voivat tuntua järjettömiltä. Ajattelen nyt enemmän ohjauspyörää kuin jarruja. Jos et tiedä, miten agentteja ohjataan oikein, on selvää, että asiat menevät vinoon.

Yhä useammat johtajat, jotka eivät työskentele teknologian parissa, alkavat ymmärtää tämän. Aiemmin mukana olivat lähinnä data-, analytiikka- ja tietohallintojohtajat. Nyt myös henkilöstö-, operatiiviset, toimitusjohtajat ja markkinointijohtajat näkevät, että tilanne on vakava.

David Rice: Kyse ei ole vain oikeudellisesta tai henkilöstöhallinnon ongelmasta, vaan myös kulttuurista, luottamuksesta ja liiketoiminnan jatkuvuudesta. Organisaatiot voivat ottaa käyttöön työkaluja ja kantaa vastuuta, jota ne eivät tietoisesti aikoneet ottaa. Tämä on herätys toimittajien vastuullisuudesta ja hankintaprosesseista.

Reid Blackman: Hallitukset eivät yleensä tiedä tarpeeksi. Kun puhun Fortune 500 -yritysten hallituksille, hämmästyn siitä, kuinka vähän ne tietävät tekoälystä. Monia teknologia pelottaa, ja he ajattelevat sen olevan IT:n tai data-analyytikkojen asia.

Jos aiomme demokratisoida tekoälyn ja saada siitä täyden hyödyn, meidän on tehtävä ihmiset mukaviksi sen käytön kanssa. Kaikkien on voitava puhua riskeistä ja niiden välttämisestä ilman, että asia tuntuu pelottavalta tai liian tekniseltä.

Tarvitsemme nopeasti käyttöönotettavan ja skaalautuvan ratkaisun, joka voi alkaa mistä tahansa organisaation osasta. Henkilöstöjohtaja voi päättää selvittää, miltä tekoälyn hallinta näyttää henkilöstöhallinnossa ilman, että odotetaan koko yrityksen kattavaa politiikkaa.

Osastojen johtajien tulisi tunnistaa oman osastonsa mahdolliset eettiset, maineeseen liittyvät ja oikeudelliset painajaiset, selvittää, mitä resursseja niiden välttämiseen tarvitaan ja miten työntekijät koulutetaan käyttämään resursseja tehokkaasti.

David Rice: Perinteinen vastuullisen tekoälyn kehys on rakennettu kapeille ja ennustettaville järjestelmille. Mikä selittää organisaatioiden viiveen?

Reid Blackman: Yksi syy on se, että tekoälyn hallinta asetetaan usein teknologiajohtajien vastuulle. He osaavat johtaa teknologiaa, mutta heitä ei ole välttämättä opetettu toteuttamaan laajaa organisaatiomuutosta tai tekemään yhteistyötä henkilöstö-, operatiivisten ja markkinointijohtajien kanssa.

Toinen syy on se, että yritämme tehdä poliittisesti liian suuren liikkeen kerralla. Meidän on aloitettava pienemmin, osissa, ja laajennettava siitä. Sen sijaan että odotamme toimitusjohtajan ja koko johtoryhmän yhteistä linjausta, voimme aloittaa yhdestä osastosta tai projektista.

David Rice: Kun teknologinen muutos ylittää institutionaalisen reagointikyvyn, vanhat kehykset tuntuvat paremmilta kuin ei mitään. Silti jos niiden taustaoletukset eivät enää päde, niihin takerrutaan turvallisuuden tunteen vuoksi.

Reid Blackman: Perinteinen lähestymistapa oli järkevä kapean tekoälyn aikaan. Se ei kuitenkaan sovellu agenttimaailmaan. Sitä ei tarvitse pitää täysin vääränä, mutta se ei ollut riittävän tulevaisuudenvarma.

Tarvitsemme myös selkeää viestintää. Data-asiantuntijat eivät aina osaa puhua henkilöstöhallinnon kanssa, eikä henkilöstöhallinto välttämättä osaa puhua tuotekehityksen kanssa. Jos puhumme monimutkaisesta ympäristöstä eri kielillä, tilanne pahenee.

Siksi käytän sanaa painajainen. Kaikki ymmärtävät, mikä painajainen on. Henkilöstöihminen voi sanoa, että olisi todellinen painajainen, jos tekoälyjärjestelmää käytettäisiin systemaattisesti yli 40-vuotiaiden naisten jättämiseen haastattelujen ulkopuolelle. Silloin puhumme konkreettisista seurauksista emmekä abstrakteista menettelyistä.

David Rice: Kirjasi pyytää johtajia kuvittelemaan tekoälyjärjestelmiensä pahimmat uskottavat seuraukset ennen niiden toteutumista. Mitä tällaisissa keskusteluissa tapahtuu?

Reid Blackman: Painajaiset ovat avanneet monien silmät. Se on ilmeinen lähtökohta, mutta riskienhallinta on usein hyvin menettelykeskeistä ja etiikassa keskitytään yleensä hyvään ja oikeaan.

Suunnittelussa on tavallista etsiä tapoja, joilla lentokone voi rikkoutua, ja korjata nämä mahdollisuudet. Tekoälyn kohdalla emme ole yleensä aloittaneet näin.

Aiemmin keskustelut alkoivat arvoista, kuten oikeudenmukaisuudesta, avoimuudesta, vastuullisuudesta ja yksityisyydestä. Sitten kysyttiin, mitä oikeudenmukaisuus tarkoittaa käytännössä. Vastaukset vaihtelivat ja olivat usein ristiriitaisia.

Painajaiset ovat parempi lähtökohta. Johtajat osaavat kuvailla, mikä todella huono lopputulos olisi ja mitä seurauksia sillä olisi sijoittajille, brändille ja organisaatiolle. Painajaisten ympärille on myös helpompi rakentaa yhteistä näkemystä.

David Rice: Painajaiskeskustelu tarjoaa rakenteen älylliselle rehellisyydelle ja toimii samalla kulttuurin diagnoosina. Jonkun on voitava sanoa ääneen epämukava asia ilman, että häntä pidetään kielteisenä tai tuomiopäivän julistajana.

Reid Blackman: Eettinen painajaishaaste koostuu kolmesta kysymyksestä:

1. Mitkä ovat organisaatiosi tekoälyyn liittyvät eettiset painajaiset? 2. Mitä resursseja sinulla on niiden välttämiseen? 3. Miten koulutat ihmiset käyttämään näitä resursseja tehokkaasti?

Kysymykset ovat siirrettävissä organisaation eri tasoille. Niitä voidaan soveltaa yksittäiseen tekoälyratkaisuun, osastoon, divisioonaan tai koko yritykseen.

Ehdotan, että kaikki koulutetaan näihin kolmeen kysymykseen sekä tekoälyn perusteisiin, kuten vinoumiin, hallusinaatioihin, automaatiovinoumaan ja agenttijärjestelmien ketjuuntuviin häiriöihin.

Kun hankitaan ratkaisu toimittajalta tai kehitetään sitä sisäisesti, voidaan muodostaa eettisen painajashaasteen tiimi. Sen tulisi olla monialainen ja sisältää esimerkiksi henkilöstöhallinnon, data-analytiikan, lakiasioiden, riskienhallinnan ja vaatimustenmukaisuuden edustajia. Mahdollisuuksien mukaan myös toimittajan edustaja kannattaa ottaa mukaan.

Pelkkä asiantuntijoiden kokoaminen huoneeseen ei kuitenkaan riitä. Tarvitaan seitsemän vaiheen menetelmä: tunnistetaan painajaiset, arvioidaan niiden todennäköisyys ja vaikutus, muodostetaan kokonaisriski ja asetetaan painajaisten välttäminen tärkeysjärjestykseen.

Tiimejä voidaan luoda tarpeen mukaan. Jos henkilöstöhallinto käyttää paljon tekoälyä mutta markkinointi ei, muodostetaan henkilöstöhallinnon tiimi. Jos yksi tekoälyratkaisu on korkean riskin järjestelmä ja toinen vähäisen riskin ratkaisu, menetelmää sovelletaan ensisijaisesti ensimmäiseen.

Näin syntyy organisaation kyky välttää eettisiä painajaisia. Kun ihmiset käyttävät samaa kieltä ja samoja käytäntöjä, toimintatapa alkaa juurtua kulttuuriin.

David Rice: Ihmisten toiminnan näkökulmasta tämä pitäisi tehdä ennen käyttöönottoa, ei vasta tapauksen jälkeen. Miten organisaatioihin rakennetaan ennakointi?

Reid Blackman: Projektitason tiimit toimivat ennakoivasti. Niiden tehtävä on tunnistaa mahdolliset painajaiset ja luoda resurssit sekä koulutus niiden välttämiseen. Niiden on myös suunniteltava, miten järjestelmää seurataan käyttöönoton jälkeen.

Osastotason tiimit auttavat projektitason tiimejä ratkaisemaan ongelmia. Kyse on mahdollistamisesta, ei pelkästä sääntöjen antamisesta. Tarvitaan erikoiskoulutusta, painajaisluetteloita, strategioita ja taktiikoita sekä säännöllisiä keskusteluja projektijohtajien välillä.

David Rice: Agenttipohjainen tekoäly muuttaa vastuukysymystä. Järjestelmät eivät vain reagoi, vaan aloittavat toimia, ketjuttavat päätöksiä ja toimivat organisaation puolesta. Kuka on vastuussa, kun jokin menee pieleen?

Reid Blackman: Vastuuta ei voi aina kohdistaa yhteen henkilöön. Ajattele helikopterionnettomuutta: johtuiko se suunnittelusta, valmistuksesta, huollosta, lentäjästä tai lennonjohdosta? Tekoälyagentit ovat työkalujen kokonaisuuksia, jotka on yhdistetty toisiinsa. Ongelma voi johtua yhdestä työkalusta, kielimallista, sisäisestä muutoksesta tai ulkopuolisesta toimittajasta.

Henkilö, joka hyväksyi käyttöönoton, voi olla vastuussa huolimattomasta tai piittaamattomasta päätöksestä. Silti järjestelmät ovat perustavanlaatuisesti ennakoimattomia, joten kaikkia kohtuudella ennakoimattomia seurauksia ei ole oikein sälyttää hyväksyjän vastuulle.

Johtajat pelkäävät toisinaan puhua riskeistä työntekijöille, koska he ajattelevat sen vähentävän käyttöä. Se on väärä oletus. Ongelmat ovat todellisia, eikä niiden nimeäminen poista niitä. Ihmiset ovat jo huolissaan tekoälystä, ja avoin keskustelu voi vähentää epävarmuutta.

Jos haluat lisätä käyttöä, sano työntekijöille, että tunnistatte ongelmat, ymmärrätte heidän huolensa ja haluatte antaa heille keinot käyttää järjestelmiä vastuullisesti ammatillisen harkinnan mukaisesti.

David Rice: Meidän pitäisi lopettaa kielen pehmentäminen vain siksi, että asiat tuntuisivat miellyttävämmiltä. Jos kyse on painajaisesta, sitä voi kutsua painajaiseksi.

Reid Blackman: Olen samaa mieltä. Meidän ei tarvitse hymyillä koko ajan ja väittää, että tekoäly on hämmästyttävää. Se voi olla hämmästyttävää, mutta siinä on myös vakavia ongelmia.

Työntekijät ovat aikuisia. He ovat käyttäneet uusia työkaluja ennenkin. Jos et anna heille hyödyllisiä ohjeita, he ratkaisevat asian itse, etkä ehkä pidä heidän ratkaisuistaan.

David Rice: Eettiset painajaiset syntyvät harvoin pahantahtoisuudesta. Usein hyväntahtoiset ihmiset toimivat nopeasti järjestelmissä, joita he eivät täysin ymmärrä tai joita ei ole suunniteltu toimimaan niin nopeasti. Miten tämän voi perustella toimitusjohtajalle, jonka mielestä suurin riski on jälkeen jääminen?

Reid Blackman: Nopeuden ja etiikan välillä ei ole ristiriitaa. Jos haluat liikkua nopeasti ja kilpailla, kouluta ihmiset kunnolla. On järjetöntä opettaa vain mahdollisuuksista eikä lainkaan riskeistä.

Jos tekoälyagentteja ei rakenneta, valvota ja käytetä oikein, ne suistuvat raiteilta. Ihmisille on opetettava, miten näin ei tapahdu. Vasta silloin voidaan toimia nopeasti turvallisesti.

Eettinen tekoälyhäiriö ei tapahdu vain huonoille toimijoille. Se voi tapahtua organisaatioille, jotka välittävät paljon mutta liikkuvat nopeammin kuin niiden harkinta pysyy mukana.

David Rice: Kyse ei siis ole etiikan asentamisesta sääntöjoukkona, vaan organisaation kyvyn rakentamisesta hidastaa oikeilla hetkillä.

Reid Blackman: Nopeasti toimiminen ja asioiden rikkominen voi tarkoittaa, että moraalia ei ole tai että liikevaihto on suurempi kuin sakot ja mainehaitat. Useimmilla yrityksillä ei kuitenkaan ole tällaista asemaa. Niiden brändi ei kestä katastrofaalista epäonnistumista.

Siksi nopeus vastaan etiikka on väärä vastakkainasettelu. Ymmärrän tekoälyn riskit, tarkistan tiedot ja osaan vastustaa omaa taipumustani luottaa tietokoneeseen. Juuri siksi pystyn käyttämään tekoälyä paljon.

David Rice: Mikä on ensimmäinen vakava keskustelu, joka johtoryhmän tulisi käydä, jos se tunnistaa nykyisten kehystensä riittämättömyyden?

Reid Blackman: Heidän ei tarvitse kutsua koko organisaatiota koolle. Eettinen painajaishaaste voidaan aloittaa osasto-, divisioona- tai projektitasolta. Yksi kysymys riittää alkuun: olemmeko pysähtyneet tunnistamaan eettiset, maineeseen liittyvät ja oikeudelliset painajaiset, joita tekoälyn käyttöönotostamme voi seurata?

Jos vastaus on kyllä, hyvä. Veikkaan kuitenkin, että vastaus on ei. Silloin pitää aloittaa siitä.

David Rice: Kaikkea ei tarvitse rakentaa yhdessä yössä. On lupa aloittaa pienestä ja käydä vähintään yksi rehellinen keskustelu siitä, missä liiketoiminta on tekoälyn kanssa.

Reid Blackman: Asiakkaidemme kanssa voimme nyt pilotoida eettistä painaj haastetta tavalla, joka ei ollut mahdollista perinteisen lähestymistavan aikana. Valitaan kaksi tai kolme tiimiä, koulutetaan niiden jäsenet ja käydään menetelmä läpi kymmenen viikon kokeilussa.

Jos se ei toimi tai sitä ei tarvita, siihen voidaan lopettaa. Jos se toimii ja tarvitaan laajentamista, sitä laajennetaan tarpeen mukaan. Yrityksen laajuista politiikkaa ei tarvitse suunnitella yli vuotta ennen ensimmäistä pilottia. Voitte ja teidän pitäisi aloittaa pienestä.

David Rice: Erinomaista, Reid. Kiitos, että tulit ohjelmaan. Keskustelu oli hieno.

Reid Blackman: Kiitos kutsusta.

David Rice: Kuulijat, tutustukaa Reid Blackmaniin ja hänen kirjaansa The Ethical Nightmare Challenge. Lukekaa se ja pohtikaa sitä. Kirjassa on paljon hyviä kysymyksiä ja asioita, joita meidän kaikkien pitäisi ajatella.

Jos ette ole vielä tehneet sitä, menkää osoitteeseen peoplemanagingpeople.com/subscribe ja tilatkaa uutiskirje. Saatte tämän podcastin ja kaiken muun tuottamamme suoraan sähköpostiinne.

Ensi kertaan asti: tehkää tavaksi kysyä, mitä voisi mennä pieleen ja kuka kärsii, sen sijaan että kysytte, kuinka nopeasti voimme toimittaa tämän. Kuullaan taas ensi kerralla.