Anthropicin ja Pentagonin välikohtaus osoitti jokaiselle toimitusjohtajalle, mitä tapahtuu, kun kukaan ei vastaa tekoälypäätöksistä
Riskiluokitus: Pentagon luokitteli Anthropicin kansalliseksi turvallisuusriskiksi, mikä oli historiallinen ensimmäinen kerta yhdysvaltalaisen yrityksen kohdalla.
Sääntelyn aukot: Tekoälyn käyttöä koskevien liittovaltion säädösten puute vaikeuttaa valvonnan ja autonomisten päätösten oikeudellisten rajojen määrittämistä.
Hallinnan epäonnistuminen: Pentagon ja Anthropic eivät määrittäneet selkeästi päätösvaltaa tekoälytoiminnoissa, mikä johti kriisiin.
Tekoälyn käytön yleisyys: Noin 78 % työntekijöistä käyttää tekoälytyökaluja ilman organisaation hyväksyntää, mikä herättää huolta vastuuvelvollisuudesta.
Toimintakehys: Tehokkaan hallinnan tulisi keskittyä päätösvaltaan työnkulun tasolla, ei ainoastaan toimintaperiaatteiden dokumentointiin.
Viime perjantaina Pentagon määritteli tekoälymalli Clauden valmistajan Anthropicin kansallisen turvallisuuden toimitusketjuriskiksi. Määrittelyä, joka on yleensä varattu ulkomaisille vastustajille, kuten venäläisille kyberturvallisuusyrityksille ja kiinalaisille sirutoimittajille, ei ollut koskaan aiemmin sovellettu yhdysvaltalaiseen yritykseen.
Kun Anthropic piti kiinni kannastaan, OpenAI astui esiin vaatiakseen Anthropicin sopimusta itselleen.
Kiista alkoi kuukausia aiemmin, kun Anthropic allekirjoitti 200 miljoonan dollarin sopimuksen Clauden käyttöönotosta turvaluokitelluissa sotilasverkoissa. Anthropic määritteli kaksi ehdotonta rajaa: amerikkalaisten joukkovalvontaa ei sallita, eikä täysin autonomisia aseita, jotka laukaisevat ilman ihmisen osallistumista.
Continue Reading for Free
Create a free account to finish this article, plus get ongoing access to timely insights and practical resources.
Have an account? Log In
Pentagon vaati rajoittamatonta käyttöä kaikkiin lainmukaisiin tarkoituksiin.
Kuulostaa järkevältä, paitsi että liittovaltion lakeja, jotka sääntelisivät tekoälyvalvontaa, ei ole. Ei sääntelyä, joka määrittelisi algoritmisen kohdentamisen rajat. Ei oikeudellista kehystä autonomiselle päätöksenteolle.
"Kaikki lainmukainen käyttö" ilman lakia tarkoittaa, että kaikki on sallittua.
Kumpikaan osapuoli ei rakentanut mekanismia erimielisyyden ratkaisemiseksi ennen sen kärjistymistä, ja puolustusministeri Pete Hegseth antoi Anthropicin toimitusjohtajalle Dario Amodeille kolmen päivän uhkavaatimuksen: joko yritys suostuisi tai joutuisi kohtaamaan seuraukset.
Amodei ei taipunut. CBS Newsin haastattelussa vain tunteja mustalle listalle asettamisen jälkeen hän kuvaili toimia "kostotoimiksi ja rankaiseviksi" ja sanoi, että Anthropic oli tarjoutunut jatkamaan armeijan tukemista siirtymässä kilpailijan ratkaisuun.
Hän toi myös esiin sen, minkä pitäisi olla keskeinen huolenaihe kaikille, jotka ottavat tekoälyä käyttöön korkean panoksen ympäristöissä: "Teknologia kehittyy niin nopeasti, että se ei pysy lainsäädännön tahdissa."
Takaisin liiketoimintaan
Useimmissa uutisoinneissa tämä on esitetty poliittisena tarinana. Turvallisuus vastaan puolustus. Teknologiajohtaja vastaan puolustusministeri. Tarinassa on myös versio, joka käsittelee autonomisten aseiden etiikkaa, ja sillä tarinalla on merkitystä.
On kuitenkin olemassa myös näkökulma, jonka pitäisi saada jokainen COO ja CHRO pysähtymään, sillä otsikoiden alla oleva epäonnistuminen on rakenteellinen, ei poliittinen.
Pentagon sisällytti tekoälyn turvaluokiteltuihin operaatioihin ratkaisematta, kenellä oli valta päättää, miten tekoälyä sai käyttää. Anthropic oletti, että sen määrittelemät rajat pitäisivät. Pentagon oletti, etteivät nuo rajat koskisi sitä enää, kun se oli hankkinut teknologian. Kukaan ei suunnitellut hallintorakennetta käsittelemään erimielisyyttä ennen kuin erimielisyydestä tuli kriisi.
Sama tapahtumasarja on parhaillaan käynnissä yrityksissä mittakaavassa, jota useimmat johtajat eivät täysin ymmärrä.
Turvaluokitelluista verkoista organisaatiokaavioosi
Useiden tutkimusten mukaan noin 78 % työntekijöistä käyttää tekoälytyökaluja, joita heidän työnantajansa ei ole koskaan hyväksynyt. Toisin sanoen tekoäly on jo osa sitä, miten päätöksiä tehdään useimmissa organisaatioissa, riippumatta siitä, suunnitteliko kukaan sitä osaksi toimintaa.
CHRO saattaa huomata, että tekoäly laatii työpaikkailmoituksia, seuloo ansioluetteloita ja tuottaa suoritusten arviointiin liittyvää kieltä koko yrityksessä ilman, että kenellekään näistä tuotoksista on määritelty vastuuhenkilöä.
COO saattaa havaita, että kysyntäennusteisiin, hinnoittelusuosituksiin ja toimittajien arviointeihin vaikuttavat mallit, joita kukaan johtoryhmässä ei ole virallisesti hyväksynyt tuotantokäyttöön.
Jotkut johtajat ovat alkaneet rakentaa tekoälyn hallintastrategioita tämän hallitsemiseksi. Muse Groupin COO Mohammed Chahdi kuvailee viitekehystä, jonka avulla hänen hallituksensa erottaa operatiivisen tekoälyn kokeellisista hankkeista.
Ennen kuin jostakin tulee osa ydinliiketoimintaamme, odotamme johdon testaavan perusteellisesti kunkin tekoälysovelluksen luotettavuuden ja syvällisyyden, ennen kuin se ansaitsee paikan toimintamallissa.
Tuo kynnys, raja "kokeilemme tätä" -tilanteen ja "tämä vaikuttaa nyt todellisiin päätöksiin" -tilanteen välillä, on juuri se, mitä useimmat organisaatiot eivät ole määritelleet.
Kaiken tämän yllä leijuva kysymys on sama, joka rikkoi Pentagonin ja Anthropicin suhteen: kenellä on päätösvalta sen suhteen, mitä tekoäly tekee, kun se on kudottu osaksi kriittisiä työnkulkuja?
Useimmissa yrityksissä rehellinen vastaus on: ei kukaan. Päätösoikeudet suunniteltiin maailmaan, jossa ihmiset tuottivat analyysejä ja ihmiset tekivät lopullisen päätöksen. Nyt tekoäly tuottaa analyysejä, laatii suosituksia ja monissa tapauksissa muokkaa päätöstä jo ennen kuin ihminen tarkistaa sen.
Vastuurakenne ei ole pysynyt kehityksen tahdissa, ja teknologia jatkaa kumuloitumistaan. Berkeleyläinen tekoälyn tutkimusorganisaatio METR havaitsi, että edistyneiden tekoälymallien tehtävien suorittamisen aikajänne on kaksinkertaistunut suunnilleen seitsemän kuukauden välein. Tämä tahti ei odota hallintokehysten kypsymistä.
Sopimukset eivät ohjaa. Käyttöjärjestelmät ohjaavat.
Useimmissa organisaatioissa vaistomainen reaktio on vastata laatimalla toimintaperiaate. Voisit esimerkiksi:
- Laati hyväksyttävää käyttöä koskevan asiakirjan
- Perustaa hyväksyntäkomitean
- Luoda tarkistussyklin.
Toimintaperiaatteet ovat välttämättömiä. Mutta ne käsittelevät vain pintakerrosta. Pentagonilla oli sopimus, joka sisälsi ehtoja. Oletettavasti juristit tarkistivat nämä ehdot. Silti tilanne päätyi julkiseksi vastakkainasetteluksi, koska sopimus ei koskaan ratkaissut sitä, kuka viime kädessä hallitsi tekoälyn käytännön käyttöä.
Amodei toi tämän näkökulman suoraan esiin, kun häneltä kysyttiin, miksi Anthropicilla, yksityisellä yrityksellä, pitäisi olla enemmän sananvaltaa kuin Pentagonilla sotilaskäytössä olevan tekoälyn suhteen. Hänen vastauksensa ei koskenut etiikkaa abstraktilla tasolla. Se koski suorituskyvyn rajoja.
Mallillamme on persoonallisuus. Se kykenee tiettyihin asioihin. Se pystyy tekemään tietyt asiat luotettavasti. Se pystyy myös luotettavasti olemaan tekemättä tiettyjä asioita.
Tämä on toteamus siitä kuilusta, joka vallitsee sen välillä, mitä tekoäly pystyy tuottamaan, ja sen välillä, mitä ihmisen on tarkistettava. Sama kuilu on jokaisessa organisaatiossa, joka käyttää tekoälyllä täydennettyjä työnkulkuja. Kun malli laatii hinnoittelusuosituksen, jonkun on vastattava siitä, päteekö suositus tähän asiakkaaseen, näille markkinoille ja juuri tähän hetkeen.
Kun tekoäly seuloo hakijoita, jonkun on vastattava siitä, tuottavatko kriteerit oikeudenmukaisia ja täsmällisiä tuloksia. Kun tekoäly laatii vaatimustenmukaisuutta koskevan yhteenvedon, jonkun on vastattava sääntelyviranomaisille toimitettavien tietojen paikkansapitävyydestä.
Kiihdytyksen alla toimiva hallintamalli muistuttaa vähemmän toimintaperiaateopasta ja enemmän käyttöjärjestelmää. Päätösvalta on nimettävä työnkulun tasolla. Ihmisen mahdollisuus ohittaa järjestelmä on suunniteltava osaksi tuotannossa käytettäviä tekoälytyönkulkuja, eikä sen olemassaoloa saa vain olettaa. Mallien muutoksia on käsiteltävä järjestelmämuutosten tavoin: ne on testattava ja hyväksyttävä nimenomaisesti ennen käyttöönottoa.
Missä todellinen epäonnistuminen tapahtuu
Amodei nosti CBS:n haastattelussa esiin asian, joka ulottuu paljon sotilaskontekstia laajemmalle. Puhuessaan autonomisista aseista hän sanoi:
"Oletetaan, että minulla on 10 miljoonan lennokin armeija, jota yksi henkilö tai pieni joukko ihmisiä koordinoi. Mielestäni on helppo nähdä, että tähän liittyy vastuuongelmia."
Vaihda lennokit tekoälyllä täydennettyihin työnkulkuihin keskisuuressa yrityksessä. Vaihda yksi henkilö esihenkilöön, joka ylennettiin operatiivisen tehokkuuden vuoksi vakaassa ympäristössä ja joka nyt valvoo ihmisten ja koneiden tuottaman työn yhdistelmää ilman koulutusta siihen, miten erottaa toisistaan sujuva tekoälyn tuotos ja oikea tekoälyn tuotos.
Tähän olemme menossa, ellemme toimi tietoisesti. Esihenkilöt valvovat implisiittisesti tekoälyllä täydennettyjä päätöksiä ilman, että heille kerrotaan sen kuuluvan heidän työhönsä, ilman validointikuria huomioivia suorituskykyjärjestelmiä ja ilman selkeitä eskalointipolkuja tilanteisiin, joissa jokin näyttää olevan vialla.
Jos tekoälyn tekemästä hakijoiden seulonnasta syntyy kuuden kuukauden kuluttua puolueellinen rekrytointimalli tai hinnoitteluvirhe leviää tuhansille tileille, epäonnistuminen ei ole tekninen. Se johtuu siitä, ettei kukaan ottanut vastuuta valvonnasta.
Pentagon oletti voivansa ottaa Clauden käyttöön salaisissa operaatioissa ja selvittää rajat myöhemmin. Anthropic oletti, että sen sopimukseen kirjatut punaiset linjat otettaisiin huomioon ilman mekanismia niiden täytäntöönpanemiseksi. Molemmat olivat väärässä.
Seurauksena oli julkinen välirikko, ulkomaisiin vastustajiin tavallisesti kohdistettu mustalle listalle asettaminen sekä kiireinen yritys korvata malli, jota univormupukuiset sotilasvirkailijat kuvailivat välttämättömäksi.
Useimmat organisaatiot eivät joudu kohtaamaan yhtä dramaattisia seurauksia. Rakenteellinen epäonnistuminen tuntuu kuitenkin tutulta. Tekoäly upotetaan osaksi toimintaa. Päätökset kulkevat sen kautta. Kukaan ei määritellyt selkeästi, kuka vastaa tuotoksesta, kenellä on ohitusoikeus tai mitä tapahtuu, kun jokin rikkoutuu. Ja kun kysymyksestä tulee kiireellinen, on jo liian myöhäistä vastata siihen rauhallisesti.
Jos olet tätä lukeva CHRO tai COO, Pentagon teki kokeen puolestasi. Sen selvittämisen hinta, mitä tapahtuu, kun tärkeimmät hallintaa koskevat kysymykset siirretään myöhemmäksi, oli rikkoutunut suhde, kansallisen turvallisuuden aukko ja tarpeeton kiireinen selvittely. Sinun versiosi tästä kokeesta on hiljaisempi. Se ei tule olemaan halvempi.
