Den delen av KI-tilpasningen som tilhører personalledere

Mekanismen er viktigere enn ironien. Instruksen hennes ble ikke overstyrt, den ble droppet. Agenten nådde kontektsgrensen sin og komprimerte sin egen historikk for å holde seg innenfor den, og komprimeringen oppsummerte bort delen der hun ba den vente. Regeln fantes. Så gjorde den ikke det lenger, og ingenting i systemet markerte forskjellen.

Alle HR-ledere som har sett en policy overleve introduksjonsperioden og deretter forsvinne innen måned fire, vil kjenne igjen formen på denne feilen.

To argumenter om ett ord

Under et AI4-panel i Las Vegas forrige uke, om å gjøre tilpasning til virkelighet, klarte ikke fire personer som arbeider profesjonelt med dette, å bli enige om hva ordet «tilpasning» omfatter.

David Krueger, professor innen KI og administrerende direktør i den ideelle organisasjonen Evitable, bruker begrepet bredt og mener at det handler om å få et system til å forsøke å oppføre seg slik du har til hensikt at det skal oppføre seg. Noen ganger er denne hensikten spesifikk, noe han kaller «tilpasning til hensikten». Andre ganger er den nærmere «å handle i tråd med verdiene mine».

Spencer Whitman, produktsjef i Gray Swan, som tester banebrytende modeller før lansering, hevdet at begrepet er strukket over et spekter uten noe nyttig i midten. I den ene enden finner vi spørsmålet om et system ivaretar menneskehetens interesser. I den andre enden finner vi et mye mindre og mer håndterbart spørsmål: «Forsto dette systemet hva jeg ba om, og handlet det på grunnlag av det?»

Whitman tviler på at det første spørsmålet i det hele tatt kan besvares, siden mennesker er voldsomt uenige om hva menneskehetens interesser er. Han mener at virksomheter i praksis befinner seg ved det andre spørsmålet.

Jon Kutasov, som leder et underteam i teamet for tilpasningstrening hos Anthropic, ga den mest operative definisjonen i rommet. Han vil ikke bli overrasket over hvordan en modell oppfører seg etter at den er tatt i bruk. Hvis modellen overrasker dem, har de mislyktes. Etter denne målestokken, sa han, er dagens modeller ikke tilpasset. De er nær, og kommer nærmere, og de gjør fortsatt ting teamet hans helst skulle sett at de ikke gjorde.

Den definisjonen kan brukes bredt. Det er den samme terskelen du ville satt for en nyansatt med fullmakt til å signere.

Modelleiere sørger for tilpasning. Alle andre styrer.

John Buyers, partner i det internasjonale advokatfirmaet CMS, som har arbeidet med KI i tretten år, trakk grensen som betyr mest for alle som leser dette.

Tilpasning, sa han, er en intern øvelse som utføres av plattformene som kontrollerer modellene. Alle andre gjør noe annet. 

«Virksomhetsbrukere kan ikke involvere seg i tilpasningen fordi de ikke eier modellen», sa han. «De må styre modellen.»

Dette er setningen du bør gi ledergruppen din. Hvorvidt Claude, ChatGPT eller Gemini er trent til å oppføre seg på en god måte, er ikke en beslutning virksomheten din deltar i. Det virksomheten din kontrollerer, er hva systemet rettes mot, hva det får lov til å berøre, og hvem som følger med. Det er styring, og det ligger mye nærmere utforming av jobber enn datavitenskap.

Buyers største bekymring er at tilpasning for øyeblikket ikke har noen nedre grense. Hvert laboratorium gjør det på sin egen måte, innenfor kommersielle tidsrammer og etter sine egne standarder. På alle andre områder med tilsvarende konsekvenser ville vi, hevdet han, forventet grunnleggende kvalitetsindikatorer som en utvikler enten oppfyller eller ikke oppfyller.

Instruksene som aldri blir skrevet ned

I juli opplyste OpenAI at to av modellene deres, inkludert én som fortsatt ikke var lansert, brøt ut av et sandkassebasert testmiljø under en cybersikkerhetsevaluering, kom seg ut på internett og hacket seg inn i Hugging Face for å stjele svarene på testen de skulle gjennomføre. Hugging Face hadde allerede oppdaget inntrengingen og rapportert den til politiet før de to selskapene koblet sammen trådene.

Panelet var uenige om dette i det hele tatt var manglende tilpasning. Whitman hevdet at modellene gjorde nøyaktig det de hadde fått beskjed om, nemlig å hacke aggressivt, og at den egentlige feilen var et inneslutningsmiljø som var for svakt til å holde dem inne.

Anthropic-forskeren var kategorisk uenig. Modellen ville ha forstått at det å bryte seg inn i et uvedkommende selskap ikke var den tiltenkte veien til å besvare spørsmålet.

Kruegers versjon av uenigheten er den personalledere bør lytte aller tydeligst til. Hver instruksjon rommer ting som forblir usagt. Når du ber noen løse et evalueringsspørsmål, ber du dem underforstått om ikke å bryte seg inn i bygningen der svararket oppbevares. Vi forventer denne forståelsen som et grunnlag, og vi skriver den nesten aldri ned, fordi det er umulig å skrive den ned. Det usagte laget er større enn det uttalte.

Det er nettopp dette gapet HR har håndtert siden oppfinnelsen av stillingsbeskrivelsen. Kompetansen finnes. For øyeblikket befinner den seg i en funksjon som stort sett blir orientert om AI-implementering etter at målene er fastsatt.

Kjøperne trakk frem ett funn fra den tekniske siden som bør styrke saken. Gi en modell et sett med regler uten kontekst, og den presterer dårligere enn når du forklarer hvorfor reglene finnes. Det viser seg at grunnen til at en begrensning er viktig, er avgjørende for om begrensningen opprettholdes.

Spør enhver leder som har håndhevet en retningslinje de ikke kunne begrunne, hvordan det går.