Vet de ansatte dine at de jobber sammen med KI-agenter?
Bevissthetsgap: Mange ansatte er ikke klar over at KI-agenter opererer på arbeidsplassene deres, noe som fører til mistillit og forvirring.
Betydningen av åpenhet: Styringsrammeverk forutsetter menneskelig tilsyn, men manglende bevissthet blant ansatte øker risikoen for ansvarlighetssvikt.
Svekket tillit: Mange arbeidstakere opplever at KI-systemer er upålitelige, og 62 % uttrykker bekymring for KI-agentenes pålitelighet.
Involvering av ansatte: Åpenhet er avgjørende; ansatte må forstå KIs rolle for å kunne føre effektivt tilsyn med og samhandle med systemene.
Opplæringsunderskudd: Bare 38 % av organisasjonene tilbyr opplæring i KI-verktøy, noe som forsterker arbeidstakernes følelse av å bli overflødige.
De fleste ansatte vet ikke hva de arbeider sammen med.
Agentisk KI har beveget seg langt forbi pilotstadiet og ruter nå kundeservicesaker, flagger avvik i prestasjoner, planlegger intervjuer og oppsummerer møter før noen har logget av.
I stadig flere organisasjoner utarbeider den svar og tar beslutninger med lav risiko på vegne av arbeidstakere som ikke har fått vite hva som skjer.
Continue Reading for Free
Create a free account to finish this article, plus get ongoing access to timely insights and practical resources.
Have an account? Log In
Implementeringen har løpt fra informasjonen. Ifølge en undersøkelse fra Cloud Security Alliance publisert i april, oppdaget 82 % av virksomhetene tidligere ukjente KI-agenter som kjørte i IT-miljøene deres i løpet av det siste året, og mange av dem dukket opp flere ganger. Det er et problem med IT-synlighet. Problemet med de ansattes bevissthet stikker dypere.
Workdays globale undersøkelse fra 2025, som kartla nesten 3 000 beslutningstakere i Nord-Amerika, APAC og EMEA, viste at bare 24 % av de ansatte er komfortable med at KI-agenter opererer i bakgrunnen uten at de vet om det.
Vi kan ikke kalle dette en marginal bekymring når tre av fire arbeidstakere trekker en tydelig grense, og de fleste gjør det uten full informasjon om hvor denne grensen faktisk går på deres egen arbeidsplass.
Åpenhet og felles antakelser
Det etiske argumentet for å lukke dette gapet er enkelt. Arbeidstakere har et legitimt krav på å forstå systemene som påvirker oppgavefordelingen, arbeidsmengden og i noen tilfeller prestasjonsevalueringene deres. Men det operasjonelle argumentet kan være lettere å forstå for lederne som trenger å høre det.
Styringsrammeverk, som NISTs rammeverk for risikostyring av KI, EUs KI-forordnings krav til åpenhet og de fleste virksomhetspolicyer for KI som er utarbeidet de siste to årene, bygger på en felles antakelse om at mennesker fortsatt er med i sløyfen.
Ikke bare ledere eller samsvarsteam, men menneskene som utfører arbeidet. Menneskelig tilsyn innebærer at når en agent gjør en feil, ruter en sak feil, bruker en mangelfull vurderingsmatrise eller avviker fra den tiltenkte atferden, er det noen som oppdager det. Denne personen er nesten alltid en medarbeider i førstelinjen, nær nok resultatet til å kjenne igjen når noe er galt.
Når ansatte ikke vet at en agent handler, forsvinner dette tilsynet strukturelt. Ansvarlighetsarkitekturen er avhengig av en bevissthet som ikke finnes.
Hva skjer når de får vite det?
Bruddet, når det kommer, har en tendens til å bli personlig. Omtrent åtte måneder før han snakket med People Managing People, implementerte Mike Rolfe, produktdirektør i Outbuild – en plattform for planlegging av byggeprosjekter – et agentisk system i kundesuksessarbeidet som selvstendig kunne overvåke kontotilstanden, planlegge samtaler på vegne av CSM-er og utarbeide rapporter om fornyelsesrisiko uten at noen utløste dem.
Ledelsen var informert, men det bredere kundeserviceteamet var det ikke, blant annet fordi alle internt fortsatte å kalle det «automatisering» i stedet for det det faktisk var.
En CSM kom inn i en kundesamtale, og kunden nevnte et møte de allerede hadde planlagt, som CSM-en aldri hadde satt opp.
Tillitsskaden i teamet tok flere uker å reparere. Nå er regelen hans at i det øyeblikket et KI-system utfører en handling som en annen person ser, må personen hvis navn er knyttet til handlingen, vite om det før det skjer.
Teamet hans sluttet også helt å bruke ordet «automatisering» og erstattet det med enkle beskrivelser. For eksempel: «Systemet bestiller møter for deg og varsler kunden i ditt navn».
Dette skyldes at vagt teknologispråk, særlig i bygg- og anleggsbransjen, ikke skaper informert samtykke. Det skaper betingelsene for akkurat den typen øyeblikk CSM-en hans opplevde.
Ansvar er menneskets ansvar
Steven Betito, COO og personvernombud i Elestio, har også sett dette på nært hold.
Da teamet hans integrerte agentisk KI i den daglige driften, bygde de inn åpenhet fra starten. Hver agent hadde en dokumentert rolle og ble uttrykkelig introdusert for teamet som en KI, noe som betydde at ingen noen gang var usikre på hva de jobbet med. Det de ikke bygde tidlig nok, var en tydelig eskaleringsstruktur.
I løpet av de første månedene formaliserte vi ikke eskaleringsveiene. En menneskelig kollega sendte en e-post til en agent med en tvetydig forespørsel, agenten tolket den etter beste evne, og resultatet havnet noen ganger i produksjon uten en tydelig menneskelig gjennomgåer.
Løsningen var enkel da de først hadde identifisert problemet. Alle agenthandlinger over en fastsatt terskel krever nå en navngitt menneskelig godkjenner, men lærdommen står fast. Åpenhet om hva en agent er, skaper ikke automatisk ansvarlighet for det den gjør. Dette er to separate problemer, og de trenger separate løsninger.
Tillit er ikke å finne noe sted
Asanas rapport Global tilstand for KI på arbeidsplassen fra 2025, som undersøkte mer enn 2 000 kunnskapsarbeidere i USA og Storbritannia, fant at 62 % oppfatter KI-agenter som upålitelige.
Mer talende er det som ligger bak dette tallet: 82 % av arbeidstakerne sa at god opplæring er avgjørende for å bruke KI-agenter effektivt, men bare 38 % av organisasjonene har tilbudt slik opplæring.
Problemet her er ikke egentlig at arbeidstakere avviser KI-agenter. De navigerer i et misforhold mellom det de har fått overlevert, og det de har blitt lært opp til, samtidig som de føler seg stadig mindre relevante etter hvert som utrullingen akselererer.
Når ansatte oppdager gjennom en kollega, en prosessendring eller et resultat de ikke kan forklare, at KI-systemer har kjørt i arbeidsflytene deres, er reaksjonen vanligvis ikke nysgjerrighet. Det er den spesifikke formen for mistillit som oppstår når man føler seg styrt i stedet for inkludert. Og denne mistilliten begrenser seg ikke til KI-spørsmålet.
En del av problemet er definisjonsmessig. «Agentisk KI» har ikke kommet inn i de fleste personalhåndbøker eller opplæringsprogrammer for ledere, selv om selve verktøyene har gjort det. Mange organisasjoner har tatt i bruk agenter under leverandørenes produktnavn – arbeidsflytassistenter, CRM-integrasjoner og planleggingsplattformer – som ikke synliggjør den underliggende autonomien.
En ansatt som følger en anbefaling om saksruting, kan være helt uvitende om at rutingen ble gjort av en KI-agent i stedet for en leder eller en statisk regel.
WalkMes arbeidsplassundersøkelse fra 2025 fant at 78 % av de ansatte bruker KI-verktøy som arbeidsgiveren ikke har levert, og nesten halvparten har unngått å opplyse om sin KI-bruk på jobb for å unngå å bli dømt. Skjult bruk og institusjonell manglende åpenhet gir næring til hverandre.
Å løse dette er ikke et engangsarbeid med kommunikasjon. Det som fungerer, er å bygge inn åpenhet i utrullingen ved å forklare hva et system gjør og ikke gjør før det tas i bruk i et teams arbeidsflyt, skape løpende innsyn i hvor agentene handler, og gi arbeidstakerne en tydelig kanal for å varsle når noe ser feil ut.
Den siste delen er viktigere enn de fleste planer for KI-utrulling erkjenner.
Ansatte er ikke bare mottakere av informasjonen. De er det primære feildeteksjonslaget for alle agentiske systemer som opererer innenfor deres fagområde. Når de vet hva som kjører og forstår hva de skal gjøre når systemet gjør feil, fungerer styringen slik den var ment å gjøre. Når de ikke gjør det, er disse rammeverkene teoretiske.
