Ved dine medarbejdere, at de arbejder sammen med AI-agenter?
Bevidsthedskløft: Mange medarbejdere er ikke klar over, at AI-agenter arbejder på deres arbejdspladser, hvilket fører til mistillid og forvirring.
Betydningen af gennemsigtighed: Styringsrammer forudsætter menneskeligt tilsyn, men manglende medarbejderbevidsthed medfører risiko for svigtende ansvarlighed.
Udhulet tillid: Mange arbejdstagere oplever AI-systemer som upålidelige, og 62 % udtrykker bekymring over AI-agenters pålidelighed.
Medarbejderinddragelse: Oplysning er afgørende; medarbejdere skal forstå AI's rolle for effektivt at kunne føre tilsyn med og arbejde sammen med systemer.
Mangel på oplæring: Kun 38 % af organisationerne tilbyder oplæring i AI-værktøjer, hvilket forstærker arbejdstagernes følelse af at blive overflødige.
De fleste medarbejdere ved ikke, hvad de arbejder sammen med.
Agentisk AI er for længst kommet videre end pilotfasen og dirigerer nu kundeservicesager, markerer afvigende resultater, planlægger samtaler og opsummerer møder, før nogen har logget af.
I et stigende antal organisationer udarbejder den svar og træffer beslutninger med lav risiko på vegne af medarbejdere, som ikke har fået at vide, hvad der foregår.
Continue Reading for Free
Create a free account to finish this article, plus get ongoing access to timely insights and practical resources.
Have an account? Log In
Implementeringen har overhalet åbenheden. Ifølge en undersøgelse fra Cloud Security Alliance, der blev offentliggjort i april, opdagede 82 % af virksomhederne tidligere ukendte AI-agenter, der kørte i deres IT-miljøer inden for det seneste år, og mange af dem optrådte flere gange. Det er et problem med IT-synlighed. Problemet med medarbejdernes bevidsthed stikker dybere.
Workdays globale undersøgelse fra 2025, som omfattede næsten 3.000 beslutningstagere i Nordamerika, APAC og EMEA, viste, at kun 24 % af medarbejderne er trygge ved AI-agenter, der arbejder i baggrunden uden deres viden.
Vi kan ikke kalde det en marginal bekymring, når tre ud af fire medarbejdere trækker en tydelig grænse, og de fleste af dem gør det uden fuld information om, hvor den grænse faktisk går på deres egen arbejdsplads.
Gennemsigtighed og fælles antagelser
Den etiske begrundelse for at lukke dette hul er ligetil. Medarbejdere har et legitimt krav på at forstå de systemer, der former deres arbejdsopgaver, arbejdsbyrde og i nogle tilfælde deres præstationsvurderinger. Men det operationelle argument er måske mere forståeligt for de ledere, der har brug for at høre det.
Styringsrammer, såsom NIST's rammeværk for risikostyring af AI, EU's AI-forordnings krav om gennemsigtighed og de fleste virksomhedspolitikker for AI, der er udarbejdet inden for de seneste to år, bygger på en fælles antagelse om, at mennesker fortsat er involveret.
Ikke kun ledere eller compliance-teams, men de mennesker, der udfører arbejdet. Menneskeligt tilsyn betyder, at når en agent begår en fejl, sender en sag det forkerte sted hen, anvender en mangelfuld vurderingsskala eller afviger fra sin tilsigtede adfærd, er der nogen, der opdager det. Denne person er næsten altid en medarbejder i frontlinjen, der er tæt nok på resultatet til at genkende, når noget er galt.
Når medarbejderne ikke ved, at en agent handler, forsvinder dette tilsyn strukturelt. Ansvarlighedsstrukturen afhænger af en bevidsthed, der ikke er til stede.
Hvad sker der, når de finder ud af det?
Sammenbruddet, når det kommer, har en tendens til at blive personligt. Omkring otte måneder før sin samtale med People Managing People implementerede Mike Rolfe, VP of Product hos Outbuild — en platform til planlægning af byggeprojekter — et agentisk system i kundeserviceaktiviteterne, der selvstændigt kunne overvåge kontosundhed, planlægge samtaler på vegne af CSM'er og udarbejde rapporter om fornyelsesrisici, uden at nogen satte det i gang.
Ledelsen var informeret, men det bredere kundeserviceteam var ikke, blandt andet fordi alle internt blev ved med at kalde det en "automatisering" i stedet for det, det faktisk var.
En CSM’er gik ind til et kundemøde, og kunden nævnte et møde, som allerede var blevet planlagt, men som CSM’eren aldrig havde sat op.
Tillidsskaden i teamet tog flere uger at udbedre. Hans regel er nu, at i det øjeblik et AI-system foretager en handling, som en anden person kan se, skal den person, hvis navn er knyttet til handlingen, vide det, før det sker.
Hans team holdt også helt op med at bruge ordet "automatisering" og erstattede det med enkle beskrivelser. For eksempel: "Systemet booker møder for dig og giver kunden besked i dit navn".
Det skyldes, at et vagt teknologisprog især i byggebranchen ikke skaber informeret samtykke. Det skaber betingelserne for netop den slags øjeblik, som hans CSM oplevede.
Ansvarlighed er menneskets ansvar
Steven Betito, COO og databeskyttelsesansvarlig hos Elestio, har også oplevet dette på egen hånd.
Da hans team integrerede agentbaseret AI i den daglige drift, indbyggede de transparens fra starten. Hver agent havde en dokumenteret rolle og blev udtrykkeligt introduceret for teamet som en AI, hvilket betød, at ingen nogensinde var i tvivl om, hvad de arbejdede med. Det, de ikke fik bygget tidligt nok, var en tydelig eskaleringsstruktur.
I de første måneder formaliserede vi ikke eskaleringsvejene. En menneskelig kollega ville sende en e-mail til en agent med en tvetydig anmodning, agenten ville fortolke den så godt, den kunne, og resultatet endte nogle gange i produktionen uden en tydeligt udpeget menneskelig kontrollant.
Løsningen var enkel, da de først havde identificeret problemet. Enhver agenthandling over en fastsat tærskel kræver nu en navngiven menneskelig godkender, men læren bestod. Transparens om, hvad en agent er, skaber ikke automatisk ansvarlighed for, hvad den gør. Det er separate problemer, og de kræver separate løsninger.
Tillid er ingen steder at finde
Asanas rapport fra 2025 om den globale status for AI på arbejdspladsen, som adspurgte mere end 2.000 vidensarbejdere i USA og Storbritannien, viste, at 62 % betragter AI-agenter som upålidelige.
Endnu mere sigende er det, der ligger bag tallet, eftersom 82 % af medarbejderne sagde, at ordentlig oplæring er afgørende for at bruge AI-agenter effektivt, mens kun 38 % af organisationerne har tilbudt det.
Problemet er her ikke så meget, at medarbejderne afviser AI-agenter, men at de navigerer i et misforhold mellem det, de er blevet udstyret med, og det, de er blevet oplært i, samtidig med at de føler sig mindre og mindre relevante, efterhånden som udrulningen accelererer.
Når medarbejdere opdager gennem en kollega, en procesændring eller et resultat, de ikke kan forklare, at AI-systemer har kørt i deres arbejdsgange, er reaktionen normalt ikke nysgerrighed. Det er den specifikke form for mistillid, der opstår, når man føler sig styret frem for inkluderet. Og den mistillid forbliver ikke begrænset til spørgsmålet om AI.
En del af problemet er definitionsmæssigt. "Agentbaseret AI" er endnu ikke kommet med i de fleste medarbejderhåndbøger eller træningsprogrammer for ledere, selv om værktøjerne selv er. Mange organisationer har implementeret agenter under leverandørernes produktnavne — arbejdsgangsassistenter, CRM-integrationer, planlægningsplatforme — som ikke synliggør den underliggende autonomi.
En medarbejder, der følger en anbefaling om sagsfordeling, er måske ikke klar over, at fordelingen blev foretaget af en AI-agent frem for en leder eller en statisk regel.
WalkMes arbejdspladsundersøgelse fra 2025 viste, at 78 % af medarbejderne bruger AI-værktøjer, som deres arbejdsgiver ikke stiller til rådighed, og at næsten halvdelen har undgået at oplyse om deres brug af AI på arbejdet for at undgå andres bedømmelse. Skjult anvendelse og institutionel uigennemsigtighed nærer hinanden.
At løse dette er ikke en engangsøvelse i kommunikation. Det, der virker, er at indbygge oplysning i implementeringen ved at forklare, hvad et system gør og ikke gør, før det tages i brug i et teams arbejdsgang, skabe løbende synlighed omkring, hvor agenter handler, og give medarbejderne en tydelig kanal til at gøre opmærksom på, når noget ser forkert ud.
Den sidste del er vigtigere, end de fleste planer for AI-udrulning anerkender.
Medarbejderne er ikke kun målgruppen for oplysningerne. De er det primære lag til fejldetektering for ethvert agentbaseret system, der opererer inden for deres område. Når de ved, hvad der kører, og forstår, hvad de skal gøre, når systemet fejler, fungerer styringen, som den var designet til. Når de ikke gør, er disse rammer teoretiske.
