Skygge-AI: Ledelsesudfordringen, der holder ledere vågne om natten

For CIO'er og CHRO'er udgør dette en styringskrise, som indkøb alene ikke kan løse. Den traditionelle tilgang med at "købe det rigtige værktøj og kræve, at det bruges" fejler, når medarbejdere kan få adgang til sammenlignelige funktioner gennem gratis forbrugerapplikationer. Spørgsmålet for ledelsesteamene er, hvordan de kan etablere kontrol uden at kvæle de produktivitetsgevinster, der gjorde AI attraktivt til at begynde med.

Omfanget af usynlig AI-brug

Skygge-AI adskiller sig fra tidligere udfordringer med skygge-IT, både hvad angår omfang og tilgængelighed. En medarbejder kan ikke starte en skjult server eller et skjult indkøbssystem fra sin telefon i frokostpausen. Men medarbejderen kan sagtens indsætte fortrolige kundedata i ChatGPT eller Claude for at udarbejde et svar på en e-mail, skrive en medarbejdervurdering eller analysere et regneark.

I marts 2024 blev 27,4 % af de virksomhedsdata, som medarbejdere indtastede i AI-værktøjer, klassificeret som følsomme, op fra 10,7 % året før. Det handler ikke kun om mængde, men også om hastighed. 

Den decentraliserede karakter af AI-anvendelsen gør traditionelle overvågningsmetoder utilstrækkelige. I modsætning til softwareinstallationer, der kræver administratorrettigheder, eller SaaS-værktøjer, der skaber dokumentationsspor i indkøbsprocessen, efterlader AI-anvendelse gennem personlige konti kun et minimalt teknisk spor.

Blandt organisationer med et højt niveau af skygge-AI førte sikkerhedsbrud til, at flere personhenførbare oplysninger blev kompromitteret (65 %), og at mere intellektuel ejendom blev eksponeret (40 %) sammenlignet med organisationer med lavere niveauer af skygge-AI ifølge IBMs rapport om omkostningerne ved databrud i 2025. Disse hændelser føjede også i gennemsnit 670.000 $ til omkostningerne ved databrud. 

Når medarbejdere behandler HR-data, finansielle oplysninger eller kunderegistre gennem forbrugerrettede AI-værktøjer, mister organisationer deres kontrolkæde. De kan ikke dokumentere overholdelse af databeskyttelsesregler, kan ikke revidere, hvilke oplysninger der har forladt organisationen, og kan ikke garantere sletning, når loven kræver det.

Koncentrationen af risiko er særligt udtalt i mindre organisationer. Virksomheder med 11 til 50 medarbejdere havde den højeste tæthed af skygge-AI-anvendelse med gennemsnitligt 269 ikke-godkendte AI-værktøjer pr. 1.000 medarbejdere.

Selv mellemstore organisationer med 500 til 1.000 medarbejdere havde omkring 200 skygge-AI-værktøjer pr. 1.000 brugere. Det er ikke midlertidige eksperimenter; nogle skygge-AI-applikationer viser en medianvarighed for brug på over 400 dage med kontinuerlig anvendelse uden formel godkendelse eller kontrol.

Dette er en af de mest almindelige realiteter lige nu: AI-anvendelsen er allerede i gang, uanset om ledelsen har planlagt det eller ej. Den værst tænkelige reaktion er at lukke den ned. Det skaber mere skjult anvendelse og udhuler tilliden.

Share This Quote on:

• Share on Twitter
• Share on LinkedIn
• Share on Facebook

Dave EvansOpens new window

Administrerende direktør og medstifter af Fictiv

Hastighed kontra sikkerhed

Nyere forskning afslører en ubehagelig sandhed om medarbejdernes holdninger til AI-styring. Blandt medarbejdere er 60 % enige i, at det er risikoen for sikkerheden værd at bruge ikke-godkendte AI-værktøjer, hvis det hjælper dem med at arbejde hurtigere eller overholde deadlines. Yderligere 21 % mener, at deres arbejdsgiver ville "se gennem fingre med" brug af ikke-godkendte AI-værktøjer, så længe arbejdet bliver færdigt til tiden.

Denne afvejning ændrer sig afhængigt af det organisatoriske niveau. Blandt præsidenter og ledere på C-niveau mener 69 %, at hastighed vejer tungere end hensyn til privatliv eller sikkerhed. På direktør- eller senior-VP-niveau er tallet 66 %. Til sammenligning deler kun 37 % af personer i administrative roller og 38 % i junioreks lederstillinger dette synspunkt. 

De personer, der har størst myndighed til at ændre styringspolitikkerne, er også dem, der med størst sandsynlighed ignorerer dem.

De data, medarbejderne deler, afspejler denne risikovillighed. En tredjedel har delt forskning eller datasæt gennem ikke-godkendte AI-værktøjer, mere end en fjerdedel har delt medarbejderdata, herunder navne, løn- eller præstationsoplysninger, og 23 % har delt regnskaber eller salgsdata.

Hvorfor blokering mislykkes

Organisationer, der forsøger at løse problemet med skygge-AI gennem begrænsninger, opdager et grundlæggende problem. Medarbejdere finder omveje for at få adgang til blokerede applikationer. Blokering fjerner ikke adfærden; den driver den blot længere under jorden og fjerner synligheden.

Folk i jeres organisation bruger det. De bruger det hele tiden. Så I er måske nødt til at erklære det, jeg kalder AI-amnesti, og sige: Kom ud af mørket og vis os, hvad I bruger AI til. I ved, brug de foretrukne værktøjer, der er låst ned, træn ikke modellen, og sørg for at sikre alt. Men kom ud af skyggerne, ikke mere skygge-AI. I har amnesti. Vi er ligeglade med, at I har brugt det tidligere. Vi har besluttet, at det er ligegyldigt. Men få det venligst frem i lyset, så vi sammen kan finde ud af, hvordan vi gør dette.

Share This Quote on:

• Share on Twitter
• Share on LinkedIn
• Share on Facebook

Charlene LiOpens new window

Grundlægger og administrerende direktør for Quantum Networks Group

Videnskløften forværrer denne udfordring. Mens 40 % af medarbejderne husker at have modtaget AI-træning, bruger 40 % stadig ikke-godkendte værktøjer dagligt. Endnu mere paradoksalt fandt forskere en positiv sammenhæng mellem brugere, der rapporterede, at de forstod kravene til AI-sikkerhed, og deres regelmæssige brug af ikke-godkendte AI-værktøjer. 

Efterhånden som medarbejdernes viden om AI-risici øges, øges deres tillid til at træffe vurderinger af denne risiko også – selv på bekostning af at følge virksomhedens politikker.

Dette tyder på, at træning i sikkerhedsbevidsthed ikke er tilstrækkelig som sikkerhedsforanstaltning. Færre end halvdelen af medarbejderne siger, at de kender og forstår deres virksomheders politikker om brug af AI. De politikker, der findes, formår ofte ikke at håndtere de praktiske årsager til, at medarbejdere i første omgang benytter skygge-AI.

Udvikling af en praktisk ramme for AI-styring

Foreningen for revision og kontrol af informationssystemer har udviklet vejledning til organisationer om håndtering af hele AI-forvaltningens livscyklus. Ifølge ISACAs forskning har kun 31 % af organisationerne formelle og omfattende AI-politikker på plads, selv om 83 % af IT- og erhvervsprofessionelle mener, at medarbejderne i deres organisationer bruger AI.

„De bedste rammer begynder med anerkendelse,“ sagde Evans. „For det første en kortlægning af, hvor AI allerede bruges, og hvorfor. For det andet skal der fastlægges klare retningslinjer – hvilke data der må bruges, hvilke værktøjer der er godkendt, og hvor menneskeligt tilsyn er påkrævet. For det tredje skal ansvaret placeres: Hvem står til ansvar for resultaterne, når AI indgår i beslutninger? Styring bør muliggøre hurtig og sikker fremdrift, ikke bremse teams. Når det gøres rigtigt, omdanner det uformelle eksperimenter til gentagelig og ansvarlig udførelse.“

ISACA anbefaler at tilpasse COBIT-rammen – der traditionelt bruges til IT-styring – til at håndtere AI-specifikke udfordringer. Denne tilgang fungerer, fordi de fleste organisationer allerede har COBIT-baserede styringsstrukturer på plads, hvilket gør AI-styring til en udvidelse frem for en fuldstændig genopbygning.

Så lad os se på de trin, dette indebærer:

Strategisk tilpasning

Sikrer, at AI-initiativer er direkte forbundet med forretningsmål i stedet for at eksistere som selvstændige teknologiprojekter. Det betyder, at man ikke spørger "hvad kan AI gøre?", men "hvilke forretningsproblemer skal løses, og kan AI hjælpe?"

Kortlægning og risikoklassifikation 

Katalogisér eksisterende AI-værktøjer, der er i brug – både godkendte og ikke-godkendte – og klassificér dem efter risikoniveau. En kundeservicechatbot, der behandler rutinemæssige forespørgsler, indebærer andre risici end et AI-værktøj, der analyserer medarbejdernes præstationer eller økonomiske prognoser. Denne klassifikation afgør de passende styringsniveauer for forskellige værktøjer og anvendelsesområder.

Integrering af AI-risikostyring i eksisterende organisatoriske processer.

Integration med softwareudvikling, projektstyring og forandringsledelsesprocesser sikrer, at risici vurderes tidligt og løbende. Set fra et privatlivs- og datastyringsperspektiv giver korrekt sporing af aktiver, data og modeller et helhedsorienteret overblik over AI-brugen. Processer til styring af risici hos tredjeparter skal registrere, hvilke leverandører der bruger AI, og hvordan de sikrer den.

Fastlæggelse af datagrænser 

Organisationer har brug for udtrykkelige politikker, der definerer, hvilke oplysninger der må og ikke må behandles gennem AI-systemer. Disse grænser fungerer typisk efter et trinvist system: Offentlige oplysninger kan bruges i ethvert AI-værktøj, interne oplysninger kræver virksomhedsløsninger med aftaler om databeskyttelse, og fortrolige oplysninger er begrænset til specifikke, nøje overvågede AI-miljøer.

Rammeværket understreger, at AI-styring skal være omfattende og føre tilsyn med hele AI-livscyklussen fra start til slut. Dette omfatter registrering af relevante metadata i alle faser og sikrer, at rammeværket for styring dækker alle aspekter af modeludvikling, implementering og overvågning. 

AI-styring bør give fuld synlighed over alle AI-modeller på tværs af virksomhedens økosystem, fremme gennemsigtighed og gøre det muligt for interessenter at forstå, hvordan modeller oprettes, anvendes og administreres.

Praktiske trin til at komme i gang

Organisationer behøver ikke at implementere et komplet rammeværk for styring fra den ene dag til den anden. ISACA's tilgang foreslår en trinvis implementering:

Fase 1: Skab synlighed (uge 1-4)

• Gennemfør en revision af AI-værktøjer på tværs af afdelinger
• Opret et AI-register, der kræver, at medarbejderne dokumenterer, hvilke værktøjer de bruger, og til hvilke formål
• Klassificer værktøjer efter risikoniveau (lav, middel, høj, kritisk)
• Identificer de datatyper, der behandles gennem hvert værktøj

Fase 2: Fastlæg politikker og grænser (uge 5-8)

• Udarbejd klare standarder for dataklassifikation (offentlige, interne, fortrolige, begrænsede)
• Opret trinvise brugspolitikker, der afstemmer værktøjernes risikoniveauer med datasensitiviteten
• Fastlæg godkendelsesprocesser for anmodninger om nye AI-værktøjer
• Definer roller og ansvar (hvem godkender hvad, og hvem overvåger overholdelsen)

Fase 3: Implementer kontroller (uge 9-16)

• Implementer tekniske kontroller (forebyggelse af datatab, adgangsstyring)
• Tilbyd godkendte alternativer til almindeligt anvendte uautoriserede AI-værktøjer
• Start medarbejdertræning i godkendte værktøjer og politikker for datahåndtering
• Opret overvågningssystemer til at registrere unormale mønstre i brugen af AI

Fase 4: Løbende forbedring (fortløbende)

• Gennemfør regelmæssige revisioner (kvartalsvis anbefales) for at identificere ikke-godkendt brug af AI
• Gennemgå og opdater politikkerne, efterhånden som AI's funktioner udvikler sig
• Mål overholdelsesgraden og effektiviteten af styringen
• Indsaml feedback fra medarbejderne om mangler ved værktøjerne og problemer med politikkerne

Det afgørende er at behandle AI-styring som et produkt med et dedikeret ejerskab snarere end som et politisk dokument. Ligesom organisationer har sikkerhedschefer med teams, der administrerer sikkerheden, kræver effektiv AI-styring en person – hvad enten det er en AI-chef, dataansvarlig eller et dedikeret AI-styringsteam – som er ansvarlig for at vedligeholde rammeværket som et levende system.

AI-sandkasser til sikker eksperimentering

Den måske mest betydningsfulde udvikling inden for styring af uautoriseret AI er konceptet "AI-sandkasser" eller kontrollerede miljøer, hvor medarbejdere kan eksperimentere med AI-funktioner uden at udsætte følsomme data for risiko. 

Sandkasser anerkender en grundlæggende sandhed: Medarbejdere bruger uautoriseret AI, fordi det hjælper dem med at arbejde bedre. Blokering af adgang uden at tilbyde alternativer fjerner ikke behovet.

Harvard University var pioner inden for denne tilgang, da undervisere og forskere havde brug for sikker adgang til store sprogmodeller uden at risikere datalækage til eksterne leverandører. Universitetet lancerede en sikker AI-sandkasse med understøttelse af GPT-3.5, GPT-4, Claude 2 og PaLM 2 Bison. 

Over 50 pilotbrugere anvendte sandkassen til at afprøve AI i undervisning og forskning, samtidig med at fortrolige data blev beskyttet. De kontrollerede tests bidrog også til Harvards indkøbsbeslutninger vedrørende fremtidige AI-integrationer.

Delstaten Massachusetts opbyggede lignende isolerede sandkasser ved hjælp af AWS-infrastruktur til AI-værktøjer, herunder chatrobotter og indkøbssystemer. Disse systemer muliggjorde sikre eksperimenter med lav risiko, effektiviserede tjenester og bidrog til strategier for en bredere anvendelse af AI. Byer, herunder New Jersey og Washington D.C., implementerede sammenlignelige løsninger ved hjælp af Azure.

Inden for den finansielle sektor samarbejdede UK Financial Conduct Authority med NVIDIA om at skabe det, de kaldte en "opgraderet sandkasse", som gav virksomheder adgang til AI-modeller, datasæt og regulatorisk vejledning. Sandkassen fremmede innovation inden for svigdetektion, risikostyring og automatisering, samtidig med at overholdelse og tilsyn blev sikret.

Sandkassekonceptet opretter udpegede områder, hvor teams kan teste AI-værktøjer til specifikke anvendelsesområder ved hjælp af rensede data. Et økonomiteam kan eksperimentere med AI-drevne prognosemodeller ved hjælp af historiske data, hvor kundeidentifikatorer er fjernet. Et HR-team kan teste værktøjer til CV-gennemgang ved hjælp af syntetiske kandidatprofiler. Markedsføring kan udvikle prototyper af kampagnekoncepter uden at dele oplysninger om produkter, der endnu ikke er lanceret.

Disse miljøer tjener to formål. De imødekommer medarbejdernes ønske om AI-funktioner og giver samtidig IT- og efterlevelses-teams kontrollerede testområder, hvor de kan evaluere nye værktøjer før implementering i hele virksomheden. 

Når et team identificerer et værdifuldt AI-anvendelsesområde i sandkassem iljøet, kan organisationen undersøge værktøjet grundigt og forhandle passende databeskyttelsesaftaler, før det rulles bredere ud.

CHRO'ens rolle i AI-styring

Selvom CIO'er typisk leder initiativer inden for AI-styring, spiller CHRO'er en lige så vigtig rolle, som ofte undervurderes. Skygge-AI er ikke kun et teknologisk problem, men også et menneskeligt problem, der bunder i, hvordan medarbejderne arbejder, hvilket produktivitetspres de oplever, og om de har tillid til, at de officielle værktøjer opfylder deres behov.

CHRO'er skal håndtere den kulturelle dynamik, der driver udbredelsen af skygge-AI. Når medarbejderne tror, at en anmodning om adgang til nye AI-værktøjer vil udløse en seks måneder lang indkøbsproces, finder de omveje. Når de opfatter IT-politikker som hindringer for produktiviteten i stedet for legitim risikostyring, sker det samme.

Det kræver, at CHRO'er arbejder for styringsrammer, der afvejer sikkerhed mod brugervenlighed. Et system, der kræver femten godkendelsestrin for at bruge et AI-skriveværktøj, vil mislykkes, uanset hvor teoretisk sikkert det er. Medarbejderne vil ganske enkelt bruge ChatGPT i stedet og aldrig nævne det. Effektiv styring gør den rigtige vej til den nemme vej.

CHRO'er har også ansvaret for den forandringsledelse, der er nødvendig for at ændre medarbejdernes adfærd fra skygge-AI til godkendte alternativer. Det indebærer kommunikation om, hvorfor styring er vigtig, oplæring i godkendte værktøjer og oprettelse af tydelige kanaler, hvor medarbejdere kan anmode om nye funktioner, når de nuværende værktøjer ikke opfylder deres behov.

Aspektet vedrørende præstationsstyring kan heller ikke ignoreres. Organisationer skal beslutte, hvordan de vil håndtere medarbejdere, der overtræder politikkerne for AI-brug. Et stigende antal medarbejdere har større tillid til AI-værktøjer end til deres ledere eller kolleger, hvilket peger på et skift i tilliden fra menneskelige relationer til teknologi. Denne tillidsdynamik vanskeliggør håndhævelsen. Er man for hård, skjuler medarbejderne deres AI-brug mere omhyggeligt; er man for lempelig, bliver politikkerne meningsløse.

Overvågningssystemer, der fungerer

Effektiv AI-overvågning kræver en balance mellem sikkerhedsbehov, hensynet til privatliv og medarbejdernes tillid. De mest effektive tilgange fokuserer på dataflytning frem for individuel adfærd. Systemerne overvåger, om store mængder potentielt følsomme oplysninger kopieres til udklipsholderen eller uploades til eksterne websteder—mønstre, der indikerer mulig datalækage snarere end almindeligt arbejde.

Konteksten har enorm betydning i forbindelse med overvågning. En ingeniør, der indsætter kode i et AI-værktøj, søger måske hjælp til fejlfinding eller deler måske proprietære algoritmer. Overvågningssystemet skal kunne forstå forskellen, ofte ved hjælp af dataklassifikationssystemer, der markerer følsomme kodelagre anderledes end opensource-projekter.

Nogle organisationer implementerer undervisningssystemer, der griber ind "i rette tid", når der registreres risikabel adfærd. Hvis en medarbejder forsøger at indsætte det, der ser ud til at være kundedata, i et eksternt AI-værktøj, genererer systemet en advarsel, der forklarer politikkerne for databeskyttelse og henviser medarbejderen til godkendte alternativer. Det underviser uden at straffe og giver en mulighed for at vælge en anden vej, før der sker overtrædelser af politikkerne.

Spørgsmålet om indkøb

En væsentlig drivkraft bag skygge-AI er besværlige indkøbsprocesser. Medarbejdere kan oprette en ChatGPT- eller Claude-konto på få minutter og begynde at arbejde. Det kan tage måneder at få IT til at godkende, købe og implementere et AI-værktøj til virksomheden. Denne tidsforskel sikrer udbredelsen af skygge-AI.

Fremsynede organisationer opretter hurtige indkøbsprocesser for AI-værktøjer, der opfylder bestemte kriterier. Hvis et værktøj ikke kræver adgang til følsomme data, ikke integreres med kernesystemer og henvender sig til en begrænset brugergruppe, kan godkendelsen ske på dage i stedet for måneder. Det reducerer incitamentet til uautoriseret brug og opretholder samtidig et passende tilsyn med implementeringer med højere risiko.

Nogle organisationer tager "AI-værktøjsbiblioteker" i brug: forhåndsgodkendte kataloger over AI-tjenester, som medarbejderne kan få adgang til med det samme gennem virksomhedsaftaler. I stedet for at forhandle kontrakter for hvert nyt AI-værktøj opretter IT paraplyaftaler med større udbydere, og medarbejderne kan aktivere adgang efter behov. Det giver skygge-AI's hastighed kombineret med styringen fra godkendte værktøjer.

Hvor styringen kommer til kort

De nuværende rammer for AI-styring har svært ved at håndtere flere nye udfordringer. Den første er den stigende kapacitet i AI-værktøjer, der er indlejret i anden software. Microsoft Copilot integreres direkte i Office 365, Adobes AI-funktioner findes i Creative Cloud, og Salesforce Einstein fungerer i CRM-arbejdsgange. Disse "usynlige" AI-funktioner registreres ikke som selvstændige værktøjer, der kræver styring, men behandler betydelige mængder forretningsdata.

Den anden udfordring involverer personlige enheder. Mange organisationer har politikker for medbringelse af egne enheder, som giver medarbejderne mulighed for at få adgang til arbejdsmail og dokumenter fra personlige telefoner og bærbare computere. Når disse enheder har AI-assistenter – Siri, Google Assistant eller tredjepartsværktøjer – der kan få adgang til arbejdsdata, bliver traditionel netværksbaseret overvågning ineffektiv.

Den tredje udfordring er at skelne mellem brug af AI og afhængighed af AI. Styringsrammer kan kontrollere, hvilke værktøjer medarbejderne får adgang til, men har svært ved at håndtere, hvorvidt medarbejderne udvikler passende kritiske tænkefærdigheder eller bliver overdrevent afhængige af AI-output. En medarbejder, der bruger AI til at udarbejde hver eneste e-mail, overtræder muligvis ingen politikker, samtidig med at vedkommende udvikler sine skrivefærdigheder med en brøkdel af hastigheden fra før AI.

Sådan ser succes ud

Organisationer, der med succes styrer brugen af AI uden at kvæle produktiviteten, deler flere karakteristika. 

• De etablerer klare, enkle politikker, som medarbejderne kan forstå og følge uden juridisk fortolkning. 
• De stiller godkendte alternativer til rådighed, som reelt opfylder medarbejdernes behov, i stedet for ringere erstatninger, der får folk til at vende tilbage til uautoriserede værktøjer. 
• De skaber feedbackmekanismer, hvor medarbejderne kan rapportere mangler i godkendte værktøjer eller anmode om nye funktioner.
• De betragter styring som en løbende dialog snarere end en statisk regelbog. 

Regelmæssig kommunikation om, hvorfor politikkerne findes, hvilke risici de mindsker, og hvordan de udvikler sig, fastholder medarbejdernes opbakning. Når medarbejderne forstår, at styring beskytter dem mod juridisk ansvar, databrud, der kan kompromittere deres egne oplysninger, og overtrædelser af lovgivningen, bliver efterlevelse en del af kulturen i stedet for noget, der håndhæves.

De organisationer, der kæmper med skygge-AI, udviser ofte de modsatte karakteristika: 

• Komplekse politikker, der kræver juridisk fortolkning
• Godkendte værktøjer, der sakker bagud i forhold til forbrugerløsninger med hensyn til funktionalitet og brugervenlighed
• Envejskommunikation, hvor IT pålægger politikker uden at forklare begrundelsen eller indhente feedback.

Vejen frem

Skygge-AI forsvinder ikke. AI-værktøjer til forbrugere vil fortsætte med at forbedre deres funktionalitet og tilgængelighed, hvilket gør dem vedvarende attraktive for medarbejdere, der søger produktivitetsgevinster. Udfordringen med styring er ikke at eliminere skygge-AI, men at kanalisere anvendelsen af AI over mod administrerede systemer, der beskytter både organisationens interesser og medarbejdernes produktivitet.

Det kræver et samarbejde mellem CIO'er, CHRO'er og virksomhedsledere om at skabe rammer, der fungerer i praksis og ikke kun i politiske dokumenter. Det kræver investeringer i godkendte værktøjer, der faktisk kan konkurrere med forbrugeralternativer, i stedet for at fungere som bureaukratiske erstatninger. Det kræver tillid til, at medarbejderne træffer gode beslutninger, når de får klare retningslinjer, samt at ledelsen stiller de nødvendige ressourcer til rådighed, så arbejdet kan udføres effektivt inden for styringens grænser.

Alternativet er en voksende afkobling mellem officiel politik og faktisk praksis, hvor brugen af skygge-AI fortsætter med at brede sig på måder, som organisationerne hverken kan se eller håndtere. I 2025 viste data, at omtrent en tredjedel af alle generative AI-projekter i virksomheder forventedes at gå i stå på grund af dårlig datakvalitet, utilstrækkelige risikokontroller, stigende omkostninger eller uklar forretningsværdi. Forskning viser, at over 80 % af alle AI-projekter mislykkes.