Skugg-AI: Förvaltningsutmaningen som håller ledare vakna om nätterna

För CIO:er och CHRO:er innebär detta en styrningskris som enbart upphandling inte kan lösa. Det traditionella tillvägagångssättet att ”köpa rätt verktyg och kräva att det används” fungerar inte när medarbetare kan få tillgång till jämförbara funktioner genom kostnadsfria konsumentapplikationer. Frågan för ledningsgrupperna är hur de ska skapa kontroll utan att kväva de produktivitetsvinster som från början gjorde AI attraktivt.

Omfattningen av osynlig AI-användning

Skugg-AI skiljer sig från tidigare utmaningar med skugg-IT, både vad gäller omfattning och tillgänglighet. En medarbetare kan inte starta en dold server eller ett dolt upphandlingssystem från sin telefon under lunchen. Däremot kan personen utan problem klistra in konfidentiella kunduppgifter i ChatGPT eller Claude för att skriva ett svarsmail, formulera en prestationsbedömning eller analysera ett kalkylblad.

I mars 2024 klassificerades 27,4 % av de företagsdata som medarbetare matade in i AI-verktyg som känsliga, en ökning från 10,7 % året innan. Det handlar inte bara om volym, utan också om hastighet. 

Den decentraliserade karaktären hos AI-användningen gör traditionella övervakningsmetoder otillräckliga. Till skillnad från programvaruinstallationer som kräver administratörsbehörighet eller SaaS-verktyg som lämnar spår i upphandlingsdokumentationen lämnar AI-användning via personliga konton minimala tekniska spår.

Bland organisationer som upplever en omfattande användning av skugg-AI ledde säkerhetsincidenter till att mer personligt identifierbar information röjdes (65 %) och att mer immateriell egendom exponerades (40 %) jämfört med organisationer med lägre nivåer av skugg-AI, enligt IBMs rapport Kostnaden för ett dataintrång 2025. Dessa incidenter ökade dessutom kostnaderna för dataintrång med i genomsnitt 670 000 $. 

När medarbetare behandlar HR-data, ekonomisk information eller kundregister genom AI-verktyg för konsumenter förlorar organisationerna kontrollen över informationskedjan. De kan inte visa att de följer dataskyddsbestämmelser, kan inte granska vilken information som lämnat organisationen och kan inte garantera radering när lagen kräver det.

Riskkoncentrationen är särskilt stor i mindre organisationer. Företag med 11 till 50 medarbetare uppvisade den tätaste användningen av skugg-AI, med i genomsnitt 269 AI-verktyg utan godkännande per 1 000 medarbetare.

Även medelstora organisationer med 500 till 1 000 medarbetare hade omkring 200 verktyg för skugg-AI per 1 000 användare. Det här är inte tillfälliga experiment; vissa applikationer för skugg-AI uppvisar en mediananvändning på över 400 dagar i kontinuerlig användning utan formellt godkännande eller tillsyn.

Det här är en av de vanligaste verkligheterna just nu: AI-användningen sker redan, oavsett om ledningen planerade för den eller inte. Det sämsta svaret är att stänga ner den. Det leder till ännu mer användning i det dolda och urholkar förtroendet.

Share This Quote on:

• Share on Twitter
• Share on LinkedIn
• Share on Facebook

Dave EvansOpens new window

VD och medgrundare av Fictiv

Synsättet snabbhet kontra säkerhet

Ny forskning avslöjar en obekväm sanning om medarbetares inställning till AI-styrning. Bland arbetstagare anser 60 % att det är värt säkerhetsriskerna att använda AI-verktyg utan godkännande om det hjälper dem att arbeta snabbare eller hålla deadlines. Ytterligare 21 % tror att deras arbetsgivare skulle ”se mellan fingrarna” med användning av AI-verktyg som inte är godkända, så länge arbetet blir klart i tid.

Denna avvägning förändras beroende på organisationsnivå. Bland presidenter och chefer på C-nivå anser 69 % att snabbhet väger tyngre än integritets- eller säkerhetsfrågor. På direktörs- eller senior vice president-nivå är motsvarande andel 66 %. Däremot delar endast 37 % av dem i administrativa roller och 38 % i juniora chefspositioner denna uppfattning. 

De personer som har störst befogenhet att ändra styrningspolicyerna är också de som sannolikt kommer att ignorera dem.

De uppgifter som medarbetare delar speglar denna risktolerans. En tredjedel har delat forskning eller dataset genom AI-verktyg utan godkännande, mer än en fjärdedel har delat medarbetardata inklusive namn, löneuppgifter eller prestationsinformation, och 23 % har delat finansiella rapporter eller försäljningsdata.

Varför blockering misslyckas

Organisationer som försöker lösa problemet med skugg-AI genom begränsningar upptäcker ett grundläggande problem. Medarbetare hittar sätt att kringgå blockeringar för att få tillgång till blockerade applikationer. Blockering eliminerar inte beteendet; den driver det bara längre under jorden och eliminerar insynen.

Människor i din organisation använder det. De använder det hela tiden. Så du kan behöva utlysa det jag kallar AI-amnesti och säga: kom ut ur mörkret och visa oss vad ni använder AI till. Ni vet, använd de föredragna verktygen som är låsta, träna inte modellen, säkra allt. Men kom ut ur skuggorna, ingen mer skugg-AI. Ni har amnesti. Vi bryr oss inte om att ni använde detta tidigare. Vi tänkte att vi helt enkelt inte skulle bry oss. Men ta fram det i ljuset och låt oss tillsammans komma fram till hur vi ska göra detta.

Share This Quote on:

• Share on Twitter
• Share on LinkedIn
• Share on Facebook

Charlene LiOpens new window

Grundare och vd för Quantum Networks Group

Kunskapsluckan förvärrar denna utmaning. Medan 40 % av medarbetarna minns att de har fått AI-utbildning använder 40 % fortfarande icke-godkända verktyg dagligen. Än mer paradoxalt fann forskare ett positivt samband mellan användare som uppgav att de förstod säkerhetskraven för AI och deras regelbundna användning av icke-godkända AI-verktyg. 

När medarbetarnas kunskap om AI-risker ökar, ökar också deras självförtroende i att göra bedömningar av den risken – även när det sker på bekostnad av att följa företagets policyer.

Detta tyder på att utbildning i säkerhetsmedvetenhet inte är tillräcklig som skyddsåtgärd. Färre än hälften av de anställda säger att de känner till och förstår sina företags policyer för AI-användning. De policyer som finns misslyckas ofta med att hantera de praktiska orsakerna till att medarbetare från början vänder sig till skugg-AI.

Att bygga ett praktiskt ramverk för AI-styrning

Föreningen för granskning och kontroll av informationssystem har utvecklat vägledning för organisationer som vill hantera hela livscykeln för AI-styrning. Enligt ISACA:s forskning har endast 31 % av organisationerna formella, heltäckande AI-policyer på plats, trots att 83 % av IT- och affärsprofessionella tror att medarbetare i deras organisationer använder AI.

”De bästa ramverken börjar med ett erkännande”, sade Evans. ”För det första: gör en inventering av var AI redan används och varför. För det andra: definiera tydliga skyddsräcken – vilka data som får användas, vilka verktyg som är godkända och var mänsklig tillsyn krävs. För det tredje: utse ansvariga – vem är ansvarig för resultaten när AI påverkar beslut? Styrning bör möjliggöra snabbhet på ett säkert sätt, inte bromsa teamen. När det görs väl omvandlar det informella experiment till repeterbart och ansvarsfullt genomförande.

ISACA rekommenderar att COBIT-ramverket – som traditionellt används för IT-styrning – anpassas för att hantera AI-specifika utmaningar. Detta tillvägagångssätt fungerar eftersom de flesta organisationer redan har styrningsstrukturer baserade på COBIT, vilket gör AI-styrning till en utvidgning snarare än en fullständig ombyggnad.

Så låt oss titta på stegen detta innebär:

Strategisk anpassning

Säkerställer att AI-initiativ är direkt kopplade till affärsmålen i stället för att existera som fristående teknikprojekt. Det innebär att man inte frågar "vad kan AI göra?" utan "vilka affärsproblem behöver lösas, och kan AI hjälpa till?"

Inventering och riskklassificering 

Katalogisera befintliga AI-verktyg som används – både godkända och icke-godkända – och klassificera dem efter risknivå. En chattbot för kundtjänst som hanterar rutinfrågor medför andra risker än ett AI-verktyg som analyserar medarbetares prestationsdata eller ekonomiska prognoser. Denna klassificering avgör lämpliga styrningsnivåer för olika verktyg och användningsområden.

Integrera AI-riskhantering i befintliga organisatoriska processer.

Integration med processer för programvaruutveckling, projektledning och förändringshantering säkerställer att risker bedöms tidigt och regelbundet. Ur ett integritets- och datastyrningsperspektiv ger korrekt spårning av tillgångar, data och modeller en helhetsbild av AI-användningen. Processer för hantering av tredjepartsrisker måste spåra vilka leverantörer som använder AI och hur de säkrar den.

Fastställa datagränser 

Organisationer behöver uttryckliga policyer som definierar vilken information som får och inte får behandlas genom AI-system. Dessa gränser fungerar vanligtvis enligt ett nivåindelat system: offentlig information kan användas i vilket AI-verktyg som helst, intern information kräver företagslösningar med avtal om dataskydd, och konfidentiell information är begränsad till specifika, noggrant övervakade AI-miljöer.

Ramverket betonar att AI-styrning måste vara heltäckande och omfatta hela AI-livscykeln från början till slut. Detta innefattar att relevant metadata samlas in i varje skede, så att styrningsramverket täcker alla aspekter av modellutveckling, driftsättning och övervakning. 

AI-styrning bör ge full insyn i alla AI-modeller i hela företagets ekosystem, främja transparens och göra det möjligt för intressenter att förstå hur modeller skapas, används och hanteras.

Praktiska steg för att komma igång

Organisationer behöver inte införa ett komplett styrningsramverk över en natt. ISACA:s metod föreslår ett stegvis införande:

Fas 1: Skapa insyn (vecka 1–4)

• Genomför en granskning av AI-verktyg i hela organisationen
• Skapa ett AI-register där medarbetare måste dokumentera vilka verktyg de använder och i vilka syften
• Klassificera verktyg efter risknivå (låg, medel, hög, kritisk)
• Identifiera vilka datatyper som behandlas genom varje verktyg

Fas 2: Fastställ policyer och gränser (vecka 5–8)

• Utveckla tydliga standarder för dataklassificering (offentlig, intern, konfidentiell, begränsad)
• Skapa differentierade användningspolicyer som kopplar verktygens risknivåer till uppgifternas känslighet
• Fastställ godkännandeprocesser för begäran om nya AI-verktyg
• Definiera roller och ansvarsområden (vem godkänner vad och vem övervakar efterlevnaden)

Fas 3: Inför kontroller (vecka 9–16)

• Inför tekniska kontroller (förhindrande av dataförlust, åtkomsthantering)
• Erbjud godkända alternativ till vanligt förekommande skugg-AI-verktyg
• Starta utbildning för medarbetare om godkända verktyg och policyer för datahantering
• Inrätta övervakningssystem för avvikande mönster i AI-användningen

Fas 4: Kontinuerlig förbättring (löpande)

• Genomför regelbundna granskningar (kvartalsvis rekommenderas) av otillåten AI-användning
• Granska och uppdatera policyer i takt med att AI-funktionerna utvecklas
• Mät efterlevnadsgraden och styrningens effektivitet
• Samla in feedback från medarbetare om brister i verktygen och hinder som orsakas av policyerna

Det viktiga är att behandla AI-styrning som en produkt med ett särskilt ansvar, snarare än som ett policydokument. Precis som organisationer har säkerhetschefer med team som hanterar säkerhet, kräver effektiv AI-styrning någon – oavsett om det är en AI-chef, datachef eller ett särskilt AI-styrningsteam – som ansvarar för att underhålla ramverket som ett levande system.

AI-sandlådor för säker experimentering

Den kanske viktigaste utvecklingen inom styrning av skugg-AI är konceptet med ”AI-sandlådor”, det vill säga kontrollerade miljöer där medarbetare kan experimentera med AI-funktioner utan att utsätta känsliga uppgifter för risk. 

Sandlådor bygger på en grundläggande sanning: medarbetare använder skugg-AI eftersom det hjälper dem att arbeta bättre. Att blockera åtkomsten utan att erbjuda alternativ eliminerar inte behovet.

Harvard University var pionjärer inom denna metod när lärare och forskare behövde säker åtkomst till stora språkmodeller utan att riskera dataläckage till externa leverantörer. Universitetet lanserade en säker AI-sandlåda med stöd för GPT-3.5, GPT-4, Claude 2 och PaLM 2 Bison. 

Över 50 pilotanvändare använde sandlådan för att testa AI inom undervisning och forskning, samtidigt som konfidentiella uppgifter skyddades. De kontrollerade testerna gav också underlag för Harvards inköpsbeslut kring framtida AI-integreringar.

Myndigheterna i Massachusetts byggde liknande isolerade sandlådor med hjälp av AWS-infrastruktur för AI-verktyg, inklusive chattbotar och upphandlingssystem. Dessa system möjliggjorde säker experimentering med låg risk, effektiviserade tjänster och gav underlag för bredare strategier för införande av AI. Städer, däribland New Jersey och Washington D.C., införde jämförbara metoder med hjälp av Azure.

Inom finanssektorn samarbetade den brittiska finansinspektionen Financial Conduct Authority med NVIDIA för att skapa vad de kallade en ”superladdad sandlåda”, som gav företag tillgång till AI-modeller, datauppsättningar och vägledning om regelverk. Sandlådan underlättade innovation inom bedrägeribekämpning, riskhantering och automatisering, samtidigt som efterlevnad och tillsyn säkerställdes.

Sandboxkonceptet skapar särskilda utrymmen där team kan testa AI-verktyg för specifika användningsområden med hjälp av sanerade data. Ett ekonomiteam kan experimentera med AI-drivna prognosmodeller baserade på historiska data där kundidentifierare har tagits bort. Ett HR-team kan testa verktyg för CV-granskning med hjälp av syntetiska kandidatprofiler. Marknadsavdelningen kan ta fram prototyper för kampanjkoncept utan att dela information om produkter som ännu inte har lanserats.

Dessa miljöer har två syften. De tillgodoser medarbetarnas önskemål om AI-funktioner och ger samtidigt IT- och efterlevnadsteamen kontrollerade testmiljöer där de kan utvärdera nya verktyg innan de införs i hela organisationen. 

När ett team identifierar ett värdefullt AI-användningsområde i sandlådan kan organisationen granska verktyget ordentligt och förhandla fram lämpliga dataskyddsavtal innan en bredare lansering.

CHRO:s roll i AI-styrningen

Även om CIO:er vanligtvis leder initiativ för AI-styrning spelar CHRO:er en lika avgörande roll, något som ofta underskattas. Skugg-AI är inte bara ett tekniskt problem, utan också ett personalproblem som bottnar i hur medarbetarna arbetar, vilka produktivitetskrav de möter och om de litar på att de officiella verktygen kan tillgodose deras behov.

CHRO:er måste hantera den kulturella dynamik som driver användningen av skugg-AI. När medarbetarna tror att en begäran om tillgång till nya AI-verktyg kommer att utlösa en sex månader lång upphandlingsprocess hittar de lösningar runt systemet. När de uppfattar IT-policyer som hinder för produktiviteten snarare än som legitim riskhantering händer samma sak.

Detta kräver att CHRO:er förespråkar styrningsramverk som balanserar säkerhet och användbarhet. Ett system som kräver femton godkännandesteg för att använda ett AI-verktyg för textskapande kommer att misslyckas, oavsett hur teoretiskt säkert det är. Medarbetarna kommer helt enkelt att använda ChatGPT i stället och aldrig nämna det. Effektiv styrning gör det rätta till det enkla alternativet.

CHRO:er ansvarar också för den förändringsledning som krävs för att ändra medarbetarnas beteende från skugg-AI till godkända alternativ. Detta omfattar kommunikation om varför styrning är viktig, utbildning i godkända verktyg och tydliga kanaler där medarbetarna kan begära nya funktioner när de befintliga verktygen inte tillgodoser deras behov.

Aspekten som rör prestationshantering får inte heller ignoreras. Organisationer måste besluta hur de ska hantera medarbetare som bryter mot policyer för AI-användning. Allt fler medarbetare litar mer på AI-verktyg än på sina chefer eller kollegor, vilket visar på en förändring där förtroendet flyttas från mänskliga relationer till teknik. Denna förtroendedynamik försvårar efterlevnaden. För hårda åtgärder leder till att medarbetarna döljer sin AI-användning mer omsorgsfullt, medan för milda åtgärder gör policyerna meningslösa.

Övervakningssystem som fungerar

Effektiv AI-övervakning kräver en balans mellan säkerhetsbehov, integritetsfrågor och medarbetarnas förtroende. De mest effektiva metoderna fokuserar på dataförflyttning snarare än individuellt beteende. Systemen övervakar om stora mängder potentiellt känslig information kopieras till urklipp eller laddas upp till externa webbplatser – mönster som tyder på möjligt dataläckage snarare än rutinmässigt arbete.

Sammanhanget har stor betydelse vid övervakning. En ingenjör som klistrar in kod i ett AI-verktyg kan söka hjälp med felsökning eller dela egenutvecklade algoritmer. Övervakningssystemet måste kunna förstå skillnaden, ofta genom dataklassificeringssystem som märker känsliga kodarkiv på annat sätt än projekt med öppen källkod.

Vissa organisationer inför utbildningssystem i realtid som ingriper när riskfyllt beteende upptäcks. Om en medarbetare försöker klistra in det som verkar vara kunddata i ett externt AI-verktyg visar systemet en varning som förklarar dataskyddspolicyerna och hänvisar till godkända alternativ. Detta utbildar utan att bestraffa och erbjuder en möjlighet att avbryta innan policyöverträdelser inträffar.

Frågan om upphandling

En viktig drivkraft bakom skugg-AI är trögheten i upphandlingen. Medarbetare kan skapa ett ChatGPT- eller Claude-konto på några minuter och börja arbeta. Att få IT-avdelningen att godkänna, köpa in och införa ett AI-verktyg för företag kan ta månader. Denna tidsskillnad garanterar att skugg-AI börjar användas.

Framåtblickande organisationer skapar snabbspår för upphandling av AI-verktyg som uppfyller vissa kriterier. Om ett verktyg inte kräver åtkomst till känsliga data, inte integreras med centrala system och riktar sig till en begränsad användargrupp kan godkännandet ske på dagar i stället för månader. Detta minskar incitamentet att använda verktyg i det fördolda, samtidigt som lämplig tillsyn bibehålls för användningsområden med högre risk.

Vissa organisationer inför ”AI-verktygsbibliotek”, det vill säga förhandsgodkända kataloger med AI-tjänster som medarbetarna omedelbart kan få tillgång till genom företagsavtal. I stället för att förhandla fram avtal för varje nytt AI-verktyg upprättar IT-avdelningen övergripande avtal med större leverantörer, och medarbetarna kan aktivera åtkomst efter behov. Detta ger skugg-AI:s snabbhet med styrningen hos godkända verktyg.

Där styrningen brister

Nuvarande ramverk för AI-styrning har svårt att hantera flera framväxande utmaningar. Den första är den ökande kapaciteten hos AI-verktyg som är inbäddade i annan programvara. Microsoft Copilot integreras direkt i Office 365, Adobes AI-funktioner finns i Creative Cloud och Salesforce Einstein fungerar i CRM-arbetsflöden. Dessa ”osynliga” AI-funktioner registreras inte som separata verktyg som kräver styrning, men behandlar betydande mängder verksamhetsdata.

Den andra utmaningen gäller personliga enheter. Många organisationer har policyer för att ta med egen enhet som gör det möjligt för anställda att få åtkomst till arbetsrelaterad e-post och dokument från personliga telefoner och bärbara datorer. När dessa enheter har AI-assistenter – Siri, Google Assistant eller verktyg från tredje part – som kan få åtkomst till arbetsdata blir traditionell nätverksbaserad övervakning ineffektiv.

Den tredje utmaningen är att skilja mellan AI-användning och AI-beroende. Styrningsramverk kan kontrollera vilka verktyg anställda får åtkomst till, men har svårt att hantera huruvida anställda utvecklar lämplig kritisk tänkandeförmåga eller blir alltför beroende av AI-resultat. En anställd som använder AI för att utforma varje e-postmeddelande kanske inte bryter mot några policyer, samtidigt som skrivförmågan utvecklas i en bråkdel av den takt som gällde före AI.

Så ser framgång ut

Organisationer som framgångsrikt styr AI-användningen utan att hämma produktiviteten har flera gemensamma egenskaper. 

• De fastställer tydliga och enkla policyer som anställda kan förstå och följa utan juridisk tolkning. 
• De tillhandahåller godkända alternativ som verkligen uppfyller de anställdas behov, i stället för sämre ersättningar som driver människor tillbaka till skuggverktyg. 
• De skapar återkopplingsmekanismer där anställda kan rapportera brister i godkända verktyg eller begära nya funktioner.
• De ser styrning som en pågående dialog snarare än en statisk regelbok. 

Regelbunden kommunikation om varför policyerna finns, vilka risker de minskar och hur de utvecklas upprätthåller de anställdas stöd. När anställda förstår att styrningen skyddar dem mot ansvar, dataintrång som kan äventyra deras egna uppgifter och överträdelser av regelverk blir efterlevnaden en del av kulturen i stället för något som tvingas fram.

Organisationer som har problem med skugg-AI uppvisar ofta motsatta egenskaper: 

• Komplexa policyer som kräver juridisk tolkning
• Godkända verktyg som släpar efter konsumentlösningar när det gäller funktionalitet och användarvänlighet
• Enkelriktad kommunikation där IT föreskriver policyer utan att förklara motiven eller efterfråga återkoppling.

Vägen framåt

Skugg-AI kommer inte att försvinna. AI-verktyg för konsumenter kommer att fortsätta förbättras vad gäller funktionalitet och tillgänglighet, vilket gör dem ständigt attraktiva för anställda som söker produktivitetsvinster. Utmaningen med styrning är inte att eliminera skugg-AI, utan att kanalisera AI-användningen mot hanterade system som skyddar både organisationens intressen och de anställdas produktivitet.

Detta kräver samarbete mellan CIO:er, CHRO:er och verksamhetsledare för att skapa ramverk som fungerar i praktiken och inte bara i policydokument. Det kräver investeringar i godkända verktyg som faktiskt kan konkurrera med konsumentalternativ, i stället för att fungera som byråkratiska ersättningar. Det kräver tillit till att anställda fattar bra beslut när de får tydlig vägledning, och att ledningen tillhandahåller de resurser som behövs för att arbeta effektivt inom styrningens ramar.

Alternativet är en växande klyfta mellan officiell policy och faktisk praxis, där användningen av skugg-AI fortsätter att öka på sätt som organisationer varken kan se eller hantera. År 2025 visade data att ungefär en tredjedel av alla generativa AI-projekt inom företag förväntades stanna av på grund av bristande datakvalitet, otillräckliga riskkontroller, eskalerande kostnader eller otydligt affärsvärde. Forskning visar att över 80 % av alla AI-projekt misslyckas.