De Anthropic-Pentagon-affaire liet elke CEO zien wat er gebeurt als niemand verantwoordelijkheid neemt voor AI-beslissingen
Risicoclassificatie: Het Pentagon bestempelde Anthropic als een risico voor de nationale veiligheid, een historisch unicum voor een Amerikaans bedrijf.
Regelgevende leemtes: Het gebrek aan federale regelgeving voor het gebruik van AI bemoeilijkt de juridische grenzen voor surveillance en autonome beslissingen.
Tekortschietend bestuur: Het Pentagon en Anthropic slaagden er niet in duidelijke beslissingsbevoegdheid over AI-operaties vast te leggen, wat tot een crisis leidde.
Gebruik van AI: Ongeveer 78% van de werknemers gebruikt AI-tools zonder goedkeuring van de organisatie, wat zorgen over verantwoordelijkheid oproept.
Operationeel kader: Effectief bestuur moet zich richten op beslissingsbevoegdheid op het niveau van de werkstroom, en niet alleen op beleidsdocumentatie.
Afgelopen vrijdag wees het Pentagon Anthropic, de maker van het AI-model Claude, aan als een risico voor de toeleveringsketen van de nationale veiligheid. Deze aanduiding, die normaal gesproken wordt voorbehouden aan buitenlandse tegenstanders zoals Russische cybersecuritybedrijven en Chinese chipleveranciers, was nog nooit toegepast op een Amerikaans bedrijf.
Terwijl Anthropic voet bij stuk hield, sprong OpenAI in om het contract van Anthropic over te nemen.
Het geschil begon maanden eerder, toen Anthropic een contract van $200 miljoen tekende om Claude in te zetten op geclassificeerde militaire netwerken. Anthropic trok twee rode lijnen: geen massasurveillance van Amerikanen en geen volledig autonome wapens die zonder menselijke betrokkenheid vuren.
Create a Free Account to Keep Reading—and Keep Leading Smarter
Unlock this piece and join a community of forward-thinking leaders discovering tools, playbooks, and insights for thriving in the age of AI.
Have an account? Log In
Het Pentagon eiste onbeperkt gebruik voor elk wettig doel.
Dat klinkt redelijk, ware het niet dat er geen federale wetten zijn die AI-surveillance reguleren. Er is geen regelgeving die grenzen stelt aan algoritmische doelbepaling. Er is geen juridisch kader voor autonome besluitvorming.
“Elk wettig gebruik” betekent bij gebrek aan wetgeving dat alles is toegestaan.
Geen van beide partijen had een mechanisme ingebouwd om het meningsverschil op te lossen voordat het escaleerde, en minister van Defensie Pete Hegseth gaf Anthropic-CEO Dario Amodei een ultimatum van drie dagen om mee te werken of de gevolgen onder ogen te zien.
Amodei gaf niet toe. In een interview met CBS News, enkele uren nadat Anthropic op de zwarte lijst was gezet, beschreef hij de acties als “vergelding en bestraffing” en zei hij dat Anthropic had aangeboden het leger te blijven ondersteunen tijdens een overgang naar een concurrent.
Hij benoemde ook wat de centrale zorg zou moeten zijn voor iedereen die AI inzet in omgevingen met grote gevolgen: “De technologie ontwikkelt zich zo snel dat deze niet meer aansluit op de wet.”
Terug naar de bedrijfsvoering
De meeste berichtgeving heeft dit als een politiek verhaal neergezet. Veiligheid tegenover defensie. Een tech-CEO tegenover een minister van Defensie. Er bestaat een versie hiervan die gaat over de ethiek van autonome wapens, en dat verhaal doet ertoe.
Maar er is ook een versie die iedere COO en CHRO tot nadenken zou moeten stemmen, omdat de misser onder de krantenkoppen structureel en niet politiek van aard is.
Het Pentagon integreerde AI in geheime operaties zonder vast te leggen wie bevoegd was om te bepalen hoe die AI mocht worden gebruikt. Anthropic ging ervan uit dat zijn rode lijnen stand zouden houden. Het Pentagon ging ervan uit dat die rode lijnen niet zouden gelden zodra het de technologie had verworven. Niemand had de governance-architectuur ontworpen om een meningsverschil af te handelen voordat dat meningsverschil een crisis werd.
Diezelfde opeenvolging speelt zich momenteel binnen bedrijven af, op een schaal waarvan de meeste leiders zich niet volledig bewust zijn.
Van geheime netwerken naar je organisatieschema
Volgens meerdere onderzoeken gebruikt ongeveer 78% van de werknemers AI-tools die hun werkgever nooit heeft goedgekeurd. Met andere woorden: AI is al ingebed in de manier waarop beslissingen worden genomen binnen de meeste organisaties, of iemand die infrastructuur daar nu voor heeft ontworpen of niet.
Een CHRO kan ontdekken dat AI binnen het hele bedrijf functieomschrijvingen opstelt, cv's screent en formuleringen voor feedback over prestaties genereert, zonder dat er voor een van die resultaten een aangewezen verantwoordelijke is.
Een COO kan erachter komen dat vraagvoorspellingen, prijsaanbevelingen en evaluaties van leveranciers worden beïnvloed door modellen die niemand binnen de leiding formeel heeft goedgekeurd voor gebruik in productie.
Sommige leiders zijn begonnen met het opbouwen van AI-governancestrategieën om dit te beheren. Mohammed Chahdi, COO bij Muse Group, beschrijft een kader dat zijn bestuur gebruikt om operationele AI te scheiden van experimentele initiatieven.
Voordat iets onderdeel wordt van onze kernactiviteiten, verwachten we dat het management de betrouwbaarheid en diepgang van elke AI-toepassing kritisch test voordat deze een plaats krijgt in het operationele model.
Die drempel, de grens tussen “we testen dit” en “dit beïnvloedt nu echte beslissingen”, is precies wat de meeste organisaties niet hebben gedefinieerd.
De vraag die boven dit alles hangt, is dezelfde vraag die de relatie tussen het Pentagon en Anthropic verbrak: wie heeft de beslissingsbevoegdheid over wat AI doet zodra deze in kritieke werkprocessen is verweven?
In de meeste bedrijven is het eerlijke antwoord: niemand. Beslissingsbevoegdheden zijn ontworpen voor een wereld waarin mensen analyses maakten en mensen de uiteindelijke beslissing namen. Nu produceert AI analyses, stelt het aanbevelingen op en bepaalt het in veel gevallen de beslissing al voordat een mens deze beoordeelt.
De verantwoordingsstructuur is niet bijgebeend en de technologie blijft zich opstapelen. METR, een in Berkeley gevestigde organisatie voor AI-onderzoek, ontdekte dat de horizon voor taakvoltooiing van geavanceerde AI-modellen ongeveer elke zeven maanden verdubbelt. Dat tempo wacht niet tot governancekaders volwassen zijn.
Contracten sturen niet. Besturingssystemen doen dat wel.
In de meeste organisaties is de eerste reactie om met beleid te komen. Je zou bijvoorbeeld:
- Een document voor aanvaardbaar gebruik opstellen
- Een goedkeuringscommissie instellen
- Een beoordelingscyclus creëren.
Beleid is noodzakelijk. Maar beleid richt zich op de oppervlaktelaag. Het Pentagon had een contract met voorwaarden. Die voorwaarden zijn vermoedelijk door juristen beoordeeld. En toch eindigde de situatie in een publiek conflict, omdat het contract nooit vastlegde wie uiteindelijk bepaalde hoe AI in de praktijk werd gebruikt.
Amodei maakte dit punt rechtstreeks toen hem werd gevraagd waarom Anthropic, een privébedrijf, meer zeggenschap zou moeten hebben dan het Pentagon over het militaire gebruik van AI. Zijn antwoord ging niet over ethiek in abstracte zin. Het ging over de grenzen van de mogelijkheden.
Ons model heeft een persoonlijkheid. Het is in staat tot bepaalde dingen. Het kan bepaalde dingen betrouwbaar doen. Het kan bepaalde andere dingen betrouwbaar niet doen.
Dat is een uitspraak over de kloof tussen wat AI kan produceren en wat een mens moet verifiëren. Dezelfde kloof bestaat in elke organisatie die AI-ondersteunde workflows uitvoert. Wanneer een model een prijsaanbeveling opstelt, moet iemand verantwoordelijk zijn voor de vraag of die aanbeveling geldig is voor deze klant, deze markt en dit moment.
Wanneer AI kandidaten screent, moet iemand verantwoordelijk zijn voor de vraag of de criteria eerlijke en nauwkeurige resultaten opleveren. Wanneer AI een compliance-overzicht genereert, moet iemand verantwoordelijk zijn voor de nauwkeurigheid van wat naar toezichthouders wordt gestuurd.
Governance die onder versnelling werkt, lijkt minder op een beleidsmanual en meer op een besturingssysteem. Beslissingsbevoegdheid moet op workflowniveau worden vastgelegd. Menselijke mogelijkheden om in te grijpen moeten in productie-workflows met AI worden ingebouwd, niet als vanzelfsprekend worden beschouwd. Wijzigingen aan modellen moeten worden behandeld als systeemwijzigingen, met tests en expliciete goedkeuring vóór implementatie.
Waar de echte tekortkoming zit
Amodei bracht in zijn CBS-interview iets ter sprake dat veel verder reikt dan de militaire context. Over autonome wapens zei hij:
"Stel dat ik een leger van 10 miljoen drones heb die allemaal worden gecoördineerd door één persoon of een kleine groep mensen. Ik denk dat het gemakkelijk te zien is dat daar verantwoordingsproblemen ontstaan."
Vervang drones door AI-ondersteunde workflows in een middelgroot bedrijf. Vervang die ene persoon door een manager die vanwege operationele efficiëntie in een stabiele omgeving is bevorderd en nu toezicht houdt op een mix van door mensen en machines gegenereerd werk, zonder training in het onderscheiden van vloeiende AI-output en correcte AI-output.
Daar gaan we naartoe als we niet doelbewust te werk gaan. Managers houden impliciet toezicht op AI-ondersteunde beslissingen zonder dat hun wordt verteld dat dit onderdeel van hun functie is, zonder prestatiesystemen die rekening houden met de grondigheid van validatie en zonder duidelijke escalatieroutes voor wanneer iets niet klopt.
Als er over zes maanden een bevooroordeeld aannamepatroon ontstaat door AI-screening, of als een prijsfout zich over duizenden accounts verspreidt, zal de tekortkoming niet technisch zijn. Het probleem zal zijn dat niemand verantwoordelijk was voor het toezicht.
Het Pentagon ging ervan uit dat het Claude in geheime operaties kon integreren en de grenzen later wel kon vaststellen. Anthropic ging ervan uit dat zijn contractuele rode lijnen zouden worden gerespecteerd zonder een mechanisme om ze af te dwingen. Beide hadden het mis.
Het resultaat was een publieke breuk, een aanduiding op een zwarte lijst die normaal gesproken tegen buitenlandse tegenstanders wordt gebruikt, en een haastige zoektocht naar een vervangend model dat geüniformeerde militaire officieren als essentieel omschreven.
De meeste organisaties zullen niet met zulke dramatische gevolgen te maken krijgen. Maar de structurele tekortkoming zal vertrouwd aanvoelen. AI wordt ingebed. Beslissingen lopen erdoorheen. Niemand heeft duidelijk vastgelegd wie verantwoordelijk is voor de output, wie bevoegd is om in te grijpen of wat er gebeurt wanneer iets misgaat. En tegen de tijd dat de vraag urgent wordt, is het al te laat om er rustig antwoord op te geven.
Als je een CHRO of COO bent en dit leest, heeft het Pentagon het experiment zojuist voor je uitgevoerd. De prijs voor het uitstellen van de belangrijkste governancevragen was een verbroken relatie, een lacune in de nationale veiligheid en een haastige zoektocht die niet nodig was geweest. Jouw versie van dat experiment zal stiller verlopen. Niet goedkoper.
