US AI-bureau security volgens Eastland en Bloomberg

Amerikaanse veiligheidsbureaus zetten AI centraal

US AI-bureau security is opeens overal in het nieuws. Bloomberg schrijft erover, journalisten als Eastland duiken in de details van hoe OpenAI en Anthropic met veiligheid omgaan, en de labs zelf publiceren de ene aankondiging na de andere. Voor een Nederlandse ondernemer klinkt dat ver weg. Toch is het relevant: de manier waarop deze bedrijven security bouwen voor overheden en kritieke infrastructuur, sijpelt door naar de tools die jij morgen gebruikt. Wat een Amerikaans "AI-bureau" (of dat nu een overheidsinstantie is of een veiligheidsteam bij OpenAI en Anthropic zelf) besluit over toezicht, bepaalt een paar maanden later welke instellingen, waarschuwingen en beperkingen in de software van jouw team verschijnen.

Wat OpenAI en Anthropic nu doen aan AI-veiligheid

OpenAI kondigde half augustus een initiatief aan om democratisch toezicht op AI in nationale veiligheid te versterken. Het bedrijf trekt 5 miljoen dollar uit aan training, technische ondersteuning en credits voor overheidsinstanties die toezicht houden op AI-gebruik. Drie principes sturen dat werk: AI versterkt menselijk oordeel in plaats van het te vervangen, overheidsgebruik van AI moet herleidbaar zijn voor bevoegde toezichthouders, en AI zelf moet die toezichthouders sterker maken zodat handmatige controle niet vastloopt op de snelheid van de techniek. Ook werkt OpenAI aan wat het zelf "pacing" noemt: de snelheid van modelontwikkeling afstemmen op hoeveel monitoring, alignment en beveiliging er al staat, juist omdat nieuwe modellen steeds vaker ook cyberrelevante vaardigheden meekrijgen.

Anthropic pakt het praktischer aan. Het bedrijf draait zijn beveiligingsscanner Claude Security nu op Claude Mythos 5, het krachtigste model dat Anthropic heeft. De scanner doorzoekt codebases op kwetsbaarheden, geeft elke bevinding een CWE-classificatie en een risico-inschatting, en stelt een patch voor. Een mens moet elke patch nog goedkeuren voor die wordt doorgevoerd, scans lopen mee als normaal tokengebruik. Mythos 5 wordt daarnaast ingebouwd in beveiligingsproducten van partners die ziekenhuizen, nutsbedrijven en banken beschermen, zonder dat eindgebruikers rechtstreeks met het model praten. Ze zien alleen het resultaat: een voorgestelde patch. Precies omdat Mythos 5 zo sterk is in cybertaken, houdt Anthropic het model verder beperkt beschikbaar, de gedachte is dat verdedigers een voorsprong krijgen zonder dat aanvallers dezelfde AI-hulp erbij krijgen. Anthropic onderzoekt daarnaast losse praktijkincidenten binnen zijn eigen cybersecurity-evaluaties, om te zien waar een model in een echte aanval wel of niet had geholpen.

Zet de twee naast elkaar en je ziet twee verschillende invalshoeken op hetzelfde probleem. OpenAI werkt van bovenaf: instellingen trainen, principes vastleggen, geld en tijd geven aan de toezichthouders zelf. Anthropic werkt van onderaf: een scanner bouwen die in de code zelf meekijkt, met een vaste regel dat een patch nooit automatisch wordt doorgevoerd. Beide eindigen op hetzelfde punt: een mens blijft de laatste stap zetten voordat een AI-systeem iets verandert dat er echt toe doet.

US AI-bureau security volgens Eastland en Bloomberg, en wat jij echt nodig hebt

Dit is waar de vergelijking interessant wordt. Wat Bloomberg en schrijvers als Eastland beschrijven, speelt zich af op het niveau van natiestaten: overheidsprogramma's van miljoenen dollars, scanners die ziekenhuizen en banken beschermen, modellen die bewust niet breed worden vrijgegeven omdat ze te krachtig zijn voor verkeerde handen. Jouw bedrijf heeft geen Claude Mythos-niveau scanner nodig en ook geen overheidsprogramma van 5 miljoen dollar. Wat wel overeenkomt, is het onderliggende idee: hoe capabeler de AI die je inzet, hoe meer toezicht daar automatisch bij hoort.

Vertaal het naar schaal. Een ministerie dat AI inzet voor nationale veiligheid heeft toezichthouders, protocollen en een geschiedenis van incidentonderzoek nodig. Een webshop met acht man personeel die ChatGPT of Claude gebruikt voor klantcontact heeft dat niet in die vorm, maar wel iets vergelijkbaars op kleinere schaal: iemand die weet welke data een AI-tool binnenkomt, iemand die een output leest voor die naar een klant gaat, en een manier om terug te vinden wat er is gebeurd als er iets misgaat. Dat is in feite een eigen kleine "AI-bureau" binnen het bedrijf, alleen dan zonder het woord bureau en zonder het budget van een overheidsinstantie.

Praktisch: waar de meeste bedrijven het laten liggen

De meeste mkb-bedrijven die met AI werken, hebben geen beveiligingsteam en ook geen tijd om releases van OpenAI en Anthropic bij te houden. Dat hoeft ook niet. Wat wel helpt, is een AI-opzet die vanaf de start rekening houdt met wie waarbij mag, welke data extern wordt gedeeld en wie een output controleert voor die de deur uitgaat. Denk aan de inkoopmedewerker die drie uur per week facturen en offertes overtypt in een AI-tool die aan een extern systeem hangt: zonder afspraak over wat daar wel en niet in mag, staan klantgegevens en prijsafspraken zomaar in een prompt-log ergens buiten de deur. Dezelfde tool die haar drie uur per week bespaart, kan in een middag meer schade aanrichten dan die tijdswinst ooit oplevert.

Voor je een AI-tool aanschaft of breder uitrolt, zijn er drie vragen die je net zo goed nu al kunt stellen als een toezichthouder dat doet bij een AI-lab. Waar gaat de data naartoe die het team erin typt, en blijft die binnen de EU? Kan iemand achteraf zien wat het systeem heeft gedaan en waarom? En is er een moment waarop een mens de output ziet voor die een klant, een boekhouding of een contract raakt? Kun je die drie vragen niet beantwoorden voor een tool die al in gebruik is, dan is dat het eerste dat je regelt, niet een uitgebreid beveiligingsplan.

Wij bouwen dat soort checks in als vast onderdeel van onze AI diensten, meestal in dagen, niet in een jaarprogramma: een overzicht van welke tools toegang hebben tot welke data, een korte instructie voor het team over wat wel en niet in een prompt hoort, en een plek waar iemand terugvindt wat een AI-systeem heeft gedaan. Geen scanner, geen dashboard vol metrics, gewoon een paar afspraken die je in een middag kunt vastleggen en die net zo goed werken zonder een miljoenenbudget.

Belangrijk om eerlijk te zijn: als je bedrijf nu al goed werkt met een simpele regel als "geen klantdata in een publieke chatbot", dan heb je waarschijnlijk geen uitgebreid traject nodig. Dat soort discipline dekt het grootste deel van het risico al af, en daar hoef je ons niet voor te bellen. De vergelijking met de grote Amerikaanse labs is dus niet dat je hun schaal nodig hebt. Het is dat hun aanpak laat zien wat er gebeurt als niemand toezicht regelt: een systeem dat sneller werkt dan de mensen die het zouden moeten controleren. Op kleine schaal is dat risico net zo reëel als bij een bank of een ziekenhuis, alleen valt het minder snel op tot het misgaat.