Anthropic Cyber Mission: gratis AI-scanner voor open source

Anthropic zet zijn modellen in voor de verdediging. Het bedrijf heeft Cyber Mission aangekondigd, een programma dat het zelf omschrijft als langlopend, met twee doelen: het beschermen van kritieke infrastructuur en het beschermen van de opensourcesoftware waarop moderne systemen draaien. De aankondiging bestaat uit twee delen. Het eerste is een partnerprogramma voor beheerders van infrastructuur. Het tweede is een gratis AI-scanner die opensourceprojecten regelmatig op kwetsbaarheden gaat controleren.

De redenering van Anthropic is eenvoudig. Aanvallers hebben al toegang tot krachtige AI-modellen, stelt het bedrijf, en verdedigers missen nog altijd hulpmiddelen van vergelijkbaar kaliber. Met Cyber Mission probeert Anthropic een deel van die achterstand weg te werken.

Twee programma's onder één vlag

1. Het Critical Infrastructure Defense Program (CIDP)

Het eerste deel richt zich op de organisaties die fysieke systemen draaiende houden. CIDP is bedoeld voor beheerders van stroomnetten, watersystemen en vervoersnetwerken. Deelnemers krijgen toegang tot drie dingen:

• Claude-modellen
• Engineers van Anthropic
• Dreigingsanalyses

Het programma start met vier oprichtende partners: CrowdStrike, Palo Alto Networks, Deloitte en Rockwell Automation. Die combinatie valt op. CrowdStrike en Palo Alto Networks zijn grote leveranciers van cybersecurity, Deloitte is een groot adviesbureau en Rockwell Automation bouwt technologie voor industriële automatisering. Samen bestrijken ze beveiligingssoftware, ondersteuning bij de implementatie en de operationele technologie die in industriële omgevingen wordt gebruikt.

Anthropic maakt zijn beveiligingstools al enige tijd breder beschikbaar. Het cyberverificatieprogramma voor verdedigers werd onlangs opengesteld voor meer gebruikers, en met CIDP trekt het bedrijf die aanpak door naar de sectoren waar een geslaagde aanval de meeste fysieke schade aanricht.

2. De gratis "OSS"-scanner

Het tweede deel is voor ontwikkelaars waarschijnlijk het belangrijkste. Anthropic biedt een gratis AI-scanner aan, "OSS" genaamd, die opensourceprojecten met regelmatige tussenpozen controleert. Vindt de scanner een kwetsbaarheid, dan zal hij:

• Het probleem automatisch melden
• Uitleggen wat er mis is
• Een patch voorstellen

De argumenten om op open source te focussen zijn bekend. Vrijwel alle moderne software leunt op opensourcecode, en een groot deel daarvan wordt onderhouden door kleine teams van vrijwilligers. Die beheerders zorgen vaak voor onderdelen waar grote bedrijven en publieke diensten van afhankelijk zijn, maar hebben zelden de tijd of het budget voor een structurele, professionele beveiligingscontrole.

De vraag naar de nauwkeurigheid

Anthropic verwacht dat de scanner een nauwkeurigheid van meer dan 90 procent haalt. Bij dat cijfer hoort wel een belangrijke kanttekening: de meldingen worden verstuurd zonder menselijke controle, en Anthropic erkent dat ze fouten kunnen bevatten.

Voor beheerders is dat een afweging met twee kanten. Een frequente geautomatiseerde controle kan gebreken opsporen die anders jarenlang onopgemerkt blijven. Maar een melding die niet klopt, kost nog steeds tijd om te lezen, te reproduceren en af te wijzen. Voor een team van vrijwilligers is het nalopen van valse meldingen een reële last.

Dat is geen theoretische zorg. Google zette onlangs een bugbountyprogramma voor open source stil na een stortvloed aan door AI gegenereerde meldingen. Het model van Anthropic verschilt op één cruciaal punt: beheerders moeten zich voor de scanner aanmelden, de meldingen belanden niet ongevraagd in hun inbox.

Wie kan zich aanmelden

Deelname is beperkt en vrijwillig. Beheerders van projecten die van cruciaal belang zijn voor infrastructuur of voor de veiligheid van gebruikers kunnen zich via GitHub aanmelden. Anthropic presenteert de scanner niet als hulpmiddel voor elke repository. Hij is bedoeld voor code waarin een kwetsbaarheid ernstige gevolgen zou hebben.

Doordat deelname op aanmelding gebeurt, houden beheerders zelf de regie. Zij bepalen of ze überhaupt geautomatiseerde meldingen willen ontvangen, en wat ze met elke voorgestelde patch doen.

Het argument van de verdediger

De kern van Cyber Mission is de stelling dat het evenwicht tussen aanval en verdediging is verschoven. Volgens Anthropic gebruiken aanvallers al capabele AI-modellen, terwijl de mensen die systemen verdedigen achterlopen. Berichten over AI-hacktools die tegen Koreaanse banken werden ingezet laten zien waarom dat argument in de hele sector aandacht krijgt.

Het antwoord van Anthropic is om verdedigers dezelfde klasse hulpmiddelen te geven, gratis of via gestructureerde partnerschappen, in plaats van hen zelf te laten uitzoeken hoe ze er toegang toe krijgen.

Onze analyse

Cyber Mission wijst erop dat AI-labs beveiligingstools steeds vaker zien als onderdeel van hun verantwoordelijkheid, en niet alleen als bijkomende markt. De opensourcescanner is het interessantste experiment. Als hij werkt, kan hij kleine vrijwilligersteams een vorm van regelmatige controle bieden die ze zich vroeger zelden konden veroorloven.

Het zwakke punt is het punt dat Anthropic zelf noemt: meldingen worden zonder menselijke controle verstuurd. Een nauwkeurigheid van meer dan 90 procent klinkt sterk, maar op grote schaal kan zelfs een klein aandeel foute meldingen extra werk opleveren voor precies de mensen die het programma wil helpen. Het aanmeldmodel helpt dat risico te beperken.

Het is de moeite waard om in de gaten te houden of beheerders zich daadwerkelijk aanmelden, hoe vaak voorgestelde patches worden geaccepteerd en of Anthropic cijfers publiceert waaruit blijkt dat echte kwetsbaarheden zijn verholpen. Aan de kant van de infrastructuur is de open vraag of CIDP meetbare verbeteringen oplevert voor beheerders van stroomnetten, watersystemen en vervoer, of vooral een raamwerk voor partnerschappen blijft. Die resultaten zullen uitwijzen of "AI voor verdedigers" in de praktijk overeind blijft.