Bank of America zet 4.000 man in op AI-softwarelekken
Bank of America zet duizenden mensen in om de rommel op te ruimen die AI-modellen blootleggen. Die modellen zijn inmiddels erg goed in het vinden van gaten in software. Volgens CNBC heeft de bank 1.000 externe krachten ingehuurd om kwetsbaarheden te repareren die zijn opgespoord door systemen zoals Mythos van Anthropic. Die externen werken samen met 3.000 eigen medewerkers van de bank, wat het totaal op zo'n 4.000 mensen brengt.
Topman Brian Moynihan zei dat de gezamenlijke operatie sinds het tweede kwartaal loopt. Daarmee is Bank of America een van de eerste grote Amerikaanse bedrijven die openlijk vertellen hoeveel personeel ze inzetten om door AI gevonden fouten te herstellen.
Wat de bank naar buiten heeft gebracht
De cijfers zijn onvolledig. Moynihan zei dat Bank of America in het derde kwartaal "een paar honderd miljoen dollar" heeft uitgegeven. Dat bedrag dekt twee dingen: het herstelwerk aan de software en de verplichtingen van de bank op het gebied van witwasbestrijding. Hij gaf geen apart bedrag voor alleen het dichten van lekken, dus buitenstaanders kunnen niet zien welk deel van de uitgaven naar het oplossen van kwetsbaarheden ging.
Wat wel duidelijk is, is de omvang van de personeelsinzet. Vierduizend mensen is een flinke operatie, zelfs voor een van de grootste banken van de VS. Moynihan deed ook een voorspelling: hij verwacht dat de kosten van het patchen na verloop van tijd zullen dalen. Hij zei niet hoe snel dat zou gaan of waardoor die daling zou komen.
Waar de kwetsbaarheden vandaan komen
De achtergrond is een golf aan op beveiliging gerichte AI-lanceringen van de toonaangevende AI-labs dit jaar.
Mythos van Anthropic. In april stelde Anthropic Mythos alleen beschikbaar voor een beperkte groep partners, via een initiatief met de naam Project Glasswing. Volgens het bedrijf had het model duizenden ernstige beveiligingslekken blootgelegd. Het koos voor beperkte toegang in plaats van een brede publieke lancering.
Daybreak van OpenAI. Een maand later, in mei, lanceerde OpenAI zijn eigen cybersecurityprogramma, Daybreak.
Aanvankelijk deden veel critici deze waarschuwingen en tegenmaatregelen af als marketing. De labs beweerden dat hun modellen zo goed waren in het vinden van fouten dat de toegang moest worden beperkt, en sommige waarnemers zagen dat als een wel heel handig verhaal.
Die opvatting heeft inmiddels terrein verloren. Twee ontwikkelingen hebben het gesprek veranderd:
- Echte incidenten. Beveiligingsinbreuken zoals de hack bij Hugging Face maakten het moeilijker om het risico weg te wuiven.
- Onafhankelijke tests. Externe evaluaties bevestigden dat de nieuwe modellen echt sterkere capaciteiten hebben dan eerdere systemen.
De onthulling van Bank of America voegt daar een derde gegeven aan toe. Een streng gereguleerde bank huurt geen 1.000 externe krachten in voor een pr-stunt.
Het patchprobleem
Het verhaal legt een kloof bloot waar beveiligingsteams zich al een tijd zorgen over maken. Een kwetsbaarheid vinden is maar de eerste stap. Elke vondst moet worden bevestigd, naar ernst worden gerangschikt, gerepareerd, getest en uitgerold, vaak in oude en sterk met elkaar verweven systemen. Banken draaien daar veel van.
Als een AI-model fouten veel sneller boven water kan halen dan voorheen, verschuift het werk naar latere stappen in de keten. De beperkende factor is niet langer het ontdekken. Het is het aantal engineers dat beschikbaar is om iets te doen met wat er ontdekt is. Het antwoord van Bank of America is, in elk geval voorlopig, meer mensen inzetten.
Diezelfde druk is ook elders zichtbaar. Google zette onlangs een bugbountyprogramma voor open source stop nadat het werd overspoeld met door AI gegenereerde meldingen, nog een teken dat het aantal vondsten de capaciteit om ze af te handelen kan overstijgen.
Het grotere geheel
Voor lezers die AI-beveiliging volgen, is dit een van de duidelijkste signalen tot nu toe dat het opsporen van kwetsbaarheden met AI is verschoven van demo's in het lab naar posten op bedrijfsbegrotingen. Eerder dit jaar ging de discussie nog over de vraag of de labs de capaciteiten van hun modellen overdreven. De onthulling van Bank of America wijst erop dat minstens een grote instelling de dreiging serieus genoeg nam om een herstelploeg van ongeveer 4.000 mensen op te bouwen.
Het laat ook zien dat AI hier werk creeert in plaats van wegneemt, in elk geval op korte termijn. De modellen vinden de fouten, maar mensen doen nog altijd het meeste herstelwerk. Dat past in een breder patroon waarin verdedigers en aanvallers allebei dezelfde nieuwe middelen gebruiken. CyrioX berichtte eerder over gevallen waarin AI-hacktools een enkele aanvaller in staat stelden in te breken bij Koreaanse banken, wat helpt verklaren waarom een Amerikaanse bank haar zwakke plekken liever repareert voordat iemand anders ze vindt.
Er liggen nog open vragen. De verwachting van Moynihan dat de kosten zullen dalen is aannemelijk als de achterstand aan oudere fouten kleiner wordt, of als AI naast het vinden ook meer van het repareren gaat overnemen. Initiatieven zoals de gratis AI-scanner van Anthropic voor opensourceprojecten wijzen op bredere toegang tot deze tools, wat verdedigers kan helpen, maar ook nog meer vondsten oplevert die verwerkt moeten worden.
Het is de moeite waard om in de gaten te houden of andere grote banken en bedrijven bij hun volgende kwartaalcijfers vergelijkbare getallen publiceren, en of ze de kosten van het patchen loskoppelen van andere uitgaven. Als meer bedrijven het voorbeeld van Bank of America volgen, zouden de werkelijke kosten van door AI gedreven beveiligingswerk een stuk beter zichtbaar moeten worden.