Bank of America setzt 4.000 Leute auf KI-gefundene Lücken

Bank of America setzt Tausende Menschen ein, um hinter KI-Modellen aufzuräumen, die inzwischen sehr gut darin sind, Lücken in Software aufzuspüren. Laut CNBC hat die Bank 1.000 externe Auftragnehmer geholt, die Schwachstellen beheben sollen, die Systeme wie Anthropics Mythos gemeldet haben. Diese Auftragnehmer arbeiten mit 3.000 eigenen Beschäftigten der Bank zusammen, insgesamt sind es also rund 4.000 Menschen.

Laut CEO Brian Moynihan läuft die gemeinsame Aktion seit dem zweiten Quartal. Damit gehört Bank of America zu den ersten großen US-Unternehmen, die öffentlich sagen, wie viel Personal sie für die Behebung von KI-gefundenen Schwachstellen abgestellt haben.

Was die Bank offengelegt hat

Die Zahlen sind lückenhaft. Moynihan sagte, Bank of America habe im dritten Quartal "ein paar hundert Millionen Dollar" ausgegeben. Dieser Betrag deckt zwei Dinge ab: die Behebung der Software-Schwachstellen und die Anforderungen der Bank zur Geldwäschebekämpfung. Eine eigene Zahl nur für das Patchen nannte er nicht, von außen lässt sich also nicht erkennen, wie viel des Geldes in die Behebung von Schwachstellen floss.

Klar ist dagegen der personelle Umfang. Viertausend Menschen sind ein großer Einsatz, selbst für eine der größten Banken der USA. Moynihan wagte auch eine Prognose: Er erwartet, dass die Kosten für das Patchen mit der Zeit sinken. Wie schnell das gehen soll und was die Kosten drücken würde, sagte er nicht.

Woher die Schwachstellen kommen

Hintergrund ist eine Welle von KI-Veröffentlichungen mit Sicherheitsschwerpunkt, die die führenden KI-Labore in diesem Jahr herausgebracht haben.

Anthropics Mythos. Im April stellte Anthropic Mythos über eine Initiative namens Project Glasswing nur einem begrenzten Kreis von Partnern zur Verfügung. Nach Angaben des Unternehmens hatte das Modell Tausende schwerwiegender Sicherheitslücken aufgedeckt. Anthropic entschied sich für einen eingeschränkten Zugang statt einer breiten öffentlichen Veröffentlichung.

OpenAIs Daybreak. Einen Monat später, im Mai, startete OpenAI mit Daybreak ein eigenes Cybersicherheitsprogramm.

Anfangs taten viele Kritiker diese Warnungen und Gegenmaßnahmen als Marketing ab. Die Labore behaupteten, ihre Modelle seien so gut im Aufspüren von Lücken, dass der Zugang kontrolliert werden müsse, und manche Beobachter hielten das für eine bequeme Geschichte.

Diese Sichtweise hat seitdem an Boden verloren. Zwei Entwicklungen haben die Debatte verändert:

• Echte Vorfälle. Sicherheitsvorfälle wie der Hack bei Hugging Face haben es schwerer gemacht, das Risiko abzutun.
• Unabhängige Tests. Externe Prüfungen haben bestätigt, dass die neuen Modelle tatsächlich leistungsfähiger sind als frühere Systeme.

Die Angaben von Bank of America liefern einen dritten Anhaltspunkt. Eine streng regulierte Bank stellt keine 1.000 Auftragnehmer für eine PR-Aktion ein.

Das Patch-Problem

Die Geschichte zeigt eine Lücke, die Sicherheitsteams schon länger Sorgen macht. Eine Schwachstelle zu finden, ist nur der erste Schritt. Jeder Fund muss bestätigt, nach Schweregrad eingestuft, behoben, getestet und ausgerollt werden, oft in alten und eng verflochtenen Systemen. Banken betreiben viele davon.

Wenn ein KI-Modell Lücken viel schneller ans Licht bringt als früher, verlagert sich die Arbeit nach hinten. Der Engpass ist nicht mehr das Aufspüren. Es ist die Zahl der Ingenieure, die sich um das Gefundene kümmern können. Die Antwort von Bank of America lautet, zumindest vorerst: mehr Leute.

Derselbe Druck zeigt sich auch anderswo. Google hat kürzlich ein Bug-Bounty-Programm für Open Source ausgesetzt, nachdem es mit KI-generierten Meldungen überschwemmt worden war. Ein weiteres Zeichen dafür, dass die Menge der Funde die Kapazität, sie abzuarbeiten, übersteigen kann.

Das große Ganze

Für alle, die KI-Sicherheit verfolgen, ist das eines der bisher deutlichsten Zeichen dafür, dass das Aufspüren von Schwachstellen per KI den Sprung von Labor-Demos in die Budgetposten von Unternehmen geschafft hat. Anfang des Jahres drehte sich der Streit noch darum, ob die Labore die Fähigkeiten ihrer Modelle übertreiben. Die Angaben von Bank of America deuten darauf hin, dass mindestens eine große Institution die Bedrohung ernst genug nahm, um eine Truppe von rund 4.000 Menschen für die Behebung aufzubauen.

Sie zeigen auch, dass KI hier Arbeit schafft, statt sie abzuschaffen, zumindest kurzfristig. Die Modelle finden die Lücken, aber den Großteil der Reparaturarbeit erledigen weiterhin Menschen. Das passt zu einem größeren Muster, bei dem Verteidiger und Angreifer dieselben neuen Werkzeuge nutzen. CyrioX hat über Fälle berichtet, in denen KI-Hacking-Tools einem einzelnen Angreifer den Einbruch bei koreanischen Banken ermöglichten. Das erklärt, warum eine US-Bank ihre Schwachstellen lieber selbst behebt, bevor jemand anderes sie findet.

Es bleiben offene Fragen. Moynihans Erwartung sinkender Kosten ist plausibel, wenn der Rückstau älterer Lücken schrumpft oder wenn KI neben dem Finden auch mehr vom Beheben übernimmt. Initiativen wie Anthropics kostenloser KI-Scanner für Open-Source-Projekte deuten auf einen breiteren Zugang zu diesen Werkzeugen hin. Das könnte Verteidigern helfen, aber auch noch mehr Funde erzeugen, die abgearbeitet werden müssen.

Es lohnt sich zu beobachten, ob andere große Banken und Unternehmen in ihren nächsten Telefonkonferenzen zu den Quartalszahlen ähnliche Zahlen veröffentlichen und ob sie die Patch-Kosten von anderen Ausgaben trennen. Wenn mehr Unternehmen dem Beispiel von Bank of America folgen, dürften die wahren Kosten der KI-getriebenen Sicherheitsarbeit deutlich leichter zu erkennen sein.