Anthropic Cyber Mission: Kostenloser KI-Scanner für Open Source
Anthropic setzt seine Modelle für die Verteidigung ein. Das Unternehmen hat Cyber Mission angekündigt, ein nach eigenen Angaben langfristig angelegtes Programm mit zwei Zielen: kritische Infrastruktur schützen und die Open-Source-Software absichern, auf der moderne Systeme laufen. Die Ankündigung besteht aus zwei Teilen. Der erste ist ein Partnerprogramm für Betreiber von Infrastruktur. Der zweite ist ein kostenloser KI-Scanner, der Open-Source-Projekte regelmäßig auf Schwachstellen prüfen soll.
Anthropics Begründung ist einfach. Angreifer hätten bereits Zugriff auf leistungsfähige KI-Modelle, argumentiert das Unternehmen, während den Verteidigern noch vergleichbar starke Werkzeuge fehlten. Cyber Mission ist Anthropics Versuch, einen Teil dieser Lücke zu schließen.
Zwei Programme unter einem Dach
1. Das Critical Infrastructure Defense Program (CIDP)
Der erste Teil richtet sich an die Organisationen, die physische Systeme am Laufen halten. CIDP zielt auf Betreiber von Stromnetzen, Wasserversorgung und Verkehrsnetzen. Teilnehmer erhalten Zugang zu drei Dingen:
- Claude-Modelle
- Ingenieure von Anthropic
- Bedrohungsanalysen
Das Programm startet mit vier Gründungspartnern: CrowdStrike, Palo Alto Networks, Deloitte und Rockwell Automation. Die Zusammenstellung ist bemerkenswert. CrowdStrike und Palo Alto Networks sind große Anbieter von Cybersicherheit, Deloitte ist ein großes Beratungsunternehmen, und Rockwell Automation baut Technik für die industrielle Automatisierung. Gemeinsam decken sie Sicherheitswerkzeuge, Unterstützung bei der Umsetzung und die Betriebstechnik ab, die in der Industrie zum Einsatz kommt.
Anthropic öffnet seine Sicherheitswerkzeuge schon seit einiger Zeit für einen größeren Kreis. Sein Cyber-Verifizierungsprogramm für Verteidiger wurde kürzlich für weitere Nutzer geöffnet, und CIDP treibt diesen Ansatz in die Branchen, in denen ein erfolgreicher Angriff den größten physischen Schaden anrichtet.
2. Der kostenlose "OSS"-Scanner
Der zweite Teil dürfte für Entwickler der wichtigere sein. Anthropic bietet einen kostenlosen KI-Scanner namens "OSS" an, der Open-Source-Projekte in regelmäßigen Abständen prüft. Findet er eine Schwachstelle, wird er:
- das Problem automatisch melden
- erklären, worin das Problem besteht
- einen Patch vorschlagen
Die Gründe für den Fokus auf Open Source sind bekannt. Fast jede moderne Software baut auf Open-Source-Code auf, und ein Großteil davon wird von kleinen Teams aus Freiwilligen gepflegt. Diese Maintainer betreuen oft Komponenten, auf die sich große Unternehmen und öffentliche Dienste verlassen, haben aber nur selten Zeit oder Geld für eine kontinuierliche, professionelle Sicherheitsprüfung.
Die Frage der Genauigkeit
Anthropic rechnet nach eigenen Angaben damit, dass der Scanner eine Genauigkeit von über 90 Prozent erreicht. Diese Zahl hat allerdings einen wichtigen Haken: Die Berichte werden ohne menschliche Prüfung verschickt, und Anthropic räumt ein, dass sie Fehler enthalten können.
Für Maintainer hat dieser Kompromiss zwei Seiten. Eine häufige automatische Prüfung könnte Fehler aufspüren, die sonst jahrelang unbemerkt blieben. Doch auch ein falscher Bericht kostet Zeit: Er muss gelesen, nachvollzogen und verworfen werden. Für ein Team aus Freiwilligen ist der Aufwand, Fehlalarme zu überprüfen, durchaus spürbar.
Diese Sorge ist keineswegs theoretisch. Google hat kürzlich ein Bug-Bounty-Programm für Open Source ausgesetzt, nachdem es mit KI-generierten Berichten überschwemmt worden war. Anthropics Modell unterscheidet sich in einem entscheidenden Punkt: Die Teilnahme am Scanner ist freiwillig, er landet also nicht ungefragt im Postfach eines Maintainers.
Wer sich anmelden kann
Die Teilnahme ist begrenzt und freiwillig. Maintainer von Projekten, die für Infrastruktur oder die Sicherheit von Nutzern entscheidend sind, können sich über GitHub anmelden. Anthropic hat den Scanner nicht als Werkzeug für jedes beliebige Repository präsentiert. Er zielt auf Code, bei dem eine Schwachstelle ernste Folgen hätte.
Durch das Opt-in-Verfahren behalten die Maintainer die Kontrolle. Sie entscheiden, ob sie überhaupt automatische Berichte erhalten wollen, und sie bestimmen, was mit jedem vorgeschlagenen Patch geschieht.
Das Argument der Verteidiger
Die zentrale These hinter Cyber Mission lautet, dass sich das Kräfteverhältnis zwischen Angriff und Verteidigung verschoben hat. Aus Sicht von Anthropic nutzen Angreifer bereits leistungsfähige KI-Modelle, während diejenigen, die Systeme verteidigen, hinterherhinken. Berichte über KI-Hacking-Werkzeuge, die gegen koreanische Banken eingesetzt wurden, zeigen, warum dieses Argument in der gesamten Branche Beachtung findet.
Anthropics Antwort besteht darin, Verteidigern Werkzeuge derselben Klasse kostenlos oder über strukturierte Partnerschaften bereitzustellen, statt sie sich selbst um den Zugang kümmern zu lassen.
Unsere Einschätzung
Cyber Mission deutet darauf hin, dass KI-Labore Sicherheitswerkzeuge zunehmend als Teil ihrer Verantwortung sehen und nicht nur als Nebengeschäft. Der Open-Source-Scanner ist das spannendere Experiment. Wenn er funktioniert, könnte er kleinen Teams aus Freiwilligen eine Art regelmäßiger Prüfung bieten, die sie sich bisher kaum leisten konnten.
Die Schwachstelle ist die, die Anthropic selbst benennt: Die Berichte gehen ohne menschliche Prüfung hinaus. Eine Genauigkeit von über 90 Prozent klingt stark, doch in großem Maßstab könnte schon ein kleiner Anteil falscher Berichte genau den Menschen zusätzliche Arbeit machen, denen das Programm helfen soll. Das Opt-in-Modell trägt dazu bei, dieses Risiko zu begrenzen.
Es lohnt sich zu beobachten, ob sich Maintainer tatsächlich anmelden, wie oft vorgeschlagene Patches übernommen werden und ob Anthropic Daten veröffentlicht, die belegen, dass echte Schwachstellen behoben wurden. Auf der Infrastrukturseite bleibt offen, ob CIDP messbare Verbesserungen für Betreiber von Strom-, Wasser- und Verkehrsnetzen bringt oder vor allem ein Rahmen für Partnerschaften bleibt. Diese Ergebnisse werden zeigen, ob "KI für Verteidiger" sich in der Praxis bewährt.