Google pausiert Open-Source-Bug-Bounty wegen KI-Meldungsflut

Google hat eines seiner Belohnungsprogramme für Sicherheitslücken auf Eis gelegt. Nach Angaben des Unternehmens werden inzwischen zu viele der eingehenden Meldungen maschinell erzeugt, und die meisten davon sind falsch.

Es geht um Googles Open Source Software Vulnerability Rewards Program. Darüber konnten externe Forscher Geld verdienen, wenn sie Sicherheitslücken in der Open-Source-Software fanden, die Google betreut. Seit dem 1. Oktober nimmt das Programm keine neuen Meldungen mehr an. Google will im ersten Quartal 2027 "ein Update" veröffentlichen. Damit ist das Programm faktisch bis zum nächsten Jahr außer Betrieb.

Was Google sagt

Google hat die Pause in Beiträgen auf X und auf der Website des Programms angekündigt. Die Begründung fiel knapp aus:

"Diese Pause ist auf einen deutlichen Anstieg automatisierter Meldungen zurückzuführen, von denen die überwiegende Mehrheit nicht gültig ist", erklärte das Unternehmen.

Wie viele Meldungen eingingen und welcher Anteil davon ungültig war, sagte Google nicht. Ebenso wenig behauptete das Unternehmen, dass jede automatisierte Meldung von einem KI-System stammte. Die Richtung ist trotzdem klar. Die Zahl der Meldungen stieg, die Qualität sank, und die Prüfer kamen nicht mehr hinterher.

Laut Tom's Hardware waren Google-Ingenieure und Open-Source-Maintainer von Meldungen überfordert, die entweder ungültig waren oder Halluzinationen enthielten. Bei KI bezeichnet eine Halluzination Inhalte, die ein Modell als Tatsache darstellt, die aber frei erfunden sind. In einer Schwachstellenmeldung kann das eine Funktion sein, die es nicht gibt, ein Codepfad, der nie ausgeführt wird, oder ein Exploit, der gar nicht funktionieren kann.

Vorerst verweist Google Forscher auf seine anderen Bug-Bounty-Programme. Diese bleiben geöffnet.

Wie Bug-Bounty-Programme funktionieren und warum die Menge zählt

Ein Bug-Bounty-Programm bezahlt Außenstehende dafür, Sicherheitsprobleme zu finden, bevor Angreifer es tun. Das Modell beruht auf einem einfachen Tausch. Forscher investieren Zeit in die Suche nach Lücken. Das Unternehmen investiert Zeit in die Prüfung ihrer Funde. Gültige Funde werden bezahlt und behoben.

Dieser Tausch funktioniert nur, wenn die prüfende Seite mithalten kann. Jede Meldung muss von jemandem gelesen, nachvollzogen und bewertet werden, der den Code gut genug kennt. Eine gute Meldung spart dem Hersteller Zeit. Eine schlechte kostet Zeit, und eine überzeugend klingende schlechte Meldung kostet am meisten, weil es länger dauert, sie auszuschließen.

Bei Open Source kommt noch eine Ebene hinzu. Viele Meldungen landen bei Maintainern, also den Entwicklern, die ein Projekt am Laufen halten. Ihre Zeit ist knapp, und eine ungültige, aber plausibel wirkende Meldung hält sie von echten Fehlerbehebungen ab.

Eine Warnung, die sich bewahrheitet hat

Das Problem kam nicht aus heiterem Himmel. Im vergangenen Jahr berichtete TechCrunch, dass Cybersicherheitsexperten vor "AI Slop" warnten - minderwertigen Inhalten, die massenhaft mit KI-Werkzeugen erzeugt werden - und darin eine ernste Gefahr für Bug-Bounty-Programme sahen. Die Sorge: Billige Generierung würde es Leuten ermöglichen, große Mengen an Meldungen zu verschicken in der Hoffnung, dass sich ein paar davon auszahlen, während die Prüfer die Kosten tragen.

Googles Pause ist ein konkretes Beispiel dafür, wie sich diese Warnung bei einem großen Unternehmen bewahrheitet. Bemerkenswert ist auch, dass Google das Programm lieber stoppt, statt einfach strenger zu filtern. Das legt nahe, dass Filtern bei der aktuellen Menge nicht machbar war, zumindest nicht schnell.

Die seltsame Rolle von KI in der Sicherheit

Hier gibt es einen Widerspruch. KI-Werkzeuge werden bei echter Sicherheitsarbeit immer besser, und einige Modelle erzielen inzwischen starke Ergebnisse beim Bau funktionierender Exploits. Google selbst investiert in defensive Cyber-KI. Die Fähigkeiten sind in diesem Fall nicht das Problem. Das Problem ist, was passiert, wenn Leute diese Werkzeuge auf ein Belohnungssystem loslassen, ohne die Ergebnisse zu prüfen.

Ein Modell kann in Sekunden eine Meldung schreiben, die sich wie die Arbeit eines Experten liest. Um zu bestätigen, ob die Behauptung stimmt, braucht es aber weiterhin einen Menschen mit Hintergrundwissen. Wenn die Kosten für das Erstellen einer Meldung gegen null gehen, die Kosten für ihre Prüfung aber nicht, verliert der Prüfer.

Das größere Bild

Das wirkt wie Teil eines breiteren Musters: Offene Systeme, die auf guten Willen gesetzt haben, schließen sich oder werden eingeschränkt, je mehr automatisierter Verkehr zunimmt. Reddits Entscheidung, RSS-Feeds und die öffentliche API abzuschalten, weil KI-Scraper sie ausnutzen, ist ein anderer Fall, folgt aber einer ähnlichen Logik. Wenn KI Missbrauch billig macht, lässt sich die Tür immer schwerer offen halten.

Für Forscher ist die Lehre ganz praktisch. Ungeprüfte KI-Ergebnisse bringen nicht nur keine Belohnung ein. Sie können ein Programm für alle zum Erliegen bringen, auch für diejenigen, die sorgfältig arbeiten.

Es lohnt sich, im Blick zu behalten, was Google Anfang 2027 ankündigt. Denkbar sind strengere Regeln für Meldungen, die Pflicht, einen funktionierenden Proof of Concept vorzulegen, oder Beschränkungen, wer überhaupt teilnehmen darf. Ob andere Hersteller mit ähnlichen Pausen nachziehen, wird zeigen, ob es sich um ein Google-Problem handelt oder um ein strukturelles Problem für Bug-Bounty-Programme insgesamt. Offen bleibt, ob Belohnungsprogramme ihre Prüfverfahren schnell genug anpassen können oder ob manche dauerhaft geschlossen bleiben.