Google pauzeert open source-bugbounty na vloed AI-meldingen

Google heeft een van zijn beloningsprogramma's voor beveiliging stilgezet. Volgens het bedrijf zijn te veel van de meldingen die het nu binnenkrijgt door machines gegenereerd, en de meeste daarvan kloppen niet.

Het gaat om Google's Open Source Software Vulnerability Rewards Program. Daarmee konden externe onderzoekers geld verdienen door beveiligingslekken te vinden in de open source software die Google onderhoudt. Sinds 1 oktober worden er geen nieuwe meldingen meer aangenomen. Google zegt in het eerste kwartaal van 2027 met "een update" te komen, dus het programma ligt in feite tot volgend jaar stil.

Wat Google zei

Google maakte de pauze bekend in berichten op X en op de eigen website van het programma. De toelichting was kort:

"Deze pauze is het gevolg van een sterke toename van geautomatiseerde meldingen, waarvan de overgrote meerderheid niet geldig is", aldus het bedrijf.

Google zei niet hoeveel meldingen er binnenkwamen of welk deel ongeldig was. Het bedrijf zei ook niet dat elke geautomatiseerde melding van een AI-systeem afkomstig was. Toch is de richting duidelijk. Het aantal meldingen steeg, de kwaliteit daalde en de mensen die ze moesten beoordelen konden het niet meer bijbenen.

Tom's Hardware meldde dat engineers van Google en beheerders van open source projecten werden overspoeld door meldingen die ongeldig waren of hallucinaties bevatten. In AI-termen is een hallucinatie inhoud die een model als feit presenteert, maar die verzonnen is. In een melding over een kwetsbaarheid kan dat een functie zijn die niet bestaat, een codepad dat nooit wordt uitgevoerd of een exploit die onmogelijk kan werken.

Voorlopig verwijst Google onderzoekers naar zijn andere bugbountyprogramma's. Die blijven open.

Hoe bugbounty's werken, en waarom de hoeveelheid ertoe doet

Een bugbountyprogramma betaalt buitenstaanders om beveiligingsproblemen te vinden voordat aanvallers dat doen. Het model draait om een eenvoudige ruil. Onderzoekers steken tijd in het zoeken naar lekken. Het bedrijf steekt tijd in het controleren van wat ze vinden. Geldige vondsten worden betaald en opgelost.

Die ruil werkt alleen als de kant die controleert het aankan. Elke melding moet worden gelezen, nagebootst en beoordeeld door iemand die de code goed genoeg kent. Een goede melding bespaart de leverancier tijd. Een slechte melding kost tijd, en een overtuigende slechte melding kost de meeste tijd, omdat het langer duurt om die uit te sluiten.

Bij open source komt er nog een laag bij. Veel meldingen belanden op het bureau van beheerders, de ontwikkelaars die een project draaiende houden. Hun tijd is beperkt, en een ongeldige melding die geloofwaardig oogt, haalt ze weg bij echte reparaties.

Een waarschuwing die uitkwam

Dit probleem kwam niet uit de lucht vallen. Vorig jaar meldde TechCrunch dat cybersecurityexperts waarschuwden dat "AI slop" - inhoud van lage kwaliteit die massaal met AI-tools wordt gemaakt - een serieus risico vormde voor bugbountyprogramma's. De zorg was dat goedkope generatie mensen in staat zou stellen grote aantallen meldingen in te sturen in de hoop dat er een paar zouden uitbetalen, terwijl de beoordelaars voor de kosten opdraaiden.

De pauze van Google is een concreet voorbeeld van die waarschuwing die bij een groot bedrijf werkelijkheid wordt. Opvallend is ook dat Google ervoor koos het programma stop te zetten in plaats van simpelweg strenger te filteren. Dat wijst erop dat filteren bij de huidige hoeveelheid niet haalbaar was, in elk geval niet op korte termijn.

De vreemde positie van AI in beveiliging

Hier zit een spanning. AI-tools worden beter in echt beveiligingswerk, en sommige modellen laten inmiddels sterke resultaten zien bij het bouwen van werkende exploits. Google investeert zelf in defensieve cyber-AI. Het vermogen is in dit geval niet het probleem. Het probleem is wat er gebeurt als mensen deze tools op een beloningssysteem loslaten zonder de uitvoer te controleren.

Een model kan in een paar seconden een melding schrijven die leest als werk van een expert. Om te bevestigen of de bewering klopt, is nog steeds een mens met kennis van zaken nodig. Als het maken van een melding vrijwel niets meer kost, maar het beoordelen ervan niet, trekt de beoordelaar aan het kortste eind.

Het grotere geheel

Dit lijkt onderdeel van een breder patroon: open systemen die op goede trouw draaiden, gaan dicht of worden beperkt naarmate het geautomatiseerde verkeer groeit. Het besluit van Reddit om RSS-feeds en de openbare API te schrappen vanwege AI-scrapers is een ander geval, maar de logica is vergelijkbaar. Als AI misbruik goedkoop maakt, wordt het lastiger om de deur open te houden.

Voor onderzoekers is de les praktisch. Niet-gecontroleerde AI-uitvoer levert niet alleen geen beloning op. Het kan een programma voor iedereen laten sluiten, ook voor mensen die zorgvuldig werk leveren.

Het is de moeite waard om in de gaten te houden wat Google begin 2027 aankondigt. Mogelijke maatregelen zijn strengere regels voor meldingen, de eis om een werkende proof of concept te laten zien of beperkingen op wie mag deelnemen. Of andere leveranciers met vergelijkbare pauzes volgen, zal laten zien of dit een probleem van Google is of een structureel probleem voor bugbounty's in het algemeen. De open vraag is of beloningsprogramma's hun beoordelingsproces snel genoeg kunnen aanpassen, of dat sommige dicht blijven.