Google suspend un bug bounty face à l'afflux de rapports IA

Google a mis en pause l'un de ses programmes de récompenses en sécurité. L'entreprise explique qu'une trop grande partie des rapports qu'elle reçoit désormais sont générés automatiquement, et que la plupart sont faux.

Le programme concerné est l'Open Source Software Vulnerability Rewards Program de Google. Il permettait à des chercheurs extérieurs d'être rémunérés pour avoir trouvé des failles de sécurité dans les logiciels open source maintenus par Google. Depuis le 1er octobre, les nouvelles soumissions sont suspendues. Google indique qu'il communiquera "une mise à jour" au premier trimestre 2027. Dans les faits, le programme est donc à l'arrêt jusqu'à l'an prochain.

Ce qu'a dit Google

Google a annoncé cette pause dans des publications sur X et sur le site du programme. L'explication tient en une phrase :

"Cette pause est due à une forte hausse des soumissions automatisées, dont l'immense majorité ne sont pas valides", a déclaré l'entreprise.

Google n'a pas précisé combien de rapports il avait reçus ni quelle proportion était invalide. Il n'a pas non plus affirmé que tous les rapports automatisés provenaient d'un système d'IA. La tendance reste claire. Le volume des soumissions a augmenté, leur qualité a baissé, et les personnes chargées de les examiner n'ont pas pu suivre.

Selon Tom's Hardware, les ingénieurs de Google et les mainteneurs open source étaient submergés par des rapports invalides ou contenant des hallucinations. Dans le domaine de l'IA, une hallucination désigne un contenu qu'un modèle présente comme un fait mais qui est inventé. Dans un rapport de vulnérabilité, cela peut être une fonction qui n'existe pas, un chemin de code qui ne s'exécute jamais ou un exploit qui ne peut pas fonctionner.

Pour l'instant, Google oriente les chercheurs vers ses autres programmes de bug bounty. Ceux-ci restent ouverts.

Comment fonctionnent les bug bounties, et pourquoi le volume compte

Un programme de bug bounty rémunère des personnes extérieures pour trouver des problèmes de sécurité avant les attaquants. Le modèle repose sur un échange simple. Les chercheurs passent du temps à traquer les failles. L'entreprise passe du temps à vérifier ce qu'ils trouvent. Les découvertes valides sont payées et corrigées.

Cet échange ne fonctionne que si ceux qui vérifient arrivent à suivre. Chaque rapport doit être lu, reproduit et évalué par quelqu'un qui connaît suffisamment le code. Un bon rapport fait gagner du temps à l'éditeur. Un mauvais rapport en fait perdre, et un mauvais rapport convaincant coûte le plus cher, parce qu'il faut plus longtemps pour l'écarter.

L'open source ajoute une couche supplémentaire. De nombreux rapports atterrissent sur le bureau des mainteneurs, les développeurs chargés de faire vivre un projet. Leur temps est limité, et un rapport invalide mais plausible les détourne des vraies corrections.

Un avertissement qui s'est vérifié

Le problème n'est pas arrivé sans prévenir. L'an dernier, TechCrunch rapportait que des experts en cybersécurité alertaient sur le fait que le "AI slop" - du contenu de faible qualité produit en masse avec des outils d'IA - représentait un risque sérieux pour les programmes de bug bounty. La crainte était qu'une génération bon marché permette d'envoyer des quantités de rapports en espérant que quelques-uns soient payés, pendant que les relecteurs en absorbaient le coût.

La pause de Google est un exemple concret de cet avertissement qui se concrétise dans une grande entreprise. Il est aussi notable que Google ait choisi d'arrêter le programme plutôt que de simplement filtrer davantage. Cela laisse penser que le filtrage n'était pas tenable avec le volume actuel, du moins pas rapidement.

La place paradoxale de l'IA dans la sécurité

Il y a là une contradiction. Les outils d'IA progressent dans le vrai travail de sécurité, et certains modèles affichent désormais de solides résultats pour concevoir des exploits fonctionnels. Google lui-même investit dans l'IA de cyberdéfense. Ce ne sont pas les capacités qui posent problème ici. Le problème, c'est ce qui se passe quand on braque ces outils sur un système de récompenses sans vérifier ce qu'ils produisent.

Un modèle peut rédiger en quelques secondes un rapport qui ressemble au travail d'un expert. Confirmer que l'affirmation est vraie demande toujours un humain qui connaît le contexte. Quand le coût de production d'un rapport tend vers zéro mais pas celui de son examen, c'est le relecteur qui perd.

Vue d'ensemble

Cela semble s'inscrire dans une tendance plus large : des systèmes ouverts qui reposaient sur la bonne foi se ferment ou se restreignent à mesure que le trafic automatisé augmente. La décision de Reddit de mettre fin à ses flux RSS et à son API publique à cause des scrapers d'IA est un cas différent, mais la logique est proche. Quand l'IA rend les abus bon marché, il devient plus difficile de laisser la porte ouverte.

Pour les chercheurs, la leçon est concrète. Un résultat d'IA non vérifié ne se contente pas de ne rapporter aucune récompense. Il peut faire fermer un programme pour tout le monde, y compris pour ceux qui travaillent avec soin.

Il faudra suivre ce que Google annoncera début 2027. Parmi les réponses possibles : des règles de soumission plus strictes, l'obligation de fournir une preuve de concept fonctionnelle, ou une limitation des participants. Si d'autres éditeurs suivent avec des pauses similaires, on saura s'il s'agit d'un problème propre à Google ou d'un problème structurel pour l'ensemble des bug bounties. La question reste ouverte : les programmes de récompenses pourront-ils adapter leur processus d'examen assez vite, ou certains resteront-ils fermés ?