Anthropic Cyber Mission : scanner IA offert à l'open source
Anthropic met ses modèles au service de la défense. L'entreprise a annoncé Cyber Mission, un programme qu'elle présente comme un engagement de long terme, avec deux objectifs : protéger les infrastructures critiques et protéger les logiciels open source sur lesquels reposent les systèmes modernes. L'annonce comporte deux volets. Le premier est un programme de partenariat destiné aux exploitants d'infrastructures. Le second est un scanner IA gratuit qui analysera régulièrement les projets open source à la recherche de vulnérabilités.
Le raisonnement d'Anthropic est simple. Les attaquants ont déjà accès à des modèles d'IA puissants, fait valoir l'entreprise, alors que les défenseurs ne disposent toujours pas d'outils d'une force comparable. Cyber Mission est sa tentative de combler une partie de cet écart.
Deux programmes sous une même bannière
1. Le Critical Infrastructure Defense Program (CIDP)
Le premier volet vise les organisations qui assurent le fonctionnement des systèmes physiques. Le CIDP s'adresse aux exploitants de réseaux électriques, de réseaux d'eau et de réseaux de transport. Les participants ont accès à trois choses :
- Les modèles Claude
- Les ingénieurs d'Anthropic
- L'analyse des menaces
Le programme démarre avec quatre partenaires fondateurs : CrowdStrike, Palo Alto Networks, Deloitte et Rockwell Automation. Ce choix mérite qu'on s'y arrête. CrowdStrike et Palo Alto Networks sont de grands éditeurs de cybersécurité, Deloitte est un grand cabinet de conseil, et Rockwell Automation conçoit des technologies d'automatisation industrielle. Ensemble, ils couvrent les outils de sécurité, l'accompagnement à la mise en oeuvre et les technologies opérationnelles utilisées en milieu industriel.
Anthropic élargit depuis un certain temps l'accès à ses outils de sécurité. Son programme de vérification cyber pour les défenseurs a récemment été ouvert à davantage d'utilisateurs, et le CIDP pousse cette démarche vers les secteurs où une attaque réussie provoque le plus de dégâts physiques.
2. Le scanner gratuit "OSS"
Le second volet est sans doute le plus important pour les développeurs. Anthropic propose un scanner IA gratuit, baptisé "OSS", qui analysera les projets open source à intervalles réguliers. Lorsqu'il détecte une vulnérabilité, il :
- Signale automatiquement le problème
- Explique de quoi il s'agit
- Propose un correctif
Les arguments en faveur de l'open source sont bien connus. La quasi-totalité des logiciels modernes dépend de code open source, et une grande partie de ce code est maintenue par de petites équipes de bénévoles. Ces mainteneurs s'occupent souvent de composants dont dépendent de grandes entreprises et des services publics, mais ils ont rarement le temps ou le budget nécessaires pour un audit de sécurité régulier et professionnel.
La question de la fiabilité
Anthropic dit s'attendre à ce que le scanner atteigne une précision supérieure à 90 %. Ce chiffre s'accompagne d'une réserve importante : les rapports sont envoyés sans relecture humaine, et Anthropic reconnaît qu'ils peuvent contenir des erreurs.
Pour les mainteneurs, ce compromis est à double tranchant. Une vérification automatique fréquente pourrait repérer des failles qui, sinon, resteraient inaperçues pendant des années. Mais un rapport erroné demande quand même du temps pour être lu, reproduit puis écarté. Pour une équipe de bénévoles, le coût du tri des faux positifs est bien réel.
Ce n'est pas une inquiétude théorique. Google a récemment suspendu un programme de bug bounty open source après un afflux de rapports générés par IA. Le modèle d'Anthropic diffère sur un point essentiel : le scanner fonctionne sur inscription volontaire, il n'atterrit pas sans prévenir dans la boîte de réception d'un mainteneur.
Qui peut s'inscrire
La participation est limitée et volontaire. Les mainteneurs de projets essentiels aux infrastructures ou à la sécurité des utilisateurs peuvent s'inscrire via GitHub. Anthropic ne présente pas le scanner comme un outil destiné à tous les dépôts. Il cible le code dans lequel une vulnérabilité aurait de graves conséquences.
Ce principe d'inscription volontaire laisse la main aux mainteneurs. Ils choisissent s'ils veulent recevoir des rapports automatiques, et ils décident quoi faire de chaque correctif proposé.
L'argument des défenseurs
L'idée centrale de Cyber Mission est que l'équilibre entre attaque et défense a basculé. Selon Anthropic, les acteurs offensifs utilisent déjà des modèles d'IA performants, tandis que ceux qui défendent les systèmes sont à la traîne. Les informations sur des outils de piratage dopés à l'IA utilisés contre des banques coréennes montrent pourquoi cet argument retient l'attention dans tout le secteur.
La réponse d'Anthropic consiste à fournir aux défenseurs des outils de même catégorie, gratuitement ou dans le cadre de partenariats structurés, plutôt que de les laisser se débrouiller seuls pour y accéder.
Notre analyse
Cyber Mission laisse penser que les laboratoires d'IA considèrent de plus en plus les outils de sécurité comme relevant de leur responsabilité, et pas seulement comme un marché annexe. Le scanner open source est l'expérience la plus intéressante. S'il fonctionne, il pourrait offrir aux petites équipes de bénévoles une forme d'audit régulier qu'elles pouvaient rarement s'offrir jusqu'ici.
Le point faible est celui qu'Anthropic désigne elle-même : les rapports sont envoyés sans relecture humaine. Une précision supérieure à 90 % paraît solide, mais à grande échelle, même une faible proportion de rapports erronés pourrait alourdir la charge de travail de ceux-là mêmes que le programme entend aider. L'inscription volontaire contribue à limiter ce risque.
Il faudra observer si les mainteneurs s'inscrivent réellement, à quelle fréquence les correctifs proposés sont acceptés, et si Anthropic publie des données montrant que de vraies vulnérabilités ont été corrigées. Côté infrastructures, la question reste de savoir si le CIDP apporte des améliorations mesurables aux exploitants de réseaux électriques, d'eau et de transport, ou s'il reste surtout un cadre de partenariat. Ces résultats montreront si "l'IA au service des défenseurs" tient ses promesses dans la pratique.