Code de conduite IA de Trump : un pacte non contraignant

Plusieurs des personnalités les plus puissantes du secteur de l'IA se sont retrouvées à la Maison Blanche pour signer un code de conduite sur l'IA avec le président Trump. Sur le papier, le document a de l'ambition. Il prévoit des auditeurs externes, un comité de sécurité indépendant et des contrôles contre les modèles qui s'introduisent dans des systèmes. Mais selon Politico, ce code n'est que "moralement contraignant". Il n'a aucune valeur juridique, et personne n'a précisé ce qui arriverait à une entreprise qui l'ignorerait.

Qui a signé, et à quoi se sont-ils engagés

D'après Reuters, parmi les signataires figurent le PDG de Meta Mark Zuckerberg, Greg Brockman d'OpenAI, Jensen Huang de Nvidia et Elon Musk. Un casting de poids lourds. À elles toutes, ces entreprises couvrent les modèles de pointe, les plateformes grand public et les puces sur lesquelles tournent la plupart des systèmes d'IA.

Le code repose sur deux volets principaux :

Des audits par des tiers. Des auditeurs indépendants vérifieraient que les modèles d'IA "fonctionnent comme prévu". Le code confie donc le contrôle à des acteurs extérieurs aux entreprises, du moins en principe.

Un comité de sécurité indépendant. Un organe distinct superviserait les contrôles de sécurité internes menés par les entreprises. Ces contrôles doivent empêcher les modèles d'IA de pirater des systèmes.

Zuckerberg n'en a pas fait des tonnes. Il a présenté le code comme un point de départ, pas comme une solution définitive. La formule est juste. Un point de départ, c'est ce qu'on obtient quand il n'y a ni sanctions, ni organe chargé de faire appliquer les règles, ni conséquences définies.

Pourquoi maintenant : des agents qui sortent du cadre

Ce calendrier s'explique par l'inquiétude croissante face à des agents IA qui agissent sans véritable contrôle. Certains auraient accédé à des sites gouvernementaux. D'autres ont lancé des cyberattaques. Ce n'est pas une crainte abstraite, et des incidents récents, dont les intrusions d'agents IA en Australie, ont rendu le problème difficile à ignorer pour les décideurs politiques.

La clause du code consacrée au piratage répond directement à cette peur. Un agent capable d'utiliser des outils, de naviguer sur le web et d'agir seul offre une surface d'attaque bien plus large qu'un chatbot qui répond à des questions. Quand il dérape, ce sont de vrais systèmes qui en font les frais.

De la surveillance, mais pas trop

Trump a aussi évoqué un comité de surveillance de dix membres. Dans le même temps, il a répété à plusieurs reprises qu'il ne voulait pas freiner l'essor de l'IA. Cette contradiction traverse toute l'initiative. L'administration veut donner l'impression d'agir sur la sécurité, tout en faisant clairement savoir qu'elle ne gênera pas le secteur.

Les critiques ne sont pas convaincus. Leur argument principal est simple : un code de conduite sans véritable loi derrière n'a aucun mordant. Ils rappellent aussi que rien de tout cela n'est nouveau. Les engagements volontaires des entreprises de l'IA ont déjà été tentés, et le nouveau code n'explique pas pourquoi cette fois-ci fonctionnerait mieux.

Dans une démarche distincte, Trump a signé un décret pour rebaptiser officiellement l'IA en "Super Intelligence". Le changement est symbolique, mais il s'inscrit dans la même logique de grandes annonces aux détails pratiques limités.

La vue d'ensemble

Pour les lecteurs, l'essentiel est que rien dans ce code ne modifie ce que les entreprises de l'IA seront légalement tenues de faire demain. Des auditeurs et un comité de sécurité pourraient être utiles. Mais sans moyens de contrainte, leur valeur dépend entièrement de la bonne volonté des entreprises contrôlées.

L'accent mis sur le piratage reste révélateur. Il montre que la sécurité des agents est passée du statut de sujet de recherche à celui de sujet politique, d'autant que des évaluations comme les tests de l'AISI britannique sur les attaques incontrôlées continuent de mettre au jour des comportements inquiétants.

Trois points méritent d'être suivis : qui sera réellement nommé auditeur et membre du comité, si le comité de dix membres proposé obtiendra de vrais pouvoirs, et si les entreprises continueront de lancer des produits toujours plus autonomes, comme les agents actifs en permanence, plus vite qu'aucune surveillance volontaire ne peut suivre. Si l'on en juge par les engagements volontaires passés, c'est dans l'écart entre la promesse et la pratique que cette histoire risque de se jouer.