OpenAI démasque des campagnes d'intox russe et iranienne

OpenAI a fermé des comptes ChatGPT liés à deux opérations d'influence soutenues par des États, l'une russe, l'autre iranienne. Ni l'une ni l'autre ne misait d'abord sur les réseaux sociaux. Toutes deux se servaient d'identités inventées pour faire publier leurs contenus dans des médias légitimes, selon le dernier rapport d'enquête de l'entreprise.

La méthode change. OpenAI avait déjà mis au jour une autre campagne russe, qui s'appuyait sur les réseaux sociaux et sur un faux groupe de réflexion. Les deux nouveaux cas montrent que les propagandistes délaissent les publications sur les plateformes pour placer leurs contenus dans des médias auxquels les lecteurs font déjà confiance.

Dark Clark : une campagne russe tournée vers l'Amérique latine

L'opération russe, baptisée "Dark Clark" par OpenAI, ciblait l'Amérique latine. Elle poursuivait deux objectifs : discréditer l'Ukraine et déstabiliser la vie politique locale.

La méthode reposait sur plusieurs étages :

1. Un groupe de réflexion sous contrôle. Les opérateurs dirigeaient un think tank par l'intermédiaire d'un personnage fictif. Leurs contenus gagnaient ainsi une façade institutionnelle.
2. Des employés locaux à leur insu. D'après OpenAI, les acteurs ont probablement recruté du personnel local qui ignorait pour qui il travaillait vraiment.
3. Des preuves fabriquées. La campagne diffusait de faux fichiers audio et des documents falsifiés.

Ces faux ne sont pas passés inaperçus. En Équateur et au Pérou, ils ont donné lieu à des vérifications et à des démentis officiels. Pour une opération d'influence, ce genre de réaction compte comme de la portée. Autorités et journalistes ont dû consacrer du temps à répondre à des contenus inventés.

OpenAI classe Dark Clark en catégorie 5 sur 6 de la Breakout Scale, l'échelle qu'elle utilise pour mesurer jusqu'où une opération se propage au-delà de son point de départ. L'élément décisif : des responsables politiques ont réagi aux contenus. Selon l'entreprise, c'est le premier cas de catégorie 5 en deux ans et demi de rapports sur les menaces. Dark Clark devient ainsi, selon ses propres critères, l'opération la plus efficace documentée par OpenAI.

Bogus Bylines : les faux reporters de l'Iran

L'opération iranienne, "Bogus Bylines", fonctionnait comme une fausse rédaction. Ses opérateurs ont créé sept journalistes fictifs et s'en sont servis pour placer près de 100 articles sur le conflit entre les États-Unis et l'Iran dans des médias en ligne du monde entier.

Les acteurs ont aussi tenté leur chance sur les réseaux sociaux. Ils y ont généré des commentaires, mais ceux-ci n'ont trouvé quasiment aucun écho. Le constat en dit long : les articles signés ont trouvé preneur, tandis que l'activité sur les réseaux sociaux est restée presque invisible.

Ce que l'IA a vraiment fait

Le détail le plus instructif du rapport tient peut-être à la façon dont les deux groupes ont utilisé ChatGPT. Selon OpenAI, les modèles ne servaient pas surtout à rédiger des faux spectaculaires. Ils étaient employés pour deux tâches moins visibles :

• Les rapports internes. Les opérateurs se servaient de l'IA pour produire des comptes rendus sur leur propre travail, un peu comme des employés qui rédigent des points d'étape pour leur hiérarchie.
• La traduction et l'adaptation. L'IA aidait à adapter la propagande à différentes langues, un besoin concret pour des campagnes visant plusieurs pays à la fois.

Cela rejoint une vision plus large du rôle de l'IA dans les opérations d'influence. Elle fait moins office d'usine à tromperies virales que d'outil de productivité pour les tâches administratives et la localisation qu'exige toute campagne multilingue.

Pourquoi la voie des médias compte

Les deux campagnes ont choisi la même voie : s'introduire dans de vrais médias plutôt que de se constituer une audience sur les réseaux sociaux. La logique est claire. Un article signé d'un nom crédible, ou un rapport émanant d'un think tank apparemment bien établi, bénéficie d'emblée de la confiance du lecteur. Les faux comptes, eux, doivent gagner cette confiance, et la modération des plateformes les supprime souvent avant.

Le revers, c'est que cette approche demande davantage de préparation. Dark Clark avait besoin d'un personnage pour diriger un think tank et de personnes sur place pour le faire tourner. Bogus Bylines avait besoin de sept identités de journalistes assez crédibles pour être acceptées par des rédacteurs en chef. Ce sont des opérations lentes et réfléchies, pas de la publication en masse.

Notre analyse

Pour les lecteurs de CyrioX, la leçon principale est que le risque se déplace de la plateforme vers la publication. Les médias qui acceptent des piges ou des contributions extérieures, et les think tanks qui s'associent à des partenaires locaux, apparaissent désormais comme de véritables portes d'entrée pour des acteurs soutenus par des États. Vérifier qui est réellement l'auteur pourrait compter autant que vérifier les faits rapportés.

L'affaire permet aussi de remettre en perspective des outils comme les filigranes de texte de ChatGPT et le détecteur SynthID public de Google. Les signaux de provenance peuvent aider, mais les opérateurs se servaient ici de l'IA surtout pour la traduction et la paperasse interne. Un contenu produit seulement en partie avec l'aide d'une machine risque de ne guère se distinguer. Les faux enregistrements audio de Dark Clark rappellent que des médias synthétiques convaincants peuvent atteindre des responsables politiques avant que les vérificateurs ne les rattrapent.

Reste à voir si d'autres fournisseurs d'IA signalent des tactiques de placement similaires, et si d'autres cas atteignent la catégorie 5. Si c'est le cas, le classement de Dark Clark pourrait se révéler être un premier signe d'une tendance plus large plutôt qu'un cas isolé.