OpenAI ontmaskert Russische en Iraanse nepnieuwscampagnes
OpenAI heeft ChatGPT-accounts geblokkeerd die verbonden waren aan twee beïnvloedingsoperaties met banden met een staat, een Russische en een Iraanse. Geen van beide leunde vooral op sociale media. Volgens het nieuwste onderzoeksrapport van het bedrijf gebruikten beide verzonnen identiteiten om hun materiaal in gewone, legitieme media te krijgen.
Dat is een andere aanpak. OpenAI had eerder al een afzonderlijke Russische campagne ontmaskerd die via sociale media en een nep-denktank liep. De twee nieuwe zaken laten zien dat propagandisten minder op platforms posten en meer content plaatsen in media die lezers al vertrouwen.
Dark Clark: een Russische campagne gericht op Latijns-Amerika
De Russische operatie, die OpenAI "Dark Clark" noemt, richtte zich op Latijns-Amerika. Ze had twee doelen: Oekraïne in diskrediet brengen en de lokale politiek in de regio ontwrichten.
De werkwijze bestond uit meerdere lagen:
- Een overgenomen denktank. De operators leidden een denktank via een fictieve persona. Dat gaf hun materiaal een institutioneel gezicht.
- Nietsvermoedende lokale medewerkers. Volgens OpenAI wierven de actoren waarschijnlijk lokale medewerkers die niet wisten voor wie ze eigenlijk werkten.
- Verzonnen bewijs. De campagne verspreidde nepaudiobestanden en vervalste documenten.
De vervalsingen bleven niet onopgemerkt. In Ecuador en Peru leidden ze tot factchecks en officiële ontkenningen. Voor een beïnvloedingsoperatie telt zo'n reactie als bereik. Autoriteiten en journalisten moesten tijd steken in het reageren op verzonnen materiaal.
OpenAI plaatst Dark Clark in categorie 5 van 6 op de Breakout Scale, de schaal waarmee het bedrijf meet hoe ver een operatie zich buiten haar startpunt verspreidt. De doorslag gaf dat politici op de content reageerden. Volgens het bedrijf is dit de eerste zaak in categorie 5 in tweeënhalf jaar dreigingsrapportage. Daarmee is Dark Clark naar eigen maatstaf de effectiefste operatie die OpenAI heeft vastgelegd.
Bogus Bylines: de nepverslaggevers van Iran
De Iraanse operatie, "Bogus Bylines", werkte als een nepredactie. De operators verzonnen zeven fictieve journalisten en plaatsten via hen bijna 100 artikelen over het conflict tussen de VS en Iran in onlinemedia over de hele wereld.
De actoren probeerden het ook via sociale media. Ze genereerden reacties op platforms, maar die kregen vrijwel geen respons. Het patroon zegt veel: de artikelen onder een naam vonden een plek, terwijl de activiteit op sociale media grotendeels onopgemerkt bleef.
Wat de AI echt deed
Het nuttigste detail in het rapport is misschien hoe beide groepen ChatGPT gebruikten. Volgens OpenAI schreven de modellen vooral geen opvallende vervalsingen. Ze werden ingezet voor twee minder zichtbare klussen:
- Interne rapportage. De operators gebruikten AI om verslagen over hun eigen werk te maken, zoals medewerkers die updates voor hun leidinggevenden schrijven.
- Vertaling en aanpassing. AI hielp propaganda aan te passen voor verschillende talen, een praktische noodzaak voor campagnes die op meerdere landen tegelijk mikken.
Dat past in een breder beeld van hoe AI opduikt in beïnvloedingswerk. Het is minder een fabriek voor virale misleiding en meer een hulpmiddel om het routinematige administratieve werk en de lokalisatie te versnellen die elke meertalige campagne nodig heeft.
Waarom de route via de media ertoe doet
Beide campagnes kozen hetzelfde pad: in echte media terechtkomen in plaats van een achterban opbouwen op sociale media. Daar zit een duidelijke logica achter. Een verhaal onder een geloofwaardig ogende naam, of een rapport van een ogenschijnlijk gevestigde denktank, brengt het vertrouwen al mee. Nepaccounts moeten dat vertrouwen verdienen, en vaak worden ze eerder door de moderatie van platforms verwijderd.
De keerzijde is dat deze aanpak meer voorbereiding vraagt. Dark Clark had een persona nodig om een denktank te leiden en lokale mensen om er te werken. Bogus Bylines had zeven geloofwaardige journalistenidentiteiten nodig die redacties zouden accepteren. Dit zijn trage, doelbewuste operaties, geen massaal posten.
Het grotere plaatje
Voor lezers van CyrioX is de belangrijkste les dat het risico verschuift van het platform naar de publicatie. Media die freelance- of ingezonden stukken accepteren, en denktanks die lokale partners aannemen, lijken nu echte toegangspoorten voor door staten gesteunde actoren. Nagaan wie een schrijver werkelijk is, kan net zo belangrijk zijn als het controleren van de feiten in het verhaal.
De zaak plaatst ook hulpmiddelen als watermerken in ChatGPT-tekst en Googles openbare SynthID-detector in perspectief. Herkomstsignalen kunnen helpen, maar de operators gebruikten AI hier vooral voor vertaling en intern papierwerk. Content die maar gedeeltelijk met behulp van een machine is gemaakt, valt misschien nauwelijks op. De verzonnen audio in Dark Clark herinnert eraan dat overtuigende synthetische media politici kunnen bereiken voordat factcheckers het inhalen.
Het is de moeite waard om in de gaten te houden of andere AI-aanbieders vergelijkbare plaatsingstactieken melden, en of meer zaken categorie 5 bereiken. Als dat zo is, blijkt de classificatie van Dark Clark misschien een vroeg voorbeeld van een bredere trend in plaats van een eenmalig geval.