OpenAI enttarnt russische und iranische Fake-News-Kampagnen

OpenAI hat ChatGPT-Konten gesperrt, die zu zwei staatlich gesteuerten Einflussoperationen gehören, einer russischen und einer iranischen. Keine der beiden setzte vorrangig auf soziale Medien. Laut dem jüngsten Untersuchungsbericht des Unternehmens nutzten beide erfundene Identitäten, um ihr Material in seriösen Medien unterzubringen.

Das ist ein neues Vorgehen. OpenAI hatte bereits eine andere russische Kampagne aufgedeckt, die über soziale Medien und eine falsche Denkfabrik lief. Die beiden neuen Fälle zeigen, dass Propagandisten sich vom Posten auf Plattformen abwenden. Stattdessen platzieren sie Inhalte in Medien, denen die Leser ohnehin vertrauen.

Dark Clark: eine russische Kampagne mit Ziel Lateinamerika

Die russische Operation, die OpenAI "Dark Clark" nennt, konzentrierte sich auf Lateinamerika. Sie verfolgte zwei Ziele: die Ukraine in Misskredit bringen und die Politik in der Region verunsichern.

Die Methode hatte mehrere Ebenen:

1. Eine gekaperte Denkfabrik. Die Drahtzieher führten eine Denkfabrik über eine fiktive Person. So bekam ihr Material ein institutionelles Gesicht.
2. Ahnungslose Mitarbeiter vor Ort. Laut OpenAI haben die Akteure vermutlich lokale Kräfte angeworben, die nicht wussten, für wen sie wirklich arbeiteten.
3. Gefälschte Beweise. Die Kampagne verbreitete gefälschte Audiodateien und manipulierte Dokumente.

Die Fälschungen blieben nicht unbemerkt. In Ecuador und Peru führten sie zu Faktenchecks und offiziellen Dementis. Für eine Einflussoperation zählt eine solche Reaktion als Reichweite. Behörden und Journalisten mussten Zeit darauf verwenden, auf erfundenes Material zu reagieren.

OpenAI ordnet Dark Clark auf der Breakout Scale in Kategorie 5 von 6 ein. Mit dieser Skala bewertet das Unternehmen, wie weit sich eine Operation über ihren Ausgangspunkt hinaus verbreitet. Ausschlaggebend war, dass Politiker auf die Inhalte reagierten. Nach Angaben des Unternehmens ist es der erste Fall der Kategorie 5 in zweieinhalb Jahren Bedrohungsberichterstattung. Damit ist Dark Clark gemessen an OpenAIs eigenem Maßstab die wirksamste Operation, die das Unternehmen bisher dokumentiert hat.

Bogus Bylines: Irans falsche Reporter

Die iranische Operation "Bogus Bylines" funktionierte wie eine gefälschte Redaktion. Ihre Betreiber erschufen sieben fiktive Journalisten und brachten mit ihnen fast 100 Artikel über den Konflikt zwischen den USA und Iran in Onlinemedien weltweit unter.

Die Akteure versuchten es auch mit sozialen Medien. Sie erzeugten Kommentare auf Plattformen, doch die fanden kaum Resonanz. Das Muster ist aufschlussreich: Die namentlich gezeichneten Artikel fanden einen Platz, die Aktivitäten in sozialen Medien blieben weitgehend unbeachtet.

Was die KI tatsächlich tat

Das aufschlussreichste Detail des Berichts ist womöglich, wie beide Gruppen ChatGPT nutzten. Laut OpenAI schrieben die Modelle nicht in erster Linie aufsehenerregende Fälschungen. Sie kamen für zwei weniger sichtbare Aufgaben zum Einsatz:

• Interne Berichte. Die Betreiber ließen von der KI Berichte über ihre eigene Arbeit erstellen, ähnlich wie Angestellte, die ihren Vorgesetzten Zwischenstände liefern.
• Übersetzung und Anpassung. Die KI half, Propaganda für verschiedene Sprachen aufzubereiten, eine praktische Notwendigkeit für Kampagnen, die mehrere Länder gleichzeitig ins Visier nehmen.

Das passt zu einem breiteren Bild davon, wie KI bei Einflussoperationen auftaucht. Sie ist weniger eine Fabrik für virale Täuschung als ein Effizienzwerkzeug für die Routineverwaltung und Lokalisierung, die jede mehrsprachige Kampagne braucht.

Warum der Weg über die Medien zählt

Beide Kampagnen wählten denselben Weg: in echte Medien vordringen, statt in sozialen Medien eine Anhängerschaft aufzubauen. Dahinter steckt eine klare Logik. Ein Artikel unter einem glaubwürdig wirkenden Namen oder ein Bericht einer scheinbar etablierten Denkfabrik bringt Vertrauen gleich mit. Gefälschte Konten müssen sich dieses Vertrauen erst verdienen, und oft entfernt die Moderation der Plattformen sie vorher.

Der Preis dafür ist mehr Vorarbeit. Dark Clark brauchte eine Kunstfigur an der Spitze einer Denkfabrik und Menschen vor Ort, die dort arbeiteten. Bogus Bylines brauchte sieben glaubwürdige Journalistenidentitäten, die Redaktionen akzeptieren würden. Das sind langsame, gezielte Operationen, kein Massenposten.

Das große Ganze

Für CyrioX-Leser lautet die wichtigste Lehre: Das Risiko verlagert sich von der Plattform zur Publikation. Medien, die freie oder eingereichte Beiträge annehmen, und Denkfabriken, die mit lokalen Partnern arbeiten, erscheinen nun als echte Einfallstore für staatlich unterstützte Akteure. Zu prüfen, wer ein Autor wirklich ist, kann ebenso wichtig sein wie die Prüfung der Fakten im Text.

Der Fall rückt auch Werkzeuge wie Wasserzeichen für ChatGPT-Texte und Googles öffentlichen SynthID-Detektor in ein neues Licht. Herkunftsnachweise können helfen, doch die Akteure nutzten KI hier vor allem für Übersetzungen und interne Schreibarbeit. Inhalte, die nur teilweise maschinell unterstützt entstanden sind, fallen womöglich kaum auf. Die gefälschten Audiodateien von Dark Clark erinnern daran, dass überzeugende synthetische Medien Politiker erreichen können, bevor Faktenchecker hinterherkommen.

Es lohnt sich zu beobachten, ob andere KI-Anbieter von ähnlichen Platzierungstaktiken berichten und ob weitere Fälle Kategorie 5 erreichen. Falls ja, könnte sich die Einstufung von Dark Clark als frühes Beispiel eines breiteren Trends erweisen und nicht als Einzelfall.