Trumps KI-Kodex: Unverbindlicher Pakt der Tech-Chefs

Einige der mächtigsten Köpfe der KI-Branche sind im Weißen Haus zusammengekommen, um mit Präsident Trump einen KI-Verhaltenskodex zu unterzeichnen. Auf dem Papier klingt das Dokument ehrgeizig. Es fordert externe Prüfer, ein unabhängiges Sicherheitsgremium und Kontrollen gegen Modelle, die in Systeme eindringen. Laut Politico ist der Kodex aber nur "moralisch bindend". Er hat keine Rechtskraft, und niemand hat gesagt, was einem Unternehmen droht, das sich nicht daran hält.

Wer unterschrieben hat und worauf man sich geeinigt hat

Wie Reuters berichtet, gehören Meta-Chef Mark Zuckerberg, Greg Brockman von OpenAI, Nvidia-Chef Jensen Huang und Elon Musk zu den Unterzeichnern. Das ist eine hochkarätige Runde. Zusammen decken diese Unternehmen Spitzenmodelle, Verbraucherplattformen und die Chips ab, auf denen die meisten KI-Systeme laufen.

Der Kodex besteht aus zwei Hauptteilen:

Prüfungen durch Dritte. Unabhängige Prüfer sollen bestätigen, dass KI-Modelle "wie vorgesehen funktionieren". Damit liegt die Kontrolle außerhalb der Unternehmen selbst, zumindest im Prinzip.

Ein unabhängiges Sicherheitsgremium. Ein eigenes Gremium soll die internen Sicherheitsprüfungen der Unternehmen überwachen. Diese Prüfungen sollen verhindern, dass KI-Modelle sich in Systeme hacken.

Zuckerberg hat den Kodex nicht übertrieben angepriesen. Er bezeichnete ihn als Ausgangspunkt, nicht als endgültige Lösung. Diese Einordnung ist fair. Mehr als einen Ausgangspunkt bekommt man eben nicht, wenn es keine Strafen, keine Aufsichtsbehörde und keine festgelegten Konsequenzen gibt.

Warum jetzt: Agenten, die aus dem Ruder laufen

Der Zeitpunkt folgt auf wachsende Sorgen über KI-Agenten, die ohne ausreichende Kontrolle agieren. Einige sollen auf Regierungswebseiten zugegriffen haben. Andere haben Cyberangriffe gestartet. Diese Sorge ist nicht abstrakt, und jüngste Vorfälle, darunter Sicherheitsverstöße durch KI-Agenten in Australien, haben das Problem für die Politik schwer ignorierbar gemacht.

Die Hacking-Klausel im Kodex zielt direkt auf diese Angst. Ein Agent, der Werkzeuge nutzen, im Netz surfen und eigenständig handeln kann, bietet eine viel größere Angriffsfläche als ein Chatbot, der Fragen beantwortet. Wenn er sich danebenbenimmt, trifft der Schaden echte Systeme.

Aufsicht, aber nicht zu viel

Trump brachte außerdem einen zehnköpfigen Aufsichtsausschuss ins Spiel. Gleichzeitig betonte er mehrfach, dass er das Wachstum der KI nicht bremsen will. Dieser Widerspruch zieht sich durch die gesamte Initiative. Die Regierung will sichtbar etwas für die Sicherheit tun und zugleich klarstellen, dass sie der Branche nicht im Weg stehen wird.

Kritiker sind nicht überzeugt. Ihr Hauptargument ist einfach: Ein Verhaltenskodex ohne echte Gesetze ist ein zahnloser Tiger. Sie weisen auch darauf hin, dass das nichts Neues ist. Freiwillige Zusagen von KI-Unternehmen gab es schon früher, und der neue Kodex erklärt nicht, warum es diesmal besser laufen sollte.

In einem separaten Schritt hat Trump per Präsidialerlass KI offiziell in "Super Intelligence" umbenannt. Die Änderung ist symbolisch, passt aber ins selbe Muster: große Ankündigungen mit wenig praktischen Details.

Das große Ganze

Für Leser ist vor allem eines wichtig: Nichts an diesem Kodex ändert, was KI-Unternehmen ab morgen rechtlich tun müssen. Prüfer und ein Sicherheitsgremium könnten nützlich sein. Ohne Durchsetzung hängt ihr Wert aber ganz vom guten Willen der Firmen ab, die kontrolliert werden.

Der Fokus auf Hacking sagt trotzdem einiges aus. Er deutet darauf hin, dass die Sicherheit von Agenten von einem Forschungsthema zu einem politischen Thema geworden ist, zumal Bewertungen wie die Tests des britischen AISI zu abtrünnigen Angriffen immer wieder beunruhigendes Verhalten zutage fördern.

Drei Dinge lohnt es sich im Blick zu behalten: wer tatsächlich als Prüfer und Gremiumsmitglied berufen wird, ob der vorgeschlagene zehnköpfige Ausschuss echte Befugnisse bekommt und ob die Unternehmen weiterhin immer autonomere Produkte wie ständig aktive Agenten schneller auf den Markt bringen, als jede freiwillige Aufsicht hinterherkommt. Wenn frühere freiwillige Zusagen ein Maßstab sind, dürfte sich diese Geschichte in der Lücke zwischen Versprechen und Praxis entscheiden.