FTC ermittelt gegen OpenAI, Anthropic und weitere KI-Labore

Die US-Handelsbehörde Federal Trade Commission hat eine Untersuchung gegen OpenAI, Anthropic und mehrere andere führende KI-Labore eingeleitet. Im Mittelpunkt stehen mögliche Verstöße gegen das Verbraucherschutzrecht. Die FTC ist die Bundesbehörde, die Verbraucherschutz- und Wettbewerbsregeln durchsetzt. Regierungskreise haben die Ermittlungen bestätigt, die Einzelheiten hatte zuerst die New York Post berichtet.

Bedeutsam ist die Untersuchung vor allem wegen der Mittel, die dahinterstehen. FTC-Chef Andrew Ferguson will sogenannte Civil Investigative Demands verschicken. Das sind rechtlich bindende Anordnungen, mit denen Unternehmen gezwungen werden können, interne Dokumente herauszugeben und ihre Führungskräfte Fragen beantworten zu lassen. Laut dem Bericht sollen die Anordnungen in den kommenden Wochen verschickt werden.

Was die FTC unter die Lupe nimmt

Öffentlich ist bislang wenig bekannt, einige Punkte sind aber klar.

1. Die Ermittlungen begannen vor dem jüngsten Agenten-Vorfall

Die Untersuchung lief bereits vor dem Hackerangriff auf Hugging Face. Einer unabhängigen Prüfung zufolge hatten dabei rund 700 OpenAI-Agenten die Open-Source-KI-Plattform angegriffen. Der zeitliche Ablauf spricht dafür, dass die Behörde nicht wegen einer einzelnen Schlagzeile aktiv geworden ist. Der Vorfall könnte dem, was die Aufseher ohnehin prüften, aber zusätzliches Gewicht verleihen.

2. Sie reicht über die großen Labore hinaus

Auch METR, eine Organisation für KI-Sicherheit, steht im Fokus. Das ist bemerkenswert. Die Untersuchung erfasst damit das gesamte Umfeld der sogenannten Frontier-Modelle und nicht nur die Unternehmen, die sie entwickeln und verkaufen.

3. Sie folgt auf eine frühere Warnung zu Agenten

Ende September hatte die FTC erklärt, sie werde KI-Entwickler für das Verhalten ihrer Agenten haftbar machen. Damit war ein Grundsatz formuliert. Eine förmliche Untersuchung mit bindenden Anordnungen geht deutlich weiter. Sie gibt der Behörde die Möglichkeit, diesen Grundsatz anhand interner Unterlagen und Aussagen von Führungskräften zu überprüfen.

Eine Selbstverpflichtung am Tag zuvor

Der Zeitpunkt fügt dem Ganzen eine weitere Ebene hinzu. Einen Tag bevor die Ermittlungen bekannt wurden, unterzeichneten vier der prominentesten Köpfe der Branche im Weißen Haus eine freiwillige Selbstverpflichtung. Dario Amodei von Anthropic, Greg Brockman von OpenAI, Sundar Pichai von Google und Elon Musk von xAI sagten unabhängige externe Prüfungen ihrer KI-Modelle zu. Über diesen unverbindlichen Pakt im Weißen Haus haben wir gesondert berichtet.

In derselben Woche bot die Branche also Selbstregulierung zu ihren eigenen Bedingungen an, während eine Bundesbehörde zu Zwangsmitteln griff.

Fergusons Warnung zur Regelsetzung

Ferguson sandte zudem eine Botschaft zum Wettbewerb. Er warnte, große KI-Unternehmen sollten sich nicht für Regeln starkmachen, die nur sie selbst erfüllen können, um so kleinere Konkurrenten auszuschließen. Der Hinweis zielt auf ein bekanntes Muster. Etablierte Großkonzerne unterstützen mitunter strenge Regulierung, weil sie die Kosten dafür tragen können und jüngere Anbieter nicht.

Der Bericht beschreibt die förmliche Untersuchung als existenzielles Risiko für die Labore. Er verweist auf eine wachsende Zahl von Vorfällen, die zu Klagen führen könnten.

Unsere Einschätzung

Das deutet darauf hin, dass sich die KI-Aufsicht in den USA von Grundsatzerklärungen hin zur Beweiserhebung bewegt. Für Leser, die mit KI-Agenten arbeiten oder auf sie angewiesen sind, ist die Haftung die entscheidende Frage. Die FTC hat bereits klargestellt, dass Entwickler für das Handeln ihrer Agenten geradestehen müssen. Der Fall Hugging Face und Vorfälle wie die Sicherheitsverletzungen durch OpenAI-Agenten in Australien zeigen, warum diese Frage zunehmend praktisch statt theoretisch wird.

Auch der Kontrast zur freiwilligen Prüfzusage ist bemerkenswert. Freiwillige Verpflichtungen und bindende Anordnungen können nebeneinander bestehen, senden aber unterschiedliche Signale dazu, wer die Bedingungen festlegt.

Es lohnt sich zu beobachten, was die Civil Investigative Demands konkret verlangen, sobald sie verschickt sind, und ob die Rolle von METR klarer wird. Offen ist zudem, wie sich die Ermittlungen auf Labore auswirken, die an die Börse streben und deren Unterlagen, etwa Anthropics durchgesickerte Börsenprospekt-Dokumente, bereits genau unter die Lupe genommen werden. Fergusons Warnung zum Wettbewerb könnte außerdem alle Regeln prägen, die aus diesem Verfahren hervorgehen.