Sam Altman: Religiöse KI-Sprache ist ein Sicherheitsrisiko

OpenAI-Chef Sam Altman hat sich gegen die wachsende Neigung ausgesprochen, über KI-Modelle in religiösen Begriffen zu sprechen. Dieser Trend bereite ihm Unbehagen und berge echte Risiken, sagt er. Seine eigene Art, über KI zu reden, macht die Aussagen allerdings komplizierter, als sie auf den ersten Blick wirken.

Diese Ausgabe beleuchtet, was Altman gesagt hat, warum der Zeitpunkt wichtig ist und wie seine neue Haltung zu seiner jahrelangen, himmelhoch gegriffenen Rhetorik passt.

Was Altman tatsächlich gesagt hat

Altman sagte, es sei ihm "sehr unangenehm", wenn Menschen "KI-Modellen eine religiöse Kraft zuschreiben oder ihnen das menschliche Urteilsvermögen überlassen". Er bezeichnete das als "echtes Sicherheitsproblem".

Vor allem dieser zweite Ausdruck ist entscheidend. Altman stört sich nicht nur daran, wie über KI gesprochen wird. Er verweist auf ein konkretes Fehlermuster: Menschen behandeln die Ausgabe eines Modells eher wie eine Offenbarung als wie den Vorschlag eines Werkzeugs und geben dadurch ihr eigenes Urteil auf. So gesehen liegt die Gefahr weniger im Modell selbst als darin, wie viel Autorität ihm die Nutzer einräumen.

Warum gerade jetzt: Anthropic, der Vatikan und die Times

Die Äußerungen kamen nicht aus dem Nichts. Ihnen gingen zwei Entwicklungen voraus, die das Thema in die breite Öffentlichkeit gerückt haben.

Die erste war ein ausführlicher Bericht der New York Times über Anthropics Kontakte zu religiösen Führungspersönlichkeiten. Anthropic, das Unternehmen hinter den Claude-Modellen und direkter Konkurrent von OpenAI, tauscht sich mit Vertretern verschiedener Glaubensrichtungen über Fragen zu seinen KI-Systemen aus. CyrioX berichtete kürzlich darüber, wie religiöse Führungspersönlichkeiten Anthropics Sorgen schilderten, Claude könnte leiden.

Die zweite war eine Aussage von Papst Leo XIV., dem Oberhaupt der römisch-katholischen Kirche, der sagte, "Algorithmen fehlt der Funke der Menschlichkeit". Für ein weltweites Publikum hat dieser Satz Gewicht. Er stammt von einer der meistbeachteten religiösen Autoritäten der Welt und zieht eine klare Grenze zwischen Software und Menschen.

Zusammen betrachtet zeigen beide Geschichten, dass die Grenze zwischen KI-Entwicklung und spirituellen Fragen zum Gegenstand einer öffentlichen Debatte geworden ist. Mit seinen Aussagen stellt Altman OpenAI auf die Seite derer, die diese Grenze klar ziehen wollen.

Eine Geschichte himmelhoher Worte

Schwieriger wird es mit Altmans eigener Vergangenheit. 2023 und 2024 sagte er, OpenAIs Ziel sei es, eine "magische Intelligenz im Himmel" zu bauen. Etwa zur selben Zeit erklärte er, er hoffe, auf Gottes Seite zu stehen, und fühle sich bei der Arbeit an KI "auf der Seite der Engel".

Auch OpenAI hat Gespräche mit religiösen Führungspersönlichkeiten geführt. Die Annäherung, der Altman nun offenbar skeptisch gegenübersteht, ist also keine Besonderheit von Anthropic.

Nichts davon beweist, dass Altman je behauptet hätte, KI-Modelle hätten eine Seele oder verdienten Anbetung. Aber "magische Intelligenz im Himmel" ist keine neutrale Ingenieurssprache. Sie lädt genau zu der Art von Ehrfurcht ein, die er jetzt als Sicherheitsproblem bezeichnet. Leser dürfen sich zu Recht fragen, ob die neue Zurückhaltung ein Umdenken widerspiegelt oder nur eine geänderte Botschaft.

Der "Her"-Anspruch

Ein weiterer Punkt verdient Beachtung. Altman hat wiederholt gesagt, sein Ziel sei eine KI auf dem Niveau von "Her", dem Science-Fiction-Film, in dem ein Mann eine tiefe emotionale Bindung zu einem KI-System aufbaut. Angestrebt wird also ein zutiefst vermenschlichter Assistent.

Das ist nicht dasselbe, wie Modellen ein Bewusstsein oder eine religiöse Bedeutung zuzusprechen. Ein Produkt kann sich menschlich anfühlen, ohne dass jemand behauptet, es sei göttlich. Trotzdem liegen beide Ideen nah beieinander. Ein System, das sich wie ein vertrauter Begleiter anfühlen soll, ist auch eines, dem sich Menschen womöglich bereitwillig unterordnen. Ob spirituell gefärbtes Reden über den Bau menschenähnlicher KI vertrauenswürdiger ist als religiöses Reden über die Modelle selbst, muss jeder Leser für sich beurteilen.

Unsere Einschätzung

Altmans Kernaussage ist stichhaltig. Wenn Menschen aufhören zu hinterfragen, was ein Modell ihnen sagt, lassen sich Fehler und Manipulation schwerer erkennen. Diese Sorge reiht sich ein in weitere aktuelle Debatten darüber, wie KI-Unternehmen ihre Technologie darstellen, darunter ein DeepMind-Essay, der für symbiotische KI plädiert statt für eine Singularitäts-Erzählung. Das deutet darauf hin, dass sich zumindest ein Teil der Branche von großen, fast mystischen Worten verabschiedet.

Der Widerspruch liegt darin, dass dieselben Unternehmen von genau dieser Sprache profitiert haben. Das Gerede von Magie und Engeln hat Begeisterung geweckt, und menschenähnliche Produkte fördern das Vertrauen, vor dem Altman nun warnt. Es lohnt sich zu beobachten, ob OpenAIs Produktgestaltung und Marketing seinen Worten folgen oder ob die Zurückhaltung nur ein Argument gegen einen Konkurrenten bleibt. Aufschlussreich wird auch sein, ob religiöse Institutionen weiterhin mitprägen, wie KI-Unternehmen beschreiben, was sie da eigentlich bauen.