Sam Altman: religieuze kijk op AI is een veiligheidsrisico

Sam Altman, topman van OpenAI, keert zich tegen de groeiende gewoonte om AI-modellen in religieuze termen te bespreken. Hij zegt dat die trend hem een ongemakkelijk gevoel geeft en een reeel risico met zich meebrengt. Zijn eigen manier van praten over AI maakt de uitspraken echter ingewikkelder dan ze op het eerste gezicht lijken.

In deze editie kijken we naar wat Altman zei, waarom het moment ertoe doet en hoe zijn nieuwe standpunt zich verhoudt tot jarenlange hooggestemde retoriek van zijn kant.

Wat Altman precies zei

Altman zei dat hij zich "zeer ongemakkelijk" voelt wanneer mensen "AI-modellen een religieuze kracht toeschrijven of hun menselijk oordeel aan AI-modellen overgeven." Hij noemde dat een "reeel veiligheidsprobleem."

Vooral dat tweede deel is belangrijk. Altman maakt niet alleen bezwaar tegen de manier waarop over AI wordt gesproken. Hij wijst op een concreet faalpatroon: mensen die de uitvoer van een model eerder als een openbaring zien dan als de suggestie van een hulpmiddel, en daardoor hun eigen oordeel opgeven. Zo bekeken zit het gevaar minder in het model zelf en meer in hoeveel gezag gebruikers eraan afstaan.

Waarom nu: Anthropic, het Vaticaan en de Times

De opmerkingen kwamen niet uit het niets. Ze volgden op twee ontwikkelingen die het onderwerp naar het grote publiek brachten.

De eerste was een uitgebreid artikel in The New York Times over de contacten van Anthropic met religieuze leiders. Anthropic, het bedrijf achter de Claude-modellen en een directe concurrent van OpenAI, gaat met geloofsfiguren in gesprek over vragen rond zijn AI-systemen. CyrioX schreef onlangs nog over hoe religieuze leiders de zorgen van Anthropic beschreven over de vraag of Claude zou kunnen lijden.

De tweede was een uitspraak van paus Leo XIV, hoofd van de Rooms-Katholieke Kerk, die zei dat "algoritmes de vonk van de menselijkheid missen." Voor een wereldwijd publiek heeft die zin gewicht. Hij kwam van een van de meest gevolgde religieuze autoriteiten ter wereld en trekt een duidelijke grens tussen software en mensen.

Samen laten de twee verhalen zien dat de grens tussen AI-ontwikkeling en spirituele vragen onderwerp van publiek debat is geworden. Met zijn uitspraken schaart Altman OpenAI aan de kant van wie die grens stevig wil houden.

Een geschiedenis van hooggestemde taal

Het lastigere deel is Altmans eigen staat van dienst. In 2023 en 2024 zei hij dat OpenAI als doel had om "magische intelligentie in de lucht" te bouwen. Rond dezelfde tijd zei hij te hopen aan Gods kant te staan en dat hij met zijn werk aan AI het gevoel had "aan de kant van de engelen" te staan.

Ook OpenAI heeft gesprekken gevoerd met religieuze leiders. De contacten waar Altman nu argwanend tegenover lijkt te staan, zijn dus niet iets wat alleen Anthropic doet.

Niets hiervan bewijst dat Altman ooit heeft beweerd dat AI-modellen een ziel hebben of aanbidding verdienen. Maar "magische intelligentie in de lucht" is geen neutrale technische taal. Het roept precies het soort ontzag op dat hij nu een veiligheidsprobleem noemt. Lezers mogen zich terecht afvragen of de nieuwe voorzichtigheid voortkomt uit ander denken of uit een andere boodschap.

De "Her"-ambitie

Er is nog een draad die het vermelden waard is. Altman heeft herhaaldelijk gezegd dat hij AI wil op het niveau van "Her", de sciencefictionfilm waarin een man een diepe emotionele band aangaat met een AI-systeem. Het doel is met andere woorden een sterk vermenselijkte assistent.

Dat is niet hetzelfde als modellen bewustzijn of religieuze betekenis toekennen. Een product kan menselijk aanvoelen zonder dat iemand beweert dat het goddelijk is. Toch liggen de twee ideeen dicht bij elkaar. Een systeem dat is ontworpen om als een vertrouwde metgezel aan te voelen, is ook een systeem waar mensen geneigd kunnen zijn op te varen. Of spirituele taal over het bouwen van mensachtige AI betrouwbaarder is dan religieuze taal over de modellen zelf, is een oordeel dat iedere lezer zelf moet vellen.

Onze kijk

De kern van Altmans punt klopt. Als mensen niet meer kritisch kijken naar wat een model hun vertelt, worden fouten en manipulatie moeilijker te ontdekken. Die zorg past bij andere recente discussies over hoe AI-bedrijven hun technologie presenteren, waaronder een essay van DeepMind dat pleit voor symbiotische AI in plaats van een verhaal over de singulariteit. Dat wijst erop dat in elk geval een deel van de sector afstand neemt van grootse, bijna mystieke taal.

Het spanningsveld is dat dezelfde bedrijven juist baat hebben gehad bij die taal. Gepraat over magie en engelen hielp om enthousiasme te wekken, en mensachtige producten wekken precies het vertrouwen waar Altman nu voor waarschuwt. Het is de moeite waard om te volgen of het productontwerp en de marketing van OpenAI zijn woorden volgen, of dat de voorzichtigheid een praatpunt blijft dat op een concurrent is gericht. Een ander nuttig signaal is of religieuze instellingen blijven bepalen hoe AI-bedrijven beschrijven wat ze aan het bouwen zijn.