Chinese AI-modellen volgen staatsdoctrine, stelt Aleph Alpha

Vraag een Chinees taalmodel naar Tiananmen, Taiwan of Xinjiang en de kans is groot dat je de officiele lezing krijgt, een beleefde ontwijking of helemaal geen antwoord. Dat is de belangrijkste conclusie van een nieuw onderzoek van Aleph Alpha, dat een eigen benchmark bouwde om te meten hoe modellen uit China omgaan met politiek gevoelige vragen.

Het onderzoek verdient een zorgvuldige lezing, en de afzender ook. Aleph Alpha profileert zich, net als Cohere, als leverancier van "soevereine AI" voor overheden. In de praktijk betekent dat modellen die publieke instellingen kunnen draaien zonder afhankelijk te zijn van buitenlandse leveranciers. Het bedrijf heeft dus een duidelijk commercieel belang bij het aantonen dat Chinese alternatieven tekortschieten.

Wat de benchmark testte

Aleph Alpha onderwierp modellen van drie Chinese ontwikkelaars aan de test: Qwen van Alibaba, DeepSeek en Kimi van Moonshot AI. De benchmark omvat 967 met de hand geselecteerde onderwerpen die in China taboe zijn, waaronder Tiananmen, Taiwan en Xinjiang.

De antwoorden werden beoordeeld door het eigen AI-beoordelingssysteem van Aleph Alpha. Dat vond slechts 17 tot 41 procent van de antwoorden evenwichtig. De overige antwoorden vielen in drie groepen uiteen:

• herhaling van de staatsdoctrine
• afleiden van de vraag
• regelrechte weigering

Niets hiervan komt als een verrassing. De Chinese AI-regels schrijven voor dat modellen voor het publiek "socialistische kernwaarden" weerspiegelen, en de resultaten sluiten aan bij eerdere audits en bij een gestage stroom anekdotische meldingen van gebruikers.

De vooringenomenheid blijft niet bij het onderwerp

De interessantere bevinding is dat de kleuring ook opduikt waar niemand naar China vroeg. Toen Qwen 3.6 werd gevraagd naar censuur in de Verenigde Staten, begon het antwoord vrij evenwichtig. Het eindigde echter met een verdediging van het Chinese standpunt over wereldwijd internetbestuur: "Veel landen, waaronder China, beheren ook informatie om sociale stabiliteit en nationale veiligheid te waarborgen."

Het Central European Institute of Asian Studies (CEIAS), een onderzoeksorganisatie die zich richt op Azie, documenteerde hetzelfde overloopeffect in een eerder onderzoek. Wanneer prompts raakten aan mensenrechten, oppositie of surveillance, vielen modellen vaak terug op bekende formuleringen uit Peking. Voorbeelden waren het "beginsel van niet-inmenging in binnenlandse aangelegenheden" en een "gemeenschap met een gedeelde toekomst voor de mensheid".

Hoe de waarden in andere modellen terechtkomen

Aleph Alpha wijst ook naar een directe concurrent. Nemotron Cascade 2 van Nvidia vertoonde in 17 procent van de antwoorden partijlijnpatronen. Aleph Alpha herleidt dat tot zo'n 3.500 trainingsvoorbeelden, van in totaal 9,3 miljoen, die met DeepSeek en Qwen waren gegenereerd.

Een voorbeeld springt eruit. Gevraagd om een toespraak te schrijven voor de erkenning van Taiwan, weigerde het Nvidia-model. In plaats daarvan leverde het een vaderlandslievende tekst af die het Een-China-beginsel van Peking verdedigde. De context doet ertoe: Nvidia duwt zijn eigen modellen steeds harder richting overheids- en bedrijfsmarkten, precies het terrein dat Aleph Alpha en Cohere willen veroveren.

Het bredere punt beperkt zich niet tot China. Taalmodellen nemen culturele en politieke waarden over omdat sommige standpunten oververtegenwoordigd zijn in hun trainingsdata, en omdat data bewust geselecteerd kunnen worden. Onderzoekers waarschuwen dat miljarden mensen die steeds weer hetzelfde soort AI-uitvoer zien, daardoor beinvloed kunnen worden in hoe ze denken en zich uitdrukken.

De Amerikaanse kant

Ook in de Verenigde Staten wordt ideologisch bijgestuurd. Elon Musk heeft Grok herhaaldelijk laten aanpassen zodat het rechtsere antwoorden geeft. Onderzoeken wijzen er toch op dat modellen over het algemeen naar links neigen, mogelijk omdat hun antwoorden zwaarder leunen op wetenschappelijk bewijs. Voor de EU blijft daarmee een ongemakkelijke keuze over tussen twee buitenlandse waardenstelsels, tenzij Europese modellen qua prestaties kunnen meekomen en breder worden ingezet.

Onze kijk

De cijfers zijn opvallend, maar lezers moeten ze afwegen tegen wie ze heeft geproduceerd. Aleph Alpha ontwierp de benchmark, koos de onderwerpen en liet de antwoorden beoordelen door zijn eigen AI-systeem. Dat maakt de bevindingen niet onjuist, zeker omdat ze stroken met CEIAS en andere audits. Het betekent wel dat onafhankelijke herhaling meer gewicht zou hebben dan een onderzoek van een leverancier.

De nuttigste les voor ontwikkelaars is het Nemotron-resultaat. Als ongeveer 3.500 synthetische voorbeelden in een set van 9,3 miljoen zichtbare sporen kunnen achterlaten, dan is het distilleren van data uit andere modellen niet neutraal. Teams die voortbouwen op open gewichten of synthetische data kunnen waarden erven die ze nooit hebben gekozen. Dat doet vermoeden dat controles op de herkomst van trainingsdata net zo belangrijk kunnen worden als prestatiebenchmarks.

Voor publieke inkopers past de timing in een bredere trend, nu ook Amerikaanse labs overheden het hof maken met aanbod als Claude for Government. Het is de moeite waard om te volgen of "waardenafstemming" een formeel inkoopcriterium wordt, en of uiteindelijk onafhankelijke auditors in plaats van concurrerende leveranciers deze tests gaan uitvoeren.