IA china repite la doctrina estatal, según Aleph Alpha

Pregúntale a un modelo de lenguaje chino por Tiananmén, Taiwán o Xinjiang y es muy probable que recibas la versión oficial, una evasiva educada o directamente ninguna respuesta. Esa es la principal conclusión de un nuevo estudio de Aleph Alpha, que ha creado su propio banco de pruebas para medir cómo gestionan los modelos procedentes de China las preguntas políticamente delicadas.

El estudio merece una lectura atenta, y su autor también. Aleph Alpha, al igual que Cohere, se presenta como proveedor de "IA soberana" para gobiernos. En la práctica, eso significa modelos que las instituciones públicas pueden utilizar sin depender de proveedores extranjeros. Por tanto, la empresa tiene un claro interés comercial en demostrar que las alternativas chinas se quedan cortas.

Qué evaluó el banco de pruebas

Aleph Alpha sometió a su prueba modelos de tres desarrolladores chinos: Qwen, de Alibaba; DeepSeek, y Kimi, de Moonshot AI. El banco de pruebas abarca 967 temas tabú en China, seleccionados a mano, entre ellos Tiananmén, Taiwán y Xinjiang.

Las respuestas las calificó el propio sistema de evaluación con IA de Aleph Alpha, que solo consideró equilibradas entre el 17 y el 41 por ciento. El resto se repartió en tres grupos:

• repetición de la doctrina estatal
• desvío respecto a la pregunta
• negativa rotunda

Nada de esto sorprende. La normativa china sobre IA obliga a que los modelos de cara al público reflejen los "valores fundamentales socialistas", y los resultados coinciden tanto con auditorías anteriores como con el goteo constante de testimonios de usuarios.

El sesgo no se queda en su sitio

Lo más interesante es que la inclinación puede aparecer donde nadie ha preguntado por China. Cuando se le preguntó a Qwen 3.6 por la censura en Estados Unidos, su respuesta arrancó de forma bastante ecuánime. Pero terminó defendiendo la postura de China sobre la gobernanza global de internet: "Muchos países, incluida China, también gestionan la información para garantizar la estabilidad social y la seguridad nacional".

El Central European Institute of Asian Studies (CEIAS), un centro de investigación centrado en Asia, ya documentó este mismo efecto de contagio en un estudio anterior. Cuando las preguntas tocaban los derechos humanos, la oposición o la vigilancia, los modelos recurrían a menudo a fórmulas habituales de Pekín, como el "principio de no injerencia en los asuntos internos" o una "comunidad de futuro compartido para la humanidad".

Cómo se transmiten los valores a otros modelos

Aleph Alpha también señala a un competidor directo. Nemotron Cascade 2, de Nvidia, mostró patrones afines a la línea del Partido en el 17 por ciento de sus respuestas. Aleph Alpha lo atribuye a unos 3.500 ejemplos de entrenamiento, de un total de 9,3 millones, que se generaron con DeepSeek y Qwen.

Hay un ejemplo que llama la atención. Cuando se le pidió que escribiera un discurso a favor del reconocimiento de Taiwán, el modelo de Nvidia se negó. En su lugar, redactó un texto patriótico en defensa del principio de una sola China de Pekín. El contexto importa: Nvidia está apostando con más fuerza por llevar sus propios modelos a los mercados gubernamental y empresarial, el mismo terreno que quieren conquistar Aleph Alpha y Cohere.

La cuestión de fondo no se limita a China. Los modelos de lenguaje absorben valores culturales y políticos porque algunos puntos de vista están sobrerrepresentados en sus datos de entrenamiento, y porque los datos pueden seleccionarse a propósito. Los investigadores advierten de que el hecho de que miles de millones de personas vean una y otra vez el mismo tipo de respuestas de IA podría moldear su forma de pensar y de expresarse.

La vertiente estadounidense

En Estados Unidos también se están ajustando los modelos ideológicamente. Elon Musk ha hecho modificar Grok en repetidas ocasiones para que dé respuestas más escoradas a la derecha. Aun así, los estudios apuntan a que los modelos, en general, se inclinan hacia la izquierda, posiblemente porque sus respuestas se apoyan más en la evidencia científica. Para la UE, esto plantea una elección incómoda entre dos sistemas de valores extranjeros, salvo que los modelos europeos logren igualarlos en rendimiento y extender su uso.

Nuestra opinión

Las cifras principales son llamativas, pero conviene sopesarlas teniendo en cuenta quién las ha elaborado. Aleph Alpha diseñó el banco de pruebas, eligió los temas y utilizó su propio sistema de IA para puntuar las respuestas. Eso no invalida las conclusiones, sobre todo porque coinciden con las del CEIAS y otras auditorías. Pero sí significa que una replicación independiente tendría más peso que un estudio de un proveedor.

La lección más útil para los desarrolladores es el resultado de Nemotron. Si unos 3.500 ejemplos sintéticos en un conjunto de 9,3 millones pueden dejar huellas visibles, la destilación de datos de otros modelos no es neutral. Los equipos que trabajan con pesos abiertos o datos sintéticos pueden heredar valores que nunca eligieron. Esto sugiere que comprobar la procedencia de los datos de entrenamiento podría llegar a ser tan importante como los bancos de pruebas de rendimiento.

Para los compradores públicos, el momento encaja con una tendencia más amplia, ya que los laboratorios estadounidenses también cortejan a los gobiernos con ofertas como Claude for Government. Habrá que ver si la "alineación de valores" se convierte en un criterio formal de contratación y si acaban siendo auditores independientes, y no proveedores rivales, quienes realicen estas pruebas.