Código de conducta de IA de Trump: un pacto no vinculante
Varias de las personas más poderosas del sector de la IA se reunieron en la Casa Blanca para firmar con el presidente Trump un código de conducta sobre inteligencia artificial. Sobre el papel, el documento suena ambicioso. Pide auditores externos, una junta de seguridad independiente y controles frente a modelos que se cuelen en sistemas ajenos. Pero, según Politico, el código solo es "moralmente vinculante". No tiene fuerza legal y nadie ha dicho qué le pasará a la empresa que lo ignore.
Quién firmó y a qué se comprometió
Reuters informa de que entre los firmantes figuran el consejero delegado de Meta, Mark Zuckerberg; Greg Brockman, de OpenAI; Jensen Huang, de Nvidia, y Elon Musk. Es una alineación de peso. Entre todas, estas empresas abarcan los modelos más avanzados, las plataformas de consumo y los chips sobre los que funcionan la mayoría de los sistemas de IA.
El código tiene dos partes principales:
Auditorías externas. Auditores independientes comprobarían que los modelos de IA "funcionan según lo previsto". El código saca el control fuera de las propias empresas, al menos en teoría.
Una junta de seguridad independiente. Un organismo aparte supervisaría las comprobaciones internas de seguridad que realizan las empresas. Esas comprobaciones deben impedir que los modelos de IA entren en sistemas de forma ilícita.
Zuckerberg no exageró. Describió el código como un punto de partida, no como una solución definitiva. Es una forma justa de verlo. Un punto de partida es lo que queda cuando no hay sanciones, ni organismo que lo haga cumplir, ni consecuencias definidas.
Por qué ahora: agentes que se salen del guion
El momento responde a la creciente preocupación por agentes de IA que actúan sin el control adecuado. Algunos, según se ha informado, han accedido a webs gubernamentales. Otros han lanzado ciberataques. No es una inquietud abstracta, y los incidentes recientes, como las brechas causadas por agentes de IA en Australia, han hecho que a los responsables políticos les cueste mirar hacia otro lado.
La cláusula sobre intrusiones del código apunta directamente a ese temor. Un agente capaz de usar herramientas, navegar por internet y actuar por su cuenta tiene una superficie de ataque mucho mayor que un chatbot que responde preguntas. Cuando se porta mal, el daño recae sobre sistemas reales.
Supervisión, pero sin pasarse
Trump también planteó la idea de un comité de supervisión de diez miembros. Al mismo tiempo, insistió varias veces en que no quiere frenar el crecimiento de la IA. Esa tensión recorre toda la iniciativa. El Gobierno quiere que se le vea haciendo algo en materia de seguridad, pero dejando claro que no se interpondrá en el camino del sector.
Los críticos no están convencidos. Su argumento principal es sencillo: un código de conducta sin una ley de verdad detrás no tiene dientes. También recuerdan que no es nada nuevo. Ya se han probado antes compromisos voluntarios de las empresas de IA, y el nuevo código no explica por qué esta vez debería funcionar mejor.
En una medida aparte, Trump utilizó una orden ejecutiva para rebautizar oficialmente la IA como "Super Intelligence". El cambio es simbólico, pero encaja en el mismo patrón de grandes anuncios con poco detalle práctico.
El panorama general
Para el lector, lo esencial es que nada de este código cambia lo que las empresas de IA están obligadas legalmente a hacer mañana. Los auditores y una junta de seguridad podrían ser útiles. Pero, sin mecanismos para hacerlo cumplir, su valor depende por completo de la buena voluntad de las compañías a las que tienen que vigilar.
Aun así, el foco en las intrusiones es revelador. Indica que la seguridad de los agentes ha pasado de ser un tema de investigación a un asunto político, sobre todo cuando evaluaciones como las pruebas del AISI británico sobre ataques descontrolados siguen sacando a la luz comportamientos preocupantes.
Conviene vigilar tres cosas: quiénes son nombrados finalmente auditores y miembros de la junta, si el comité de diez miembros propuesto recibe algún poder real y si las empresas siguen lanzando productos cada vez más autónomos, como los agentes siempre activos, más deprisa de lo que cualquier supervisión voluntaria puede seguir. Si los compromisos voluntarios del pasado sirven de guía, es en la distancia entre lo prometido y lo que se hace donde se decidirá esta historia.