Liquid AI apuesta por el contexto local para la IA personal
La mayoría de los modelos de IA actuales parten de la premisa de que siempre habrá más capacidad de cómputo disponible. ¿Hace falta más? La nube se amplía. Liquid AI Inc. parte de la idea contraria: la IA personal debe ejecutarse en los dispositivos que la gente ya lleva encima, y esos dispositivos tienen límites muy concretos.
Jeffrey Li, director de operaciones de la compañía, expuso esta visión en una conversación con Dave Vellante y John Furrier, de theCUBE Research, durante el evento Fully Connected. TheCUBE es el estudio de retransmisiones en directo de SiliconANGLE Media. La charla giró en torno a los agentes de IA que funcionan en el propio dispositivo, el cómputo fijo en el borde y lo que Li denomina bucles de observabilidad.
Por qué el borde
El argumento de Li es sencillo. El borde ofrece menos capacidad de cómputo, pero proporciona una imagen mucho más precisa del usuario. Ese intercambio, a su juicio, convierte a los dispositivos en el lugar natural para la IA personal.
"Nuestra visión es que debemos acercar la IA ... al usuario", explicó Li. "Por eso nos centramos en desarrollar estas IA para que funcionen en los dispositivos que nos rodean".
También concretó a qué dispositivos se refiere. "¿Cuál es el mejor formato para captar esa señal? Los dispositivos que llevamos en el bolsillo", afirmó. "Nuestros móviles, nuestros wearables, nuestros relojes, nuestros ordenadores, nuestros coches".
Qué hace Liquid Context
El producto de la compañía en este terreno es Liquid Context, optimizado para procesadores Snapdragon. Se sitúa en la capa intermedia, entre los modelos, los agentes y el hardware. Según Li, aprovecha las señales del dispositivo para deducir quién es el usuario y qué intenta hacer.
Esto es importante por la forma en que se construyen los agentes. El software que convierte un modelo en un agente operativo - a menudo llamado harness - también tiene que llevar un registro del contexto del usuario. Una práctica habitual es guardar ese contexto en un archivo de texto que no deja de crecer. En un móvil o en un reloj, señaló Li, ese enfoque enseguida da problemas.
"El problema de los dispositivos es que tienen un cómputo fijo", dijo. "Tienes que encajar en un cómputo de suma cero. Eso significa que muchas de las premisas sobre cómo se construyen hoy los harness dejan de ser válidas en el borde".
La respuesta de Liquid AI es recurrir a sus propios modelos para decidir qué información merece la pena conservar y cómo comprimirla, en lugar de dejar que el contexto se vaya acumulando.
Del despliegue a la automejora
La compañía no habla solo de móviles. Liquid AI colabora con Mercedes-Benz Group AG para llevar la IA local a sus coches.
Li explicó que el siguiente reto es conseguir que los agentes sigan respondiendo a lo que esperan los usuarios mucho después de su lanzamiento. "A partir de aquí, queremos construir estos sistemas y estos agentes para que sean capaces de autorrepararse, mejorar y personalizarse por sí solos con el tiempo", señaló. "Estamos desarrollando bucles de observabilidad y de mejora continua que irán perfeccionando tanto el modelo como el harness a través del uso natural".
En la práctica, esto significa que hay dos elementos que deberían ir mejorando con el uso: el propio modelo y el harness que lo rodea.
Nuestra opinión
La propuesta de Liquid AI se suma a un impulso constante hacia la IA local. La herramienta de reuniones sin conexión de Google para Mac y nuevo hardware como un anillo inteligente diseñado para agentes de IA apuntan en una dirección parecida. Sin embargo, lo interesante del argumento de Li no es el hardware, sino la idea de que los harness de agentes pensados para la nube no se trasladan sin más a dispositivos con un cómputo fijo.
Eso apunta a que la gestión de la memoria podría convertirse en un factor diferencial clave para los agentes que funcionan en el dispositivo. El objetivo de la automejora todavía se presenta como un trabajo en curso. Habrá que ver cómo se aplica en la práctica eso de "mejorar a través del uso natural", sobre todo en lo que respecta a qué datos se quedan en el dispositivo, y si la colaboración con Mercedes-Benz se traduce en productos concretos.