Liquid AI mise sur l'appareil pour les agents IA personnels

La plupart des modèles d'IA actuels partent du principe que la puissance de calcul est toujours disponible. Besoin de plus de capacité ? Le cloud suit. Liquid AI Inc. part de l'hypothèse inverse : l'IA personnelle doit tourner sur le matériel que l'on a déjà sur soi, et ce matériel a des limites bien réelles.

Jeffrey Li, directeur des opérations de l'entreprise, a présenté cette vision lors d'un échange avec Dave Vellante et John Furrier de theCUBE Research à l'événement Fully Connected. TheCUBE est le studio de diffusion en direct de SiliconANGLE Media. La discussion a porté sur les agents d'IA embarqués, la puissance de calcul fixe en périphérie et ce que Li appelle les boucles d'observabilité.

Pourquoi miser sur la périphérie

L'argument de Li est simple. La périphérie offre moins de puissance de calcul, mais une bien meilleure connaissance de l'utilisateur. Selon lui, ce compromis fait des appareils le terrain naturel de l'IA personnelle.

"Notre vision, c'est qu'il faut rapprocher l'IA ... de l'utilisateur", a déclaré Li. "Nous nous concentrons donc sur le développement d'IA capables de tourner sur les appareils qui nous entourent."

Il a précisé de quels appareils il parle. "Quel est le meilleur format pour capter ce signal ? Ce sont les appareils que nous avons dans la poche", a-t-il expliqué. "Nos téléphones, nos objets connectés, nos montres, nos ordinateurs, nos voitures."

Ce que fait Liquid Context

Le produit de l'entreprise en la matière s'appelle Liquid Context, optimisé pour les processeurs Snapdragon. Il se situe au milieu de la pile, entre les modèles, les agents et le matériel. D'après Li, il exploite les signaux de l'appareil pour comprendre qui est l'utilisateur et ce qu'il cherche à accomplir.

C'est important en raison de la façon dont les agents sont conçus. Le logiciel qui transforme un modèle en agent opérationnel - souvent appelé "harness" - doit aussi garder la trace du contexte de l'utilisateur. Une méthode courante consiste à stocker ce contexte dans un fichier texte qui ne cesse de grossir. Sur un téléphone ou une montre, selon Li, cette approche atteint vite ses limites.

"Le problème des appareils, c'est que la puissance de calcul est fixe", a-t-il souligné. "Il faut tenir dans une enveloppe de calcul à somme nulle. Cela signifie que bon nombre des hypothèses sur lesquelles reposent les harness actuels ne tiennent plus en périphérie."

La réponse de Liquid AI consiste à utiliser ses propres modèles pour déterminer quelles informations méritent d'être conservées et comment les compresser, plutôt que de laisser le contexte s'accumuler.

Du déploiement à l'auto-amélioration

L'entreprise ne parle pas seulement de téléphones. Liquid AI travaille avec Mercedes-Benz Group AG pour intégrer de l'IA embarquée dans ses voitures.

Selon Li, le prochain défi consiste à faire en sorte que les agents restent conformes aux attentes des utilisateurs bien après leur mise en service. "À partir de là, nous voulons construire des systèmes et des agents capables de s'autoréparer, de s'améliorer et de se personnaliser d'eux-mêmes au fil du temps", a-t-il indiqué. "Nous mettons en place des boucles d'observabilité et d'amélioration continue qui feront progresser à la fois le modèle et le harness au fil du temps, grâce à l'usage naturel."

Concrètement, deux éléments sont censés s'améliorer à l'usage : le modèle lui-même et le harness qui l'entoure.

Notre analyse

Le discours de Liquid AI s'inscrit dans une tendance de fond vers l'IA locale. L'outil de réunion hors ligne de Google pour Mac et de nouveaux matériels comme une bague connectée conçue pour les agents d'IA vont dans le même sens. Mais le plus intéressant dans l'argument de Li, ce n'est pas le matériel. C'est l'idée que les harness d'agents conçus pour le cloud ne se transposent pas tels quels sur des appareils à puissance de calcul fixe.

La gestion de la mémoire pourrait donc devenir un facteur de différenciation clé pour les agents embarqués. L'objectif d'auto-amélioration reste présenté comme un chantier en cours. Il faudra voir comment "s'améliorer grâce à l'usage naturel" se traduit dans les faits, notamment sur la question des données qui restent sur l'appareil, et si le partenariat avec Mercedes-Benz débouche sur des produits concrets.