Liquid AI setzt bei KI-Agenten auf Gerätekontext

Die meisten KI-Modelle gehen heute davon aus, dass immer mehr Rechenleistung verfügbar ist. Mehr Kapazität nötig? Die Cloud skaliert einfach hoch. Liquid AI Inc. geht vom Gegenteil aus: Persönliche KI gehört auf die Hardware, die Menschen ohnehin bei sich tragen, und diese Hardware hat klare Grenzen.

Jeffrey Li, Chief Operating Officer des Unternehmens, erläuterte diese Sicht im Gespräch mit Dave Vellante und John Furrier von theCUBE Research auf der Veranstaltung Fully Connected. TheCUBE ist das Livestreaming-Studio von SiliconANGLE Media. Es ging um KI-Agenten auf dem Gerät, die begrenzte Rechenleistung an der Edge und das, was Li Observability-Schleifen nennt.

Was für die Edge spricht

Lis Argument ist einfach. Die Edge bietet weniger Rechenleistung, liefert aber ein deutlich besseres Bild vom Nutzer. Dieser Tausch macht Geräte aus seiner Sicht zum natürlichen Ort für persönliche KI.

"Unsere Vision ist, dass wir KI ... näher an den Nutzer bringen sollten", sagte Li. "Deshalb konzentrieren wir uns darauf, diese KIs so zu entwickeln, dass sie auf den Geräten laufen, die uns überall umgeben."

Er wurde konkret, welche Geräte er meint. "Was ist der beste Formfaktor, um dieses Signal zu erfassen? Es sind die Geräte in unseren Hosentaschen", sagte er. "Es sind unsere Smartphones, unsere Wearables, unsere Uhren, unsere PCs, unsere Autos."

Was Liquid Context leistet

Das passende Produkt des Unternehmens heißt Liquid Context und ist für Snapdragon-Prozessoren optimiert. Es sitzt in der Mitte des Stacks, zwischen Modellen, Agenten und Hardware. Laut Li nutzt es Signale vom Gerät, um herauszufinden, wer der Nutzer ist und was er erledigen will.

Das ist wichtig, weil Agenten auf eine bestimmte Weise gebaut werden. Die Software, die aus einem Modell einen funktionierenden Agenten macht - oft als Harness bezeichnet -, muss auch den Kontext des Nutzers im Blick behalten. Ein gängiger Ansatz ist, diesen Kontext in einer Textdatei zu speichern, die immer weiter wächst. Auf einem Smartphone oder einer Uhr stößt dieser Ansatz laut Li schnell an Grenzen.

"Das Problem bei Geräten ist, dass man eine feste Rechenleistung hat", sagte er. "Man muss mit einer Rechenleistung auskommen, die ein Nullsummenspiel ist. Das heißt, viele der Annahmen, auf denen Harnesses heute aufgebaut sind, gelten an der Edge nicht mehr."

Die Antwort von Liquid AI: Die eigenen Modelle entscheiden, welche Informationen es wert sind, behalten zu werden, und wie sie sich komprimieren lassen, statt den Kontext einfach anwachsen zu lassen.

Vom Einsatz zur Selbstverbesserung

Das Unternehmen spricht nicht nur über Smartphones. Liquid AI arbeitet mit der Mercedes-Benz Group AG daran, KI direkt auf dem Gerät in deren Autos zu bringen.

Die nächste Herausforderung sei, so Li, Agenten auch lange nach der Auslieferung im Einklang mit den Erwartungen der Nutzer zu halten. "Von hier aus wollen wir diese Systeme und Agenten so bauen, dass sie sich mit der Zeit selbst reparieren, verbessern und personalisieren können", sagte er. "Wir bauen Observability-Schleifen und Schleifen zur kontinuierlichen Verbesserung, die mit der Zeit durch die natürliche Nutzung sowohl das Modell als auch den Harness verbessern."

In der Praxis heißt das: Zwei Dinge sollen mit der Nutzung besser werden - das Modell selbst und der Harness drumherum.

Unsere Einschätzung

Der Ansatz von Liquid AI reiht sich in einen stetigen Trend hin zu lokaler KI ein. Googles Offline-Meeting-Tool für den Mac und neue Hardware wie ein Smart Ring, der für KI-Agenten entwickelt wurde, weisen in eine ähnliche Richtung. Das Interessante an Lis Argument ist aber nicht die Hardware. Es ist die These, dass sich für die Cloud gebaute Agenten-Harnesses nicht ohne Weiteres auf Geräte mit fester Rechenleistung übertragen lassen.

Das deutet darauf hin, dass die Speicherverwaltung zu einem entscheidenden Unterscheidungsmerkmal für Agenten auf dem Gerät werden könnte. Das Ziel der Selbstverbesserung wird noch als laufende Arbeit beschrieben. Es lohnt sich zu beobachten, wie "Verbesserung durch natürliche Nutzung" in der Praxis umgesetzt wird, vor allem mit Blick darauf, welche Daten auf dem Gerät bleiben, und ob die Zusammenarbeit mit Mercedes-Benz zu konkreten Produkten führt.