Seismora's control plane verdeelt AI over apparaten en cloud

Nu AI-toepassingen zich verspreiden over telefoons, edgeservers en meerdere cloudproviders, moet iemand bepalen waar elk stukje werk het beste kan draaien. Seismora Inc. wil die beslissing automatisch nemen. De startup bouwt wat zij een intelligent control plane noemt: een netwerklaag die AI-workloads coördineert tussen apparaten, edge-infrastructuur en cloudproviders. Zo hoeven ontwikkelaars die logica niet zelf in elke applicatie in te bouwen.

Oprichter en CEO Vito Palermo lichtte het project toe in een interview met John Furrier voor de serie theCUBE + NYSE Wired: AI Luminaries. Die wordt geproduceerd door theCUBE, de livestreamstudio van SiliconANGLE Media. Neo4j sponsorde de verslaggeving van theCUBE over de serie, al stelt SiliconANGLE dat sponsors geen redactionele zeggenschap hebben over de inhoud.

Van menselijk naar machinaal verkeer

Palermo's uitgangspunt is een verschuiving in wie er met wie communiceert op het netwerk. "De AI-boom zorgt ervoor dat we van communicatie tussen mens en systeem overgaan naar communicatie tussen machines onderling," zei hij.

Zijn antwoord is een control plane waarmee AI-verkeer zich kan verplaatsen "ongeacht het netwerk, ongeacht wie de neocloud of de hyperscaler is, of zelfs welke apparaten het zijn." Neoclouds zijn de nieuwere, op AI gerichte cloudaanbieders die GPU-capaciteit verhuren, in tegenstelling tot hyperscalers zoals de grote, gevestigde publieke clouds.

Het kernidee is eenvoudig. Verschillende onderdelen van één AI-applicatie kunnen heel uiteenlopende rekenkracht nodig hebben. Sommige taken kunnen lokaal op een telefoon draaien. Andere horen aan de edge, dichter bij de gebruiker. Zwaardere klussen hebben mogelijk gespecialiseerde cloudhardware nodig.

Hoe de routering moet werken

Palermo gaf een concreet voorbeeld. Op basis van wat een gebruiker in een applicatie probeert te doen, kan het systeem besluiten een deel van het werk op een iPhone uit te voeren en een deel aan de edge. Een veeleisender taak, zoals het bouwen van een digital twin met Nvidia's Omniverse, kan naar een neocloud worden gestuurd.

"En de control plane neemt die beslissingen automatisch en optimaliseert ook de kosten," zei hij.

Seismora noemt deze aanpak "cognitive routing". Het systeem kiest op basis van vier factoren waar AI-werk draait:

1. Capaciteit: wat de hardware of het model daadwerkelijk kan.
2. Kosten: wat elke optie kost.
3. Latentie: hoe snel resultaten binnen moeten zijn.
4. Beleidsbeperkingen: regels over waar werk en data naartoe mogen.

Het on-device deel van dit plaatje sluit aan bij een bredere beweging om persoonlijke AI-agents meer lokale context te geven, waarbij de cloud wordt bewaard voor taken die dat echt nodig hebben.

Gebouwd voor ontwikkelaars, niet voor eindgebruikers

Seismora richt zich niet op consumenten. Volgens Palermo zijn de beoogde klanten ontwikkelaars die agentische applicaties voor eindgebruikers bouwen. Die ontwikkelaars zouden aansluiten op de control plane in plaats van hun eigen routeringssystemen te ontwerpen.

Palermo stelde dat heterogeniteit inmiddels een gegeven is in zakelijke AI. "Je wilt heterogeen zijn, want eerlijk gezegd werkt een onderneming vandaag de dag ongetwijfeld met meerdere neoclouds en met meerdere modellen," zei hij. "Mijn probleem is de routering tussen al die aanbieders, en daar ligt de focus."

Hij schetste een stack waarin open-weight modellen afkomstig zijn van aanbieders als Fireworks.ai, contextuele kennis uit de graftechnologie van Neo4j komt, en rekenkracht en opslag verspreid zijn over de edge en de onderneming. Het doel is volgens hem "intelligentie te kunnen verplaatsen naar waar dat zinvol is."

Een signaal uit de deal tussen Stripe en OpenRouter

Om te laten zien dat deze markt echt bestaat, wees Palermo op de overeenkomst waarmee Stripe Inc. OpenRouter Inc. overneemt, een platform dat verzoeken over AI-modellen verdeelt. De deal werd in augustus aangekondigd, naar verluidt voor zo'n 7,5 miljard dollar. Voor Palermo is dat een bewijs van de groeiende interesse in infrastructuur voor transacties tussen machines.

OpenRouter werkt op modelniveau en stuurt verzoeken naar verschillende AI-modellen. Seismora mikt op een bredere laag die ook meeneemt waar de rekenkracht fysiek staat, van de telefoon van een gebruiker tot een datacenter van een derde partij.

Onze analyse

Seismora's verhaal past in een patroon dat wij al langer volgen: naarmate agents zich vermenigvuldigen, verschuiven de interessante vraagstukken van het model zelf naar het leidingwerk eromheen. Routering, kostenbeheersing en plaatsing worden volwaardige producten. Recent werk aan snelle beslismodellen voor AI-agents en aan controles voor agent-workloads op neoclouds wijst dezelfde kant op.

Het prijskaartje van de deal tussen Stripe en OpenRouter suggereert dat investeerders waarde zien in het bezitten van deze verkeerslaag. Toch heeft Seismora tot nu toe alleen een aanpak beschreven, zonder klanten, benchmarks of prijzen te delen. Het is de moeite waard om te volgen of "cognitive routing" beleidsbeperkingen betrouwbaar kan afdwingen bij aanbieders waarover Seismora geen controle heeft, en of ontwikkelaars een derde partij durven te vertrouwen met die plaatsingsbeslissingen. Een control plane die elk AI-verzoek ziet, is bovendien een aantrekkelijk single point of failure. Het beveiligingsmodel zal dus net zo zwaar wegen als de kostenbesparingen.