TypeSafe haalt 870 miljoen dollar op voor AI-model Jev

TypeSafe Inc. heeft een financieringsronde van 870 miljoen dollar afgerond die het bedrijf waardeert op 7,5 miljard dollar. De start-up zit achter Jev, een AI-model dat gestructureerde antwoorden geeft in plaats van vrije tekst.

Andreessen Horowitz leidde de ronde. Ook Sequoia Capital, DCVC en een aantal business angels, van wie de namen niet bekend zijn gemaakt, deden mee. De ronde komt nog geen maand na de lancering van Jev. Volgens TypeSafe gebruikt al ongeveer een derde van de Fortune 500 het model.

Het probleem dat Jev moet oplossen

De meeste zakelijke toepassingen gebruiken grote taalmodellen op dezelfde manier. De toepassing stuurt het model een beschrijving van een taak en het model stuurt een antwoord terug. Dat antwoord is meestal tekst in natuurlijke taal, waar software niet direct iets mee kan.

Voordat de toepassing iets met de uitvoer kan doen, moet die tekst eerst worden omgezet in een gestructureerd, gestandaardiseerd formaat. Voor die stap moeten ontwikkelaars extra code schrijven en onderhouden.

Jev slaat die omzetting over. Als een toepassing het model een taak geeft, levert het meteen gestructureerde uitvoer, zodat er achteraf niets meer omgezet of ingekort hoeft te worden.

Drie soorten antwoorden, meer niet

Jev kan bewust maar een beperkt aantal soorten verzoeken aan. Een toepassing kan het model een van drie dingen vragen:

1. Ja of nee antwoorden. Het model geeft het equivalent van een binair oordeel.
2. Kiezen uit een lijst. De toepassing levert de opties aan en Jev kiest er een.
3. Een score genereren. Ontwikkelaars bepalen zelf wat die score meet.

De score is de flexibelste van de drie. TypeSafe geeft twee voorbeelden: cybersecuritymeldingen rangschikken op ernst en inschatten hoe dringend een supportticket is.

Omdat de uitvoer zo kort en voorspelbaar is, hebben toepassingen minder code nodig om data voor te bereiden. Volgens TypeSafe kunnen softwareteams daardoor projecten sneller afronden. Een kleinere codebase biedt bovendien minder plekken waar fouten zich kunnen verstoppen.

Betrouwbaarheidsscores als controle op hallucinaties

TypeSafe voegt nog een tweede functie toe voor betrouwbaarheid. Als Jev uit een lijst kiest of een score geeft, levert het ook een getal mee dat aangeeft hoe zeker het model is dat het antwoord klopt.

Toepassingen kunnen dat getal gebruiken om de schade van hallucinaties te beperken. Een systeem kan bijvoorbeeld antwoorden met een lage zekerheid anders behandelen dan antwoorden met een hoge zekerheid, in plaats van elke uitvoer evenveel te vertrouwen.

Nieuwe trainingsmethode, nieuwe architectuur

TypeSafe zegt dat het Jev heeft getraind met een aanpak die het reinforcement learning for calibrated decisions noemt. Het is een variant van reinforcement learning, dat al een gangbare manier is om LLM's te trainen. Het bedrijf heeft ook een nieuwe modelarchitectuur voor Jev ontworpen.

De start-up schrijft de snelheid van Jev toe aan die keuzes. Volgens TypeSafe verwerkt het model verzoeken in minder dan 700 milliseconden, wat het tot 200 keer sneller zou maken dan sommige frontier-LLM's. Ook zou Jev tot 100 keer kostenefficienter zijn. Dat zijn cijfers van het bedrijf zelf, die niet onafhankelijk zijn gecontroleerd.

Waar het geld naartoe gaat

Jev is het eerste model in een geplande modelreeks met de naam System One. TypeSafe gaat het nieuwe geld gebruiken om die reeks uit te breiden. Daarnaast wil het bedrijf wat het "enterprise features" noemt uitbrengen, zodat grote organisaties de modellen makkelijker kunnen gebruiken. Wat die functies precies inhouden, heeft het niet gezegd.

Onze analyse

Het verhaal achter TypeSafe is dat voor veel zakelijke toepassingen een model dat goed schrijft minder belangrijk is dan een model dat een helder, bruikbaar oordeel geeft. Een groot deel van de bedrijfsautomatisering komt neer op triage: is deze melding ernstig, in welke wachtrij hoort dit ticket, voldoet dit document aan een regel. Jev is speciaal voor dat soort werk gebouwd.

De timing doet vermoeden dat het idee terrein wint. OpenAI zette onlangs een vergelijkbare stap met zijn Decisions API en Cloudflare introduceerde snelle beslismodellen voor agents. Het zijn vroege aanwijzingen dat "beslismodellen" een eigen productcategorie kunnen worden, los van chatbots voor algemeen gebruik. Gebeurt dat, dan concurreert TypeSafe met veel grotere platforms die vergelijkbare functies tegen weinig extra kosten kunnen meeleveren.

Ook de waardering past in een breder patroon. Investeerders betalen hoge prijzen voor AI-start-ups in een heel vroeg stadium, vaak tegen recordbedragen, nog voordat er veel trackrecord is. Een prijskaartje van 7,5 miljard dollar nog geen maand na de lancering laat dat zien.

Drie dingen om in de gaten te houden:

• Onafhankelijke benchmarks. Blijven de claims over snelheid en kosten overeind buiten de eigen tests van TypeSafe?
• Kalibratie in de praktijk. Voorspellen de betrouwbaarheidsscores van Jev echt wanneer het model het mis heeft?
• Volgende releases. Kan de rest van System One voortbouwen op het vroege succes zodra de grotere leveranciers reageren?