Google Suncatcher: ruimte-AI vergt 1.800 Starship-vluchten

Google heeft voor het eerst een eigen AI-chip in een baan om de aarde gebracht. Een prototype van een rekensatelliet met een Google Tensor Processing Unit (TPU) aan boord is met een raket van SpaceX vanuit Californie gelanceerd. Het is de eerste hardwaretest van Project Suncatcher, het plan van het bedrijf om grote rekenclusters in de ruimte te bouwen.

Op dezelfde dag publiceerde Google een peer-reviewed versie van zijn whitepaper over datacenters in een baan om de aarde. Daarin staat wat er allemaal moet veranderen voordat het idee praktisch haalbaar wordt, en veel daarvan hangt af van de vraag of SpaceX' Starship veel vaker gaat vliegen dan nu.

Wat het prototype moet bewijzen

De satelliet is gebouwd door Planet Labs, op een van zijn standaardplatforms. De opdracht is beperkt: aantonen dat een TPU, Googles eigen alternatief voor de GPU's van Nvidia, echt in de ruimte kan werken.

Dat komt neer op drie dingen:

Continu een kilowatt aan vermogen leveren.
De chip koel houden.
Een reeks modellen draaien en letten op storingen.

Zodra de satelliet in bedrijf is genomen, draait de TPU in sessies van 15 minuten. Die beperking beschermt de energie- en koelsystemen van de satelliet, die niet zijn ontworpen voor een krachtige processor.

"We hebben op de grond getest, maar weet je, geen enkele test is helemaal zo goed als het echte werk," zei Travis Beals, de Google-manager die verantwoordelijk is voor Project Suncatcher.

Volgend jaar staat een vervolgdemonstratie gepland. Daarbij worden twee satellieten gebruikt die specifieker zijn gebouwd voor geavanceerde rekentaken en zwaardere workloads aankunnen. Het tweetal gaat ook proberen samen te werken via een laserverbinding.

Niet de enige AI-lading aan boord

Dezelfde SpaceX-lancering vervoerde meer dan 100 ladingen, waaronder missies van Satlyt en Cowboy Space Company. AI in de ruimte is allang niet meer het idee van een enkel bedrijf.

Wat Google onderscheidt, is de tijdshorizon. Beals noemt Suncatcher een "moonshot voor de lange termijn". Het beoogde ontwerp is een netwerk van 81 satellieten die dicht in formatie vliegen en parallel rekenwerk uitvoeren.

"De bandbreedte en de latentie tussen TPU's doen er echt heel veel toe als je een workload over meerdere racks probeert te draaien... we proberen niet alleen te kijken naar welke workloads er vandaag zijn, maar ook naar waar ze over vijf jaar staan," zei Beals.

Die lange adem is deels noodzaak. De raketten die nodig zijn om datacenters in de ruimte tegen redelijke kosten op te schalen, bestaan nog niet.

Het lanceringsrekensommetje

Het whitepaper, dat in het tijdschrift Joule verschijnt, is een van de grondigere openbare analyses van hoe rekenkracht in een baan om de aarde kan komen. De auteurs benadrukken dat het geen economische haalbaarheidsstudie is. Toch laat het zien hoe Google verwacht dat de lanceerkosten zullen dalen.

Net als andere datacenterbeheerders rekent Google op SpaceX. Het bedrijf is bovendien een grote investeerder in SpaceX. De onderzoekers stellen dat SpaceX sinds de Falcon 1 een "leercurve" heeft doorlopen waardoor de prijzen met zo'n 20% per jaar zijn gedaald. Op basis daarvan vinden ze lanceerprijzen van ongeveer $200 per kilogram in 2035 een redelijke verwachting.

Daar komen is een ander verhaal. Met de vrachtgeschiedenis van Falcon 9 als leidraad schat het paper dat Starship 370.000 ton naar een baan om de aarde moet brengen om een vergelijkbare kostencurve te volgen. Dat komt neer op zo'n 1.800 lanceringen in tien jaar, oftewel 180 per jaar, uitgaande van 200 ton per vlucht.

Starship is nog nooit vaker dan vijf keer in een jaar gevlogen. Elon Musk heeft gesuggereerd dat het in 2029 elk uur zou kunnen vliegen, maar zijn tijdlijnen hebben een wisselend trackrecord.

Straling lijkt beheersbaar

De bemoedigendere bevinding gaat over straling. Google moest tests in een deeltjesversneller overdoen nadat bleek dat de oorspronkelijke chipopstelling meer afscherming bood dan de hardware in de ruimte zou krijgen. Bij de herhaling kwamen iets meer fouten in de logische schakelingen van de chip naar boven.

Google blijft erop vertrouwen dat de TPU's grote inference-workloads aankunnen gedurende de levensduur van vijf jaar van een satelliet.

"Het foutpercentage is heel laag als je denkt aan typische inference-taken, toch? Zo'n een op een miljoen," zei Beals. "Aan de andere kant was het al problematisch voor bijvoorbeeld een gigantische trainingsrun waarbij vele duizenden chips maandenlang draaien."

Waarom dit ertoe doet

De AI-sector loopt op aarde tegen grenzen aan: stroom, koeling en grond. Bedrijven leunen nu al op overheidssteun om capaciteit op de grond te bouwen, zoals te zien is aan de belastingkorting voor Meta's datacenters. Met Suncatcher gokt Google erop dat een deel van die last uiteindelijk van de planeet af kan.

De stralingsresultaten wijzen op een tweedeling. Een baan om de aarde kan geschikt zijn voor inference, waar zeldzame fouten acceptabel zijn. Lange trainingsruns lijken er slecht bij te passen, in elk geval op basis van wat we nu weten. Ook belangrijk: Google test zijn eigen chips en niet die van Nvidia, in lijn met een bredere beweging in de sector om minder afhankelijk te worden van Nvidia.

Het echte knelpunt is niet de chip. Het is het lanceertempo, en dat ligt grotendeels bij een enkel bedrijf. Het is de moeite waard om te volgen of de laserverbinding bij de demonstratie met twee satellieten volgend jaar gaat werken, en of het vluchttempo van Starship begint te stijgen richting de aantallen waar Googles eigen paper van uitgaat.