JEPA-Anything: Ein Weltmodell von Physik bis Biologie

Ein Forschungsteam hat die JEPA-Architektur, die ursprünglich Yann LeCun vorgeschlagen hat, zu einem Weltmodell weiterentwickelt, das in sieben sehr unterschiedlichen Fachgebieten funktioniert. Nebenbei wies das Modell auf einen Therapiekandidaten gegen Leberkrebs hin, und das Team prüfte diesen Kandidaten im Labor.

Geleitet wird das Projekt von PhAI Labs, beteiligt sind außerdem Forschende aus Stanford, Oxford und Princeton. Das Modell heißt JEPA-Anything.

Ein Prinzip statt vieler Modelle

Weltmodelle versuchen vorherzusagen, wie sich ein System im Lauf der Zeit verändert. Dieses System kann ein Roboter sein, ein Molekül oder der Gesundheitszustand eines Patienten. Bisher brauchte meist jedes Fachgebiet ein eigenes, speziell dafür gebautes Modell. Das Team von PhAI Labs will zeigen, dass ein gemeinsames Prinzip all diese Fälle abdecken kann.

JEPA steht für Joint-Embedding Predictive Architecture. Diese Modelle rekonstruieren keine Rohdaten wie Pixel. Sie sagen eine abstrakte Zusammenfassung eines fehlenden oder künftigen Zustands vorher und ignorieren Details, die keine Rolle spielen. Die Autoren sehen in der Standardversion eine Schwäche: Sie presst alles in eine einzige Vorhersage, sodass einfache Muster schwierigere überlagern können.

Die Vorhersage aufteilen

JEPA-Anything zerlegt den vorhergesagten Zustand in mehrere Teile. Jeder Teil bekommt ein eigenes Vorhersagemodul. Eine zusätzliche Nebenbedingung sorgt dafür, dass diese Module unterschiedliche Aspekte der Daten lernen, statt alle dasselbe zu lernen. Anschließend fügt das Modell ihre Teilvorhersagen zu einem Gesamtbild zusammen.

Die Forschenden geben nicht vor, was die einzelnen Teile bedeuten sollen. Diese Rollen entstehen erst während des Trainings. Das Einzige, was sie von Fachgebiet zu Fachgebiet anpassen, ist die Aufbereitung der Daten.

Wo es half und wo nicht

Das Team verglich JEPA-Anything mit einem Standard-JEPA mit derselben Architektur, denselben Daten und identischen Trainingsbedingungen.

• Dynamische Systeme: In einer vereinfachten Pong-Umgebung mit gezielten Eingriffen sank der Vorhersagefehler um 35 Prozent. Bei Kombinationen von Eingriffen, die im Training nie vorkamen, sank er um 13 Prozent.
• Physik und Wetter: Nach Angaben der Autoren schlug das Modell die Vergleichsbasis in zehn Testaufgaben aus Physik, Robotik und Wettervorhersage. Bei der Burgers-Gleichung, einem gängigen Benchmark der Strömungsdynamik, halbierte sich der Fehler in einem separaten Test nahezu. Über 50 Vorhersageschritte hielt der Vorsprung, schrumpfte aber auf etwa drei Prozent.
• Molekülsimulation: Bei Wasser, Quarz, Paracetamol und Benzol erzielte es die besten Werte, auch nach 100 Schritten.
• Biologie und Medizin: Es ordnete Zelltypen in Einzelzelldaten zuverlässiger zu und sagte in klinischen Daten mehr als 1.000 mögliche Krankheitsereignisse etwas besser vorher.
• Bilder und Roboter: Bei Bildaufgaben war der Abstand gering. Bei der Bewegungsplanung für simulierte Laufroboter gewann es in zwei von drei Umgebungen und unterlag in der dritten.

Von Teilvorhersagen zum Labortest

Das ehrgeizigste Ergebnis stammt aus der Leberkrebsforschung. Das Team untersuchte die Teilvorhersagen, die ein Modell aus Genaktivität, Proteinspiegeln und CRISPR-Screens gelernt hatte. Der aussichtsreichste Kandidat kombinierte IL-18, ein Signalmolekül, das Immunzellen aktiviert, mit der Blockade von CD73, einem Enzym, mit dem Tumoren Immunreaktionen in ihrer Umgebung unterdrücken.

Getestet wurde die Kombination an Leberkrebszellen in Kokultur mit Immunzellen, an Organoiden und Tumorgewebe von jeweils drei Patienten sowie an Mäusen. In Organoiden und Gewebeproben tötete die Kombination mehr Tumorzellen ab als jede Komponente für sich, und T-Zellen sowie natürliche Killerzellen zeigten eine stärkere Aktivierung. Ob daraus eine echte Therapie werden könnte, zeigt die Studie nicht.

In einem zweiten Fall trainierte das Modell auf simulierten Umlaufbahnen, ganz ohne physikalische Größen. Seine gelernten Muster entsprachen weitgehend dem dritten Keplerschen Gesetz: Das Gesetz setzt den Exponenten auf minus 1,5, das Modell landete bei minus 1,4991. Das Team wertete nur einen Trainingslauf aus und wählte dafür den mit dem geringsten Fehler.

Die Autoren schränken ein: Eine saubere Trennung zwischen den gelernten Teilen beweist nicht, dass sie echte Ursache-Wirkungs-Beziehungen erfassen. Code und Modelle sind öffentlich verfügbar.

Unsere Einschätzung

Das Paper erscheint in einer Phase, in der sich bei Weltmodellen viel tut. Meta veröffentlichte im Juni 2025 das Videomodell V-JEPA 2, LeCun und Randall Balestriero stellten im November 2025 LeJEPA vor, und LeCuns Start-up AMI Labs sammelte im März 2026 mehr als eine Milliarde Dollar ein. Auch Investoren setzen massiv auf das Thema, von der Finanzierungsrunde von General Intuition für Weltmodelle bis zur Übernahme von World Labs durch AMD.

Auffällig ist hier die Bandbreite, nicht ein einzelner Spitzenwert. Die meisten Zugewinne sind moderat, manche knapp, und die Robotik-Ergebnisse fallen gemischt aus. Das spricht dafür, dass die Idee der Zerlegung eher eine nützliche allgemeine Verbesserung ist als ein Durchbruch in einem bestimmten Fachgebiet.

Das Krebsergebnis verdient Aufmerksamkeit, allerdings mit Vorsicht. Bei Google Deepminds C2S-Scale 27B wurde bereits im Oktober 2025 eine Krebshypothese im Labor bestätigt, und Deepminds Co-Scientist-System plant inzwischen Experimente und bedient Laborgeräte. Das JEPA-Anything-Team strebt Agenten an, die Experimente vorschlagen und priorisieren und die Ergebnisse anschließend wieder einspeisen, ähnlich wie Ansätze, die Sprachmodelle zu Laborwerkzeugen machen. Spannend wird, ob unabhängige Gruppen die Ergebnisse mit dem veröffentlichten Code reproduzieren und ob der Kepler-Befund über einen einzelnen, handverlesenen Trainingslauf hinaus Bestand hat.