OpenAI Decisions API: Schnelle Urteile statt Freitext

OpenAI hat seiner Entwicklerplattform ein neues Werkzeug hinzugefügt, das genau eine Aufgabe hat: Es trifft eine Entscheidung. Die Decisions API nimmt Text, Bilder oder eine Mischung aus beidem entgegen und liefert statt einer frei formulierten Antwort ein eng gefasstes Urteil. Zeitgleich hat das Unternehmen die Struktur seiner kostenpflichtigen API-Stufen vereinfacht.

Die Decisions API befindet sich ab sofort in der öffentlichen Beta. Laut OpenAI soll die allgemeine Verfügbarkeit bald folgen.

Was die Decisions API macht

Die meisten Entwickler greifen über die Responses API auf die Modelle von OpenAI zu. Diese kann offene Ausgaben fast jeder Art erzeugen. Die Decisions API ist deutlich enger gefasst. Nach Angaben von OpenAI arbeitet sie etwa zehnmal schneller als die Responses API.

Sie unterstützt drei Arten von Antworten:

1. Ja/Nein-Wahrscheinlichkeiten. Das Modell schätzt ein, wie wahrscheinlich eine Aussage für eine bestimmte Eingabe zutrifft.

2. Auswahl aus einer festen Liste. Der Entwickler legt die Kategorien vorab fest, und das Modell wählt eine davon aus.

3. Bewertungen auf einer Skala. Das Modell ordnet die Eingabe innerhalb eines festgelegten Bereichs ein.

Keines der drei Formate lässt dem Modell Spielraum zum Abschweifen. Der Entwickler gibt die Form der Antwort vor, das Modell füllt die Lücke aus.

Wo OpenAI Einsatzmöglichkeiten sieht

OpenAI nennt einige praktische Beispiele. Eines ist das Erkennen von Schäden auf Fotos. Ein anderes ist die automatische Weiterleitung eingehender Kundenanfragen an die richtige Stelle. Ein drittes ist die Klassifizierung von Dokumenten.

Das sind sich wiederholende Aufgaben in großen Mengen, bei denen eine lange schriftliche Antwort wenig bringt. Ein Support-System braucht keinen Aufsatz über eine E-Mail. Es muss wissen, in welche Warteschlange die E-Mail gehört.

Für Organisationen, die mit sensiblen Daten arbeiten, unterstützt die API Zero Data Retention. Eingaben werden nach der Verarbeitung also nicht gespeichert. Außerdem lässt sie sich in den USA und in Europa HIPAA-konform einsetzen. HIPAA ist das US-Gesetz, das regelt, wie Gesundheitsdaten geschützt werden müssen.

Preis und unterstützte Modelle

Vorerst funktioniert nur ein Modell mit der Decisions API: gpt-6-luna. Die Eingabe kostet 0,10 US-Dollar pro Million Tokens. Ausgabe-Tokens sind kostenlos.

Dieses Preismodell passt zum Produkt. Ein Entscheidungsaufruf erzeugt nur sehr wenig Ausgabe (eine Wahrscheinlichkeit, ein Label oder eine Bewertung), daher entfällt der Großteil der Kosten ohnehin auf die Eingabe. Wird nur die Eingabe abgerechnet, lassen sich die Kosten für Teams, die viele Klassifizierungsaufgaben ausführen, leichter planen.

Eine Antwort auf "Decision Models"

Der Start wirkt wie OpenAIs Antwort auf einen kleinen, aber wachsenden Trend. Jev hat Mitte September eine Welle sogenannter "Decision Models" ausgelöst, und andere Anbieter sind mit eigenen Ansätzen gefolgt, darunter Cloudflares schnelle Entscheidungsmodelle für Agenten und ein offenes Entscheidungsmodell von AWS. Die Idee dahinter ist bei allen ähnlich: Viele Schritte in einem KI-Workflow brauchen keine vollständige generative Antwort, sondern nur ein schnelles und verlässliches Urteil.

Drei Stufen statt fünf

Neben der neuen API hat OpenAI seine kostenpflichtigen API-Stufen von fünf auf drei reduziert. Sie heißen jetzt Build, Launch und Grow.

Organisationen steigen automatisch auf, sobald ihre gesamten Guthabenkäufe die nächste Schwelle überschreiten. Die monatlichen Nutzungsgrenzen liegen bei 500 US-Dollar für Build, 5.000 US-Dollar für Launch und 200.000 US-Dollar für Grow.

Unsere Einschätzung

Die Decisions API deutet darauf hin, dass die großen Modellanbieter eng gefasste, strukturierte Urteile allmählich als eigene Produktkategorie behandeln und nicht nur als Prompt-Muster, das Entwickler auf Chat-Modellen aufsetzen. Das ist für alle wichtig, die Agenten oder automatisierte Pipelines bauen. Ein schneller, eingeschränkter Ja/Nein- oder Kategorie-Aufruf lässt sich leichter testen, ist im großen Maßstab günstiger und schwerer aus der Spur zu bringen als eine offene Antwort.

Er passt auch zu einem breiteren Preiskampf, wie er sich etwa in Anthropics drastischen Preissenkungen bei Haiku zeigt. Kostenlose Ausgabe-Tokens sind in diesem Wettlauf ein aggressives Signal.

Es lohnt sich zu beobachten, ob OpenAI vor der allgemeinen Verfügbarkeit weitere Modelle neben gpt-6-luna hinzufügt und wie sich die Geschwindigkeitsversprechen bei echten Arbeitslasten bewähren. Das vereinfachte Stufensystem dürfte es unterdessen kleineren Teams leichter machen zu verstehen, wie viel sie ausgeben können, bevor sie an eine Obergrenze stoßen.