API Decisions d'OpenAI : l'évaluation en verdict rapide

OpenAI a ajouté à sa plateforme pour développeurs un nouvel outil qui ne fait qu'une chose : trancher. L'API Decisions prend du texte, des images ou un mélange des deux, et renvoie un verdict précis plutôt qu'une réponse libre. L'entreprise a accompagné ce lancement d'une structure simplifiée pour ses formules payantes d'API.

L'API Decisions est disponible dès maintenant en bêta publique. OpenAI annonce une disponibilité générale prochainement.

Ce que fait l'API Decisions

La plupart des développeurs accèdent aux modèles d'OpenAI via l'API Responses, capable de générer à peu près n'importe quel type de contenu ouvert. L'API Decisions est beaucoup plus ciblée. Selon OpenAI, elle est environ dix fois plus rapide que l'API Responses.

Elle prend en charge trois types de réponses :

1. Des probabilités oui/non. Le modèle estime la probabilité qu'une affirmation soit vraie pour une entrée donnée.

2. Un choix dans une liste fixe. Le développeur définit les catégories à l'avance, et le modèle en sélectionne une.

3. Une note sur une échelle. Le modèle situe l'entrée quelque part sur une plage définie.

Aucun de ces trois formats ne laisse le modèle s'égarer. Le développeur fixe la forme de la réponse, et le modèle se contente de remplir la case.

Les usages envisagés par OpenAI

OpenAI cite quelques exemples concrets. Le premier : repérer des dommages sur des photos. Le deuxième : orienter automatiquement les demandes des clients vers le bon service. Le troisième : classer des documents.

Il s'agit de tâches répétitives, à fort volume, pour lesquelles une longue réponse rédigée n'apporte pas grand-chose. Un système de support n'a pas besoin d'une dissertation sur un e-mail. Il a besoin de savoir dans quelle file d'attente le ranger.

Pour les organisations qui manipulent des données sensibles, l'API permet la non-conservation des données : les entrées ne sont pas gardées après traitement. Elle peut aussi être utilisée de manière conforme à la HIPAA aux États-Unis et en Europe. La HIPAA est la loi américaine qui encadre la protection des données de santé.

Prix et modèles pris en charge

Pour l'instant, un seul modèle fonctionne avec l'API Decisions : gpt-6-luna. Les tokens en entrée coûtent 0,10 dollar par million. Les tokens en sortie sont gratuits.

Cette tarification colle au produit. Un appel de décision ne produit presque rien en sortie (une probabilité, une étiquette ou une note), si bien que l'essentiel du coût se situe de toute façon côté entrée. Ne facturer que l'entrée rend les coûts plus prévisibles pour les équipes qui lancent de grandes quantités de tâches de classification.

Une réponse aux "modèles de décision"

Ce lancement semble être la réponse d'OpenAI à une tendance encore modeste mais en pleine croissance. Jev a lancé une vague de "modèles de décision" à la mi-septembre, et d'autres acteurs ont suivi avec leurs propres versions, dont les modèles de décision rapides de Cloudflare pour les agents et un modèle de décision ouvert signé AWS. L'idée derrière tous ces outils est la même : de nombreuses étapes d'un flux de travail d'IA n'ont pas besoin d'une réponse générative complète, seulement d'un jugement rapide et fiable.

Trois formules au lieu de cinq

En parallèle de la nouvelle API, OpenAI a réduit ses formules payantes d'API de cinq à trois. Elles s'appellent désormais Build, Launch et Grow.

Les organisations passent automatiquement au niveau supérieur dès que le total de leurs achats de crédits franchit le seuil suivant. Les plafonds d'utilisation mensuels sont fixés à 500 dollars pour Build, 5 000 dollars pour Launch et 200 000 dollars pour Grow.

Notre analyse

L'API Decisions laisse penser que les grands fournisseurs de modèles commencent à considérer les jugements ciblés et structurés comme une catégorie de produit à part entière, et non plus comme une simple technique de prompt que les développeurs bricolent par-dessus des modèles conversationnels. C'est important pour quiconque conçoit des agents ou des chaînes de traitement automatisées. Un appel oui/non ou de catégorisation, rapide et contraint, est plus facile à tester, moins cher à exécuter à grande échelle et plus difficile à faire dérailler qu'une réponse ouverte.

Cela s'inscrit aussi dans une offensive plus large sur les prix, illustrée par des initiatives comme les fortes baisses de prix de Haiku chez Anthropic. Des tokens de sortie gratuits sont un signal agressif dans cette course.

Reste à voir si OpenAI ajoutera d'autres modèles que gpt-6-luna avant la disponibilité générale, et si les promesses de vitesse se vérifient sur des charges de travail réelles. Le système de formules simplifié, lui, devrait permettre aux petites équipes de mieux savoir ce qu'elles peuvent dépenser avant de se heurter à un plafond.