Decisions API de OpenAI: evaluaciones en veredictos rápidos

Decisions API de OpenAI: evaluaciones en veredictos rápidos

OpenAI ha añadido a su plataforma para desarrolladores una nueva herramienta que tiene una sola función: decidir. La Decisions API recibe texto, imágenes o una combinación de ambos y devuelve un veredicto concreto en lugar de una respuesta libre. La compañía ha acompañado el lanzamiento con una estructura más sencilla para los niveles de pago de su API.

La Decisions API ya está disponible en beta pública. OpenAI asegura que la disponibilidad general llegará pronto.

Qué hace la Decisions API

La mayoría de los desarrolladores acceden a los modelos de OpenAI a través de la Responses API, capaz de generar casi cualquier tipo de respuesta abierta. La Decisions API es mucho más limitada. Según OpenAI, funciona aproximadamente diez veces más rápido que la Responses API.

Admite tres tipos de respuesta:

  1. Probabilidades de sí o no. El modelo calcula la probabilidad de que una afirmación sea cierta para una entrada determinada.

  2. Elección dentro de una lista cerrada. El desarrollador define las categorías de antemano y el modelo escoge una.

  3. Valoraciones en una escala. El modelo sitúa la entrada en algún punto de un rango definido.

Ninguno de los tres formatos deja que el modelo se vaya por las ramas. El desarrollador fija la forma de la respuesta y el modelo rellena el hueco.

Dónde ve OpenAI su utilidad

OpenAI pone algunos ejemplos prácticos. Uno es detectar daños en fotografías. Otro, derivar automáticamente las consultas de los clientes al lugar adecuado. Un tercero, clasificar documentos.

Son tareas repetitivas y de gran volumen en las que una respuesta larga y redactada aporta poco. Un sistema de atención al cliente no necesita una redacción sobre un correo electrónico. Necesita saber a qué cola pertenece ese correo.

Para las organizaciones que manejan información sensible, la API admite la retención cero de datos, lo que significa que las entradas no se conservan una vez procesadas. También puede utilizarse de forma compatible con HIPAA en Estados Unidos y Europa. HIPAA es la ley estadounidense que regula cómo debe protegerse la información sanitaria.

Precio y modelos compatibles

Por ahora, solo un modelo funciona con la Decisions API: gpt-6-luna. La entrada cuesta 0,10 dólares por millón de tokens. Los tokens de salida son gratuitos.

Esa estructura de precios encaja con el producto. Una llamada de decisión genera muy poca salida (una probabilidad, una etiqueta o una valoración), así que la mayor parte del coste está en la entrada de todos modos. Cobrar solo por la entrada hace que los costes sean más fáciles de prever para los equipos que ejecutan grandes cantidades de tareas de clasificación.

Una respuesta a los "modelos de decisión"

El lanzamiento parece ser la respuesta de OpenAI a una tendencia pequeña pero en auge. Jev inició a mediados de septiembre una oleada de los llamados "modelos de decisión", y otros actores han seguido con sus propias propuestas, como los modelos de decisión rápidos de Cloudflare para agentes y un modelo de decisión abierto de AWS. La idea de fondo es parecida en todos ellos: muchos pasos de un flujo de trabajo con IA no necesitan una respuesta generativa completa, sino solo un juicio rápido y fiable.

Tres niveles en lugar de cinco

Junto a la nueva API, OpenAI ha reducido sus niveles de pago de la API de cinco a tres. Ahora se llaman Build, Launch y Grow.

Las organizaciones suben de nivel automáticamente en cuanto el total de créditos comprados supera el siguiente umbral. Los límites de uso mensual son de 500 dólares para Build, 5.000 dólares para Launch y 200.000 dólares para Grow.

Nuestra opinión

La Decisions API apunta a que los grandes proveedores de modelos empiezan a tratar los juicios concretos y estructurados como una categoría de producto en sí misma, y no solo como un patrón de prompts que los desarrolladores montan sobre los modelos de chat. Eso importa a cualquiera que construya agentes o procesos automatizados. Una llamada rápida y acotada de sí o no, o de categoría, es más fácil de probar, más barata de ejecutar a gran escala y más difícil de desviar que una respuesta abierta.

Además, encaja en una presión más amplia sobre los precios, visible en movimientos como las fuertes rebajas de precio de Haiku por parte de Anthropic. Los tokens de salida gratuitos son una señal agresiva en esa carrera.

Habrá que ver si OpenAI añade más modelos además de gpt-6-luna antes de la disponibilidad general y cómo se sostienen las promesas de velocidad con cargas de trabajo reales. Mientras tanto, el sistema de niveles simplificado debería ayudar a los equipos más pequeños a entender cuánto pueden gastar antes de toparse con un techo.