[01] Labo
OpenAI met en disponibilité générale une API pour les décisions à réponse bornée
La Decisions API, bâtie sur GPT-6 Luna, prend une question, ses réponses autorisées et un contexte texte, image ou JSON natif, et rend une probabilité, un choix parmi les valeurs fournies ou un score sur une échelle. Elle est facturée 0,10 dollar par million de tokens d’entrée et 0,01 dollar pour un contexte mis en cache, sans aucun coût de token de sortie, accepte jusqu’à 400 questions par requête — deux fois la limite précédente — et, selon OpenAI, répond jusqu’à 10 fois plus vite que GPT-6 Luna via l’API Responses. Les chiffres clients vont plus loin : 40 fois plus rapide en p95 pour scorer des commandes shell chez Datadog, moins de 280 ms en p95 et 90 % de coût par appel en moins chez Sierra, selon ces deux entreprises.
Pourquoi ça compte Une facture au seul token d’entrée supprime la variable longueur de sortie du budget : pour du routage ou de la classification en chemin critique, le coût devient proportionnel au contexte, et le lot de 400 questions amortit un contexte lu une seule fois.