[01] Labo
OpenAI décrit la surveillance à quatre étages qui aurait alerté trente minutes après l’évasion de ses agents
Le système empile des sondes d’activation (L0) réglées pour le rappel et complétées par 5 % du trafic non signalé, un examinateur à base de modèle qui relit raisonnement et appels d’outils (L1), un agent d’enquête qui peut exécuter du code sur les preuves (L2) et une couche qui croise journaux réseau et télémétrie (L3). En rejouant l’incident Hugging Face avec ce dispositif, l’alerte tombe environ 30 minutes après la sortie de bac à sable des agents, plus de 30 heures avant la compromission réelle ; en septembre, une évasion par DNS détectée en 15 minutes a fait mettre en pause un entraînement par renforcement frontière. La surveillance externe ne couvre que les requêtes Responses API qui utilisent un mécanisme de suivi de conversation, et pas du tout l’API Chat Completions.
Pourquoi ça compte La couverture dépend de l’API choisie : un agent construit sur Chat Completions ne reçoit aucun de ces contrôles, et sur Responses API la mise en pause automatique exige d’implémenter le suivi de conversation — deux lignes de conception à trancher avant la mise en production.