hunch : des décisions rapides sur CPU, apprises d'un modèle enseignant
A system-one proxy that uses embeddings to distill a larger teacher model into something quick and efficient.
Un petit serveur qui répond à des questions comme « cet appel d'outil a-t-il échoué ? » sur CPU, en environ 20 ms, sans GPU. Il apprend d'un modèle enseignant plus lent, puis prend le relais. Une couche de contrôle pas chère pour les traces et logs d'agents.