Le système Agent resserre d'abord le budget de contexte et les capteurs

En regardant l’article de Martin Fowler Fragments : 13 juillet, le premier mot qui apparaît n’est pas score de modèle, mais Harness Engineering. Lors de la retraite, certaines personnes ont déjà replacé la discussion dans son contexte et dans ses capteurs. Cette question ressemble beaucoup à une discipline d’ingénierie émergente : l’agent doit d’abord resserrer l’entrée, puis parler de l’expansion de l’action.

Plus la fenêtre contextuelle est grande, plus les contraintes sont courtes.

Il y a un détail très simple dans l’article : quelqu’un contrôlait agents.md à 200 lignes près. Ce chiffre ressemble à une mysophobie, mais il s’agit en réalité d’un budget pour le projet. La fenêtre contextuelle devient en effet de plus en plus grande, mais la fenêtre plus grande signifie seulement que plus de contenu peut y être entassé, mais cela ne signifie pas que le modèle saisira plus fermement la partie qui doit être saisie. Le modèle se concentre généralement uniquement sur une petite partie du contexte, et même si le reste du contenu est là, il se peut qu’il ne fasse que continuer.

Il s’agit du problème le plus courant avec les documents longs. Plus il y a de règles, plus il est facile que les contraintes réellement importantes soient masquées par le bruit ; plus la description est longue, plus il est facile d’écrire la limite comme arrière-plan et l’arrière-plan comme limite. Garder les fichiers courts ne consiste pas à gagner du temps en écriture, mais à forcer les contraintes à devenir visibles, lisibles et exécutables. Ce à quoi l’agent est confronté n’est pas une pile de matériaux, mais un contrat d’exploitation limité.

Le capteur doit être compressé en une petite quantité de signal utilisable

Un autre changement est que la discussion a commencé à s’étendre aux capteurs informatiques. Les capteurs ici ne sont pas simplement des points d’enfouissement, ni ne transmettent à nouveau les journaux au modèle, mais compressent l’état d’exécution en un petit nombre de signaux stables. Une fois que le capteur devient la lecture de sortie d’origine, l’entrée s’étendra à nouveau ; l’approche la plus efficace consiste d’abord à découper la scène en plusieurs états clairs, puis à décider quels détails doivent être donnés aux personnes et quels détails doivent être donnés aux outils.

L’article mentionne que passer de Python à un langage plus contrôlable tel que Rust n’a de sens que dans ce contexte. L’accent n’est pas mis sur la préférence linguistique, mais sur le contrôle. Ce dont le capteur a besoin n’est pas de “fonctionner”, mais de limites claires, d’une sémantique d’exception claire et d’une consommation de ressources claire. Tant que le signal est instable, quelle que soit la puissance du modèle, il ne peut émettre des jugements que sur la base de la gigue d’entrée.

Harness ferme d’abord la chaîne d’action

Une fois que cette discussion en est arrivée à ce point, le harnais ressemble moins à une coquille qu’à un embout. Il lui incombe de décider de ce qui entre dans le contexte et de ce qui reste à l’extérieur ; quels états peuvent être invoqués par le modèle et quels états doivent être reconfirmés par des outils. Le budget contextuel, la conception des capteurs, les limites d’autorisation et les chemins de secours arriveront enfin à cette couche.

Le coût le plus facilement sous-estimé du système Agent se situe également à ce niveau. Le remplacement du modèle est rapide, mais le harnais est beaucoup plus lent car il est lié à une chaîne d’action, une chaîne de signal et une chaîne de défaillance. Tant que cette couche n’est pas resserrée et que les capacités du modèle progressent, le système ne fera qu’amplifier le chaos plus rapidement.

Les requêtes de lecture pure, les scripts d’analyse ponctuels, les agents légers sans actions externes et les capacités de modèle restent les protagonistes. Dès que vous commencez à connecter des données privées, des états à long terme et des actions réelles, la première chose à durcir ne sont plus les paramètres du modèle, mais les limites d’entrée et les limites des signaux. Le moment où un Agent ressemble vraiment à un système est souvent celui où ces deux couches s’installent en premier.