L'ingénierie des agents resserre d'abord le contexte et les capteurs

En regardant un groupe de discussions sur l’ingénierie des faisceaux ces jours-ci, le sentiment le plus intuitif n’est pas que « l’agent a ajouté une nouvelle couche de fonctionnalités », mais que l’orientation des discussions d’ingénierie a changé. Dans le passé, nous nous demandions souvent si le modèle était suffisamment solide. Maintenant, nous nous concentrons d’abord sur la quantité de contexte à insérer, la durée à insérer dans le fichier de règles et le signal émis par le capteur. Le modèle est toujours au milieu, mais ce qui commence réellement à déterminer la stabilité, c’est le harnais extérieur.

Plus la fenêtre contextuelle est grande, plus l’attention sera stable.

Quelqu’un lors de la retraite a mentionné que agents.md devrait être contrôlé à moins de 200 lignes. Ce numéro n’est pas prétentieux ou culte du numéro de ligne, mais plutôt un rappel budgétaire. Plus la fenêtre contextuelle est grande, cela signifie seulement que davantage de contenu peut y être entassé, mais cela ne signifie pas que le modèle saisira de manière plus stable la partie qui doit être saisie. Les modèles se concentrent souvent uniquement sur une petite partie du contexte, et même si le reste du contenu se trouve dans la fenêtre, il se peut qu’il ne soit pas entièrement mis au point.

C’est très ennuyeux en ingénierie. Plus il y a de règles, plus il est facile d’écrire les « contraintes » sous forme de « bruit » ; plus les instructions sont longues, plus il est facile d’enterrer dans un coin ce qui doit réellement être observé. Garder le fichier très court ne consiste pas à donner au document une apparence soignée, mais à forcer les contraintes à devenir visibles. Ce à quoi le modèle est confronté n’est pas une encyclopédie, mais un contrat d’exploitation limité.

Le capteur n’alimente plus le journal

Un autre changement évident est que la discussion a commencé à s’étendre aux capteurs informatiques. Ici, les capteurs ne sont pas simplement enterrés et les journaux système ne sont pas insérés intacts dans le modèle, mais l’état d’exécution est compressé en un petit nombre de signaux utilisables. Son objectif est de filtrer le bruit, et non de créer de nouveaux fardeaux contextuels.

C’est pourquoi il est dit “passer à Rust au lieu de Python”. L’accent n’est pas mis sur le fait de prendre parti pour le langage, mais sur le contrôle. Une fois qu’un capteur s’appuie sur des limites d’exécution, des contraintes de ressources, des chemins d’exception et une sortie déterministe pour garantir la qualité, le langage et l’environnement d’exécution ne sont plus seulement des détails d’implémentation, mais font partie du capteur lui-même. Si le signal est instable, quelle que soit la puissance du modèle, il ne fera que deviner l’entrée instable.

L’envoi de données brutes directement dans le modèle peut sembler plus informatif à court terme, mais ne fait souvent que rendre la scène plus bruyante à long terme. Un capteur vraiment utile doit d’abord compresser « ce qui s’est passé » en quelques états clairs, puis décider quels détails sont laissés aux humains et lesquels aux outils.

La responsabilité du harnais est de couper le monde en morceaux qui peuvent être nourris au modèle

Une fois que ce type de discussion mûrit, elle commence à ressembler davantage à une conception de système qu’à des techniques d’invite. Le harnais est responsable des limites : ce qui entre dans le contexte, ce qui reste en dehors du contexte, sur quel état le modèle peut s’appuyer et quel état doit être reconfirmé par les outils. Ce n’est pas une coque, mais une couche de filtre en plus proche.

C’est également le coût le plus sous-estimé du système Agent. Le remplacement du modèle est rapide, mais le harnais est beaucoup plus lent car il lie directement la chaîne d’action, la chaîne de signal et la chaîne de défaillance. Le budget contextuel, la conception des capteurs, les limites d’autorisation, les chemins de secours, relèvent tous de cette couche. Tant que cette couche n’est pas étanche, plus le modèle est solide, plus il est facile pour le système de propager davantage l’instabilité.

En regardant ce type de fragments maintenant, la partie la plus précieuse n’est pas une conclusion unique, mais le fait qu’elle énonce clairement l’objectif du projet : l’agent n’est plus seulement « s’il peut faire des choses », mais « si le système externe a capté l’attention et les signaux ». Cette étape n’est pas stable et une nouvelle amélioration des capacités du modèle ne fera qu’amplifier plus rapidement le chaos.