Back home

Agent-engineering scherpt eerst de context en sensoren aan

Uit Fragments: 13 juli: wat we zien zijn geen nieuwe modelmogelijkheden, maar eerst het benutten van de dagelijkse engineering.

Als je tegenwoordig naar een groep discussies over Harness Engineering kijkt, is het meest intuïtieve gevoel niet dat “Agent een nieuwe laag aan mogelijkheden heeft toegevoegd”, maar dat de focus van technische discussies is veranderd. In het verleden hebben we vaak gevraagd of het model sterk genoeg was. Nu concentreren we ons eerst op hoeveel context we moeten plaatsen, hoe lang we het regelbestand moeten plaatsen en welk signaal de sensor geeft. Het model zit nog steeds in het midden, maar wat echt de stabiliteit begint te bepalen, is het buitenste harnas.

Hoe groter het contextvenster, hoe stabieler de aandacht zal zijn.

Iemand in de retraite zei dat agents.md moet worden beheerd tot minder dan 200 lijnen. Dit nummer is niet pretentieus of een aanbidding van regelnummers, maar meer een budgetherinnering. Hoe groter het contextvenster betekent alleen dat er meer inhoud in kan worden gepropt, maar het betekent niet dat het model het deel dat moet worden begrepen stabieler zal begrijpen. Modellen richten zich vaak slechts op een klein deel van de context, en zelfs als de rest van de inhoud zich in het venster bevindt, is het mogelijk dat niet alles in focus is.

Dit is erg vervelend in de techniek. Hoe meer regels er zijn, hoe gemakkelijker het is om “beperkingen” als “ruis” te schrijven; hoe langer de instructies, hoe gemakkelijker het is om wat werkelijk in acht moet worden genomen in een hoek te begraven. Het zeer kort houden van het bestand gaat niet over het er netjes uit laten zien van het document, maar over het forceren van beperkingen om zichtbaar te worden. Waar het model voor staat is geen encyclopedie, maar een beperkt exploitatiecontract.

De sensor voert het houtblok niet opnieuw in

Een andere voor de hand liggende verandering is dat de discussie zich nu heeft verplaatst naar computationele sensoren. De sensoren hier zijn niet simpelweg begraven, noch zijn systeemlogboeken intact in het model ingevoegd, maar de runtimestatus is gecomprimeerd in een klein aantal bruikbare signalen. Wat het doet is de ruis wegfilteren, en geen nieuwe contextuele lasten creëren.

Dit is de reden waarom er wordt gezegd: “schakel over naar Rust in plaats van Python”. De nadruk ligt niet op het kiezen van partij voor de taal, maar op controle. Zodra een sensor afhankelijk is van runtimegrenzen, resourcebeperkingen, uitzonderingspaden en deterministische output om de kwaliteit te garanderen, zijn de taal en de uitvoeringsomgeving niet langer alleen maar implementatiedetails, maar onderdeel van de sensor zelf. Als het signaal onstabiel is, hoe sterk het model ook is, zal het alleen maar gissen naar de onstabiele ingang.

Het rechtstreeks naar het model sturen van onbewerkte gegevens lijkt op de korte termijn misschien informatiever, maar zorgt op de lange termijn vaak alleen maar voor meer ruis. Een echt nuttige sensor zou eerst ‘wat er is gebeurd’ in een paar duidelijke toestanden moeten comprimeren, en dan moeten beslissen welke details aan mensen worden overgelaten en welke aan hulpmiddelen.

De verantwoordelijkheid van het harnas is om de wereld in stukken te snijden die aan het model kunnen worden gevoerd

Zodra dit soort discussies volwassener worden, begint het meer op systeemontwerp te lijken dan op snelle technieken. Het harnas is verantwoordelijk voor grenzen: wat in de context past, wat buiten de context blijft, op welke staat het model kan vertrouwen, en welke staat opnieuw moet worden bevestigd door hulpmiddelen. Het is geen omhulsel, maar een laag filter en dichterbij.

Dit is ook de meest onderschatte kostenpost in het Agent-systeem. Modelvervanging is snel, maar harnas is veel langzamer omdat het de actieketen, signaalketen en faalketen rechtstreeks verbindt. Contextbudget, sensorontwerp, toestemmingsgrenzen, terugvalpaden vallen uiteindelijk allemaal op deze laag. Zolang deze laag niet strak is, geldt: hoe sterker het model, hoe gemakkelijker het voor het systeem is om de instabiliteit verder te verspreiden.

Als we nu naar dit soort fragmenten kijken, is het meest waardevolle deel niet een enkele conclusie, maar dat het duidelijk de focus van het project weergeeft: de agent is niet langer alleen ‘of hij dingen kan doen’, maar ‘of het externe systeem de aandacht en signalen heeft verzameld’. Deze stap is niet stabiel, en verdere verbetering van de modelmogelijkheden zal de chaos alleen maar sneller vergroten.