Het Agent-systeem scherpt eerst het contextbudget en de sensoren aan

Kijkend naar het artikel van Martin Fowler Fragmenten: 13 juli, is het eerste woord dat opduikt niet modelscore, maar Harness Engineering. Tijdens de retraite hebben sommige mensen de discussie al in context en sensoren geplaatst. Deze kwestie lijkt veel op een opkomende technische discipline: de agent moet eerst de input aanscherpen en dan praten over de actie-uitbreiding.

Hoe groter het contextvenster, hoe korter de beperkingen.

Er staat een heel duidelijk detail in het artikel: iemand bestuurde agents.md tot binnen 200 regels. Dit getal lijkt op mysofobie, maar is eigenlijk een budget voor het project. Het contextvenster wordt inderdaad steeds groter, maar het grotere venster betekent alleen dat er meer inhoud in kan worden gepropt, maar het betekent niet dat het model het deel dat moet worden begrepen steviger zal begrijpen. Het model richt zich doorgaans slechts op een klein deel van de context, en zelfs als de rest van de inhoud aanwezig is, kan het zijn dat deze gewoon doorloopt.

Dit is het meest voorkomende probleem bij lange documenten. Hoe meer regels er zijn, des te gemakkelijker het is om de echt belangrijke beperkingen te verdoezelen door ruis; hoe langer de beschrijving, hoe gemakkelijker het is om de grens als achtergrond en de achtergrond als grens te schrijven. Het kort houden van bestanden is niet om tijd te besparen bij het schrijven, maar om beperkingen zichtbaar, leesbaar en uitvoerbaar te maken. Waar de agent voor staat is geen stapel materialen, maar een beperkt exploitatiecontract.

De sensor moet worden gecomprimeerd tot een kleine hoeveelheid bruikbaar signaal

Een andere verandering is dat de discussie zich begint te verplaatsen naar computationele sensoren. De sensoren hier begraven niet simpelweg punten, noch voeren ze de logs opnieuw naar het model, maar comprimeren de runtimestatus in een klein aantal stabiele signalen. Zodra de sensor de oorspronkelijke uitvoerweergave wordt, zal de invoer weer uitbreiden; de werkelijk waardevolle aanpak is om eerst de scène in verschillende duidelijke toestanden op te delen en vervolgens te beslissen welke details aan mensen moeten worden gegeven en welke details aan hulpmiddelen moeten worden gegeven.

In het artikel werd vermeld dat het overstappen van Python naar een beter beheersbare taal zoals Rust alleen in deze context zinvol is. De nadruk ligt niet op taalvoorkeur, maar op controle. Wat de sensor nodig heeft is niet “lopen”, maar duidelijke grenzen, duidelijke uitzonderingssemantiek en duidelijk hulpbronnenverbruik. Zolang het signaal onstabiel is, hoe sterk het model ook is, kan het alleen oordelen op basis van jitterinvoer.

Harnas sluit eerst de actieketen

Zodra deze discussie zover is gekomen, wordt het harnas minder een schelp en meer een mondstuk. Het is verantwoordelijk voor het beslissen wat in de context past en wat er buiten blijft; op welke staten kan het model vertrouwen en welke staten moeten opnieuw worden bevestigd door instrumenten. Contextbudget, sensorontwerp, toestemmingsgrenzen en terugvalpaden zullen uiteindelijk allemaal op deze laag terechtkomen.

De gemakkelijkst te onderschatten kosten in het Agent-systeem vallen ook op dit niveau. Modelvervanging is snel, maar het harnas is veel langzamer omdat het gebonden is aan een actieketen, een signaalketen en een faalketen. Zolang deze laag niet wordt aangescherpt en de modelmogelijkheden vooruitgaan, zal het systeem de chaos alleen maar sneller vergroten.

Pure leesverzoeken, eenmalige analysescripts, lichtgewicht agenten zonder externe acties en modelmogelijkheden zijn nog steeds de hoofdrolspelers. Zodra je privégegevens, langetermijntoestanden en echte acties met elkaar gaat verbinden, zijn het eerste wat je moet verharden niet langer de modelparameters, maar de invoergrenzen en signaalgrenzen. Het moment waarop een Agent echt op een systeem lijkt, is vaak het moment waarop deze twee lagen als eerste aan de orde komen.