Il sistema dell'agente innanzitutto restringe il budget e i sensori del contesto

Guardando l’articolo di Martin Fowler Fragments: July 13, la prima parola che salta fuori non è model score, ma Harness Engineering. Nel ritiro, alcune persone hanno già contestualizzato e rilevato la discussione. Questa questione è molto simile a una disciplina ingegneristica emergente: l’agente deve prima restringere l’input e poi parlare dell’espansione dell’azione.

Più grande è la finestra di contesto, più brevi saranno i vincoli.

C’è un dettaglio molto semplice nell’articolo: qualcuno controllava agents.md entro 200 righe. Questa cifra sembra una misofobia, ma in realtà è un budget per il progetto. La finestra di contesto sta effettivamente diventando sempre più grande, ma una finestra più grande significa solo che è possibile stiparvi più contenuto, ma non significa che il modello afferrerà più saldamente la parte che dovrebbe essere afferrata. Il modello di solito si concentra solo su una piccola parte del contesto e, anche se il resto del contenuto è presente, potrebbe semplicemente andare avanti.

Questo è il problema più comune con i documenti lunghi. Più regole ci sono, più è facile che i vincoli veramente importanti vengano oscurati dal rumore; più lunga è la descrizione, più facile sarà scrivere il confine come sfondo e lo sfondo come confine. Mantenere i file brevi non significa risparmiare tempo nella scrittura, ma forzare i vincoli a diventare visibili, leggibili ed eseguibili. Ciò che l’Agente deve affrontare non è un mucchio di materiali, ma un contratto operativo limitato.

Il sensore deve essere compresso in una piccola quantità di segnale utilizzabile

Un altro cambiamento è che la discussione ha iniziato a spostarsi sui sensori computazionali. I sensori qui non stanno semplicemente seppellendo punti, né alimentano nuovamente i log al modello, ma comprimono lo stato di runtime in un piccolo numero di segnali stabili. Una volta che il sensore diventa la riproduzione dell’uscita originale, l’ingresso si espanderà nuovamente; l’approccio veramente valido è quello di suddividere prima la scena in diversi stati chiari, quindi decidere quali dettagli dovrebbero essere forniti alle persone e quali dettagli dovrebbero essere forniti agli strumenti.

L’articolo menzionava che il passaggio da Python a un linguaggio più controllabile come Rust ha senso solo in questo contesto. L’attenzione non è sulla preferenza della lingua, ma sul controllo. Ciò di cui il sensore ha bisogno non è “funzionamento”, ma confini chiari, semantica chiara delle eccezioni e consumo chiaro delle risorse. Finché il segnale è instabile, non importa quanto sia forte il modello, può solo dare giudizi basati sull’input jitter.

L’imbracatura chiude per prima la catena di azioni

Una volta che la discussione arriva a questo punto, l’imbracatura diventa meno simile a una conchiglia e più simile a un bocchino. È responsabile di decidere cosa rientra nel contesto e cosa resta fuori; su quali stati si può fare affidamento dal modello e quali stati devono essere riconfermati dagli strumenti. Il budget del contesto, la progettazione del sensore, i limiti delle autorizzazioni e i percorsi di fallback arriveranno finalmente a questo livello.

Su questo livello rientra anche il costo più facilmente sottostimato nel sistema degli Agenti. La sostituzione del modello è veloce, ma il cablaggio è molto più lento perché è legato a una catena di azioni, a una catena di segnali e a una catena di guasti. Finché questo livello non viene rafforzato e le capacità del modello progrediscono, il sistema non farà altro che amplificare il caos più velocemente.

Richieste di pura lettura, script di analisi una tantum, agenti leggeri senza azioni esterne e funzionalità del modello sono ancora i protagonisti. Non appena si inizia a collegare dati privati, stati a lungo termine e azioni reali, la prima cosa da rafforzare non sono più i parametri del modello, ma i confini degli input e i confini dei segnali. Il momento in cui un agente assomiglia davvero a un sistema è spesso quando questi due livelli prendono il sopravvento.