Temsilci mühendisliği öncelikle bağlamı ve sensörleri sıkılaştırır

Bugünlerde Harness Engineering ile ilgili bir grup tartışmaya bakıldığında, en sezgisel duygu “Ajan’ın yeni bir yetenek katmanı eklediği” değil, mühendislik tartışmalarının odağının değiştiği yönündedir. Geçmişte modelin yeterince güçlü olup olmadığını sık sık sorardık. Şimdi öncelikle ne kadar bağlam koyacağımıza, kural dosyasına ne kadar süre koyacağımıza ve sensörün hangi sinyali vereceğine odaklanıyoruz. Model hala ortadadır ancak asıl stabiliteyi belirlemeye başlayan şey dış donanımdır.

Bağlam penceresi ne kadar büyük olursa dikkat de o kadar istikrarlı olur.

İnzivadaki birisi agents.md’in 200 hattan daha azına kadar kontrol edilmesi gerektiğini söyledi. Bu sayı gösterişli ya da satır numarasına tapınma değil, daha çok bir bütçe hatırlatıcısıdır. Bağlam penceresi ne kadar büyük olursa, yalnızca içine daha fazla içerik sığdırılabileceği anlamına gelir, ancak bu, modelin kavranması gereken kısmı daha istikrarlı bir şekilde kavrayacağı anlamına gelmez. Modeller genellikle bağlamın yalnızca küçük bir kısmına odaklanır ve içeriğin geri kalanı pencerede olsa bile tamamı odakta olmayabilir.

Bu mühendislik açısından çok can sıkıcı bir durum. Ne kadar çok kural olursa, “kısıtlamaları” “gürültü” olarak yazmak o kadar kolay olur; Talimatlar ne kadar uzun olursa, gerçekten uyulması gerekenleri bir köşeye gömmek o kadar kolay olur. Dosyayı çok kısa tutmak, belgenin düzgün görünmesini sağlamak değil, kısıtlamaların görünür olmasını sağlamakla ilgilidir. Modelin karşı karşıya olduğu şey bir ansiklopedi değil, sınırlı bir işletme sözleşmesidir.

Sensör günlüğü tekrar beslemiyor

Bir diğer belirgin değişiklik ise tartışmanın hesaplamalı sensörlere doğru ilerlemeye başlamasıdır. Buradaki sensörler basitçe gömülmez veya sistem günlükleri modele sağlam bir şekilde eklenmez; çalışma zamanı durumu, az sayıda kullanılabilir sinyale sıkıştırılır. Yaptığı şey gürültüyü filtrelemek, yeni bağlamsal yükler yaratmak değil.

Bu yüzden “Python yerine Rust’a geçin” deniyor. Odak noktası dilin yanında yer almak değil, kontroldür. Bir sensör kaliteyi sağlamak için çalışma zamanı sınırlarına, kaynak kısıtlamalarına, istisna yollarına ve deterministik çıktıya güvendiğinde, dil ve yürütme ortamı artık yalnızca uygulama ayrıntıları değil, sensörün kendisinin bir parçasıdır. Eğer sinyal kararsızsa model ne kadar güçlü olursa olsun yalnızca kararsız girişe ilişkin tahminlerde bulunacaktır.

Ham verileri doğrudan modele göndermek, kısa vadede daha bilgilendirici görünebilir ancak uzun vadede genellikle sahneyi daha gürültülü hale getirir. Gerçekten kullanışlı bir sensör, öncelikle “olanları” birkaç net duruma sıkıştırmalı ve ardından hangi ayrıntıların insanlara, hangilerinin aletlere bırakılacağına karar vermelidir.

Koşumun sorumluluğu dünyayı modele beslenebilecek parçalara ayırmaktır

Bu tür bir tartışma olgunlaştığında, anlık tekniklerden çok sistem tasarımına benzemeye başlar. Koşum sınırlardan sorumludur: neyin bağlama girdiği, neyin bağlamın dışında kaldığı, modelin hangi duruma güvenebileceği ve hangi durumun araçlarla yeniden doğrulanması gerektiği. Bu bir kabuk değil, bir filtre ve kapatıcı katmanıdır.

Bu aynı zamanda Agent sistemindeki en hafife alınan maliyettir. Model değişimi hızlıdır ancak emniyet kemeri çok daha yavaştır çünkü eylem zincirini, sinyal zincirini ve arıza zincirini doğrudan bağlar. Bağlam bütçesi, sensör tasarımı, izin sınırları, geri dönüş yolları, hepsi sonuçta bu katmana düşer. Bu katman sıkı olmadığı sürece model ne kadar güçlü olursa sistemin istikrarsızlığı daha fazla yayması o kadar kolay olur.

Şimdi bu tür parçalara bakıldığında, en değerli kısım tek bir sonuç değil, projenin odağını açıkça ifade etmesidir: etmen artık sadece “bir şeyler yapıp yapamayacağı” değil, "harici sistemin dikkat ve sinyal toplayıp toplamadığı"dır. Bu adım istikrarlı değildir ve model yeteneklerindeki daha fazla gelişme yalnızca kaosu daha hızlı artıracaktır.