Sistem Agen pertama-tama memperketat anggaran konteks dan sensor

Melihat artikel Martin Fowler Fragments: July 13, kata pertama yang muncul bukanlah model score, melainkan Harness Engineering. Dalam retret tersebut, beberapa orang telah menempatkan diskusi ke dalam konteks dan sensor. Hal ini sangat mirip dengan disiplin teknik yang sedang berkembang: agen harus terlebih dahulu memperketat masukan, dan kemudian berbicara tentang perluasan tindakan.

Semakin besar jendela konteks, semakin pendek batasannya.

Ada detail yang sangat jelas dalam artikel tersebut: seseorang mengontrol agents.md hingga 200 baris. Angka ini terlihat seperti mysophobia, namun sebenarnya merupakan anggaran untuk proyek tersebut. Jendela konteksnya memang semakin besar, namun jendela yang lebih besar hanya berarti semakin banyak konten yang bisa dijejali, namun bukan berarti model akan semakin mantap menangkap bagian yang seharusnya ditangkap. Model biasanya hanya berfokus pada sebagian kecil konteks, dan meskipun konten lainnya ada, model tersebut mungkin hanya berjalan terus.

Ini adalah masalah paling umum pada dokumen panjang. Semakin banyak aturan yang ada, semakin mudah kendala yang sangat penting dikaburkan oleh kebisingan; semakin panjang uraiannya maka semakin mudah pula dituliskan batasan sebagai latar belakang dan latar belakang sebagai batasan. Mempertahankan file tetap singkat bukan untuk menghemat waktu dalam penulisan, namun untuk memaksa batasan agar terlihat, dapat dibaca, dan dapat dieksekusi. Yang dihadapi Agen bukanlah tumpukan material, melainkan kontrak operasi terbatas.

Sensor harus dikompresi menjadi sejumlah kecil sinyal yang dapat digunakan

Perubahan lainnya adalah diskusi mulai beralih ke sensor komputasi. Sensor di sini tidak sekadar mengubur titik, juga tidak memasukkan log ke model lagi, namun mengompresi status runtime menjadi sejumlah kecil sinyal stabil. Setelah sensor menjadi pemutaran keluaran asli, masukan akan diperluas lagi; pendekatan yang benar-benar berharga adalah pertama-tama membagi situasi menjadi beberapa keadaan yang jelas, dan kemudian memutuskan rincian mana yang harus diberikan kepada orang-orang dan rincian mana yang harus diberikan pada alat.

Artikel tersebut menyebutkan bahwa beralih dari Python ke bahasa yang lebih mudah dikontrol seperti Rust hanya masuk akal dalam konteks ini. Fokusnya bukan pada preferensi bahasa, namun pada kontrol. Yang dibutuhkan sensor bukanlah “berjalan”, tetapi batasan yang jelas, semantik pengecualian yang jelas, dan konsumsi sumber daya yang jelas. Selama sinyalnya tidak stabil, sekuat apa pun modelnya, model hanya dapat membuat penilaian berdasarkan masukan jitter.

Harness menutup rantai aksi terlebih dahulu

Ketika diskusi ini sudah sampai sejauh ini, tali kekang tidak lagi seperti cangkang dan lebih seperti corong. Ia bertanggung jawab untuk memutuskan apa yang masuk ke dalam konteks dan apa yang tidak; negara bagian mana yang dapat diandalkan oleh model tersebut dan negara bagian mana yang harus dikonfirmasi ulang dengan alat. Anggaran konteks, desain sensor, batasan izin, dan jalur fallback pada akhirnya akan sampai pada lapisan ini.

Biaya yang paling mudah diremehkan dalam sistem Agen juga termasuk dalam level ini. Penggantian model berlangsung cepat, namun harness jauh lebih lambat karena terikat pada rantai tindakan, rantai sinyal, dan rantai kegagalan. Selama lapisan ini tidak diperketat dan kemampuan model terus maju, sistem hanya akan memperbesar kekacauan lebih cepat.

Permintaan baca murni, skrip analisis satu kali, agen ringan tanpa tindakan eksternal, dan kemampuan model masih menjadi protagonis. Segera setelah Anda mulai menghubungkan data pribadi, status jangka panjang, dan tindakan nyata, hal pertama yang harus diperkuat bukan lagi parameter model, tetapi batas masukan dan batas sinyal. Momen ketika Agen benar-benar menyerupai suatu sistem sering kali terjadi ketika kedua lapisan ini mengambil alih terlebih dahulu.