Kỹ thuật đại lý trước tiên thắt chặt bối cảnh và cảm biến

Nhìn vào một nhóm thảo luận về Kỹ thuật khai thác ngày nay, cảm giác trực quan nhất không phải là “Đại lý đã thêm một lớp khả năng mới”, mà là trọng tâm của các cuộc thảo luận kỹ thuật đã thay đổi. Trước đây, chúng tôi thường hỏi liệu mô hình có đủ mạnh không. Bây giờ, trước tiên chúng ta tập trung vào lượng ngữ cảnh cần đưa vào, thời lượng đưa vào tệp quy tắc và tín hiệu mà cảm biến đưa ra. Mô hình vẫn ở giữa, nhưng điều thực sự bắt đầu quyết định độ ổn định là dây nịt bên ngoài.

Cửa sổ ngữ cảnh càng lớn thì sự chú ý sẽ càng ổn định.

Một người nào đó trong khóa tu đã đề cập rằng agents.md nên được kiểm soát ở mức dưới 200 dòng. Con số này không phải là sự kiêu căng hay thờ phượng theo số dòng mà là một lời nhắc nhở về ngân sách. Cửa sổ ngữ cảnh càng lớn chỉ có nghĩa là có thể nhồi nhét được nhiều nội dung hơn vào đó chứ không có nghĩa là mô hình sẽ nắm bắt phần cần nắm bắt ổn định hơn. Các mô hình thường chỉ tập trung vào một phần nhỏ của bối cảnh và ngay cả khi phần còn lại của nội dung nằm trong cửa sổ thì không phải tất cả nội dung đó đều được lấy nét.

Điều này rất khó chịu trong kỹ thuật. Càng có nhiều quy tắc thì càng dễ viết “ràng buộc” là “nhiễu”; hướng dẫn càng dài thì càng dễ chôn vùi những gì thực sự phải quan sát vào một góc. Giữ tệp thật ngắn không phải là làm cho tài liệu trông gọn gàng mà là buộc các ràng buộc phải hiển thị rõ ràng. Thứ mà mô hình phải đối mặt không phải là một bộ bách khoa toàn thư mà là một hợp đồng điều hành có giới hạn.

Cảm biến không nạp lại nhật ký

Một thay đổi rõ ràng khác là cuộc thảo luận đã bắt đầu chuyển sang các cảm biến tính toán. Các cảm biến ở đây không chỉ đơn giản là bị chôn vùi, mà nhật ký hệ thống cũng không được chèn nguyên vẹn vào mô hình mà trạng thái thời gian chạy được nén thành một số lượng nhỏ tín hiệu có thể sử dụng được. Những gì nó làm là lọc tiếng ồn chứ không tạo ra gánh nặng ngữ cảnh mới.

Đây là lý do tại sao “chuyển sang Rust thay vì Python” được nói. Trọng tâm không phải là đứng về phía ngôn ngữ mà là kiểm soát. Khi cảm biến dựa vào ranh giới thời gian chạy, hạn chế tài nguyên, đường dẫn ngoại lệ và đầu ra xác định để đảm bảo chất lượng, ngôn ngữ và môi trường thực thi không còn chỉ là chi tiết triển khai mà là một phần của chính cảm biến. Nếu tín hiệu không ổn định thì dù mô hình có mạnh đến đâu cũng chỉ đưa ra dự đoán về đầu vào không ổn định.

Việc gửi dữ liệu thô trực tiếp vào mô hình có vẻ mang lại nhiều thông tin hơn trong thời gian ngắn nhưng thường chỉ khiến khung cảnh trở nên ồn ào hơn về lâu dài. Một cảm biến thực sự hữu ích trước tiên phải nén “những gì đã xảy ra” thành một vài trạng thái rõ ràng, sau đó quyết định chi tiết nào được giao cho con người và chi tiết nào cho công cụ.

Trách nhiệm của dây nịt là cắt thế giới thành những mảnh có thể đưa vào mô hình

Khi kiểu thảo luận này đã chín muồi, nó bắt đầu trông giống như thiết kế hệ thống hơn là các kỹ thuật nhắc nhở. Việc khai thác chịu trách nhiệm về các ranh giới: những gì đi vào bối cảnh, những gì nằm ngoài bối cảnh, trạng thái nào mà mô hình có thể dựa vào và trạng thái nào phải được các công cụ xác nhận lại. Nó không phải là một lớp vỏ mà là một lớp lọc và gần hơn.

Đây cũng là chi phí được đánh giá thấp nhất trong hệ thống Đại lý. Việc thay thế mô hình diễn ra nhanh chóng nhưng dây nịt chậm hơn nhiều vì nó liên kết trực tiếp với chuỗi hành động, chuỗi tín hiệu và chuỗi lỗi. Ngân sách bối cảnh, thiết kế cảm biến, ranh giới cấp phép, đường dẫn dự phòng, tất cả cuối cùng đều nằm trên lớp này. Chừng nào lớp này không chặt chẽ thì mô hình càng mạnh thì hệ thống càng dễ lan truyền sự mất ổn định hơn nữa.

Nhìn vào loại mảnh vỡ này bây giờ, phần có giá trị nhất không phải là một kết luận duy nhất mà nó nêu rõ trọng tâm của dự án: tác nhân không còn chỉ là “liệu ​​nó có thể làm được việc gì không”, mà là “liệu ​​hệ thống bên ngoài có thu hút được sự chú ý và tín hiệu hay không”. Bước này không ổn định và việc cải thiện hơn nữa khả năng của mô hình sẽ chỉ làm tăng thêm sự hỗn loạn nhanh hơn.