Back home

एजेंट इंजीनियरिंग सबसे पहले संदर्भ और सेंसर को मजबूत करती है

फ़्रैगमेंट्स से: 13 जुलाई, जो हम देखते हैं वह नए मॉडल की क्षमताएं नहीं हैं, बल्कि पहले दैनिक इंजीनियरिंग में प्रवेश करना है।

इन दिनों हार्नेस इंजीनियरिंग के बारे में चर्चाओं के एक समूह को देखते हुए, सबसे सहज भावना यह नहीं है कि “एजेंट ने क्षमताओं की एक नई परत जोड़ दी है”, बल्कि यह कि इंजीनियरिंग चर्चाओं का फोकस बदल गया है। अतीत में, हम अक्सर पूछते थे कि क्या मॉडल पर्याप्त मजबूत था। अब हम सबसे पहले इस पर ध्यान केंद्रित करते हैं कि कितना संदर्भ डालना है, नियम फ़ाइल में कितनी देर डालना है और सेंसर क्या संकेत देता है। मॉडल अभी भी बीच में है, लेकिन जो वास्तव में स्थिरता निर्धारित करना शुरू करता है वह बाहरी हार्नेस है।

संदर्भ विंडो जितनी बड़ी होगी, ध्यान उतना ही अधिक स्थिर होगा।

रिट्रीट में किसी ने उल्लेख किया कि agents.md को 200 लाइनों से कम पर नियंत्रित किया जाना चाहिए। यह संख्या दिखावा या पंक्ति-संख्या की पूजा नहीं है, बल्कि बजट अनुस्मारक के रूप में अधिक है। संदर्भ विंडो जितनी बड़ी होगी इसका मतलब केवल यह है कि इसमें अधिक सामग्री भरी जा सकती है, लेकिन इसका मतलब यह नहीं है कि मॉडल उस हिस्से को अधिक मजबूती से पकड़ लेगा जिसे समझा जाना चाहिए। मॉडल अक्सर संदर्भ के केवल एक छोटे से हिस्से पर ध्यान केंद्रित करते हैं, और भले ही बाकी सामग्री विंडो में हो, लेकिन यह पूरी तरह से फोकस में नहीं हो सकती है।

इंजीनियरिंग में यह बहुत कष्टप्रद है. जितने अधिक नियम होंगे, “बाधाओं” को “शोर” के रूप में लिखना उतना ही आसान होगा; निर्देश जितने लंबे होंगे, जो वास्तव में देखा जाना चाहिए उसे एक कोने में दफनाना उतना ही आसान होगा। फ़ाइल को बहुत छोटा रखना दस्तावेज़ को साफ-सुथरा दिखाने के बारे में नहीं है, बल्कि बाधाओं को दृश्यमान बनाने के लिए मजबूर करने के बारे में है। मॉडल का सामना एक विश्वकोश नहीं है, बल्कि एक सीमित परिचालन अनुबंध है।

सेंसर लॉग को दोबारा फीड नहीं करता है

एक और स्पष्ट परिवर्तन यह है कि चर्चा कम्प्यूटेशनल सेंसर तक बढ़ने लगी है। यहां सेंसर केवल दफन नहीं किए गए हैं, न ही सिस्टम लॉग को मॉडल में बरकरार रखा गया है, बल्कि रनटाइम स्थिति को कम संख्या में उपयोग करने योग्य संकेतों में संपीड़ित किया गया है। यह जो करता है वह शोर को फ़िल्टर करता है, न कि नए प्रासंगिक बोझ पैदा करता है।

यही कारण है कि “पायथन के बजाय रस्ट पर स्विच करें” कहा जाता है। ध्यान भाषा का पक्ष लेने पर नहीं, बल्कि नियंत्रण पर है। एक बार जब सेंसर गुणवत्ता सुनिश्चित करने के लिए रनटाइम सीमाओं, संसाधन बाधाओं, अपवाद पथ और नियतात्मक आउटपुट पर निर्भर करता है, तो भाषा और निष्पादन वातावरण अब केवल कार्यान्वयन विवरण नहीं हैं, बल्कि सेंसर का ही हिस्सा हैं। यदि सिग्नल अस्थिर है, तो मॉडल कितना भी मजबूत क्यों न हो, यह केवल अस्थिर इनपुट पर अनुमान लगाएगा।

कच्चे डेटा को सीधे मॉडल में भेजना अल्पावधि में अधिक जानकारीपूर्ण लग सकता है, लेकिन अक्सर लंबी अवधि में दृश्य को शोर बना देता है। वास्तव में उपयोगी सेंसर को पहले “क्या हुआ” को कुछ स्पष्ट स्थितियों में संपीड़ित करना चाहिए, और फिर यह तय करना चाहिए कि कौन सा विवरण मनुष्यों के लिए छोड़ा गया है और कौन सा उपकरण के लिए।

हार्नेस की ज़िम्मेदारी दुनिया को ऐसे टुकड़ों में काटना है जिन्हें मॉडल को खिलाया जा सके

एक बार जब इस तरह की चर्चा परिपक्व हो जाती है, तो यह त्वरित तकनीकों की तुलना में सिस्टम डिज़ाइन की तरह अधिक दिखने लगती है। हार्नेस सीमाओं के लिए ज़िम्मेदार है: संदर्भ में क्या जाता है, संदर्भ से बाहर क्या रहता है, मॉडल द्वारा किस स्थिति पर भरोसा किया जा सकता है, और किस स्थिति को टूल द्वारा पुन: पुष्टि की जानी चाहिए। यह एक खोल नहीं है, बल्कि फिल्टर और करीब की एक परत है।

यह एजेंट प्रणाली में सबसे कम अनुमानित लागत भी है। मॉडल प्रतिस्थापन तेज़ है, लेकिन हार्नेस बहुत धीमा है क्योंकि यह सीधे एक्शन चेन, सिग्नल चेन और विफलता चेन को बांधता है। संदर्भ बजट, सेंसर डिज़ाइन, अनुमति सीमाएँ, फ़ॉलबैक पथ, सभी अंततः इस परत पर आते हैं। जब तक यह परत कड़ी नहीं होती, मॉडल जितना मजबूत होगा, सिस्टम के लिए अस्थिरता फैलाना उतना ही आसान होगा।

अब इस प्रकार के अंशों को देखते हुए, सबसे मूल्यवान हिस्सा एक निष्कर्ष नहीं है, बल्कि यह स्पष्ट रूप से परियोजना का फोकस बताता है: एजेंट अब केवल “क्या वह काम कर सकता है” नहीं है, बल्कि “क्या बाहरी प्रणाली ने ध्यान और संकेत एकत्र किए हैं।” यह कदम स्थिर नहीं है, और मॉडल क्षमताओं में और सुधार केवल अराजकता को तेजी से बढ़ाएगा।

FAQ

What to read next

Related

Continue reading

后端 · 2 tags

क्लाउडफ्लेयर के खतरे के संकेतकों को वास्तविक समय के WAF नियमों में बदलना

खतरे की खुफिया जानकारी को नियम इंजन से जोड़ना मुश्किल नहीं है। प्रक्रिया में झूठी सकारात्मकता, निरसन और दायरे को एकीकृत करना कठिन है।