Система агентов сначала оптимизирует контекстный бюджет и датчики.

Глядя на статью Мартина Фаулера Фрагменты: 13 июля, первое слово, которое всплывает на ум, — это не оценка модели, а «Проектирование проводки». На ретрите некоторые люди уже включили обсуждение в контекст и датчики. Этот вопрос очень похож на зарождающуюся инженерную дисциплину: агент должен сначала ужесточить ввод, а затем уже говорить о расширении действия.

Чем больше контекстное окно, тем короче ограничения.

В статье есть очень простая деталь: кто-то контролировал agents.md с точностью до 200 строк. Эта цифра выглядит мизофобией, но на самом деле это бюджет проекта. Контекстное окно действительно становится все больше и больше, но увеличение окна означает лишь то, что в него можно втиснуть больше контента, но это не значит, что модель будет более твердо захватывать ту часть, которую следует уловить. Модель обычно фокусируется только на небольшой части контекста, и даже если остальной контент присутствует, он может просто продолжаться.

Это наиболее распространенная проблема с длинными документами. Чем больше правил, тем легче действительно важные ограничения затенить шумом; чем длиннее описание, тем легче написать границу как фон, а фон как границу. Короткие файлы предназначены не для экономии времени при написании, а для того, чтобы ограничения стали видимыми, читаемыми и исполняемыми. Перед Агентом стоит не куча материалов, а ограниченный операционный контракт.

Датчик должен быть сжат до небольшого количества полезного сигнала.

Еще одно изменение заключается в том, что обсуждение начало переходить к вычислительным датчикам. Датчики здесь не просто закапывают точки и не пересылают логи в модель снова, а сжимают статус времени выполнения в небольшое количество стабильных сигналов. Как только датчик станет исходным выходным воспроизведением, вход снова расширится; действительно ценный подход состоит в том, чтобы сначала разрезать сцену на несколько четких состояний, а затем решить, какие детали следует передать людям, а какие — инструментам.

В статье упоминалось, что переход с Python на более управляемый язык, такой как Rust, имеет смысл только в этом контексте. Основное внимание уделяется не языковым предпочтениям, а контролю. Датчику нужен не «бег», а четкие границы, четкая семантика исключений и четкое потребление ресурсов. Пока сигнал нестабилен, независимо от того, насколько сильна модель, она может делать выводы только на основе входного джиттера.

Harness первым замыкает цепочку действий

Как только дискуссия зайдет так далеко, упряжь станет не столько панцирем, сколько рупором. Он отвечает за принятие решения о том, что входит в контекст, а что остается вне его; на какие состояния можно положиться в модели, а какие состояния необходимо подтвердить с помощью инструментов. Бюджет контекста, конструкция датчиков, границы разрешений и резервные пути — все это в конечном итоге перейдет на этот уровень.

На этот уровень также приходится наиболее легко недооцениваемая стоимость в системе «Агент». Замена модели происходит быстро, но привязка происходит намного медленнее, поскольку она привязана к цепочке действий, цепочке сигналов и цепочке отказов. Пока этот уровень не будет ужесточен и возможности модели будут развиваться, система будет только быстрее усиливать хаос.

Чистые запросы на чтение, одноразовые сценарии анализа, легкие агенты без внешних действий и возможности модели по-прежнему остаются главными героями. Как только вы начнете связывать приватные данные, долгосрочные состояния и реальные действия, первое, что нужно укрепить – это уже не параметры модели, а входные границы и границы сигналов. В тот момент, когда Агент действительно становится похожим на систему, часто первыми возникают эти два уровня.