Выжимка из книги Ли Боцзе «Глубокое понимание AI Agent: принципы проектирования и инженерная практика» (Pine AI, v2.0, 2026).**
- Непрерывная эволюция агентов**
Хранение опыта в контексте/векторной базе ≠ обучение на нём — нужна активная оценка/сопоставление/обобщение. Не меняй параметры по непроверенной обратной связи — сначала кандидатная версия с регрессией и проверкой безопасности.
Трёхуровневая проверка траектории: результат (реальное состояние среды) → процесс (разрешённым способом, код) → качество (LLM-as-Judge). Сигнал: статус + вывод по измерению + локализация + метка отказа.
4 носителя обновления по представимости: факты → база знаний; словесные принципы → Prompt/Skill; детерминированные процессы → программы/Harness; неявное → параметры. Взаимодополняющие. Маршрутизация даёт только предложение, не право на выпуск.
Опыт→знания: траектория → анализ → обобщённый документ по множеству случаев, с подтверждением несколькими траекториями и положительным переносом.
Опыт→инструкции: поднимай правило, только когда множество траекторий обнажают одну ошибку. Минимальный diff с источником. Тестируй на граничном И удерживающем наборах — модель может принять дефект за «разумное поведение».
Опыт→программы: компилируй повторяющиеся траектории в параметризованный код (проверки ДО/ПОСЛЕ + итоговая проверка). Самомодификация — кандидатная ветвь → тесты → регрессия → canary, никогда напрямую.
Опыт→параметры: решает представимость способности, не стабильность задачи.
Онлайн-контур (выполнение+фиксация, не меняет агента) отдельно от офлайн (агрегация→диагностика→кандидат→проверка→публикация). Разделяй Harness updating и Harness benefit. Оценивай по 5 категориям: регрессия, обобщение, токены, безопасность, инженерное качество.
В открытых задачах — разделяй выводы и свидетельства, сохраняй отрицательные результаты и разнообразие веток, переноси человека на уровень постановки проблемы.
3 границы безопасности: недоверенный источник не пишется в Skill напрямую; кандидатная/официальная зона разделены; запрет самомодификации проверяющих механизмов. «Обучение во сне»: порог → ориентация → сбор → проверка → индексирование.
Продолжение следует...