Skip to content

Выжимка из книги Ли Боцзе «Глубокое понимание AI Agent: принципы проектирования и инженерная практика» (Pine AI, v2.0, 2026).**

  1. Непрерывная эволюция агентов**

Хранение опыта в контексте/векторной базе ≠ обучение на нём — нужна активная оценка/сопоставление/обобщение. Не меняй параметры по непроверенной обратной связи — сначала кандидатная версия с регрессией и проверкой безопасности.

Трёхуровневая проверка траектории: результат (реальное состояние среды) → процесс (разрешённым способом, код) → качество (LLM-as-Judge). Сигнал: статус + вывод по измерению + локализация + метка отказа.

4 носителя обновления по представимости: факты → база знаний; словесные принципы → Prompt/Skill; детерминированные процессы → программы/Harness; неявное → параметры. Взаимодополняющие. Маршрутизация даёт только предложение, не право на выпуск.

Опыт→знания: траектория → анализ → обобщённый документ по множеству случаев, с подтверждением несколькими траекториями и положительным переносом.

Опыт→инструкции: поднимай правило, только когда множество траекторий обнажают одну ошибку. Минимальный diff с источником. Тестируй на граничном И удерживающем наборах — модель может принять дефект за «разумное поведение».

Опыт→программы: компилируй повторяющиеся траектории в параметризованный код (проверки ДО/ПОСЛЕ + итоговая проверка). Самомодификация — кандидатная ветвь → тесты → регрессия → canary, никогда напрямую.

Опыт→параметры: решает представимость способности, не стабильность задачи.

Онлайн-контур (выполнение+фиксация, не меняет агента) отдельно от офлайн (агрегация→диагностика→кандидат→проверка→публикация). Разделяй Harness updating и Harness benefit. Оценивай по 5 категориям: регрессия, обобщение, токены, безопасность, инженерное качество.

В открытых задачах — разделяй выводы и свидетельства, сохраняй отрицательные результаты и разнообразие веток, переноси человека на уровень постановки проблемы.

3 границы безопасности: недоверенный источник не пишется в Skill напрямую; кандидатная/официальная зона разделены; запрет самомодификации проверяющих механизмов. «Обучение во сне»: порог → ориентация → сбор → проверка → индексирование.

Продолжение следует...