ИИ-агент
ИИ-агент — модель, которой дали инструменты и право действовать в цикле: она сама решает, какой шаг сделать, выполняет его, смотрит на результат и продолжает, пока задача не решена.
Как это работает
Обычная модель отвечает один раз на один запрос. Агент получает цель и набор инструментов — поиск, чтение файлов, вызов API, запуск кода — и работает циклом: выбрать действие, выполнить, оценить результат, выбрать следующее.
Ключевое отличие в том, что план не задан заранее. Модель сама решает, сколько шагов понадобится и какие, поэтому одна и та же задача может решаться по-разному от запуска к запуску.
Отсюда и главная сложность: ошибка на раннем шаге тянется через весь цикл. Агент, неверно понявший задачу, будет уверенно и добросовестно делать не то — и остановить его должны внешние ограничения, а не он сам.
Что важно при использовании
- Ограничивайте праваДоступ на чтение и доступ на запись — разные вещи. Необратимые действия должны требовать подтверждения.
- Ставьте предел на число шаговБез ограничения агент способен уйти в длинный цикл, тратя время и деньги на бесполезную работу.
- Проверяйте промежуточные шагиИтоговый ответ может выглядеть убедительно при ошибке в середине. Смотрите, что именно он делал.
- Узкая задача надёжнее широкойАгент, у которого одна понятная цель и три инструмента, ошибается заметно реже универсального.