Настройка ИИ-агента: цель, инструменты, права и проверка

Настройка ИИ-агента начинается не с выбора модели, а с одной измеримой задачи и правил безопасного завершения. Затем агенту дают только нужные инструменты, данные и права, определяют формат результата и прогоняют контрольный сценарий. Эта схема подходит для исследования, работы с файлами, поддержки и автоматизации, но не для необратимых действий без подтверждения человека.

Сформулируйте контракт результата

ИИ-агент отличается от обычного чата тем, что сам планирует действия и вызывает инструменты. OpenAI определяет агент как модель с инструкциями, инструментами и дополнительным поведением, включая guardrails и handoffs (OpenAI Agents SDK). Поэтому фраза «помогай с бизнесом» не является настройкой: невозможно проверить, закончил ли агент работу правильно.

• Исходные данные: что агент получает и чему может доверять.
• Результат: файл, таблица, список решений или изменённый объект.
• Критерий готовности: признаки, которые можно проверить без догадки.
• Запреты: какие данные, системы и действия не входят в задачу.
• Остановка: когда агент обязан спросить человека или завершить работу.

Безопасный пример: «Получить пять новых обращений из тестовой таблицы, распределить их по трём категориям, записать решение в новый столбец, не менять исходные поля и остановиться при пустом email». Здесь известны вход, выход, граница записи и условие остановки.

Если результат нельзя принять по короткому чек-листу, агенту рано давать право действовать автоматически.

Дайте минимальный набор инструментов

Инструменты позволяют агенту читать файлы, искать данные, запускать код и обращаться к внешним API. В OpenAI Agents SDK инструменты делятся на управляемые сервисом, локальные и функции приложения; агент может также вызывать другого агента как инструмент (официальный каталог). Каждая новая возможность расширяет не только пользу, но и поверхность ошибки.

1. Начните только с чтения одного источника и формирования черновика результата.
2. Добавьте запись в отдельный тестовый объект, а не в боевые данные.
3. Включите подтверждение для отправки сообщения, удаления, оплаты и публикации.
4. Ограничьте доступ конкретной папкой, таблицей, проектом или доменом.
5. Добавляйте следующий инструмент только после успешного контрольного прогона.

Если вы ещё выбираете среду, сравните варианты в статье о платформах ИИ-агентов. Настройка ниже не зависит от бренда: принцип наименьших прав работает и в конструкторе, и в коде.

По теме: 30 продуктов, которые можно навайбкодить для своего бизнеса

Разделите разрешения на три уровня

Практическое правило выбора: чтение обычно разрешают автоматически внутри узкой области, обратимую запись проводят в тестовой копии, необратимое действие требует подтверждения. Anthropic описывает настройку прав похожим образом: пользователь может разрешить инструмент, потребовать одобрение или заблокировать его. Компания связывает надёжность агента с человеческим контролем, прозрачностью и защитой данных (Trustworthy agents in practice).

• Автоматически: чтение согласованной папки, поиск в открытых источниках, расчёт черновика.
• После проверки: запись в тестовую таблицу, создание чернового файла, обновление копии.
• Только по подтверждению: отправка писем, публикация, удаление, покупка, изменение доступа и работа с персональными данными.

Настройте память и источник истины

Память нужна не всегда. Для разовой обработки файла достаточно входного документа и инструкции. Долгая память полезна, когда агент должен помнить предпочтения или состояние процесса, но устаревшая запись может конфликтовать с текущими данными. Укажите, какой источник главный и когда память надо игнорировать.

1. Перечислите доверенные источники по приоритету.
2. Добавьте дату или версию к правилам, которые меняются.
3. Запретите агенту заменять факт догадкой при отсутствии данных.
4. Храните минимально необходимый контекст и задайте срок удаления.
5. Показывайте человеку, какую память агент использовал для решения.

Задайте критерий остановки и бюджет

Агент работает циклом: планирует, действует, наблюдает и корректирует шаги. Без остановки он может повторять один сбой, тратить лимит или создавать дубликаты. Установите максимальное число попыток, время выполнения, число внешних вызовов и список ошибок, после которых нужна помощь человека.

• Успех: все пункты приёмки выполнены и сохранено доказательство.
• Мягкая остановка: не хватает данных, требуется выбор пользователя.
• Жёсткая остановка: ошибка доступа, неожиданная область данных, конфликт инструкций или необратимое действие.
• Лимит: задано максимальное число повторов одного этапа.

Для регулярной работы полезна отдельная проверка результата, а не самооценка агента. В чек-листе проверки ответов ИИ-агента разобраны доказательства, повторяемость и выборочная ручная сверка.

По теме: Codex Plugins: что это и как пользоваться плагинами

Проведите контрольный прогон

Соберите маленький набор из нормального случая, пустых данных, запрещённого действия и конфликтной инструкции внутри документа. Последний случай проверяет устойчивость к тексту, который пытается изменить задачу агента.

1. Запустите агента только в тестовой среде.
2. Сравните каждое действие с разрешённым списком.
3. Проверьте, что в журнале есть вход, выбранный инструмент, результат и причина остановки без секретов.
4. Повторите тот же сценарий и сравните существенные результаты.
5. Подайте запрещённое действие и убедитесь, что агент запросил подтверждение или остановился.
6. Верните тестовую среду в исходное состояние и запишите способ отката.

Guardrails помогают проверять вход и итог, а для контроля каждого вызова функции OpenAI рекомендует tool guardrails до и после инструмента (официальное руководство). Это техническая защита, но она не заменяет правильные права внешней системы.

Диагностика по симптому

• Агент ходит по кругу: добавьте лимит попыток и условие эскалации.
• Выбирает не тот источник: задайте приоритет и покажите источник в результате.
• Пишет лишние данные: сузьте схему выхода и права записи.
• Не вызывает нужный инструмент: уточните условие применения и проверьте доступность инструмента отдельно.
• Слишком часто просит подтверждение: отделите безопасное чтение от записи и необратимых действий.
• Делает уверенный вывод при пустых данных: добавьте обязательный статус «недостаточно данных».
• Результат нельзя повторить: фиксируйте вход, версии правил и журнал действий.

По теме: Claude JSON: структурированный вывод и проверка схемы

Когда агент не нужен

Если процесс состоит из трёх неизменных шагов и не требует выбора по контексту, обычный сценарий или автоматизация надёжнее и дешевле. Не давайте агенту финансовые, юридические, медицинские или публичные полномочия без ответственного человека. Для первой практики полезнее понять отличие агента от чат-бота, затем автоматизировать один узкий этап.

Финальный чек-лист

• Есть одна измеримая цель.
• Вход и результат описаны явно.
• Инструментов не больше, чем нужно задаче.
• Необратимые действия требуют подтверждения.
• Источник истины и правила памяти определены.
• Есть лимит попыток и время остановки.
• Журнал не содержит секретов.
• Контрольный набор включает ошибку и запрет.
• Откат проверен до боевого запуска.

Частые вопросы

Сколько инструментов дать агенту сначала?

Минимум для одного результата. Обычно достаточно чтения источника и создания черновика. Запись и отправку добавляйте после успешной проверки.

Нужна ли агенту постоянная память?

Нет. Для разовой задачи она создаёт лишний риск. Добавляйте память только когда известно, что хранить, сколько времени и как исправлять устаревшие записи.

Можно ли разрешить автоматическую публикацию?

Только после тестового периода, ограничений и понятного отката. Для нового процесса оставьте публикацию на подтверждении человека.

Как понять, что настройка закончена?

Агент повторяемо проходит нормальный сценарий, останавливается на запрещённом, оставляет проверяемый журнал и не выходит за разрешённую область.