ИИ-финансовый агент: безопасный пилот без доступа к платежам

ИИ-финансовый агент безопаснее всего начинать как помощника по сверке и объяснению данных. Он читает отдельную копию выгрузки, считает по заданным правилам, показывает источник каждой строки и готовит черновик отчёта. Платежи, проводки, налоговые решения и инвестиционные действия в такой пилот не входят.

Какой результат поручить первому финансовому агенту

Под финансовым агентом могут понимать советника, бухгалтерского помощника, систему контроля бюджета или исполнителя платежей. Здесь рассматривается узкий аналитический вариант: сверить выгрузку операций, найти расхождения и подготовить проверяемый отчёт для человека. Такой результат можно протестировать без подключения к боевому банку или учётной системе.

Банк России относит аналитику данных, управление рисками, противодействие мошенничеству и автоматизацию документов к направлениям применения ИИ в финансах, но подчёркивает ответственное управление рисками в официальной справке о финтехе. Это не означает, что модель можно ставить между пользователем и деньгами без контроля.

Выберите одну задачу и один источник истины

Для первого цикла выберите одну проверку: распределение расходов по утверждённым категориям, поиск дублей, сверка итогов за период или подготовка списка операций без подтверждающего документа. Не соединяйте сразу банк, кассу, бухгалтерию и CRM. Чем больше систем, тем труднее понять, где возникло расхождение.

1. Зафиксируйте период, валюту и источник, который считается первичным.
2. Экспортируйте копию данных без токенов, паролей и лишних персональных полей.
3. Опишите входные колонки и правило знака: расход отрицательный или хранится отдельным типом.
4. Задайте ожидаемый результат, например таблицу расхождений и итог по каждой категории.
5. Назначьте человека, который сверяет отчёт и принимает решение вне агента.

Если агент может сам отправить деньги, изменить проводку или подтвердить отчётность, это уже не безопасный аналитический пилот. Верните права к чтению и отдельному черновику.

Составьте контракт данных

Контракт данных нужен до первого запуска. Для каждой колонки укажите смысл, допустимый формат, обязательность и обработку пустого значения. Минимальный набор для сверки обычно включает идентификатор операции, дату, сумму, валюту, описание и источник. Категорию лучше хранить отдельно от исходного описания, чтобы агент не переписывал первичную запись.

• Идентификатор не должен меняться между повторными выгрузками.
• Дата должна иметь один формат и одну часовую зону для всего набора.
• Сумма хранится числом, а не строкой с пробелами и знаком валюты.
• Валюта обязательна даже тогда, когда в тесте используется только одна.
• Пустое поле не превращается в догадку: агент записывает «не определено».
• Любое преобразование сохраняет ссылку на исходную строку.

Если исходные данные находятся в базе, начните с отдельной учётной записи только на чтение и ограниченного представления. Последовательность такого теста разобрана в материале про ИИ-агента для базы данных.

По теме: Личный ИИ-агент: как настроить безопасную работу

Разделите расчёт и объяснение

Суммы, группировки, поиск точных дублей и проверку баланса выполняйте детерминированным кодом или формулами. Агенту поручайте объяснение аномалий, подбор категории из закрытого справочника и подготовку вопросов человеку. Так один и тот же набор данных даёт один и тот же числовой итог, даже если текст пояснения меняется.

Полезный формат строки расхождения содержит четыре поля: исходный идентификатор, вычисленное правило, причина флага и требуемое действие человека. Вместо общего комментария агент возвращает трассу решения, по которой можно найти конкретную запись.

Ограничьте права по зонам

Разделите действия на четыре зоны. Зелёная зона читает тестовую копию и строит черновик. Жёлтая предлагает категорию или пояснение, но не сохраняет его в системе. Красная меняет проводку, получателя или реквизиты и всегда остаётся вне агента. Закрытая зона содержит секреты, полные платёжные данные и административные ключи, к ней агент не подключается.

Для критичных процессов, включая платёжные операции, Банк России рекомендует подтверждение сотрудником. Это прямо указано в рекомендациях по безопасному использованию ИИ в финансовой сфере. Даже при ручном подтверждении технические права инструмента должны запрещать незаметный обход этого шага.

Если агент собран на OpenAI Agents SDK, чувствительный вызов можно ставить на паузу до решения человека через механизм approvals, описанный в официальном руководстве Human-in-the-loop. Проверки аргументов и результата инструмента следует делать на каждом вызове, а не только в начале и конце цепочки; такую границу уточняет документация по tool guardrails.

По теме: ИИ-агент-аналитик: как настроить и проверить результат

Проведите контрольный прогон

Для проверки нужен набор контрольных случаев. Подготовьте маленькую копию, где итог известен заранее: обычная операция, точный дубль, возврат, пустое описание, другая валюта и строка за пределами периода. Для каждого случая заранее запишите ожидаемую категорию или ожидаемый флаг.

• Количество входных строк совпало с суммой обработанных и отклонённых.
• Сумма по исходной выгрузке совпала с суммой по категориям с учётом исключённых строк.
• Каждый флаг содержит исходный идентификатор и понятную причину.
• Повторный запуск на том же файле не создаёт второй экземпляр отчёта.
• Строки другой валюты не складываются с основной без явного курса и даты.
• Попытка записать изменение или вызвать платёж завершается отказом.

После теста возьмите случайную выборку и пересчитайте её независимо. Общая методика проверки источников, расчётов и повторяемости есть в статье как проверять ответы ИИ-агента.

Диагностика расхождений

Если итог не сходится, не просите агента «исправить всё». Идите по цепочке: число строк, дубли идентификаторов, период, знак суммы, валюта, пропуски, затем правила категорий. Сохраняйте первый отличающийся идентификатор. Он полезнее длинного объяснения, потому что позволяет повторить ошибку на одной записи.

Если категории нестабильны, сократите справочник, добавьте примеры на границе и разрешите ответ «нужно уточнение». Если агент теряет строки, сравнивайте машинный список идентификаторов до и после обработки. Если отчёт выглядит верно, но не воспроизводится, верните расчёт из текста в формулу или скрипт.

По теме: Как проверять ответы ИИ-агента: доказательства и повторяемость

Когда финансовый агент не подходит

Не используйте такой агент для самостоятельной покупки активов, выдачи кредита, налоговой декларации, расчёта обязательного резерва или принятия решения, от которого зависят права клиента. Он также не подходит, если исходные данные неполны, нет владельца источника или невозможно получить контрольный итог. В этих случаях нужен профильный специалист и формальная процедура.

Для более общего внедрения сначала определите владельца процесса, метрику качества и способ остановки. Каркас пилота без скрытой автоматизации описан в статье об ИИ-агентах для бизнеса.

Частые вопросы

Можно ли подключить финансового агента прямо к банку?

Для первого пилота это не нужно. Используйте обезличенную копию выгрузки. Прямое подключение требует отдельной модели угроз, минимальных прав, журналирования и подтверждения критичных действий.

Может ли агент давать инвестиционные рекомендации?

Генеративный ответ не заменяет лицензированную услугу и проверку специалиста. В описанном сценарии агент только сверяет факты и готовит вопросы, а не распоряжается активами.

Что делать с персональными данными?

Удалите поля, которые не нужны для проверки, замените идентификаторы тестовыми и храните копию по правилам вашей организации. Не передавайте токены и полные реквизиты в промпт.

Как понять, что пилот готов к следующему этапу?

Он повторяемо проходит контрольные случаи, объясняет каждое расхождение через исходную строку, не получает прав записи и оставляет человеку ясный список решений. Расширять доступ до этого нельзя.