Production Agentic AI System для Monite API
Мульти агентная AI система для финансовой платформы с многоступенчатым пайплайном, структурным логированием и Schema Guided Reasoning
Технологии
Я разработал продвинутую мульти-агентную AI-систему для финансовой платформы в Monite, которая позволила пользователям взаимодействовать с финансовыми данными в Monite API на естественном языке. Проект решил критические проблемы традиционных агентских подходов: непредсказуемое поведение и галлюцинации при работе со сложными финансовыми данными.
От “Магической Монолитной Коробки” к Инженерному Решению
Первоначальный single-agent подход показал критические недостатки:
- Быстрое переполнение контекста после 2-3 диалогов
- Галлюцинации с финансовыми данными
- Недетерминированное поведение, фактически неприемлемое для финтеха
- Tool-call хаос с десятками функций
Архитектурным решением выступил оркестрированный мульти-агентный пайплайн с явным распределением ответственностей для каждого под-агента.
В проекте вместо обычного промптинга используется SoTA паттерн Schema Guided Reasoning, и подход библиотеки semantic-router для детерминированного определения внутренних функций, извлекающих данные для обслуживания одного или нескольких интересов из запроса пользователя (интересы/intents извлекаются из запросов предварительно).
SGR направляет внимание каждого агента к систематическому “рассуждению” через предустановленную схему.
Целевая система получилась предсказуемая, прозрачная для отслеживания результатов работы и отладки, и самое главное – великолепно открыта к функциональному расширению. Архитектура позволяет добавлять десятки и сотни функций без серьёзного трейд-оффа в точности.