Intuit нашел решение проблемы привязки к ИИ-моделям: Генетические алгоритмы и "супермодель"
Корпоративные команды, работающие с искусственным интеллектом (ИИ), столкнулись с дорогостоящей дилеммой: строить сложные агентские системы, которые привязывают их к конкретным поставщикам больших языковых моделей (LLM), или постоянно переписывать запросы и конвейеры обработки данных при смене модели.
Финансовый гигант Intuit предложил прорывное решение, способное изменить подход организаций к созданию мультимодельных ИИ-архитектур.
Как и многие компании, Intuit использует несколько LLM для своих решений на основе генеративного ИИ. За последние годы платформа компании GenOS (Генеративная Операционная Система) значительно развилась, предоставляя продвинутые возможности как разработчикам Intuit, так и конечным пользователям (например, через Intuit Assist). Особый фокус компания делает на агентских рабочих процессах ИИ, которые уже ощутимо влияют на пользователей продуктов Intuit (QuickBooks, Credit Karma, TurboTax).
Обновления GenOS: Агенты и "Интеллектуальное понимание данных"
Intuit анонсировала серию обновлений GenOS, направленных на повышение производительности и общей эффективности ИИ. Среди ключевых нововведений:
Набор для создания агентов (Agent Starter Kit): Позволил 900 внутренним разработчикам построить сотни ИИ-агентов всего за пять недель.
Слой "Интеллектуального понимания данных" (Intelligent Data Cognition Layer): Решение, превосходящее традиционные подходы, такие как генерация с расширением поиска (RAG - Retrieval-Augmented Generation).
Решение проблемы привязки к вендору: Генетические алгоритмы в действии
Самое значимое достижение — решение одной из самых сложных проблем корпоративного ИИ: как создавать агентские системы, которые бесперебойно работают с разными LLM, без необходимости переписывать запросы для каждой модели.
"Ключевая проблема в том, что запрос, написанный под модель A, учитывает её специфику и оптимизацию. При переходе на модель B возникает вопрос: нужно ли его переписывать? Раньше ответ был 'да'", — пояснил Эшок Шривастава (Ashok Srivastava), Главный директор по данным (CDO) Intuit.
Сервис оптимизации запросов Intuit использует принципиально иной подход, чем распространенные системы маршрутизации запросов к разным LLM. Его задача — не найти лучшую модель для запроса, а оптимизировать сам запрос для работы с любым количеством различных LLM. В основе системы лежат генетические алгоритмы, которые автоматически создают и тестируют варианты запросов.
"Сервис трансляции запросов использует генетические алгоритмы. Они создают варианты исходного запроса и проводят внутреннюю оптимизацию", — объяснил Шривастава. "Начинается с базового набора, создается вариант, он тестируется. Если вариант эффективен, он становится новой базой, и оптимизация продолжается".
Этот подход дает не только удобство, но и конкретные операционные преимущества:
Снижение затрат: Устраняет необходимость дорогостоящей переработки кода при смене модели.
Автоматическое переключение: Обеспечивает отказоустойчивость. "Если используемая модель перестает работать, мы можем преобразовать запрос для работы с другой, доступной моделью", — отметил Шривастава.
Глубже RAG: Интеллектуальная работа со сложными данными
Пока оптимизация запросов решает проблему переносимости между моделями, инженеры Intuit выявили другую критическую сложность: интеграция ИИ с запутанными корпоративными хранилищами данных требует много времени и экспертных знаний.
Новый слой "Интеллектуального понимания данных" решает задачи интеграции гораздо сложнее, чем просто извлечение документов или RAG. Например, если компания получает набор данных от третьей стороны со сложной, незнакомой структурой (схемой), этот слой способен автоматически понять исходную схему, целевую схему компании и найти пути их сопоставления, улавливая контекст, который не видят простые методы сравнения схем.
0 комментариев