Vectara Portal помогает неразработчикам создавать приложения с искусственным интеллектом для общения с данными: Вот как его использовать

Компания Vectara только что сделала разработку генеративного ИИ проще простого. Компания из Пало-Альто (Калифорния), один из первопроходцев в области поискового дополненного генерирования (RAG), анонсировала Vectara Portal - среду с открытым исходным кодом, которая позволяет всем желающим создавать приложения ИИ для работы с данными.

Хотя существует множество коммерческих предложений, которые помогают пользователям получать мгновенные ответы из документов, Vectara Portal отличается простотой доступа и использования. Всего несколько простых шагов, и любой человек, независимо от его технических навыков или знаний, может получить в свое распоряжение приложение для поиска, обобщения или общения, основанное на его массивах данных. Не нужно писать ни одной строчки кода.Это предложение может позволить людям, не являющимся разработчиками, реализовать несколько вариантов использования в своей организации, начиная от политики и заканчивая поиском счетов. Тем не менее, важно отметить, что о производительности еще нельзя судить, поскольку инструмент еще очень новый, и только несколько клиентов тестируют его в бета-версии.

Офер Менделевич (Ofer Mendelevitch), руководитель отдела по работе с разработчиками Vectara, рассказал VentureBeat, что поскольку Portal работает на собственной платформе RAGas-a-service компании Vectara, они ожидают массового распространения среди тех, кто не является разработчиком. Это приведет к росту популярности полноценных корпоративных предложений компании.

«Мы с нетерпением следим за тем, что будут создавать пользователи с помощью Vectara Portal. Мы надеемся, что уровень точности и релевантности их документов продемонстрирует всю мощь (корпоративных) систем RAG от Vectara», - сказал он.Портал доступен как приложение, размещенное Vectara, а также как предложение с открытым исходным кодом под лицензией Apache 2.0. В основе Vectara Portal лежит идея создания пользователями порталов (пользовательских приложений) и последующего предоставления их целевой аудитории для использования.

Сначала пользователь должен создать учетную запись Portal с помощью своих основных учетных данных Vectara и настроить профиль с помощью своего идентификатора Vectara, ключа API и идентификатора клиента OAuth. Как только профиль будет готов, пользователю нужно будет перейти к кнопке «Создать портал» и заполнить основные данные: название планируемого приложения, его описание и то, как оно должно работать - как инструмент семантического поиска, приложение для подведения итогов или помощник в разговорном чате. После этого нажатие кнопки «Создать» добавит его на страницу управления порталами инструмента.На экране управления порталом пользователь открывает созданный портал, заходит в его настройки и добавляет любое количество документов для обоснования/настройки приложения под свои данные. По мере загрузки этих файлов они индексируются платформой RAG-as-a-service компании Vecatara, на базе которой работает бэкэнд портала, и предоставляют точные ответы без галлюцинаций.

Это (платформа) означает мощный поисковый механизм, нашу современную модель встраивания Boomerang, многоязычный ретранслятор, уменьшение галлюцинаций и в целом гораздо более высокое качество ответов на вопросы пользователей портала». Будучи продуктом без кода, разработчики могут с помощью нескольких щелчков мыши быстро создавать продукты с искусственным интеллектом», - сказал Менделевич.

Руководитель отдела по работе с разработчиками отметил, что когда пользователь создает портал и добавляет документы, бэкэнд инструмента создает «корпус», относящийся к этим данным, в основной учетной записи пользователя Vectara. Этот корпус служит местом хранения всех документов, связанных с порталом. Таким образом, когда пользователь задает вопрос на портале, API RAG от Vectara выполняет запрос по связанному с ним корпусу документов, чтобы получить наиболее релевантный ответ.