Вывод ИИ на игровую площадку: LinkedIn объединяет LLM, LangChain и Jupyter Notebooks для улучшения оперативной разработки

Профессиональная сетевая платформа принадлежит Microsoft и в настоящее время насчитывает более 1 миллиарда учетных записей пользователей. Хотя LinkedIn — крупная организация, она столкнулась с той же базовой проблемой, с которой сталкиваются организации практически любого размера с ИИ-поколением — преодоление разрыва между техническими и нетехническими бизнес-пользователями. Для LinkedIn вариант использования ИИ-поколения касается как конечных, так и внутренних пользователей.

Почему частные вычисления должны быть частью вашей стратегии ИИ — AI Impact Tour 2024 Почему частные вычисления должны быть частью вашей стратегии ИИ — AI Impact Tour 2024

В то время как некоторые организации могут просто делиться подсказками с помощью электронных таблиц или даже просто в Slack и каналах обмена сообщениями, LinkedIn применила несколько новый подход. Компания создала то, что она называет «совместной игровой площадкой для разработки подсказок», которая позволяет техническим и нетехническим пользователям работать вместе. Система использует действительно интересное сочетание технологий, включая большие языковые модели (LLM), LangChain и Jupyter Notebooks.

LinkedIn уже использовала этот подход для улучшения своего продукта-навигатора продаж с функциями ИИ, в частности, сосредоточившись на AccountIQ — инструменте, который сокращает время исследования компании с 2 часов до 5 минут.

Как и у любой другой организации на планете, первоначальный путь LinkedIn в области ИИ начался с простой попытки выяснить, что работает.

«Когда мы начали работать над проектами с использованием ИИ, у менеджеров по продуктам всегда было слишком много идей, например: «Эй, почему бы нам не попробовать это? Почему бы нам не попробовать то?»», — рассказал VentureBeat Аджай Пракаш, инженер-программист LinkedIn. «Вся идея заключалась в том, чтобы дать им возможность заниматься оперативной разработкой и пробовать разные вещи, а не делать инженеров узким местом для всего».

Организационная проблема развертывания ИИ в техническом предприятии

Конечно, LinkedIn не новичок в мире машинного обучения (МО) и ИИ.

До того, как ChatGPT появился на сцене, LinkedIn уже создала инструментарий для измерения справедливости модели ИИ. На VB Transform в 2022 году компания изложила свою стратегию ИИ (на тот момент). Однако Gen AI немного отличается. Он не требует наличия инженеров для использования и более широко доступен. Это революция, которую вызвал ChatGPT. Создание приложений на базе Gen AI — это не совсем то же самое, что создание традиционного приложения.

Пракаш объяснил, что до появления Gen AI инженеры обычно получали набор требований к продукту от сотрудников по управлению продуктом. Затем они выходили и создавали продукт.

С Gen AI, напротив, менеджеры по продукту пробуют разные вещи, чтобы увидеть, что возможно и что работает. В отличие от традиционного МО, которое было недоступно для нетехнического персонала, Gen AI проще для всех типов пользователей.

Традиционная быстрая разработка часто создает узкие места, а инженеры выполняют роль привратников для любых изменений или экспериментов. Подход LinkedIn преобразует эту динамику, предоставляя удобный интерфейс через настраиваемые блокноты Jupyter, которые традиционно использовались для задач науки о данных и машинного обучения.

Что находится внутри игровой площадки для инженерии LinkedIn

Неудивительно, что поставщиком LLM по умолчанию, используемым LinkedIn, является OpenAI. В конце концов, LinkedIn является частью Microsoft, которая размещает платформу Azure OpenAI.

Лукаш Каролевски, старший инженерный менеджер LinkedIn, объяснил, что использовать OpenAI просто удобнее, поскольку его команда имеет более простой доступ в среде LinkedIn/Microsoft. Он отметил, что использование других моделей потребует дополнительных процессов проверки безопасности и юридической проверки, что займет больше времени. Изначально команда отдавала приоритет проверке продукта и идеи, а не оптимизации для лучшей модели.