Шутки шутками (вспомним классический диалог: "Какой продукт требует машинного обучения?" – "Да!"), но революция генеративного ИИ перевернула наши представления о том, где уместно применять ML.
Раньше машинное обучение использовали в основном для предсказуемых, повторяющихся шаблонов в пользовательском опыте. Теперь же появилась возможность применять некоторые формы ML даже без полного обучающего набора данных.
Однако ответ на вопрос "Требует ли задача клиента решения на основе ИИ?" по-прежнему не всегда утвердительный. Крупные языковые модели (LLM) для многих остаются слишком дорогими, и, как и все ML-модели, они не всегда точны. Всегда найдутся сценарии, где внедрение ML — не лучший путь. Как же ИТ-менеджерам оценивать потребности клиентов?
Ключевые критерии для принятия решения:
Входные и выходные данные: Что пользователь передает системе (вход) и что ожидает получить на выходе? Например, для создания плейлиста Spotify (выход) входами служат предпочтения, любимые треки, артисты и жанры.
Сочетания входов и выходов: Потребности зависят от того, нужен ли пользователю одинаковый или разный результат для одинаковых или разных входных данных. Чем больше уникальных комбинаций входов и выходов требуется обработать массово, тем сильнее аргумент в пользу ML вместо систем на правилах.
Закономерности в данных: Наличие шаблонов в комбинациях входных и выходных данных определяет тип необходимой ML-модели. Если закономерности есть (например, анализ отзывов для оценки тональности), чаще выгоднее использовать обученные (supervised) или частично обученные (semi-supervised) модели вместо LLM из соображений стоимости.
Стоимость и Точность: Вызовы LLM при масштабировании могут быть дороги, а их выходные данные не всегда точны, несмотря на дообучение и тщательную работу с промтами. Иногда эффективнее использовать обученные модели (например, нейронные сети для классификации по фиксированным меткам) или даже системы на правилах.
Главный вывод: Не используйте "световой меч" там, где хватит "ножниц". Оценивайте потребность клиента по этой матрице, учитывая стоимость внедрения и требуемую точность результата, чтобы создавать эффективные и экономичные масштабируемые продукты.
0 комментариев