Moondream привлекает $4,5 млн, чтобы доказать, что небольшие модели искусственного интеллекта все еще могут нанести удар

Модель компании с открытым исходным кодом уже привлекла к себе большое внимание, получив более 2 миллионов загрузок и 5 100 звезд на GitHub. «Ее особенность в том, что это одна из самых маленьких моделей, отличающаяся высокой точностью, и она просто отлично работает», - говорит Джей Аллен, генеральный директор Moondream и бывший технический директор AWS. «Она может работать везде очень легко и быстро. Она может работать даже на iOS, на мобильных телефонах».Edge computing meets enterprise AI: как Moondream решает проблему стоимости облачных вычислений

Стартап решает растущую проблему внедрения ИИ на предприятиях: астрономические затраты и проблемы конфиденциальности облачных вычислений. Подход Moondream позволяет запускать модели ИИ локально на устройствах, от смартфонов до промышленного оборудования.

«По мере того как ИИ проникает во все большее количество приложений, я думаю, что мы разрываемся между желанием получить все преимущества ИИ, но не обязательно желать, чтобы вся наша жизнь транслировалась в облако», - сказал Аллен в интервью VentureBeat. «Я предпочитаю делать все как можно ближе к краю, чтобы иметь возможность контролировать свою конфиденциальность».

Приложения реального мира: От инвентаризации в розничной торговле до интеллектуального управления заводскими цехами

Первые последователи нашли разнообразные применения этой технологии. Розничные сети используют ее для автоматического управления запасами с помощью мобильного сканирования. Транспортные компании используют ее для проверки транспортных средств, а производственные предприятия с системами воздушной вентиляции внедряют ИИ на местах для контроля качества.

Отдельно стоит отметить технические достижения. Последние бенчмарки показали, что Moondream2 достигает 80,3 % точности в VQAv2 и 64,3 % в GQA - это конкурентоспособно по сравнению с гораздо более крупными моделями. Энергоэффективность системы впечатляет: технический директор Вик Коррапати отметил, что «потребление на токен составляет около 0,6 джоуля на миллиард параметров».Давид против Голиафа: как небольшая команда противостоит технологическим гигантам

В то время как крупные технологические компании сосредоточены на массивных моделях, требующих значительных вычислительных ресурсов, Moondream нацелена на практическую реализацию. «Многие компании в этом пространстве сосредоточены на AGI, и в итоге это становится большим отвлекающим фактором», - говорит Коррапати. «Мы сфокусированы на проблеме восприятия и на том, как обеспечить передовые мультимодальные возможности в том размере и форм-факторе, которые нужны разработчикам».

Сейчас компания запускает облачный сервис Moondream, призванный упростить разработку, сохраняя при этом гибкость для развертывания на границе. «Разработчикам нужен самый простой способ начать с облачного предложения, чтобы они могли просто поиграть с ним», - говорит Аллен. «Но, сделав это, они не хотят чувствовать себя запертыми».

Такой гибридный подход находит отклик у разработчиков. Компания завоевала большую популярность в сообществе разработчиков с открытым исходным кодом, и Аллен объясняет это «хакерской этикой с открытым исходным кодом» и прозрачным процессом разработки.

Что касается конкуренции со стороны технологических гигантов, Аллен по-прежнему уверен в целенаправленной стратегии Moondream. «Для многих крупных компаний это, как правило, один из 8000 приоритетов», - сказал он. «Похоже, не так много компаний, которые так же, как мы, сосредоточены на обеспечении бесперебойной работы разработчиков с мультимодальными устройствами».