xAI привлекает разработчиков кредитами API на сумму 25 долларов в месяц, поддержкой OpenAI и Anthropic SDK

Мы знали ,что гонка генеративного ИИ — это соревнование как для разработчиков, так и для конечных пользователей.

Пример: сегодня xAI Илона Маска, ответвление стартапа социальной сети X, использующее свои данные для обучения новых больших языковых моделей (LLM), таких как семейство Grok, объявило, что его интерфейс прикладного программирования (API) теперь открыт для публики, и вместе с ним предоставляются бесплатные 25 долларов в месяц в виде API-кредитов до конца года.Неужели 25 долларов в месяц, когда осталось 2 месяца, — это действительно морковка?

Это не звучит как что-то особенное от самого богатого человека в мире и мультимиллиардера, и это не на основе пользователя и не в совокупности, но этого может быть достаточно, чтобы побудить некоторых разработчиков хотя бы проверить инструменты и платформу xAI для создания приложений на основе моделей Grok.

В частности, API xAI оценивается в 5 долларов за миллион входных токенов и 15 долларов за миллион выходных, по сравнению с 2,50/10 долларами для модели OpenAI GPT-4o и 3/15 долларами для модели Anthropic Claude 3.5 Sonnet. В конечном счете, это означает, что кредит xAI в размере 25 долларов не поможет разработчику далеко — всего около двух миллионов входных и один миллион выходных токенов в месяц. Для справки, миллион токенов эквивалентен 7-8 словам романа.

Контекстный предел, или количество токенов, которые можно ввести или вывести за одно взаимодействие через API, составляет около 128 000, что аналогично GPT-4o OpenAI и ниже окна Anthropic в 200 000 токенов, и значительно ниже длины контекстного окна Google Gemini 1.5 Flash в 1 миллион.

Кроме того, из моего краткого теста xAPI я смог получить доступ только к grok-beta и только к тексту, без возможностей генерации изображений, таких как те, что есть в Grok 2 (на основе модели Flux.1 от Black Forest Labs).

Скоро появятся новые модели Grok

Согласно сообщению в блоге xAI, это на самом деле «предварительный просмотр новой модели Grok, которая в настоящее время находится на завершающей стадии разработки», а новая модель Grok «будет доступна на следующей неделе».

Кроме того, xAI отмечает, что grok-beta поддерживает «вызов функций» или возможность LLM принимать команды от пользователя и получать доступ к функциям других подключенных приложений и сервисов, даже выполняя их от имени пользователя (если подключенное приложение разрешает такой доступ).

Совместимость с конкурентами

Более того, аккаунт xAI в социальной сети X опубликовал сообщение о том, что API xAI «совместим с OpenAI и Anthropic SDK» или комплектами разработки программного обеспечения различных веб-инструментов, используемых разработчиками этих платформ, что означает, что должно быть относительно легко переключить эти модели на grok-beta или другие на платформе xAI.

xAI Маска недавно включил свой суперкластер «Colossus» из 100 000 графических процессоров Nvidia H100 в Мемфисе, штат Теннесси, который используется для обучения его новых моделей — крупнейших или одних из крупнейших в мире — так что, по-видимому, этот объект уже усердно работает.