Mistral AI бросает вызов OpenAI с новым API модерации, борясь с вредоносным контентом на 11 языках
Французский стартап в области искусственного интеллекта Mistral AI в четверг запустил новый API для модерации контента, что стало его очередным шагом на пути к конкуренции с OpenAI и другими лидерами в области ИИ, а также решению растущих проблем безопасности ИИ и фильтрации контента.
Новый сервис модерации, работающий на основе доработанной версии модели Ministral 8B от Mistral, предназначен для обнаружения потенциально опасного контента по девяти различным категориям, включая сексуальный контент, разжигание ненависти, насилие, опасные действия и персональную информацию. API предлагает возможности анализа как необработанного текста, так и разговорного контента.«Безопасность играет ключевую роль в том, чтобы сделать ИИ полезным», — заявила команда Mistral, анонсируя релиз. «В Mistral AI мы считаем, что системные ограничения имеют решающее значение для защиты последующих развертываний».
Многоязычные возможности модерации позволяют Mistral бросить вызов доминированию OpenAI
Запуск происходит в решающий момент для отрасли ИИ, поскольку компании сталкиваются с растущим давлением, требующим внедрения более жестких мер безопасности вокруг своих технологий. Буквально в прошлом месяце Mistral присоединилась к другим крупным компаниям ИИ, подписав соглашение UK AI Safety Summit, пообещав разрабатывать ИИ ответственно.
API модерации уже используется в собственной платформе Le Chat Mistral и поддерживает 11 языков, включая арабский, китайский, английский, французский, немецкий, итальянский, японский, корейский, португальский, русский и испанский. Эта многоязычная возможность дает Mistral преимущество перед некоторыми конкурентами, чьи инструменты модерации в основном ориентированы на англоязычный контент.
«За последние несколько месяцев мы наблюдаем растущий энтузиазм в отрасли и исследовательском сообществе в отношении новых систем модерации на основе LLM, которые могут помочь сделать модерацию более масштабируемой и надежной в различных приложениях», — заявила компания...
0 комментариев