DeepSeek R1: Как китайский ИИ-прорыв изменил правила игры и заставил гигантов нервничать

Успех DeepSeek примечателен не созданием принципиально новых возможностей, а тем, как компания достигла результатов, сопоставимых с показателями технологических гигантов, при многократно меньших затратах. По сути, DeepSeek не изобрела ничего радикально нового; её инновация заключалась в ином расставлении приоритетов. В результате индустрия движется теперь по двум параллельным траекториям: эффективность и вычислительные мощности.

ИИ с приоритетом на безопасность: Что внутри модели
На фоне подготовки к выходу R2 и ужесточения экспортных ограничений на чипы со стороны США, стоит понять, как DeepSeek сумела привлечь столь пристальное внимание.

Инженерия вопреки ограничениям
Внезапное и яркое появление DeepSeek заворожило всех, продемонстрировав, что инновации возможны даже в условиях серьёзных ограничений. Столкнувшись с американскими экспортными барьерами на передовые ИИ-чипы, DeepSeek была вынуждена искать обходные пути для развития технологий.

Пока американские компании гнались за производительностью через более мощное "железо", огромные модели и качественные данные, DeepSeek сосредоточилась на оптимизации имеющегося. Она блестяще реализовала известные идеи — и в этом исполнении тоже есть новизна.

Такой подход, ставящий во главу угла эффективность, принёс впечатляющие плоды. По данным, модель R1 от DeepSeek соответствует возможностям OpenAI при эксплуатационных затратах всего в 5-10%. Финальный этап обучения её предшественника, V3, обошёлся якобы в жалкие $6 млн — бывший специалист по ИИ из Tesla Андрей Карпаты назвал это "смешным бюджетом" на фоне десятков или сотен миллионов долларов у американских конкурентов. Ещё показательнее: пока OpenAI, по слухам, потратила $500 млн на обучение своей недавней модели "Orion", DeepSeek достигла лучших результатов в бенчмарках всего за $5.6 млн — менее 1.2% от вложений OpenAI.

Если вы впечатлились, думая, что такие результаты достигнуты в условиях острого дефицита передовых чипов, стоит внести ясность: изначальные американские санкции ограничивали прежде всего вычислительную мощность чипов, а не их память и сетевые возможности — два критически важных компонента для ИИ. Это значит, что чипы, доступные DeepSeek, не были "плохими"; их характеристики по памяти и сетевому взаимодействию позволили эффективно распараллеливать операции на множестве устройств — ключевая стратегия для работы с большой моделью.

Это, в сочетании с господдержкой Китая в создании полного цикла ИИ-инфраструктуры, привело к ускорению инноваций, которого многие западные наблюдатели не ожидали. Прогресс DeepSeek был закономерной частью развития ИИ, но он позволил реализовать известные достижения на несколько лет раньше, и это впечатляет.

Прагматизм важнее процессов
Помимо оптимизации "железа", подход DeepSeek к обучающим данным также отличается от западных практик. Вместо опоры исключительно на контент, собранный из интернета, компания, по данным, активно использовала синтетические данные и результаты работы других проприетарных моделей. Это классический пример "дистилляции модели" — способности учиться у мощных моделей. Однако такой подход поднимает вопросы приватности данных и управления ими, которые могут беспокоить западных корпоративных клиентов. Тем не менее, он подчёркивает общую прагматичную ориентацию DeepSeek на результат, а не на процесс.

Эффективное использование синтетических данных — ключевое отличие. Они могут быть очень полезны для обучения больших моделей, но требуют осторожности: одни архитектуры моделей справляются с ними лучше других. Например, модели-трансформеры с архитектурой "смеси экспертов" (MoE), как у DeepSeek, обычно устойчивее к синтетическим данным, тогда как более традиционные "плотные" архитектуры (как в ранних моделях Llama) могут демонстрировать падение производительности или даже "деградацию модели" при избытке синтетики.

Эта чувствительность архитектуры важна, потому что синтетические данные имеют иные паттерны и распределения, чем реальные. Если архитектура плохо с ними работает, модель может выучить "лазейки" или предубеждения, заложенные в процесс генерации синтетики, вместо обобщаемых знаний. Это ведет к снижению качества работы на реальных задачах, повышенному числу "галлюцинаций" или хрупкости перед новыми ситуациями.

Тем не менее, инженеры DeepSeek, по информации, изначально проектировали архитектуру своей модели с расчётом на интеграцию синтетических данных. Это позволило компании использовать их экономические преимущества без ущерба для производительности.