Специально разработанное оборудование для искусственного интеллекта: умные стратегии масштабирования инфраструктуры

Предприятия могут рассчитывать на новые возможности — и стратегические решения — в рамках важнейшей задачи создания прочной основы для расширения ИИ в 2025 году. Новые чипы, ускорители, сопроцессоры, серверы и другое сетевое и складское оборудование, специально разработанное для ИИ, обещают устранить текущий дефицит и обеспечить более высокую производительность, расширить разнообразие и доступность услуг и ускорить время окупаемости.

Почему частные вычисления должны быть частью вашей стратегии ИИ — AI Impact Tour 2024 Почему частные вычисления должны быть частью вашей стратегии ИИ — AI Impact Tour 2024

Ожидается, что развивающийся ландшафт нового специализированного оборудования будет способствовать дальнейшему двузначному росту инфраструктуры ИИ, который, по словам IDC, продолжается 18 месяцев подряд. IT-компания сообщает, что организационные закупки вычислительного оборудования (в первую очередь серверов с ускорителями) и инфраструктуры оборудования для хранения данных для ИИ выросли на 37% в годовом исчислении в первой половине 2024 года. Прогнозируется, что продажи утроятся до 100 миллиардов долларов в год к 2028 году.

«Ожидается, что совокупные расходы на выделенную и публичную облачную инфраструктуру для ИИ составят 42% новых расходов на ИИ во всем мире до 2025 года», — пишет Мэри Джонстон Тернер, вице-президент по исследованиям в области стратегий цифровой инфраструктуры в IDC.

Основной путь расширения ИИ

Многие аналитики и эксперты говорят, что эти ошеломляющие цифры иллюстрируют, что инфраструктура является основным путем для роста ИИ и цифровой трансформации предприятий. Соответственно, они советуют руководителям технологий и бизнеса в основных компаниях сделать инфраструктуру ИИ важнейшим стратегическим, тактическим и бюджетным приоритетом в 2025 году.

«Успех генеративного ИИ зависит от разумных инвестиций и надежной инфраструктуры»,

сказал Анай Навате, директор по предоставлению облачных и инфраструктурных услуг в ISG, глобальной исследовательской и консалтинговой фирме. «Организации, получающие выгоду от генеративного ИИ, перераспределяют свои

бюджеты, чтобы сосредоточиться на этих инициативах».

В качестве доказательства Навате привел недавний глобальный опрос ISG, который показал, что пропорционально у организаций было десять проектов на пилотной стадии и 16 в ограниченном развертывании, но только шесть были развернуты в масштабе. По словам Навате, основным виновником была неспособность текущей инфраструктуры к доступному, безопасному и производительному масштабированию». Его совет? «Разработать комплексные практики закупок и максимизировать доступность и использование GPU, включая исследование специализированных облачных сервисов GPU и ИИ».

Другие согласны с тем, что при расширении пилотных проектов ИИ, проверки концепций или начальных проектов важно выбирать стратегии развертывания, которые предлагают правильное сочетание масштабируемости, производительности, цены, безопасности и управляемости.

Опытные советы по стратегии инфраструктуры ИИ

Чтобы помочь предприятиям выстроить стратегию инфраструктуры для расширения ИИ, VentureBeat проконсультировался с более чем дюжиной технических директоров, интеграторов, консультантов и других опытных отраслевых экспертов, а также с таким же количеством недавних опросов и отчетов.

Идеи и советы, а также тщательно отобранные ресурсы для более глубокого изучения могут помочь организациям выбрать наиболее разумный путь использования нового оборудования ИИ и получения операционных и конкурентных преимуществ.

Умная стратегия 1: начните с облачных сервисов и гибридных

Для большинства предприятий, включая те, которые масштабируют большие языковые модели (LLM), эксперты говорят, что лучший способ извлечь выгоду из новых чипов и оборудования, предназначенных для ИИ, — это косвенный способ, то есть

через поставщиков и сервисы облачных вычислений.

Это связано с тем, что большая часть нового оборудования, готового к ИИ, является дорогостоящей и нацелена на гигантские центры обработки данных. Большинство новых продуктов будут раскуплены гипермасштабируемыми компаниями Microsoft, AWS, Meta и Google; поставщиками облачных услуг, такими как Oracle и IBM; гигантами ИИ, такими как XAI и OpenAI, и другими специализированными фирмами ИИ; и крупные компании по размещению оборудования, такие как Equinix. Все они стремятся расширить свои центры обработки данных и услуги, чтобы получить конкурентное преимущество и соответствовать растущему спросу.

Как и в случае с облаком в целом, использование инфраструктуры ИИ как услуги дает несколько преимуществ, в частности, более быстрый запуск и масштабируемость, отсутствие забот о персонале и удобство бюджетирования с оплатой и эксплуатационными расходами (OpEx). Но планы все еще формируются, и аналитики говорят, что 2025 год принесет парад новых облачных сервисов на основе мощного оптимизированного для ИИ оборудования, включая новые сквозные и отраслевые опции.

Умная стратегия 2: DIY для состоятельных и зрелых

Новое оптимизированное оборудование не изменит текущую реальность: инфраструктура DIY для ИИ лучше всего подходит для состоятельных предприятий в сфере финансовых услуг, фармацевтики, здравоохранения, автомобилестроения и других высококонкурентных и регулируемых отраслях.

Как и в случае с ИТ-инфраструктурой общего назначения, для успеха требуется способность справляться с высокими капитальными затратами (CAPEX), сложными операциями ИИ, персоналом и партнерами со специальными навыками, принимать удары по производительности и использовать рыночные возможности во время строительства. Большинство фирм, занимающихся собственной инфраструктурой, делают это для собственных приложений с высокой окупаемостью инвестиций.