Автоматическая оптимизация всей инфраструктуры Kubernetes

До внедрения Cast AI команда DevOps Akamai вручную настраивала рабочие нагрузки Kubernetes всего несколько раз в месяц. Учитывая масштаб и сложность инфраструктуры, это было трудоемко и дорого. Случайный анализ нагрузок явно не позволял реализовать потенциал оптимизации в реальном времени.

«Теперь сотни агентов Cast выполняют эту же настройку, но делают это каждую секунду, каждый день», — сказал Шавит.

Основные функции APA, которые использует Akamai:

• Автомасштабирование (Autoscaling)

• Глубокая автоматизация Kubernetes с bin packing (минимизация используемых "контейнеров" для размещения задач)

• Автоматический выбор наиболее экономичных вычислительных инстансов

• Оптимизация ресурсов рабочих нагрузок (Workload rightsizing)

• Автоматизация работы с Spot-инстансами (инстансы по сниженным ценам за использование невостребованных мощностей) на протяжении всего жизненного цикла

• Аналитика затрат

«Мы получили аналитику по затратам уже через две минуты после интеграции — такого мы раньше никогда не видели, — сказал Шавит. — Как только активные агенты были развернуты, оптимизация заработала автоматически, и началась экономия».

Использование Spot-инстансов, где предприятия могут получить доступ к неиспользуемым облачным мощностям со скидкой, было экономически выгодным, но оказалось сложным из-за специфики рабочих нагрузок Akamai, особенно Apache Spark. Это означало необходимость либо избыточного проектирования (overengineering), либо привлечения дополнительных человеческих ресурсов, что сводило на нет экономию.

С Cast AI они смогли использовать Spot-инстансы для Spark с «нулевыми инвестициями» со стороны инженерной команды или эксплуатации. Ценность Spot-инстансов была «очевидна»; им просто нужно было найти подходящий инструмент для их эффективного применения. Это стало одной из причин выбора Cast, отметил Шавит.

Хотя двукратное или трехкратное сокращение облачных счетов — это отличный результат, Шавит указал, что автоматизация без ручного вмешательства «бесценна». Она привела к «колоссальной» экономии времени.

До внедрения Cast AI его команда была вынуждена «постоянно крутить ручки и переключатели», чтобы гарантировать соответствие производственных сред и уровня обслуживания клиентов необходимым стандартам.

«Неоспоримое главное преимущество — это то, что нам больше не нужно управлять нашей инфраструктурой, — заявил Шавит. — Теперь за нас это делает команда агентов Cast. Это освободило нашу команду для концентрации на самом важном: более быстром выводе новых функций для наших клиентов».