ИИ против ИИ: 6 способов автоматизации кибербезопасности предприятиями для противодействия атакам с использованием ИИ

Во-первых, как Адам Мейерс, старший вице-президент CrowdStrike, сказал VentureBeat в недавнем интервью: «Противник становится на 10–14 минут быстрее каждый год. Поскольку время их прорыва сокращается, защитникам приходится реагировать еще быстрее — обнаруживать, расследовать и останавливать угрозы до того, как они распространятся. Это игра скорости». Между тем, Gartner написала в своем недавнем исследовании «Радар воздействия новых технологий: упреждающая кибербезопасность», что «злоумышленники используют генеративный ИИ для запуска атак со скоростью машины. Организации больше не могут позволить себе ждать обнаружения нарушения, прежде чем предпринимать действия. Стало критически важно предвидеть потенциальные атаки и расставлять приоритеты в отношении упреждающих мер смягчения с помощью предиктивного анализа». И, со своей стороны, последний отчет об угрозах Darktrace отражает новый, безжалостный образ мышления киберпреступников, готовых сделать все возможное, чтобы получить скорость и скрытность, необходимые для взлома предприятия, изымая данные, средства и идентификационные данные еще до того, как службы безопасности узнают, что они были атакованы. Их использование ИИ в качестве оружия выходит за рамки дипфейков и фишинговых писем, которые по масштабу и охвату напоминают законные маркетинговые кампании.

Одним из наиболее примечательных выводов исследования Darktrace является растущая угроза использования ИИ в качестве оружия и вредоносного ПО как услуги (MaaS). Согласно недавнему исследованию Darktrace, MaaS в настоящее время составляет 57% всех кибератак, что свидетельствует о значительном ускорении в сторону автоматизированной киберпреступности.

ИИ удовлетворяет потребность кибербезопасности в скорости

Время прорыва резко сокращается. Это верный признак того, что злоумышленники действуют быстрее и оттачивают новые методы, которые устаревшие системы и платформы на основе периметра не могут уловить. Васу Джаккал из Microsoft наглядно описал это ускорение в недавнем интервью VentureBeat: «Три года назад мы наблюдали 567 атак, связанных с паролями, в секунду. Сегодня это число взлетело до 7000 в секунду».

Мало кто понимает эту проблему лучше, чем Кэтрин Моуэн, старший вице-президент по информационной безопасности в Rate Companies (ранее Guaranteed Rate), одном из крупнейших розничных ипотечных кредиторов в США. С миллиардами долларов транзакций, проходящих через его системы ежедневно, Rate Companies является главной целью для кибератак с использованием ИИ, от кражи учетных данных до сложного мошенничества с использованием личных данных.

Как объяснил Моуэн в недавнем интервью VentureBeat, «Из-за характера нашего бизнеса мы сталкиваемся с некоторыми из самых сложных и устойчивых киберугроз. Мы видели, как другие в ипотечной отрасли подвергались взлому, поэтому нам нужно было гарантировать, что это не произойдет с нами. Я думаю, что то, что мы делаем прямо сейчас, — это борьба с ИИ с помощью ИИ».

Стратегия Rate Companies по достижению большей киберустойчивости основана на моделировании угроз ИИ, безопасности с нулевым доверием и автоматизированном реагировании, что дает ценные уроки для руководителей служб безопасности в различных отраслях.

«Киберзлоумышленники теперь используют вредоносное ПО на основе ИИ, которое может трансформироваться за считанные секунды. Если ваша защита не столь адаптивна, вы уже отстаете», — сказал VentureBeat генеральный директор CrowdStrike Джордж Курц. Например, Mowen из Rate Companies борется с враждебным ИИ с помощью ряда работающих оборонительных стратегий ИИ.

Борьба с ИИ с помощью ИИ: что работает

VentureBeat встретился с группой руководителей служб информационной безопасности, пожелавших остаться анонимными, чтобы лучше понять их стратегии борьбы с ИИ с помощью ИИ. Вот шесть уроков, извлеченных из этой сессии:

Улучшение обнаружения угроз с помощью самообучающегося ИИ окупается. Сегодня враждебный ИИ находится в центре все большего числа нарушений. Один быстрый вывод из всей этой деятельности заключается в том, что обнаружение на основе сигнатур в лучшем случае с трудом поспевает за последними достижениями злоумышленников.

Киберпреступники не останавливаются на использовании идентификационных данных и их многочисленных уязвимостей. Они переходят к использованию методов жизни вне земли (LOTL) и использованию ИИ в качестве оружия для обхода статической защиты. Службы безопасности вынуждены переходить от реактивной к проактивной защите.

Отчет DarkTrace объясняет, почему. Компания обнаружила подозрительную активность на устройствах межсетевого экрана Palo Alto за 17 дней до раскрытия эксплойта нулевого дня. Это лишь один из многих примеров растущего числа атак с использованием ИИ на критическую инфраструктуру, данные о которых приводятся в отчете. Натаниэль Джонс, вице-президент по исследованию угроз в Darktrace, заметил, что «обнаружения угроз после вторжения уже недостаточно. Самообучающийся ИИ выявляет тонкие сигналы, которые люди не замечают, обеспечивая проактивную защиту».

Рассмотрите возможность автоматизации защиты от фишинга с помощью обнаружения угроз на основе ИИ. Число фишинговых атак стремительно растет: только за последний год Darktrace обнаружил более 30 миллионов вредоносных писем. Большинство из них, или 70%, обходят традиционную защиту электронной почты, используя созданные ИИ приманки, которые неотличимы от законных сообщений. Фишинг и компрометация деловой электронной почты (BEC) — это две области, в которых команды по кибербезопасности полагаются на ИИ для выявления и предотвращения нарушений.