Влияние ИИ на кибербезопасность

Влияние ИИ на кибербезопасность
Автор: Ник Власов Опубликовано 22 мая 2024 г. 0 комментариев

Искусственный интеллект (ИИ

по-видимому, присутствует повсюду в современном технологическом ландшафте. Цикл ажиотажа в самом разгаре, особенно в отношении использования бо Для владельцев бизнеса база данных — это хранилище информации. Эти данные могут помочь им принимать обоснованные решения, более эффективно нацеливать свои маркетинговые усилия и оптимизировать База данных владельцев бизнеса свою деятельность для достижения максимальной эффективности. Используя возможности данных, владельцы бизнеса могут получить конкурентное преимущество в своей отрасли и оставаться на шаг впереди. льших языковых моделей (LLM) для генеративного ИИ, такого как OpenAI ChatGPT, Google Gemini и Anthropic Claude. Действительно, многие технологические компании полны решимости добавлять LLM в продукты, где он иногда кажется пристегнутым. Одним из вариантов использования, где решения машинного обучения, включая LLM и другие методы ИИ,

оказывают неоценимую помощь людям, является защита

кибербезопасности.

Однако нет конца дезинформации о быстром расширении решений ИИ, меняющих ландшафты угроз и защиты. В этом блоге мы рассмотрим некоторые заблуждения о влиянии решений ИИ на кибербезопасность и расскажем, как решения Progress Flowmon используют технологии ИИ для обеспечения улучшенного обнаружения и реагирования на сети (NDR).

Вебинар по запросу

Информация в этом блоге взята из недавнего 30-минутного вебинара под названием «Влияние ИИ на кибербезопасность», который провел Филип Черны, менеджер по маркетингу продуктов в Progress Software. Вебинар охватывал следующие темы:

Новые тенденции кибербезопасности в постоянно меняющемся ландшафте угроз.

Случаи использования, когда ИИ помогает усилиям по кибербезопасности.
Как движок Progress Flowmon NDR на базе ИИ помогает бороться с киберугрозами.

Распространенные страхи по поводу влияния ИИ на безопасность

В первой части своего вебинара Филип рассматривает распространенные страхи по поводу появления новой степени магистра права и других решений на основе ИИ:

Страх автоматизации работы. Филип опровергает этот страх, указывая на то, что в секторе кибербезопасности наблюдается существенный дефицит людей, которые могут заполнить открытые вакансии. Кроме того, для эффективной работы инструментов ИИ требуются экспертное человеческое наблюдение и обучение.
Беспокойство по поводу «необнаруживаемого» вредоносного ПО на базе ИИ. Филип отвечает, что неправда, что вредоносное ПО, созданное ИИ, более продвинуто, чем версии, написанные человеком. Это снижает планку для входа и позволяет преступникам с меньшими навыками программирования создавать атаки, но они не очень сложны, и существующие инструменты могут быстро их обнаружить.
Беспокойство по поводу создания ИИ «идеальных Все, что вам нужно знать о роли аналитики данных в … ление, указывая на то, что орфографические и грамматические ошибки уже давно не являются надежным индикатором обнаружения фишинга.

Ландшафт угроз кибербезопасности

За последние несколько лет такие киберугрозы, как программы-вымогатели, вредоносное ПО и фишинг, стали более сложными и частыми. Как отмечает Филип на вебинаре, количество и серьезность кибератак на организации значительно возросли.

Тенденции в области кибербезопасности

Использование киберпреступниками ИИ влияет на тенденции в ландшафте угроз кибербезопасности. Мы увидели, как дипфейки на основе ИИ стали новой угрозой, когда киберпреступники использовали технологии дипфейкового видео в фишинговых мошенничествах. Атаки с использованием программ-вымогателей продолжаются, а многоцелевые тактики вымогательства становятся все более распространенными. Атаки на цепочки поставок также резко возросли более чем на 600% по сравнению с предыдущим годом.

Человеческая ошибка является основным фактором успешных кибератак, и некоторые исследования показывают, что она лежит в основе 95% всех утечек данных. Использование решений ИИ для создания более убедительных дипфейковых аудио и видео, фишинговых писем и реалистичных фиктивных веб-сайтов для сбора учетных данных и развертывания вредоносного ПО увеличило риски, с которыми мы все сталкиваемся, и сократило усилия, необходимые злоумышленникам при организации атак.

Недавно Филип написал сообщение в блоге о agb directory ландшафте угроз кибербезопасности 2024 года, в котором он более подробно рассматривает угрозы, которые будут значительными в этом году.

Проблемы киберзащиты

Увеличение активности атак за последние несколько лет (не показывающее никаких признаков снижения) обременило команды по кибербезопасности. Аналитики безопасности сталкиваются с растущим числом оповещений безопасности, причем более 55% имеют более 10 000 ежедневных оповещений. Такая ситуация приводит к усталости от оповещений, что увеличивает вероятность пропуска важных инцидентов.

Проблемы, с которыми сталкиваются команды по кибербезопасности, изменились за последнее десятилетие. Как показано на рисунке 1, в 2015 году проблема заключалась в отсутствии видимости в сети и событий, связанных с безопасностью. Сегодня, с появлением и развертыванием все более сложных инструментов обнаружения, проблема заключается в том, что оповещений слишком много, что затрудняет, если не делает невозможным, для ИТ-специалистов выявление опасной активности.

Рисунок 1: Эволюция проблем киберзащиты

Эта сложность имеет реальное косвенное воздействие на кибербезопасность, как показано на рисунке 2.

Рисунок 2: Результаты перегрузки оповещений

Объем оповещений часто приводит к тому, что команды фильтруют то, что видят, что увеличивает риск того, что метод атаки останется незамеченным и позволит киберпреступникам получить доступ к системам и данным.

Flowmon NDR использует ИИ для повышения кибербезопасности
Использование