В основе изменений - активное использование злоумышленниками искусственного интеллекта. Хакеры активно используют ИИ для автоматизации поиска уязвимостей, что позволяет им проводить скоординированные атаки, основанные на множестве известных проблем одновременно. В результате время, необходимое для взлома системы, сократилось с месяцев до считанных часов - интенсивность атак зависит от доступных атакующим вычислительных ресурсов.

Кроме того, злоумышленники задействуют генеративные модели для создания все более сложных и изощрённых видов вредоносного программного обеспечения, что делает традиционные методы защиты менее эффективными.

Угрозы исходят не только из-за периметра безопасности компании. Внутри компаний набирает обороты явление, получившее название «теневой ИИ». Неразрешённое использование сотрудниками корпоративных нейросетевых инструментов выросло с 15% до 45% и стало третьим по распространённости источником утечек данных без злого умысла. Стремясь повысить свою производительность, работники внедряют разнообразные ИИ-решения в обход отделов информационной безопасности, создавая незащищённые каналы, по которым они гоняют конфиденциальную информацию компании.

Дополнительную нагрузку на системы защиты создаёт взрывной рост активности ботов-сканеров, чья активность увеличивается на 21% ежемесячно! Эти автоматизированные системы непрерывно прощупывают периметры сетей в поисках слабых мест. Одновременно с этим растёт и угроза со стороны третьих лиц: доля инцидентов, связанных с аутсорсингом, выросла на 60% и теперь составляет половину всех зафиксированных случаев. Это отражает общую тенденцию на передачу организациями все большего объема важных функций внешним подрядчикам, что неизбежно расширяет поверхность атаки.

ИИ играет двойственную роль, выступая одновременно и как щит, и как меч.

С одной стороны, службы ИБ компании все чаще используют нейросети для более быстрого обнаружения аномалий в сетевом трафике и в поведении пользователей, а также для автоматизации процессов защиты и реагирования на инциденты. Это повышает общую оперативность противодействия угрозам.

С другой стороны, широкое внедрение ИИ на всех уровнях сетевой инфраструктуры, хотя и необходимо для защиты, одновременно увеличивает риски атак. Злоумышленники вооружены практически теми же инструментами, что и защитники, что делает противостояние весьма напряжённым.

В этих условиях операторам и другим компаниям необходимо кардинально пересмотреть свои подходы к безопасности. В первую очередь, требуется ужесточить контроль за использованием ИИ-инструментов внутри организаций, чтобы взять под контроль «теневой» сектор. Не менее важно инвестировать в собственные ИИ-системы киберзащиты, способные противостоять автоматизированным атакам нового поколения.

Параллельно необходимо повышать осведомлённость сотрудников о рисках неразрешённого использования нейросетей и выстраивать надёжные механизмы защиты при работе с третьими сторонами. Без комплексного подхода к управлению рисками, связанными с ИИ, организациям будет всё сложнее противостоять современным киберугрозам.

--

теги: искусственный интеллект и операторы связи киберугрозы информационная безопасность тренды

--