По данным Всемирного экономического форума, 73% опрошенных руководителей сообщили, что за последний год сами либо кто-то из их профессионального окружения сталкивались с кибермошенничеством. При этом 94% считают искусственный интеллект наиболее значимым фактором изменений в кибербезопасности, а 87% называют связанные с ним уязвимости самым быстрорастущим киберриском.
ИИ меняет не только социальную инженерию, но и техническую сторону атак. Показателен раскрытый Anthropic случай, когда ИИ-агенты выполняли последовательность действий в рамках кибератаки — от разведки до вывода данных. Такой сценарий показывает, что участие человека может сокращаться уже не в отдельных операциях, а на значительной части цепочки атаки.
«Для корпоративной безопасности это прежде всего вопрос скорости. Если атакующая сторона может быстрее находить цели, формировать убедительные сообщения и автоматизировать технические операции, ручная модель реагирования начинает проигрывать. Поэтому SOC постепенно дополняются ИИ-инструментами, которые берут на себя часть обнаружения, анализа и реагирования. Одновременно усложняется социальная инженерия: сообщения и голосовые сценарии становятся убедительнее и легче масштабируются», — отмечает Виктор Гулевич, руководитель направления информационной безопасности управления международного бизнеса ГК Softline.
Особенно быстро ИИ осваивается в схемах, построенных на обмане человека. Согласно исследованию 1,2 млрд клиентских звонков, число случаев мошенничества с использованием дипфейков выросло на 1300% год к году. Это меняет и подход к обучению сотрудников: вместо ежегодного формального курса компании все чаще переходят к постоянному управлению человеческими рисками — коротким регулярным тренировкам, моделированию атак и оценке поведения пользователей.
Следующий этап противостояния будет определяться уже не самим наличием ИИ у атакующей или защищающейся стороны, а скоростью его встраивания в полный цикл работы. Для бизнеса это означает, что защита от кибермошенничества должна одновременно развиваться на двух уровнях — автоматизации реагирования и работе с поведением сотрудников.
