ИИ превращается в самостоятельного участника кибератак
Искусственный интеллект постепенно превращается из вспомогательного инструмента в самостоятельного участника кибератак. В ходе экспериментов ИИ-агенты уже смогли без вмешательства человека получить контроль над тестовой компьютерной сетью. Директор по продуктам платформы Standoff 365 компании Positive Technologies Иван Булавин рассказал, как ИИ меняет методы хакеров и конкурирует с профессиональными специалистами.
«Уже десять лет мы создаем киберполигоны для соревнований и тренировок защитников. Теперь используем этот опыт, чтобы испытывать ИИ в безопасной среде. Пока рынок обсуждает его возможности, мы проверяем их на практике», - отмечает Иван Булавин.
ИИ способен самостоятельно строить цепочки действий, но это еще не означает, что он превосходит опытного специалиста, особенно там, где важны контекст и незаметность. Оценивать нужно не только результат, но и затраты времени, ресурсов, маршрут атаки и возможный ущерб другим системам.
Кроме того, генеративный ИИ влияет на багбаунти – поиск уязвимостей независимыми исследователями. Он ускоряет анализ кода, поиск потенциальных проблем и подготовку отчетов. Но одновременно появляется много сообщений об уязвимостях, которых на самом деле нет. ИИ может принять нормальное поведение приложения за ошибку и составить убедительный, но неверный отчет.
«В середине 2026 года мы ввели ограничения на количество отправляемых отчетов с учетом рейтинга исследователя. Те, кто регулярно присылает подтвержденные находки, получают больше возможностей. Параллельно используем ИИ-помощника для первичного разбора сообщений и выявления сомнительных материалов. Но окончательное решение о наличии уязвимости принимает человек», - отмечает Иван Булавин.
ИИ ускоряет работу, но без проверки его выводов качество может ухудшиться. Это касается и защиты, и автономных атакующих агентов.
Человек из этой системы не исчезнет. Чем самостоятельнее агент, тем важнее понимать, почему он выбрал определенный путь и какие последствия вызвали его действия. Наша задача - создать условия, в которых новые технологии можно проверить, увидеть их ограничения и научиться с ними работать до того, как они получат доступ к инфраструктуре компаний.
