ИИ-агенты необходимо всегда рассматривать как непроверенную среду – Data Fusion 2026
Как известно, агентные сценарии – от браузеров до ассистентов разработчика – все активнее проникают в повседневную жизнь. Но с ростом их способностей, линейки их инструментов и сложности решаемых задач все острее встают вопросы надежности и безопасности использования ИИ-агентов.
В панельной сессии приняли участие эксперты по машинному обучению и безопасности, чтобы обсудить, какие риски предостерегают компании, которые планируют применять агентные системы в своих задачах, и что необходимо предпринять – как на уровне компаний, так и индустрии в целом – чтобы внедрение было эффективным, надежным и безопасным.
Модератором выступил Владислав Тушканов, руководитель группы исследования технологий машинного обучения, Лаборатория Касперского. Он отметил, что сегодняшняя дискуссия проходит на пересечении двух актуальных трендов – ИИ-агентов и кибербезопасности.
Роман Лебедь, руководитель Центра защиты приложений, Т-Банк, подчеркнул – если мы относимся к ИИ-агенту как к подрядчику, который пишет для нас код, необходимо не выпускать его за пределы "грязной зоны" и соблюдать все остальные политики безопасности, предусмотренные для этих случаев. ИИ-агент должен по умолчанию рассматриваться как непроверенная среда.
Борис Рютин, руководитель группы безопасности Алисы и Автономного транспорта, Яндекс, согласился, что необходимо осторожно подходить к предоставлению доступа ИИ-агентам, обеспечив их изолированность от систем, которые непосредственно не участвуют в реализации их задач.
Евгений Кокуйкин, CEO, HiveTrace, напомнил, что ИИ-модель может вести себя не так, как изначально было запланировано. В качестве примера он привел так называемые модели-доносчики, способные в случае выявления ими незаконных намерений пользователя (в понимании модели) самостоятельно совершить "побег из песочницы" и направить оповещение в соответствующие инстанции.
Всеслав Соленик, директор по кибербезопасности, СберТех, напомнил о двух базовых задачах безопасника - инвентаризации и защиты: "Если мы не знаем, что именно предстоит защищать, мы не справимся с проблемой".
На этом фоне, по словам эксперта, ИИ-агенты должны изначально корректно встраиваться в существующую инфраструктуру компании. Только такой подход позволяет обеспечить реальную безопасность их использования.
