ИИ и ИБ: кто больше бизнесу ценен?
ИИ и ИБ – близнецы-братья?
Любое обсуждение текущего состояния дел в бизнесе непременно содержит вопрос: «а как вы с ИИ, дружите»? И ответы у всех примерно схожи. Есть где-то ИИ-агенты – как же без них, ведь сегодня это обязательный минимум. Есть понимание, как надо все правильно выстраивать: от ИИ-оркестраторов и планировщиков до ИИ-валидаторов и генераторов по конкретной отрасли: ритейлу, телекому, логистике, страхованию, банкам и проч. А вот о том, что пора бы сосредоточиться на условиях успешного и, главное, безопасного для обеспечения конфиденциальности данных внедрения, дебатов пока не наблюдется.
ИИ-агенты повсеместно получают сегодня права на изменение данных в корпоративных системах, что делает их потенциальной уязвимостью и точкой входа для возможных атак. Где расположена LLM? Если за рубежом, то как обстоит дело с рисками и полным отсутствием контроля над переданными данными? Если в России, то с 152-ФЗ уже лучше, но что с функционалом отечественных систем (YandexGPT, GigaChat и пр.)? Если имеется собственная закрытая большая языковая модель в местном ЦОДе, то насколько эффективно там меняются «деньги» (дорогостоящие вычислительные ресурсы) на полный контроль и максимальную конфиденциальность? Есть ли что-то принципиально новое по кейсам?
Нет? Тогда перейдем к безопасному внедрению – что нового по требованиям со стороны ИБ? А как дело с безопасной разработкой, насколько безопасен и понятен код от ИИ, как с уязвимостями нулевого дня, кому доступны данные? Вопросов много, а четких ответов на них не видится.
При рассмотрении практически любого кейса по ИБ, независимо от бизнеса, сразу же ставится вопрос об эффективности внедрения инструментов ИИ для автоматического обнаружения, анализа и предотвращения угроз, а также реагирования на них. Что нового, какие результаты, как надо модифицировать уже имеющиеся стандартные решения?
Без ИИ в ИБ сегодня нельзя, тем более что уже сформированы базовые требования по апробации. Как всегда, сначала бизнес постарался сформулировать и ввести метрики на то, что именно ему требуется от ИИ, чтобы обеспечить непрерывность работы и устойчивость к компьютерным атакам. При этом действия ИИ должны быть максимально понятны и интерпретируемы, особенно в части принятия решения. Кто-то это сделал быстрее, кто-то до сих пор не решается, хотя практики уже тиражируют наиболее эффективные методики, особенно при тестировании и валидации моделей, контроле данных, управлении доступом и аутентификации, человеческом контроле (Human-in-the-loop), документировании процессов и даже обучении персонала.
Затем все это обобщили регуляторы, выпустив, например, для КИИ Приказ от 11.04.2025 № 117 «Об утверждении Требований о защите информации, содержащейся в государственных информационных системах, иных информационных системах государственных органов, государственных унитарных предприятий, государственных учреждений» и предварительный национальный стандарт ПНСТ 1046-2026 «Искусственный интеллект в критической информационной инфраструктуре. Общие положения».
Налицо близнецы-братья: говорим ИИ – подразумеваем ИБ, говорим ИБ – без ИИ не обойтись. И кто более ценен? Регулятор четко говорит, что ИИ – это, конечно, важно, но контроль технологий ИБ уже отлажен, и методологически проще не описывать все с нуля, а дополнить этим нормативную базу именно по ИБ.
Однако тут возникает вполне законное сомнение, обусловленное тем, что нормативные документы часто запаздывают и не отражают реальную ситуацию. Поэтому в той же ИБ обязательная отчетность – это святое (надо – сделаем), но реальная защита может быть более продвинутой и не попадающей под такой контроль. Особенно когда изменения слишком быстрые – а это именно наш случай!
В общем, «шашечки» и «ехать» могут различаться, вплоть до того, что издержки на ту же отчетность регулятору могут проходить отдельно от издержек на реальную защиту бизнеса и слабо пересекаться. Как, например, в случае с пентестингом, когда все в отчетности в основном сводится к красно-синим, а по делу надо учесть, что нужна бы еще белая, желтая и другие цветные команды.
Поэтому то, что в ИИ именно ИБ впереди планеты всей де-юре, – понятно. А вот де-факто для реального бизнеса важно сразу понять, за счет чего именно идет опережение, почему ИБ была, есть и будет на шаг впереди, а главное, на чем все это основано. И здесь надо говорить о рисках именно ИИ в ИБ и для ИБ. Надо говорить об управлении именно этими рисками, об издержках по ним именно сейчас, а не через год или два. А главное – о том, какие из этих рисков мы готовы принять, за что готовы платить. А уж только потом – о том, как именно все это связано с промышленностью, ритейлом и нашими финансами.
И вот тогда для определения приоритетов и направления дальнейшего движения, чтобы не ошибиться с внедрением максимально подходящего решения, надо прежде разобраться, откуда пошла нынешняя мода на ИИ. Прежде чем сделать шаг вперед, надо сделать два шага назад.
Все началось почти в доисторические времена – в конце прошлого века, когда возникло понимание того, что переход на «цифру» неизбежен и общество пока медленно, но со временем все быстрее начинает неотвратимо двигаться к новому миру.
Все началось с «цифры»
Итак, цифровизация. Она проявилась не вчера и не в 2019-м, когда неожиданно оказалось, что мы вроде бы уже давно живем в ней. «Цифра» эволюционировала и наступала постепенно. Все чаще о ней стали упоминать с начала XXI века, когда отдельные технологии становились не столько эффективнее, сколько доступнее.
Но вернемся к нашим рискам и издержкам. Здесь надо вспомнить отдельную пирамиду факторов в эволюции технологий, которые именно снижением издержек и обеспечили само появление и повсеместное распространение «цифры». Но не только. За все эти годы как раз динамика по снижению стоимости этих факторов продемонстрировала, что по ним можно прогнозировать и дальнейшую эволюцию «цифры». Нет-нет, мы не говорим, что в ближайшие годы та же эволюция ИИ может неожиданно изменить какие-то ключевые факторы. Но вот на ближайшие год-два именно на эти факторы, уже доказавшие свою значимость, и стоит рассчитывать, и именно их следует учитывать в прогнозе. Потому что по ним горизонт планирования вырисовывается чуть больше, чем в экономических, а тем более финансовых моделях. Но что же это за факторы?
Внизу пирамиды – датчик, который снимает информацию. Затем собранные данные надо куда-то передать, и в дело вступает второй фактор – технологии передачи данных. Затем эти данные надо где-то хранить – вот и третий фактор: технологии хранения данных. И далее эти данные нужно обработать – таким образом, четвертый фактор – это технологии работы с данными.
Если подробнее, то в нашем случае датчик – это та же микросхема, которая в турбине самолета снимает данные о температуре и давлении и должна выживать и работать в самых экстремальных условиях. Со временем он совершенствуется и дешевеет, что позволяет использовать уже не один датчик, а несколько. Издержки на исследования падают, их точность растет, а сами турбины становятся более совершенными и дешевыми.
Тот же датчик – это нынешняя дешевая наклейка с QR-кодом на крышке бутылки с водой, по которой можно отследить, где и когда производилась сама бутылка, в какой магазин она сейчас поставлена и где продается (или уже продана). Сразу понятна вся логистика, но это не только прозрачное налогообложение, но и борьба с фальсификатом, когда по данным на марке газировка уже вроде бы продана, но почему-то все еще стоит на полке. А если еще более наглядно, датчик – это камера наблюдения. Буквально лет 10–15 тому назад это были 500-долларовые камеры размером с коробку из-под обуви, снимающие черно-белую картинку в низком разрешении несколько раз в секунду. Такие камеры, кстати, еще можно увидеть в метро. Но со временем они стали компактнее, научились отображать гораздо больше оттенков и цветов. Обзавелись встроенными инфракрасными считывателями, чтобы отличить живые объекты от неживых (такие, кстати, стоят в автобусах). А главное – за счет эффекта масштабирования при увеличении производства – стали настолько дешевыми, вплоть до нескольких долларов, что их может купить любой и размещать везде, где только захочет. То есть стоимость датчика становится некритичной и почти не влияющей на общие издержки!
Второй фактор – технологии передачи данных. Это уже не медный и даже не более дешевый оптоволоконный кабель, а передача по воздуху – через WiFi по вышкам сотовой связи, по тому же спутнику. Уже можно послать бригаду рабочих куда-нибудь «на севера», дать им планшет с камерой, обеспечить связь по сотовой связи и через спутник. А всю информацию потом обрабатывать уже в Москве, где проще и дешевле. Те же издержки снижаются, а от подобных схем вахтовой работы остается буквально один шаг до более привычной нам «удаленки».
Но не все так просто. Снижение расходов должно быть экономически обоснованным – это бизнес. Идея сама по себе ничто без экономики – в этом и состоит смысл рассматриваемой нами пирамиды факторов. Возьмите ту же спутниковую связь. Не будем рассматривать военную GPS, а возьмем появление именно Starlink – рыночной и не просто окупаемой, но прибыльной спутниковой связи. Для сравнения вспомним схожий проект двадцатилетней давности – «Иридиум». Отнюдь не самые глупые выходцы из корпорации Intel запустили спутниковую группировку в надежде на клиентов, которым нужна связь в любой точке мира. Но рост покрытия более дешевой сотовой связи оставил для «Иридиума» в конце прошлого века лишь нишевых клиентов из бизнеса – фактически экстремальных туристов. А они не столь многочисленны и платежеспособны. В итоге, если бы не военные, перекупившие убыточную компанию, проект бы просто обанкротился. Так что всему свое время. Экономика и еще раз экономика определила зрелость в формировании каждого фактора. И снова все сложилось к концу десятых годов нынешнего века.
Теперь третий фактор – технологии хранения данных. Условно – это центры обработки и хранения данных (ЦОДы), большие ангары со стойками. Раньше первые такие ЦОДы даже размещали где-то «на северах» – в Норвегии, Исландии – и экономили на охлаждении оборудования. Потом они становились все компактнее, и стойки становились при том же объеме более емкими и дешевыми. Как результат – ЦОДы уже можно было устанавливать где угодно, а сами они стали менее редкими, так что суммарная стоимость хранения радикально снизилась к 2020-м годам. А значит, информацию можно было дешево снять, передать и, главное, хранить, пока она не понадобится.
И тут проявляется последний фактор – технологии работы с данными. Технологии совершенствуются сами по себе. Но это происходит не быстро. Результаты семидесятых годов прошлого века, когда появились алгоритмы, стимулированные холодной войной, до сих пор эффективно работают. Как и экспертные системы – предшественники нейросетей. Причем последние совершенствовались еще в 1980-е, как, например, та же теорема Арнольда о решении задач построением нейросети с тремя рабочими слоями, или как следствие теоремы Колмогорова о разложении функции в ряд Фурье.
Но прикладной рывок случился только в конце 2010-х, когда появилась дешевая элементная база и возможность обучать нейросети на больших доступных массивах. Прямое следствие этого прикладного рывка – то, что мы именно сейчас (а не в прошлом веке) называем ИИ. По сути математика получила новые прикладные возможности.
Теперь же мы ждем и более выраженного, качественного теоретического рывка. Причем уже сейчас. Отдельно подчеркнем дополнительное влияние предыдущего фактора в том же прикладном плане: появляется новый алгоритм, новые технологии обработки данных – можно пересмотреть старые результаты. Ведь данные по-прежнему хранятся в ЦОДах.
Все как с анализом допинг-проб – разработаны новые методы исследования, и старые пробы можно пересмотреть на устаревшие методы маскировки допинга. В результате у четырехкратного олимпийского чемпиона забирают три золотые медали.
Автор настоящей статьи обычно пугает студентов тем, что камера сзади снимает их активность на семинаре. И я могу посмотреть потом, кто чем занимается, и принять меры к неактивным. Но самое страшное в том, что лет через пять при поступлении на работу эта информация станет доступной потенциальному работодателю, который может подвергнуть сомнению лояльность будущего сотрудника.
В качестве вывода стоит заметить, что эволюция этих взаимосвязанных факторов шла в рамках растущих потребностей со стороны бизнеса и осуществлялась именно им. То есть – плавно, продуманно, исключительно в рамках экономической выгоды (упоминавшееся снижение стоимости или издержек по технологиям по конкретному продаваемому новому продукту). Иногда на динамику и приоритеты развития влияли дополнительные факторы – а это государство и регуляторы. Такой своеобразный форс-мажор или «черный слон», а не «черный лебедь» (то, что может случиться, но является лишь одной из множества маловероятных возможностей).
И вот к началу прошлого десятилетия экономика в целом уже была готова перейти на цифру и, более того, стала устойчиво и закономерно на нее переходить. Конечно, кто-то успешно перешел на цифру сразу, а кто-то по инерции сопротивлялся, будь то отдельные бизнесы или конкретные граждане – физические лица. Но общая тенденция сформировалась, и от плавного перехода, вызванного экономическими факторами, уже в конце прошлого десятилетия нельзя было отмахнуться.
Как боевой девятнадцатый год ударил по «цифре»
И вот тут-то прилетел уже не «черный слон», а настоящий «черный лебедь», которого никто не ждал, – наступил «ковидный» 2019 год. И удаленный доступ стал основным поводом для обязательного и немедленного внедрения «цифры» для тех, кто выжидал и не успел ее внедрить. И для бизнеса, и для физических лиц, которые по инерции все откладывали этот вопрос, но теперь для данного молчаливого большинства наступил момент истины.
Да, не все из них были объективно готовы к такому немедленному внедрению. Это радикально меняло привычные приоритеты развития, в частности, плавного, менее болезненного и более экономически эффективного внедрения «цифры». Но теперь утвержденные ранее пропорции изменились. А это всегда дополнительные издержки. Весь мир сильным и неожиданным толчком в спину полетел в сторону «цифры», оправдываясь только тем, что пора уже научиться жить в новом цифровом мире, а с эволюцией, как известно, не поспоришь…
И совсем неудивительно, что, еще не научившись жить в «цифре», и бизнес, и «физики» (не говоря уже о государстве) сразу столкнулись с теми, кто вошел в «цифру» раньше всех и, конечно, постарался воспользоваться этим дисбалансом в своих целях. А это уже не только конкуренция между субъектами экономики, а внеэкономическая конкуренция. В том числе со стороны более продвинутых и быстро приспособившихся к «цифре» мошенников и больше всех заинтересованных именно в паразитировании на таком дисбалансе хакеров. Собственно парадокс состоял в том, что навязанная так жестко «цифра», к которой мы были не готовы, сразу заставила задуматься об информационной безопасности. Причем об ИБ как составной части «цифры». То есть не только о кибербезопасности здесь и сейчас. Но сразу и о более глобальных, нуждающихся в тщательном обдумывании и осмыслении (снова издержки!) понятиях, таких как киберграмотность, киберкультура и кибергигиена. Причем – как о составной части культуры цифровой безопасности – и о цифровой грамотности как части цифровой культуры. И внедрять все это нужно как можно быстрее, иногда даже не считаясь с теми же издержками! А ведь это еще не все. Киберграмотность и киберкультура связаны с финансовой грамотностью и с финансовой культурой, о которых так активно говорили еще с начала нынешнего века. И что получается? Мы окончательно еще не разобрались с финансовой грамотностью, как наступил век «цифры», и мы должны понять, как эта финансовая грамотность должна выглядеть именно в этом веке. Но понять и обобщить мы еще не успели (или успели не все – и снова дисбаланс!). И эта тенденция, которая не просто усиливается и набирает обороты, но сразу начинает фиксировать практические методики внедрения, ту же экономическую эффективность, которую можно было уже измерить. А это уже быстрый переход к зрелости в оценках, который тянет за собой более медленный и развернутый во времени переход к зрелости в понимании финансовой грамотности и цифрового мира вообще.
Сразу же активизировались разные преступные элементы, причем уже не только привычные хакеры – злоумышленники новой цифровой реальности, а совершенно новые типажи цифровых мошенников. Типичный для доцифровой эпохи ландшафт угроз ИБ радикально обновился, а саму ИБ уже пришлось рассматривать как составную часть «цифры», в рамках еще недопонятых финансовой культуры и управления рисками. Первые обобщения причин проблем цифровой трансформации свидетельствовали, что дело не столько в технологиях, сколько в изменении подходов к работе, мышлению и в культуре компании. Именно в переходе к «цифре» роль ИБ стала наиболее значимой, что выражалась не столько в быстрой апробации соответствующих технологий, сколько в немедленном внедрении корпоративной кибербезопасности, киберграмотности и киберкультуры. Оказалось, что сейчас именно ИБ стала определять возможности цифровизации.
В начале 2020-х годов в индустрии ИБ появились апробированные методики внедрения, метрики оценки, мониторинга эффективности и даже своеобразная, но хорошо работающая оценка степени зрелости ИБ в бизнесе. На первом уровне зрелости это просто сам факт внедрения в организации отдельных технологий ИБ, обеспечивающих оперативную реакцию на любое проникновение в инфраструктуру, на атаку злоумышленников и ликвидацию уязвимости.
Следующий уровень – внедрение системы управления рисками в ИБ и ее интеграция в общую систему управления бизнес-рисками.
Третий уровень – ИБ как целостная система обеспечения непрерывности ведения бизнеса благодаря управлению рисками с осознанием того, какие из них компания готова принять для эффективного развития бизнеса, если нет ресурсов на нивелирование всех.
Оказалось, что именно российская индустрия ИБ совершенствуется наиболее быстрыми темпами, если говорить о внешних целевых атаках и минимизации их последствий. Во-первых, злоумышленники всех мастей, включая мощные хакерские группировки, осознали, что Россия представляет собой мишень, атака на которую если и не будет напрямую спонсироваться правительствами недружественных государств, то хотя бы может осуществляться с их молчаливого согласия.
Во-вторых, страна стала приоритетным полигоном для апробации новых технологий атак, а значит и защиты. Возник некий «двигатель прогресса» – развитие средств защиты стимулирует развитие всей российской отрасли ИБ, в которой задействованы продвинутые хакеры и идет постоянный процесс усложнения атак и рост их числа. Одновременно наблюдается увеличение количества атак за счет нового, многочисленного поколения молодых, начинающих хактивистов, у которых появился полигон для обучения, а порог входа в «профессию» сильно снизился. И в-третьих: уход западных компаний и санкционное давление стимулировали разработку ПО по ИБ – только за 2025 год объем российского рынка ИБ превысил 400 млрд руб., а рост составил около 20–25% при весьма неплохих перспективах, в том числе и за счет экспорта. При этом, по оценкам Института экономики роста им. П. А. Столыпина и фонда «Сайберус», совокупный вклад всей отрасли ИБ в российскую экономику по итогам 2025 года составил 3,6–5,3 трлн руб – а это 2% ВВП!
И тут подкрался ИИ!
Начало массового увлечения LLM ознаменовало появление еще одного «черного лебедя» на пути реорганизации цифрового мира. Резкий рывок в эволюции LLM на больших массивах для обучения не просто привел к привлечению в ИИ дополнительных ресурсов, а породил мысль о том, что ИИ со скоростью ковидного урагана поменяет и сам этот мир. Ставшие уже привычными цифровые мошенники тут же начали активно использовать ИИ, превращаясь в новых «цифровых вампиров». Ну а порог входа для тех, кто использует ИИ для атак, снизился еще больше. Теперь для организации сложных атак уже не требуется глубокая техническая экспертиза или доступ к дорогим инструментам – достаточно базовых навыков и ИИ-модели, которая проводит исполнителя по цепочке атаки от разведки до заражения и эксплуатации проникновения. В результате криминальные группы хакеров и мошенников смогли легко расширять свои штаты за счет неквалифицированных сотрудников, умеющих лишь эффективно использовать инструменты на базе ИИ.
Защита от всего этого снова легла на плечи индустрии ИБ, которая к этому моменту обладала соответствующими ИИ-решениями, работающими быстрее и масштабнее человека:
· поведенческий анализ и обнаружение аномалий (User and Entity Behavior Analytics, UEBA – построение «цифрового портрета» каждого пользователя и устройства);
· защита конечных точек (EDR/XDR);
· фильтрация фишинга и спама;
· автоматизация Центров безопасности (Security Operations Center, SOC),
· детекция дипфейков;
· анализ уязвимостей и пентестинг;
· обобщенная защита данных (DLP с ИИ).
Однако апробация ИИ в бизнесе идет медленней, чем в ИБ, ведь ИИ в ИБ – это уже классика технологий двойного назначения. Те же алгоритмы, которые защищают инфраструктуру бизнеса, в руках хакеров становятся оружием. И на начальном этапе внедрения новых наработок ИИ преимущество получает именно нападающая сторона.
Итак, на рубеже 2025–2026 годов уже никто не говорит об ИБ без привязки к ИИ – точка невозврата пройдена. При этом внедрение ИИ в ИБ получилось настолько масштабным, что стало непосредственно влиять на собственно внедрение ИИ в бизнес-процессы.
Более того, дальнейшая востребованность ИИ определяется текущими результатами и перспективами апробации ИИ в ИБ. Например, рекурентные нейронные сети (Recurrent Neural Networks, RNN) и долгая краткосрочная память (Long Short-Term Memory, LSTM) используются почти исключительно для анализа данных, помогающих выявить злоумышленников или обнаружить аномалии: логи событий, сетевой трафик во времени, действия пользователей. ИБ здесь не просто на шаг впереди – только вдумайтесь: в отличие от академических формулировок десятилетней давности мы теперь рассматриваем конкретные алгоритмы и апробируем методики ИИ с точки зрения ИБ!
Бум вайб-кодинга также внес свою лепту в развитие союза ИИ и ИБ, где джуны уже не нужны, а через десять лет и мидлы окажутся за бортом! Для начала слишком тормозящие развитие темы AI-first издержки безопасной разработки на время оставили, предпочитая им короткое время генерации кода. Как следствие, безопасная разработка, совсем недавно принципиальная для Low- и No-code, была забыта. В итоге без ИБ добились многого. Если еще три года назад ChatGPT был способен лишь написать однострочные функции на Python, то сейчас Claude Code, Cursor и Codex генерирует большие программы – вайбкодинг стал такой же привычной средой, как IDE или Git, базой создания продуктов сразу с расчетом на AI-first.
Однако широкое использование вайб-кодинга приводит к появлению большого количества функционального, но небезопасного кода. Тогда пришлось вернуться к ИБ и к издержкам, не учитывать которые уже стало нельзя. Повод – в апреле 2026 года мощная нейросеть Mythos обнаружила тысячи ранее неизвестных уязвимостей нулевого дня в OpenBSD, FreeBSD, Linux, Firefox и других проектах, а чуть позже выяснилось, что подобный взлом доступен и с помощью заурядных от Anthropic и OpenAI. Вроде как хотели как лучше – лишь на время отложить вопрос с ИБ, но получилось как всегда – и пришлось в авральном порядке затыкать дыры. ИБ в очередной раз снова показал, что без нее никуда, и она всегда должна опережать внедрение, чтобы потом не пришлось платить за все более существенными издержками.
И поэтому совсем неудивительно, что крупные компании, в том числе и российские, предпочитают собственные модели ИИ. Даже простой запрос подразумевает, что на сторону отдается понимание того, что именно необходимо компании. Ведь по одному лишь анализу промптов можно узнать почти все о бизнесе конкурентов. А знание кода, который был создан для конкретной компании в рамках вайб-кодинга, дает возможность воспользоваться скрытыми в нем уязвимостями. Аналогичное знание получает не только конкурент, но и хакерские группировки разных мастей, которые теперь вполне легально могут получать доступ к конфиденциальным данным.
Вместо заключения
ИИ – новая данность современности. Как только заходит вопрос о внедрении новой технологии ИИ, сразу появляется необходимость внедрения адекватных методик ИБ, которые уже давно работают с ИИ. Да, все новые цифровые технологии равны в плане развития бизнеса, но ИБ – «чуть равнее». И это справедливо для всех этапов развития технологий.
