С помощью дипфейка мошенник может вывести деньги, выдав себя за владельца счета, подключиться к видеозвонку компании для кражи конфиденциальной информации и даже сдать экзамен за другого человека. Как дипфейк-детекторы защищают от этих и других сценариев мошенничества и на что важно смотреть при выборе решения? Об этом порталу PLUSworld рассказывает директор портфеля продуктов VisionLabs Татьяна Дешкина.
За первые пять месяцев 2025 года число дипфейков в России выросло на 32% по сравнению с аналогичным периодом прошлого года и в 4 раза — по сравнению с 2023 годом. Для мошенников порог входа очень низкий: с помощью современных сервисов создать дипфейк можно без знаний в разработке, а стоимость генерации либо невысокая, либо вообще нулевая — в зависимости от используемой модели. При этом ущерб для организации прогнозировать очень трудно, и он может быть не только финансовым, но и репутационным.
Как происходит дипфейк-атака
Корпоративные коммуникации перешли в онлайн, причем многие компании используют для звонков неспециализированные сервисы, в которых нет нужного уровня защиты: обычные мессенджеры или платформы видеоконференцсвязи без встроенной идентификации участников.
В подобных сервисах злоумышленник может создать профиль с именем и фотографией жертвы, подключиться к звонку и заменить видеопоток на видео со сгенерированным лицом жертвы. Готово: мошенник успешен, компания — нет.
При мошенничестве в банковской сфере преступник при видеозвонке от банка — практике, которую применяют для подтверждения перевода выше определенной суммы, — заменяет видеопоток с фронтальной камеры дипфейком. Если за проверку личности отвечает человек, он с большой вероятностью не распознает подмену. Например, когда я показываю на конференциях видео с реальной и синтезированной девушкой, только 40–60% аудитории правильно определяют фейк.
Попробуйте определить, где фейк, а где реальная девушка. Ответ в конце статьи
Как защитить бизнес и пользователей
С помощью технологии дипфейка можно подменять лицо человека, мимику и синхронизировать движения губ. Детектор должен распознавать все эти типы подделок.
Система анализирует видео в реальном времени и выявляет следы вмешательства искусственного интеллекта. Алгоритмы детекции дипфейков работают как любые алгоритмы классификации: нейросеть обучается на массиве данных, где есть и реальные видео, и дипфейки. Модель ищет визуальные аномалии, в том числе незаметные человеческому глазу.
Ни один детектор не дает точности 100%. Модели можно задать такой порог, при котором она не пропустит ни одного фейка, но это приводит к риску большого количества ложноположительных срабатываний, например, когда на видео реальный человек, но само видео низкого качества. Поэтому в понятие точности детектора входит количество ошибок на реальных людях. Хороший детектор позволяет соблюдать баланс между точностью работы на фейках и реальных людях.
Как защититься от дипфейков: чек-лист для компаний:
● Используйте корпоративные мессенджеры и сервисы видеоконференцсвязи — базовые инструменты защиты в них выше, чем в неспециализированных решениях.
● Внедряйте технологии защиты от дипфейков в корпоративные коммуникации и клиентские сервисы, где используется видеосвязь.
● При выборе детектора дипфейков обращайте внимание не только на точность распознавания подделок, но и на точность работы на реальных людях: ложноположительные срабатывания существенно снизят пользовательский опыт.
● Повышайте цифровую грамотность сотрудников: для многих сценариев злоумышленники используют социальную инженерию. Например, для получения доступа к корпоративной почте, через которую в дальнейшем мошенник подключится к звонку.
На текущий год эксперты MarketsandMarkets оценивают рынок инструментов подтверждения личности в 14,3 млрд долл. США и прогнозируют, что к 2030 году он вырастет до 29,3 млрд долл. С учетом роста числа дипфейк-атак и постоянного повышения качества дипфейков, детекция такой подмены личности будет составлять большую долю рынка. Инструменты мошенников будут развиваться и дальше, поэтому важно следить за новыми сценариями атак и постоянно совершенствовать средства защиты.
_____________
Ответ: слева — фейк, справа — скриншот из реального видео.
Фото: предоставлено автором
