ЦБ опубликовал методические рекомендации по безопасному использованию ИИ в финансовой сфере
Документ подчеркивает необходимость системной работы с рисками на всех этапах жизненного цикла ИИ — от разработки и тестирования до эксплуатации и взаимодействия с внешними сервисами. Особое внимание уделено прозрачности, контролируемости и защищённости моделей, а также требованиям к поставщикам ИИ-решений.
Рекомендации акцентируют важность разработки внутренних политик и моделей угроз, учитывающих специфику деятельности организации и критичность процессов, в которых применяется ИИ. Ответственность за подготовку таких документов возлагается на заместителя руководителя организации по вопросам защиты информации.
В ЦБ также перечислили основные угрозы, которые необходимо учитывать: «отравление» обучающих данных, галлюцинации ИИ, дрейф данных, атаки с внедрением вредоносных запросов и компрометация цепочки поставок. Для каждой угрозы предложены конкретные меры защиты — от контроля целостности данных до тестирования на проникновение.
