FCA опубликовало примеры применения ИИ финансовыми компаниями
Согласно совместному исследованию FCA и Банка Англии, ИИ уже используют 86% финансовых компаний.
В качестве примера надлежащей практики регулятор приводит компанию, которая ведет актуальный перечень признаков уязвимости, используемых чат-ботом на базе ИИ для выявления потребителей, которым может потребоваться дополнительная помощь сотрудников. К ненадлежащей практике FCA относит разработку ИИ-инструментов без четко определенной потребности в них, исключение уязвимых потребителей по умолчанию, преувеличение возможностей ИИ, а также внедрение автоматизированных сценариев обслуживания клиентов без достаточного тестирования.
Регулятор отметил, что многие компании по-прежнему уделяют недостаточно внимания вопросам управления ИИ.
FCA указывает на необходимость внедрения мер контроля со стороны человека за работой ИИ-систем. В качестве примера надлежащей практики регулятор назвал компанию, создавшую независимую комиссию по этике для оценки предполагаемых сценариев применения ИИ до их внедрения. Другие компании, напротив, выстраивали систему управления только после внедрения ИИ либо не адаптировали мониторинг по мере изменения ИИ-систем.
В области операционной устойчивости компании должны проводить стресс-тестирование ИИ-систем, предусматривать резервные варианты работы и оценивать риски концентрации зависимости от поставщиков, в том числе связанные с использованием одной модели ИИ.
FCA отмечает, что ИИ-агенты уже могут искать финансовые продукты, управлять платежами и инвестициями, а также совершать операции с другими ИИ-агентами. По мнению регулятора, требования к отчетности об инцидентах должны распространяться на существенные сбои ИИ-систем и случаи, когда сбоя или негативных последствий удалось избежать в последний момент. Для агентных ИИ-систем необходима непрерывная оценка надежности с учетом конкретных условий их применения.
FCA планирует совместно с участниками рынка, другими регуляторами и ведущими разработчиками передовых моделей ИИ разработать систему регулирования агентных финансов. Она будет охватывать идентификацию ИИ-агентов, делегирование полномочий, распределение ответственности и исполнение операций.
FCA также использует ИИ в собственной надзорной деятельности. Регулятор разрабатывает инструменты на базе ИИ для надзора за 60 тыс. компаниями, деятельность которых связана с противодействием отмыванию денег и которые должны войти в сферу его компетенции в 2028 году. Кроме того, он разрабатывает ИИ-агента оперативного реагирования на события на рынке для надзора примерно за 9 тыс. небольших компаний, представляющих отчетность об операциях на оптовых финансовых рынках.
По материалам thepaypers.com; PLUSworld.ru.
