
ИИ: возможности и риски для финансового сектора

Как известно, GenAI отличается от своих предшественников тремя ключевыми аспектами: автоматичностью, скоростью и повсеместностью.
Внедрение больших языковых моделей (large language models, LLM) привлекло внимание к искусственному интеллекту (ИИ). Наличие значительных вычислительных ресурсов и огромных массивов данных раскрывает потенциал ИИ во всех секторах экономики. Финансовый сектор, в силу высокой доли решаемых его участниками задач, требующих когнитивных способностей, относится к числу наиболее подверженных воздействию ИИ. Интеграция ИИ в финансовую сферу преобразует способы работы рынков, применяемые организациями методы управления рисками и способы взаимодействия потребителей с финансовыми услугами.
Энтузиазм вокруг LLM – явление новое, а вот использование ИИ в финансовом секторе — нет (см. таблица 1). Традиционная аналитика, такая как правила «если – то», давно применяется в нескольких функциях финансовой системы. Они используются для оценки рисков, кредитного анализа на основе правил, оптимизации портфеля и обнаружения мошенничества. Начиная с 2010-х годов модели машинного обучения (machine learning, МL) также проникли в приложения финансового сектора в широком спектре вариантов использования, таких как анализ кредитных и страховых рисков, высокочастотный трейдинг, инициативы по борьбе с отмыванием денег (AML) и борьбе с финансированием терроризма (CFT).
В отличие от предыдущих поколений ИИ, модели GenAI могут работать и принимать большинство решений самостоятельно, без вмешательства человека. Они также способны принимать решения за доли секунды благодаря своей способности обрабатывать огромные объемы данных намного быстрее людей. Кроме того, поскольку они значительно облегчают людям взаимодействие с компьютерами и кодом, их можно повсеместно интегрировать в повседневную деятельность во всех отраслях экономики.
GenAI и, в частности, его способность структурировать неструктурированные данные (например, видео, подкасты, музыку, изображения и фотографии), может создать новые возможности для финансового сектора. Сочетание растущей вычислительной мощности и использования новых форм данных может быть полезным во всех функциях финансового сектора, включая финансовое посредничество, страхование, платежи и управление активами.
Финансовые учреждения уже используют GenAI для улучшения кредитного скоринга, внутреннего процессинга, роботизированного консультирования, поддержки клиентов и соблюдения нормативных требований. По состоянию на 2023 год более 84% финансовых учреждений, опрошенных Институтом международных финансов (Institute of International Finance, IIF), использовали ИИ в своем бизнесе, а 86% планировали расширить свой арсенал моделей GenAI.
В то же время новые возможности, обеспечиваемые здесь ИИ, отнюдь не бесплатны. По мере расширения возможностей, предлагаемых ИИ, расширялись и проблемы. Существует несколько «микро-рисков», возникающих в результате использования ИИ, которые затрагивают отдельные финансовые учреждения. Повсеместное использование ИИ в финансовом секторе может усугубить угрозы конфиденциальности потребителей и кибербезопасности. Более того, большинство моделей ИИ имеют врожденную природу «черного ящика», и их предсказания нелегко объяснить. Они также могут плодить необъективность данных, на которых они обучаются.
Другие проблемы включают возникновение разрозненных баз данных, склонность моделей к несовершенному «заполнению пробелов» или галлюцинациям, а также формализованной координации. Модели GenAI, в частности, также подвержены проблеме «мусор на входе, мусор на выходе» («garbage in, garbage out», или «каков вопрос, таков ответ»): качество выходных данных этих моделей не лучше, чем качество базовых входных данных.
Однако существуют также макро-риски, которые влияют на стабильность финансовой системы в целом.
Поскольку использование ИИ продолжает набирать обороты, мы должны оставаться внимательными к системным рискам, которые он может создавать. Даже при ограниченных возможностях этой технологии раннее (на первых этапах) использование ИИ вызывало мгновенные сбои и финансовую нестабильность. Известными примерами являются мгновенный крах фондового рынка США в 1987 году, вызванный отчасти зависимостью страховых компаний от моделей, основанных на правилах.
Более сложный ИИ, такой как модели машинного обучения, усилил эти риски несколькими путями. Во-первых, большинство моделей ИИ полагаются на схожие наборы данных. Из-за экономии масштаба и объема при сборе данных, в производстве соответствующих наборов данных, используемых для обучения этих моделей, доминируют небольшое количество крупных игроков, часто крупных технологических компаний. Использование тех же базовых наборов данных может увеличить риски единообразия и процикличности в прогнозах моделей.
Во-вторых, поскольку финансовые учреждения полагаются только на нескольких сторонних поставщиков моделей, существует также риск «стадности моделей». Похожие модели и алгоритмы оптимизации могут увеличить волатильность рынка, повысить вероятность внезапных сбоев и снизить ликвидность в периоды напряженности.
В-третьих, увеличение сетевой взаимосвязанности в финансах и реальной экономике может усугубить пагубное воздействие ИИ на финансовую стабильность. В дополнение к этим проблемам отсутствие объяснимости, присущее моделям ИИ, может помешать регуляторам вовремя обнаружить системный риск или манипулирование рынком.
Широкое использование моделей GenAI усиливает некоторые из тех же рисков. Автоматичность, скорость и повсеместность GenAI могут еще больше усилить стадность и единообразие. Возьмем, к примеру, LLM, используемые для клиентских услуг, таких как робо-консультирование – важное применение GenAI в финансовом секторе. Если большинство робо-консультантов полагаются на одни и те же базовые модели, их советы могут стать все более однородными.
Отдельным, но связанным аспектом является влияние растущей концентрации рынка и киберрисков на финансовую уязвимость. Как мы уже отмечали, модели ИИ используют огромные объемы данных и сложные алгоритмы для функционирования, и сбой в любой части этой системы может привести к значительным системным последствиям. Концентрированная зависимость сторонних разработчиков от одних и тех же поставщиков технологий ИИ может создать системно важные отдельные точки отказа. Например, широко распространенная утечка данных, ошибка программного обеспечения или атака на основополагающие модели ИИ, используемые в нескольких учреждениях, могут вызвать каскадный эффект, нарушая работу мировых финансовых рынков. Помимо уязвимостей, возникающих из-за концентрации рынка и зависимости от третьих сторон, побочные эффекты от использования ИИ в реальной экономике также могут быть пагубными для финансовой стабильности. В целом, существует большая неопределенность относительно воздействия ИИ на реальный сектор, особенно на рынки труда и производительность. Недавние исследования показывают, что ИИ может повысить производительность, особенно в задачах, требующих высоких когнитивных навыков, особенно у менее опытных работников. Если ИИ будет вести себя как другие технологии общего назначения, он может повысить производительность, создать новые задачи и увеличить спрос на рабочую силу. С другой стороны, ИИ также может заменить работников и задачи.
Общее влияние ИИ на реальный сектор будет зависеть от баланса между ростом производительности, созданием задач и исчезновением профессий. При оптимистичном сценарии распространение ИИ приводит к положительным скачкам производительности и незначительной дестабилизации рынка труда. В этом случае влияние на финансовую стабильность будет ограниченным.
При разрушительном сценарии возможности ИИ развиваются очень быстро и вызывают масштабные нарушения на рынке труда и перераспределение богатства, что приводит к широкомасштабным дефолтам и финансовой нестабильности. Реальность, вероятно, будет где-то посередине, и крайне важно направить технологические разработки в сторону оптимистичного сценария.
В конечном счете задача регулирующих органов, финансовых учреждений и политиков состоит в том, чтобы использовать преимущества ИИ, одновременно снижая связанные с ним риски. Обеспечение прозрачности, подотчетности и устойчивости в моделях ИИ будет иметь решающее значение для поддержания финансовой стабильности во все более автоматизированном мире. Способность ИИ как стабилизировать, так и дестабилизировать финансовые системы означает, что важное значение будут иметь тщательный мониторинг и регулирование, поскольку приложения на базе ИИ продолжают развиваться в финансовом секторе.
Заглядывая вперед, можно сказать, что значительная неопределенность окружает не только долгосрочное распространение и влияние ИИ, но и эволюцию самой технологии. Прогресс достигается за счет разработки агентов с искусственным интеллектом — моделей, которые могут действовать автономно, обладают долговременной памятью и демонстрируют обширные возможности планирования. Это достижение представляет собой шаг к общему искусственному интеллекту (artificial general intelligence, AGI) — системам ИИ, способным выполнять все когнитивные задачи, которые могут выполнять люди. Хотя AGI имеет потенциал для дальнейшей революции в финансовом секторе, экономике и обществе в целом, предсказать, будет ли его потенциал достигнут и когда, остается сложной задачей. Несмотря на эту неопределенность, главный вопрос, на который нам предстоит ответить коллективно, заключается в том, какие технологические достижения мы хотим получить в будущем, какие навыки и задачи мы хотим автоматизировать, и какие основные права эти технологии должны соблюдать для получения более широких социальных выгод.
По материалам internationalbanker.com; PLUSworld.ru.