Во втором этапе пилотного проекта приняли участие 10 финансовых и нефинансовых организаций и три ИИ-платформы. Было протестировано 17 гипотез эффективного применения больших языковых моделей (LLM) в процессах компаний из разных сфер, 85% гипотез подтвердились. По итогам проекта три его участника вышли или готовы выходить в промышленную эксплуатацию с кейсами пилота.
Ассоциация ФинТех проводит пилотирование применения больших языковых моделей для повышения эффективности различных продуктов и процессов финансовых организаций. Первый этап пилотного проекта завершился летом 2024 года. Во втором этапе пилота состав участников заметно расширился: количество компаний, проверяющих гипотезы применения LLM, выросло с четырех до 10, количество ИИ-моделей – с двух до трех. Среди участников: ВТБ, Газпромбанк, Альфа-Банк, ПСБ, Банк ДОМ.РФ, Ак Барс Банк, Страховой Дом ВСК, ФлексСофт. Гипотезы проверялись на трех LLM: GigaChat (Сбер), YandexGPT 4 (входит в Yandex Cloud AI Studio), Cotype (MWS AI).
Во время второго этапа пилотного проекта протестированы 17 гипотез применения генеративного ИИ, среди них: взаимодействие больших языковых моделей и внутренних баз финансовых организаций, эффективность применения ИИ для работы с документами (поиск контента в документах и их суммаризация), применение LLM для разработки трейдинговой стратегии на основе анализа тональности новостей, анализ программного кода бизнес-приложения с помощью ИИ для повышения качества кода. По результатам тестирования 85% гипотез подтвердились. На момент проведения пилота зафиксированы следующие метрики:
• Точность распознавания темы в диалогах пользователей – более 75%
• Сгенерированные саммари из ответов клиентов и различных видов документов баз данных компании содержат всю необходимую информацию – более 80%
• Автоматизация поиска информации по базам данных с применением RAG подхода (подход, при котором генерация ответа LLM осуществляется на основе данных, полученных в результате поиска во внутренних источниках) – более 75%
Тестирование показало, что большие языковые модели помогают улучшить клиентский опыт и снизить время разрешения вопросов, существенно оптимизировать внутренние процессы и создавать новые цифровые продукты и ценностные цепочки. В результате вышли или готовятся выходить в промышленную эксплуатацию с кейсами, проверенными в ходе пилотного проекта, три участника: Альфа-Банк, ПСБ, Газпромбанк.
«Совместная работа заказчиков и вендоров на пилотных проектах Ассоциации ФинТех способствует быстрому обмену опытом и достижению максимальной эффективности внедрения технологий, а также выявлению зон роста, где нужно улучшить технологии или создать новые продукты. Для этого финансовым и технологическим организациям предоставляется доступ к инфраструктуре и сервисам на собственных мощностях технологической песочницы Ассоциации ФинТех. Но для перехода в промышленную эксплуатацию и повышения конверсии из пилота в успешные проекты требуется разработка типового процесса и референсной архитектуры внедрения ИИ-решений. Работа над ними ведется на площадке АФТ в рамках Центра компетенций по ИИ», — подчеркнул советник генерального директора по искусственному интеллекту Ассоциации ФинТех Алексей Сидорюк.
Фото: freepik
