Завершено расширение Технологической песочницы АФТ инфраструктурой параллельных вычислений

12.09.2024, 13:51

709

В Технологической песочнице АФТ развернута GPU-ориентированная инфраструктура для высокопроизводительных матричных и векторных операций в целях пилотирования решений с использованием технологий искусственного интеллекта.

Завершено расширение Технологической песочницы АФТ инфраструктурой параллельных вычислений — Фото: freepik

В ландшафт Технологической песочницы Ассоциации ФинТех (АФТ) добавлена инфраструктура параллельных вычислений на базе профессиональных графических адаптеров (GPU), что предоставило участникам новые возможности по апробации в АФТ моделей искусственного интеллекта: больших языковых моделей (LLM), моделей машинного обучения (ML).

В частности, на новой инфраструктуре уже развернута большая языковая модель MTS AI Cotype Plus. Причем, в отличие от традиционного облачного использования подобных моделей, она представлена не в облаке, а в инфраструктуре Технологической песочницы. Это обеспечило возможности для пилотирования кейсов с использованием чувствительных данных в закрытом контуре, что очень важно для компаний финансового рынка.

НоваяGPU-инфраструктура Технологической песочницы АФТ предоставляет участникам возможность апробировать также и собственные модели машинного обучения, которые используются, например, в актуарных расчетах в страховом секторе финансового рынка. При этом новые возможности для пилотирования получают не только крупные, но и небольшие финансовые и технологические компании, которые находятся только в самом начале пути освоения технологий ИИ. Им важно на данном этапе «просто попробовать», понять лучшие сценарии использования моделей ИИ, а также получить понимание того, как модель будет работать во внутреннем контуре организации и обосновать дальнейшее архитектурное развитие собственных инфраструктур