826
Т-Банк открыл доступ к русскоязычной языковой модели с 7-8 миллиардами параметров
T-lite предназначена для разработки приложений на основе крупных языковых моделей (LLM), позволяя компаниям создавать собственные решения в области поддержки клиентов, анализа текстов, поиска информации и суммирования данных без необходимости передачи данных третьим лицам. Например, модель может автоматически обрабатывать запросы клиентов или анализировать большие объемы текстовых данных.
С размером в 8 миллиардов параметров T-lite становится одной из крупнейших доступных моделей для русского языка, обеспечивая высокое качество обработки при существенно ниже стоимости эксплуатации по сравнению с аналогичными международными моделями размером от 20 миллиардов параметров.
На тестированиях модель превзошла такие известные международные модели, как llama3-8b-instruct и chat-gpt 3.5, при этом потребляя всего 3% вычислительных ресурсов, обычно требуемых для моделей подобного уровня.
T-lite является частью семейства Gen-T — специализированных языковых моделей Т-Банка, созданных для решения специфических задач в различных областях.
Артем Бондарь, руководитель NLP в Центре искусственного интеллекта Т-Банка, подчеркнул: «Разработка собственного семейства языковых моделей — это насущная необходимость по многим причинам. Существующие на рынке решения не закрывают всех задач, которые есть у нас, и не являются оптимальными.
Наши модели семейства Gen-T показали свою эффективность в наших сервисах, оптимальны по соотношению используемых мощностей и качеству. И мы готовы поделиться этой разработкой с другими компаниями, с пользователями, с профессиональным сообществом. Это наш вклад в развитие искусственного интеллекта в России».
