«Сбер» открыл для разработчиков доступ к нейросетевой модели для генерации текста на русском языке

Нейросетевая модель генерирует тексты для русского языка ruGPT-3.5 13B. Ее дообученная версия лежит в основе сервиса GigaChat. Также банк выложил новую версию модели mGPT 13B — самую большую из семейства многоязычных моделей «Сбера», способную генерировать тексты на 61 языке, передает ТАСС со ссылкой на кредитную организацию.

Стало известно, что обе модели доступны на депозитарии HuggingFace, и их могут использовать все разработчики (модели опубликованы под открытой лицензией MIT, лицензия открытого и свободного программного обеспечения, разработанная Массачусетским технологическим институтом).

По данным «Сбера» внутри GigaChat находится ансамбль моделей — NeONKA (Neural Omnimodal Network with Knowledge-Awareness). Для его создания нужно было выбрать базовую языковую модель, которую потом можно было обучать на инструктивных данных. Russian Generative Pretrained Transformer версии 3.5 с 13 млрд параметров (ruGPT-3.5 13B) — новая версия нейросети ruGPT-3 13B.

www.hypar.ru