Разработчик ИИ-моделей MWS AI (МТС) и компания Rubytech совместно провели испытания российских больших языковых моделей на программно-аппаратных комплексах (ПАК) с китайскими GPU. Тестирование стало частью подготовки к коммерческому запуску, запланированному на следующий год.
В ходе испытаний на ПАКе запустили две модели MWS AI: старшую Cotype Pro 3 (27 млрд параметров) и облегчённую Cotype Light 3 (9 млрд параметров). Для тестов рассматривалось пять вариантов китайских чипов. Как пишут «Ведомости», в отдельных сценариях инференса ПАК на китайских GPU показал результаты, сопоставимые с системами на базе Nvidia H100.
Руководитель направления развития технологий ИИ в продуктах «Скала^р» группы Rubytech Антон Юдин пояснил, что сейчас компания дорабатывает ПАК после пилотирования. Первая версия будет ориентирована преимущественно на инференс, возможность дообучения планируется добавить позднее.
Параллельно Минпромторг совместно с разработчиками и производителями электроники прорабатывает возможность введения балльной системы для оценки локализации чипов, применяемых в системах ИИ. Сейчас над отечественными ИИ-ускорителями работают «Байкал Электроникс» и НТЦ «Модуль». Однако выпуск современного мощного чипа для ИИ по топологии 12–14 нм в России невозможен из-за отсутствия фабрик полного цикла, поэтому использование китайских чипов остаётся единственной альтернативой.
Читайте ещё материалы по теме:
Не пропускайте наши новостиДобавьте сайт в предпочитаемые источники, чтобы видеть нас чащеДобавить в Google
