El desarrollador de modelos de IA MWS AI (MTS) y la empresa Rubytech realizaron conjuntamente pruebas de grandes modelos de lenguaje rusos en complejos de hardware y software (PAK) con GPU chinas. Las pruebas formaron parte de los preparativos para el lanzamiento comercial, previsto para el próximo año.
Durante las pruebas, se lanzaron dos modelos de MWS AI en el PAK: el Cotype Pro 3 superior (27 mil millones de parámetros) y el Cotype Light 3 ligero (9 mil millones de parámetros). Se consideraron cinco variantes de chips chinos para las pruebas. Según "Vedomosti", en ciertos escenarios de inferencia, el PAK con GPU chinas mostró resultados comparables a los sistemas basados en Nvidia H100.
Anton Yudin, jefe de desarrollo de tecnología de IA en los productos "Skala^r" del grupo Rubytech, explicó que la empresa está finalizando el PAK después de la fase piloto. La primera versión se centrará principalmente en la inferencia, y la posibilidad de un entrenamiento adicional se planea agregar más tarde.
Paralelamente, el Ministerio de Industria y Comercio, junto con desarrolladores y fabricantes de electrónica, está explorando la posibilidad de introducir un sistema de puntos para evaluar la localización de los chips utilizados en los sistemas de IA. Actualmente, Baikal Electronics y NTC "Modul" están trabajando en aceleradores de IA nacionales. Sin embargo, la producción de un chip potente y moderno para IA con una topología de 12-14 nm es imposible en Russia debido a la falta de fábricas de ciclo completo, por lo que el uso de chips chinos sigue siendo la única alternativa.
Leer más sobre este tema:
- Los gadgets rusos cambian ante nuestros ojos: cada vez menos componentes importados en su interior
- El mercado de la IA en Rusia carece de tarjetas de video
- ИИ отправят на проверку духовности: модели протестируют на традиционные ценности