Входящий в группу «РТК-ЦОД» российский разработчик ПО «Базис» представил Basis Air — платформу для управления графическими ускорителями и распределения ресурсов между ИИ-задачами. Об этом сообщает CNews.

Продукт предназначен для организаций, где несколько команд используют общий парк GPU. Платформа распределяет вычислительные мощности с учётом приоритетов задач и квот подразделений, позволяя задействовать оборудование, которое в противном случае простаивало бы. По оценке «Базиса», эффективность использования графических ускорителей при работе с Basis Air может увеличиться с 30% до 80%. За счёт этого заказчики смогут выполнять больше ИИ-задач на уже закупленном оборудовании и сократить расходы на расширение инфраструктуры. Около 80% кода Basis Air, по данным компании, составляет собственная разработка «Базиса».

Как работает платформа

Basis Air позволяет управлять GPU-кластерами на разных площадках и в разных подсетях из единого интерфейса. Администраторы задают права пользователей, квоты подразделений и проектов, а также правила распределения ресурсов. Если часть мощностей свободна, платформа может предоставлять их другим задачам сверх установленных квот.

Генеральный директор «Базиса» Давид Мартиросов отметил, что если GPU закреплены за отдельными командами, часть оборудования будет простаивать, пока другие проекты ждут свободных мощностей. По его словам, распределение ресурсов по приоритетам позволяет выполнять больше задач на имеющемся парке ускорителей и сокращать потребность в дополнительных закупках.

Платформа поддерживает выделение GPU целиком и распределение ресурсов одной карты между несколькими задачами. Предусмотрены разделение вычислительных ресурсов и видеопамяти, а также работа с MIG-профилями — механизмом аппаратного разделения совместимых ускорителей на изолированные экземпляры.

В Basis Air доступны сценарии обучения моделей, инференса и работы специалистов в средах Jupyter и VS Code. По оценке разработчиков, автоматизация выделения ресурсов и настройки доступа позволяет сократить подготовку рабочей среды для сотрудника с месяца до одного-двух часов. Управлять платформой можно через веб-интерфейс, API и командную строку.

Интеграции и безопасность

Предусмотрены интеграции с инструментами машинного обучения, включая Kubeflow и MLflow. Для хранения данных можно использовать механизмы Kubernetes и Basis Digital Energy, S3-совместимые сервисы и NFS, в том числе существующие хранилища заказчика. Платформа также отображает загрузку GPU и потребление видеопамяти в реальном времени, сохраняет историю использования оборудования и формирует отчёты по подразделениям и проектам.

Basis Air можно внедрить как самостоятельный продукт — платформа совместима с поддерживаемыми средами на базе Kubernetes, а обязательного перехода на остальные решения вендора не требуется. Продукт разворачивается в собственном ЦОД заказчика, в том числе в изолированном контуре без доступа к интернету. В нём предусмотрены единый вход, ролевая модель доступа и журнал действий пользователей.