Перейти к содержанию

«Яндекс» занялся поиском уязвимостей в ИИ-инфраструктуре

Решение позволяет заранее находить слабые места в корпоративных системах

Yandex B2B Tech вывела на российский рынок AI-SPM — решение для управления безопасностью и рисками ИИ-систем. Оно позволяет выявлять потенциальные уязвимости в моделях, данных и вычислительной инфраструктуре, а также контролировать опасные настройки. О запуске продукта сообщила Yandex B2B Tech, а о его возможностях рассказал генеральный директор Yandex Cloud Григорий Атрепьев. По его словам, AI-SPM относится к числу первых комплексных решений такого класса на российском рынке.

Источник изображения: Grok Imagine

Система собирает в одну картину основные элементы ИИ-инфраструктуры — модели, данные и серверы. Затем она связывает их с найденными уязвимостями и предлагает варианты защиты. Это позволяет заранее увидеть потенциальные проблемы и определить, что с ними делать.

Например, AI-SPM может помочь обнаружить риск подмены данных, использованных для обучения модели, возможность атаки через специально подготовленный запрос или избыточный доступ посторонних к ИИ-системе. Инструмент также постоянно следит за инфраструктурой и ищет опасные настройки без необходимости каждый раз проводить ручной аудит.

Решение вошло в состав сервиса Yandex Security Deck. В основе AI-SPM лежит методология AI-SAFE 2.0, которую разработали Yandex Cloud и SolidLab. Она предназначена для оценки безопасности ИИ на разных этапах его жизненного цикла.

Рынок таких решений в России пока только формируется. По оценке Yandex B2B Tech, в 2026 году его объём может составить от 1 до 4 млрд рублей, а к 2029–2030 годам вырасти до 11–30 млрд рублей. Это именно оценка компании, а не подтверждённый независимый объём рынка.

Читайте ещё материалы по теме: