Российские разработчики ПО внедряют искусственный интеллект заметно быстрее, чем успевают его защищать. В исследовании AppSec Solutions и АРПП «Отечественный софт» все опрошенные компании сообщили об использовании ИИ, однако базовые меры контроля безопасности ИИ внедряют лишь 23%.

Самый распространённый инструмент — большие языковые модели: их используют 81% участников. Ещё 72% применяют ИИ-ассистенты для работы с кодом, а столько же уже внедрили ИИ-агентов в корпоративный контур, фактически делегировав им часть полномочий сотрудников.

При этом ощущение безопасности может оказаться обманчивым. Только 4% компаний сообщили о подтверждённых атаках, но более 90% вообще не проводили полноценную оценку угроз. Поэтому отсутствие зафиксированных инцидентов ещё не означает, что их действительно не было.

Отдельная проблема — так называемый теневой ИИ. Сотрудники всех опрошенных организаций пользуются внешними ИИ-сервисами: в 41% компаний это уже массовая практика, ещё в 59% — частичная. При этом люди могут отправлять в такие сервисы внутренние документы и другие чувствительные данные без централизованного контроля со стороны работодателя.

Среди основных рисков эксперты называют утечки конфиденциальных данных, промпт-инъекции, утечки через RAG-системы, обход встроенных ограничений и атаки на цепочку поставок ML. Отдельно в исследовании выделен сегмент средних ИТ-компаний со штатом от 100 до 500 человек, где, по словам авторов, сосредоточены наибольшие потенциал и риск применения ИИ, где  решения зачастую принимаются «вручную».