Los desarrolladores de software rusos están implementando la inteligencia artificial notablemente más rápido de lo que logran protegerla. En el estudio de AppSec Solutions y ARPP «Otechestvenny Soft», todas las empresas encuestadas informaron sobre el uso de IA, sin embargo, solo el 23% implementa medidas básicas de control de seguridad de la IA.
La herramienta más común son los grandes modelos de lenguaje: el 81% de los participantes los utiliza. Otro 72% aplica asistentes de IA para trabajar con código, y la misma cantidad ya ha implementado agentes de IA en el entorno corporativo, delegándoles de hecho parte de las responsabilidades de los empleados.
Sin embargo, la sensación de seguridad puede ser engañosa. Solo el 4% de las empresas informó de ataques confirmados, pero más del 90% no realizó una evaluación completa de las amenazas. Por lo tanto, la ausencia de incidentes registrados no significa que realmente no hayan ocurrido.
Un problema aparte es la llamada IA en la sombra. Los empleados de todas las organizaciones encuestadas utilizan servicios externos de IA: en el 41% de las empresas, esta ya es una práctica masiva, y en otro 59%, es parcial. Al mismo tiempo, las personas pueden enviar documentos internos y otros datos sensibles a estos servicios sin un control centralizado por parte del empleador.
Entre los principales riesgos, los expertos mencionan la fuga de datos confidenciales, las inyecciones de prompts, las fugas a través de sistemas RAG, la elusión de las restricciones incorporadas y los ataques a la cadena de suministro de ML. El estudio destaca un segmento de empresas de TI medianas con una plantilla de 100 a 500 personas, donde, según los autores, se concentran el mayor potencial y riesgo del uso de la IA, y donde las decisiones a menudo se toman «manualmente».