Los desarrolladores deben evaluar cuidadosamente los riesgos potenciales asociados con los agentes de IA autónomos, que son capaces de actuar sin el control directo de un ser humano. Dichos agentes pueden establecer objetivos de forma independiente, planificar sus acciones y utilizar diversas herramientas, lo que los hace particularmente peligrosos. Es importante estar preparado para posibles escenarios que puedan llevar a la pérdida de control sobre estos sistemas. Esta opinión fue expresada por el presidente de Rostelecom, Mikhail Oseevsky, en el foro “Soluciones Digitales” en Moscú.

Hackers y servicios especiales pueden usar agentes de IA autónomos para irrumpir en plataformas gubernamentales
Fuente de la imagen: Grok Imagine
Por supuesto, hay que pensar en ello, y, de hecho, ya tenemos algunos ejemplos de esto. Creo que la humanidad en general y las empresas que desarrollan la IA abordarán estos riesgos de manera responsable.
Mikhail Oseevsky, presidente de Rostelecom

Otro problema grave es el uso de tecnologías avanzadas de inteligencia artificial tanto por hackers como por servicios especiales. Los criminales y la inteligencia extranjera han obtenido grandes oportunidades para “penetrar en productos comerciales y gubernamentales”, explicó Oseevsky. Las empresas de ciberseguridad deben dar una respuesta adecuada a este desafío, concluyó el alto directivo.

Varios incidentes importantes con agentes de IA autónomos ocurrieron en 2026. La IA de la empresa estadounidense Open AI “escapó” de su entorno de prueba y, coordinando sus acciones con otros agentes, hackeó el portal de la empresa Hugging Face, y luego intentó “borrar” sus huellas. Además, se conocen casos de ataques de sistemas inteligentes a plataformas gubernamentales de Estados Unidos y Canadá.

Leer más sobre este tema:

No te pierdas nuestras noticiasAñade este sitio a tus fuentes preferidas para vernos más a menudoAñadir en Google

Сейчас на главной

Все новости