En 2025, el número de delitos en los que los delincuentes utilizarán la inteligencia artificial aumentará drásticamente. Según los expertos en ciberseguridad, los métodos fraudulentos evolucionarán con el desarrollo de las redes neuronales, y este año serán utilizados por cerca del 90% de los grupos cibernéticos ilegales.
Las tecnologías se desarrollan demasiado rápido
Se supone que los ataques afectarán no solo al espacio virtual, sino también a otras áreas de la vida. Un ejemplo es el sabotaje del automóvil Tesla Cybertruck en Las Vegas a principios de enero. Para preparar este ataque se utilizó el chatbot ChatGPT.
El aumento anual de los delitos cometidos con la ayuda de la IA no es registrado por los organismos oficiales. Se determina aproximadamente por el número de bots y el contenido que generan. En 2025, el aumento de tales delitos podría incrementarse hasta ocho veces o incluso diez veces en comparación con el año pasado.
El especialista señala que los métodos de protección de las redes neuronales se pueden eludir con la ayuda de la llamada ingeniería de prompts. En tales casos, un delincuente puede crear una situación ficticia para la IA, por ejemplo, pedirle que se imagine a sí mismo como un escritor y que escriba una novela sobre terroristas, incluyendo una instrucción sobre cómo crear un artefacto explosivo.
Redes peligrosas
La mayor amenaza la representan los casos en que los delincuentes puedan obtener del chatbot información sobre cómo crear armas, explosivos y compuestos químicos que puedan utilizarse con fines terroristas. Así lo advirtió Dmitri Shtanenko, especialista en tecnologías de la información.
Este año también se espera un aumento en el número de filtraciones de datos debido al amplio uso de la inteligencia artificial en las organizaciones. Algunos de los empleados admitieron que utilizan tales herramientas sin el conocimiento de la dirección.
La causa del aumento de los índices mundiales de delincuencia con la ayuda de la IA será la automatización y las nuevas posibilidades de personalización de los ataques. Los ciberdelincuentes comenzarán a utilizar la tecnología para ataques más sofisticados, lo que requerirá nuevos métodos de protección y cambios en la legislación y el software para combatir este tipo de delincuencia.
La inteligencia artificial no puede atacar por sí sola, pero es excelente para crear correos electrónicos de phishing, subrayó el director general de la empresa Phishman, Alexéi Gorelkin. En 2025 se espera un crecimiento significativo de sus capacidades, y las herramientas con inteligencia artificial podrían generalizarse entre los delincuentes. Esto se aplica especialmente a quienes utilizan métodos de ingeniería social.
Ekaterina Snegiriova, analista sénior del grupo de investigación Positive Technologies, llamó la atención sobre el hecho de que los delincuentes también utilizan la inteligencia artificial para crear y modificar código malicioso.
En particular, en junio de 2024 se descubrió una campaña de phishing que resultó en la propagación del virus AsyncRAT. Los escenarios maliciosos de JavaScript y VBScript se crearon utilizando una computadora.
Según ella, este año se espera un aumento en el número de filtraciones de datos debido al amplio uso de la inteligencia artificial por parte de las organizaciones. El 38% de los empleados encuestados admitieron que utilizan tales herramientas sin notificar al empleador.
Los especialistas de F.A.C.C.T. esperan que la inteligencia artificial en 2025 desempeñe un papel más importante en los ciberataques. En particular, puede utilizarse para crear deepfakes más realistas, automatizar ataques de phishing y aumentar la eficacia de la búsqueda de vulnerabilidades en sistemas y aplicaciones.
Sin embargo, los expertos no disponen de datos estadísticos sobre tales casos. Estudian ejemplos concretos del uso de la IA y los deepfakes en los ciberataques.
Protégete tú mismo
Los rusos no pueden utilizar oficialmente servicios extranjeros como Grok o ChatGPT, ya que no se pueden pagar legalmente con tarjetas de bancos rusos. Además, estos servicios no están disponibles para usuarios con direcciones IP asociadas a Rusia, informó el experto en TI Serguéi Pomórtsev de la empresa GG Tech.
Según el experto, los análogos nacionales son más seguros desde el punto de vista de la confidencialidad de los datos, ya que están controlados por los organismos estatales rusos y regulados por la legislación sobre datos personales y otras normativas.
Ya es necesario introducir en la base legislativa de Rusia formulaciones más precisas y acordes con el desarrollo tecnológico.
Es necesario prohibir el uso de tecnologías GPT para la formulación de solicitudes relativas a la fabricación de armas caseras, así como la creación de recetas que incluyan elementos químicos como el sulfuro de hidrógeno.
Según afirma el jefe del departamento de investigaciones de T.Hunter, Ígor Bederov, en Rusia existen mecanismos que ayudan a proteger a los usuarios de contenidos no deseados. Entre ellos se encuentran los filtros que bloquean determinadas palabras y expresiones, así como el «Código de ética en el ámbito de la inteligencia artificial». Este documento fue firmado por grandes empresas como «Sber» y «Skólkovo».
Es importante señalar que el uso de la IA en los ciberdelitos es un fenómeno relativamente nuevo, y los organismos encargados de hacer cumplir la ley y los especialistas en ciberseguridad continúan estudiando y desarrollando métodos para contrarrestar tales ataques.
Vladímir Daschenko, experto de Kaspersky ICS CERT, está seguro de que en los próximos año y medio o dos años la inteligencia artificial alcanzará su punto máximo de desarrollo. Según él, para las redes neuronales comenzará una «era dorada».
El mercado de la inteligencia artificial muestra un rápido crecimiento. Según las previsiones, la cuota de la IA en el PIB de Rusia podría alcanzar el 2%. Esto será posible gracias al apoyo estatal destinado al desarrollo de este ámbito. Se prevé que el 5% del presupuesto se destine a la investigación científica en el campo de las redes neuronales, y otro 15% a otras áreas donde se utiliza la inteligencia artificial.
Pero también es curioso algo más. El académico de la Academia Rusa de Ciencias, Ígor Kaliáyev, expresó su temor de que la división de los sistemas de inteligencia artificial por características nacionales, sexuales, confesionales y de otro tipo pueda conducir a un conflicto entre ellos. En tal situación, la humanidad podría ser solo un peón en esta guerra.
Leer materiales sobre el tema:
Red neuronal contra la discriminación laboral: cómo cambiar de profesión con la ayuda de la IA
No se debe permitir que la IA en Rusia gestione el estado: qué piensan los rusos
Para evitar los riesgos cibernéticos: guía para el desarrollo seguro de la IA
