Las redes neuronales que los bancos utilizan para proteger a los clientes pueden dejar pasar transferencias fraudulentas no por algoritmos débiles, sino por la falta de ejemplos reales para el entrenamiento. Esta es la conclusión a la que llegaron los investigadores de la Universidad Politécnica de Moscú.
Casi todas las operaciones bancarias son legales, mientras que la proporción de robos es solo de milésimas de porcentaje. Como resultado, el modelo ve millones de pagos ordinarios y casos aislados de fraude. La forma más sencilla de reducir el número de errores para el modelo es casi siempre responder que la operación es segura. La precisión formal sigue siendo alta, pero los estafadores pasan la verificación.
Los desarrolladores intentan corregir el sesgo utilizando casos sintéticos de robo, una multa mayor por un ataque no detectado y combinaciones de varios algoritmos. Las redes neuronales de grafos analizan adicionalmente las conexiones entre cuentas y operaciones, por lo que pueden encontrar no una transferencia sospechosa individual, sino un grupo completo de participantes relacionados.
Los mejores sistemas de aprendizaje automático muestran una precisión del 88 al 94%, pero quedan obsoletos rápidamente debido a la aparición de nuevos esquemas de fraude. Los bancos, sin embargo, no pueden intercambiar libremente casos reales debido a la confidencialidad de los clientes, y los modelos complejos a menudo no pueden explicar claramente por qué se bloqueó una operación específica.
Según el Banco de Rusia, en 2025 los estafadores robaron 29.300 millones de rublos a los rusos, un 6,4% más que el año anterior. Se logró devolver menos del 6% de lo robado a los clientes.