El Banco de Russia propuso regular los modelos de IA utilizados por las organizaciones de crédito. El Banco Central considera peligrosa una situación en la que decenas de bancos operan en una única plataforma global, pero no pueden verificar con qué datos se entrenó ni por qué toma ciertas decisiones.

El problema es que un error en un sistema puede convertirse rápidamente en un error común. Los bancos pueden reducir simultáneamente los límites, evaluar incorrectamente a los prestatarios o dirigir dinero a los mismos activos, amplificando el movimiento del mercado. Según Timur Aitov, experto de la CCI de Russia, en algunos segmentos las pérdidas de la cartera de crédito pueden alcanzar el 3-5% por trimestre.

También existe una dependencia de un proveedor extranjero. Una falla, un cambio de licencia o la desconexión de un servicio pueden interrumpir el trabajo de varios participantes del mercado a la vez. Además, los atacantes pueden distorsionar intencionalmente los datos de entrada, y los bancos tendrán que esperar una corrección del desarrollador.

Las futuras reglas pueden introducir un "pasaporte" del modelo de IA con una descripción de los datos de entrenamiento, control de errores y "alucinaciones", empleados responsables y requisitos para operar dentro del contorno ruso. También pueden limitar el uso de plataformas externas y obligar a los bancos a prever de antemano la posibilidad de cambiar de proveedor. Por ahora, esto es solo una propuesta, no requisitos aprobados.