Банк России предложил регулировать ИИ-модели, которыми пользуются кредитные организации. В ЦБ считают опасной ситуацию, когда десятки банков работают на одной глобальной платформе, но не могут проверить, на каких данных она обучалась и почему принимает те или иные решения.
Проблема в том, что ошибка одной системы может быстро стать общей. Банки способны одновременно снизить лимиты, неверно оценить заёмщиков или направить деньги в одинаковые активы, усиливая движение рынка. По оценке эксперта ТПП России Тимура Аитова, в отдельных сегментах потери кредитного портфеля могут достигать 3–5% за квартал.
Есть и зависимость от зарубежного поставщика. Сбой, изменение лицензии или отключение сервиса рискуют нарушить работу сразу нескольких участников рынка. Кроме того, злоумышленники могут специально искажать входные данные, а банкам придётся ждать исправления от разработчика.
Будущие правила могут ввести «паспорт» ИИ-модели с описанием обучающих данных, контролем ошибок и «галлюцинаций», ответственными сотрудниками и требованиями к работе внутри российского контура. Также могут ограничить использование внешних платформ и обязать банки заранее предусмотреть возможность смены поставщика. Пока это лишь предложение, а не утверждённые требования.
Читайте ещё материалы по теме:
- Госдума дала старт «суверенному ИИ»: законопроект приняли в первом чтении
- Нейросети для инвестиций: ИИ научился искать перспективные проекты
- Набиуллина расставила границы для ИИ: нейросети помогают ЦБ, но не решают за него