Российские ИИ-модели, претендующие на статус национальных или суверенных, могут начать проверять на соответствие законодательству и традиционным духовно-нравственным ценностям. По обсуждаемой схеме разработчики смогут передавать такую экспертизу аккредитованным испытательным лабораториям, а окончательное решение останется за Минцифры.
Для проверки планируют разработать специальные бенчмарки. Лаборатории будут анализировать ответы нейросети, механизмы фильтрации и устойчивость к обходу ограничений, в том числе с помощью промпт-инъекций. Разработчику потребуется предоставить сведения об архитектуре модели, её создателях и используемых защитных механизмах.
Отдельно формулировать сами традиционные ценности не планируется — их перечень уже закреплён в президентском указе. Задача регуляторов и бизнеса заключается в том, чтобы превратить эти понятия в измеримые критерии тестирования. В подготовке требований участвуют Минцифры, ФСБ и ФСТЭК.
Проверка не должна стать обязательной для всех представленных на рынке нейросетей. Она потребуется прежде всего моделям, которые хотят получить статус национальных или суверенных, а вместе с ним — доступ к мерам господдержки, государственным данным и приоритетному применению в отдельных сферах.
Сейчас конструкция ещё не утверждена окончательно. Пакет подзаконных актов проходит межведомственное согласование, а требования к лабораториям и методике тестирования дорабатываются совместно с IT-компаниями. Эксперты считают ключевым сделать критерии максимально прозрачными и воспроизводимыми, чтобы оценка не зависела от субъективной трактовки.
Читайте ещё материалы по теме:
Не пропускайте наши новостиДобавьте сайт в предпочитаемые источники, чтобы видеть нас чащеДобавить в Google
