В Москве разрабатывают технологию маркировки контента сгенерированного ИИ

В Институте системного программирования им. В. П. Иванникова (ИСП РАН) разрабатывают технологии маркировки контента, сгенерированного нейросетями. Об этом сообщил директор Института системного программирования им. В. П. Иванникова (ИСП РАН) Арутюн Аветисян.

Источник изображения сгенерировано нейросетью DALL•Е 3

По словам главы вуза, в настоящее время в мире отсутствуют инструменты для автоматической идентификации контента, созданного искусственным интеллектом. Цифровые водяные знаки, которые можно будет использовать для маркировки изображений и видео, помогут защитить пользователей от угроз, связанных с распространением ложных данных.

Технология DocMarking, используюет машинное обучение для внедрения незаметных меток в изображения или видеопоток. Изначально мы применяли ее для борьбы с утечками конфиденциальных документов, а теперь адаптируем для пометки сгенерированного контента.

Арутюн Аветисян, директор Института системного программирования им. В. П. Иванникова (ИСП РАН)

Также было отмечено, что необходимость маркирования контента, созданного нейросетями, закреплена в Национальной стратегии развития ИИ на период до 2030 года, которая реализуется в России, США и Евросоюзе. Разработка защитит пользователей от недостоверной информации.

Ранее www1.ru сообщал, что в России появится Единая программа исследований в области ИИ.