Институт системного программирования РАН и компания «Яндекс» разрабатывают технологию маркировки изображений, видео и аудио, созданных с помощью искусственного интеллекта. Новая система будет незаметна для человека — в контент встраивается микроскопический цифровой маркер, который могут считать специальные анализаторы.
Сервис позволит проверять, был ли материал сгенерирован нейросетью, в частности, с помощью «Шедеврума» — генератора изображений от «Яндекса». Разработчики также рассматривают возможность сделать технологию открытой для всего рынка.
Развитие генеративных ИИ создает риски распространения фейков и дезинформации. Технология скрытой маркировки поможет отличать реальный контент от искусственного, повысит прозрачность и доверие к цифровой информации.
Читайте ещё материалы по теме:
Создано не человеком: Госдума предложила маркировать контент, созданный нейросетями
В Москве разрабатывают технологию маркировки контента сгенерированного ИИ