Un deepfake puede propagarse por las redes sociales más rápido de lo que una persona o empresa puede demostrar que el video, la foto o el audio son falsos. Por lo tanto, el Centro Principal de Radiofrecuencia de Roskomnadzor propuso a las plataformas identificar por sí mismas los materiales sospechosos y restringir su distribución incluso antes de verificar la información con los mencionados en ellos. La iniciativa fue anunciada en un foro dedicado a las tecnologías de inteligencia artificial confiable.
Roskomnadzor cree que para regular los deepfakes se necesitan mecanismos claros de respuesta rápida. La idea es que las redes sociales puedan detener temporalmente la distribución de contenido sospechoso hasta que se confirme su autenticidad.
Entre las medidas adicionales también se discuten el etiquetado de materiales generados y la creación de una base de datos de amenazas tecnológicas. Sin embargo, los participantes del mercado señalan que las redes sociales aún no cuentan con una herramienta confiable que identifique sin errores todo el contenido de IA.
Según los representantes de la industria, los modelos generativos modernos eluden rápidamente los detectores. Además, los bloqueos erróneos pueden provocar conflictos con usuarios y marcas.
Los expertos creen que la opción más realista podría ser un esquema híbrido. Primero, los filtros automáticos descartarán los materiales sospechosos, y luego los casos más controvertidos deberán verificarse manualmente.
Según la evaluación de los expertos, automatizar completamente un sistema así será difícil. Pero es posible lanzarlo parcialmente basándose en soluciones ya existentes.