En la era de las redes neuronales que han aprendido a crear videos con voz y movimientos perfectamente sincronizados, a veces es difícil distinguir una falsificación de videos reales. Yaroslav Selivérstov, experto líder en inteligencia artificial de la "Universidad 2035", explicó a qué se debe prestar atención.
Los modelos modernos como Sora de OpenAI, Runway Gen-2 y Gen-3, Pika 2, Synthesia, Kaiber y los motores de voz ElevenLabs y Coqui.ai permiten crear videos fotorrealistas con voz y movimientos perfectamente sincronizados, señala el experto.
Las redes neuronales han aprendido no solo a dibujar, sino a crear realidad. Si antes la generación de video requería semanas de renderización y gigabytes de datos, ahora bastan un par de palabras.
En primer lugar, hay que fijarse en la física de los movimientos: la inteligencia artificial tiene poca sensibilidad a la masa, la inercia y la fuerza de la gravedad. Las personas y los animales se mueven con demasiada facilidad, los objetos rebotan sin lógica y las gotas de agua vuelan en arcos inverosímiles. En una filmación real, el cuerpo siempre interactúa con el espacio circundante a través de irregularidades en los movimientos, sacudidas diminutas, imprevisibilidad de la trayectoria. Mientras que la IA aún no es capaz de recrear la cinética creíble del mundo vivo.
El segundo signo de la participación de la IA son los errores de luz y sombra. En los videos generados, a menudo hay varias fuentes de luz, pero no coinciden en la dirección. La sombra puede caer donde no debe, o estar completamente ausente. También vale la pena prestar atención al fondo o al plano posterior: a menudo revela la generación. Los árboles pueden repetirse, las caras de los transeúntes parecen dibujadas, los letreros y las inscripciones no son legibles. En los bordes del encuadre, las inconsistencias son más notables.
La IA también se puede reconocer por los ojos: las pupilas pueden ser asimétricas, brillar en diferentes lugares y moverse de forma extraña. A veces, la mirada "flota" como si la persona estuviera mirando a través de la cámara, no a ella.
En los videos de IA, la sonrisa a veces está "pegada", los ojos no se mueven sincrónicamente con la emoción y los labios se mueven un poco antes o después del sonido. Al reír, la piel no se mueve, al sorprenderse, los ojos permanecen sin vida.
Las texturas poco realistas son otra señal evidente. El pelaje de los animales a menudo parece de plástico, la piel, como de silicona, la tela, sin pliegues. La red neuronal también suele revelar espejos y charcos: los reflejos se retrasan, se mueven de manera diferente o simplemente desaparecen. A veces, en el espejo puede haber otro ángulo de la cara o incluso otra escena.
Bueno, y el error clásico de la IA se considera los dedos de las manos: pueden entrelazarse, desaparecer o parecer "de goma".
Lea más materiales sobre el tema:
- En las redes sociales está creciendo el número de videos falsos sobre catástrofes, creados por la IA
- Los deepfakes de IA no pasarán: en Rusia se está creando un servicio para marcar el contenido creado con la ayuda de redes neuronales
- Creado no por una persona: la Duma Estatal propuso marcar el contenido creado por redes neuronales