El contenido creado por inteligencia artificial puede reconocerse por una serie de características distintivas, desde formulaciones estereotipadas hasta errores en las imágenes. Sin embargo, ninguna de ellas garantiza que el material haya sido realmente creado por una red neuronal. Así lo afirmó Elena Fomina, jefa del Departamento de Informática y Matemáticas Aplicadas de la Universidad Técnica Estatal de Tver.

En los textos, la experta aconseja prestar atención a las construcciones repetitivas, el exceso de palabras introductorias y una estructura excesivamente ordenada. Otra señal de alarma son los errores fácticos, las formulaciones ilógicas y las referencias a fuentes obsoletas o inexistentes. En las imágenes, el uso de la IA puede delatarse por distorsiones anatómicas y diversos artefactos visuales.

Un problema particular es que las redes neuronales pueden cometer errores manteniendo un tono seguro. Ante la falta de información o contradicciones en los datos de origen, el modelo puede completar la respuesta con hechos plausibles pero ficticios. Este fenómeno se conoce como alucinaciones de la IA.

Un riesgo adicional está relacionado con la actualidad de la información. El conocimiento de los modelos puede estar limitado por la fecha de la última actualización, y los modelos de lenguaje básicos no necesariamente verifican sus respuestas con fuentes externas. Por lo tanto, a menudo un texto coherente y convincente puede contener imprecisiones graves.

Según Fomina, la única forma fiable de verificar la veracidad del material es cotejar de forma independiente los hechos, las fechas, las citas y las fuentes primarias. Esto es especialmente importante para los textos profesionales y los materiales destinados a la publicación.