Las claves para identificar contenido creado con inteligencia artificial en redes sociales

El avance de las herramientas de inteligencia artificial (IA) generativa transformó la producción de materiales digitales, al permitir crear textos, fotografías, videos y clonaciones de voz con un alto nivel de realismo.

Este fenómeno exige aplicar métodos de verificación en redes sociales, plataformas donde los contenidos con IA suelen utilizarse tanto para fines creativos como para campañas de desinformación, estafas financieras y manipulación social.

El periodista especializado en análisis de medios digitales, Alejandro Morales, explicó en entrevista para El Diario que la facilidad de acceso a estas tecnologías modificó la manera en que los usuarios deben evaluar cualquier registro audiovisual que circula en Internet.

“Nos encontramos en un punto de inflexión donde la carga de la prueba perceptual se ha invertido: antes asumíamos que lo que veíamos o escuchábamos era real. Hoy, ante cualquier evento extraordinario en redes sociales, debemos asumir la presunción de falsedad sintética hasta que se demuestre lo contrario”, señaló Morales.

Inspección de detalles físicos y visuales

A pesar del desarrollo alcanzado por modelos generativos como Midjourney, Stable Diffusion o Sora, los sistemas algorítmicos aún presentan fallos en la representación de la lógica física y la consistencia anatómica dentro de escenas complejas.

En ese sentido, el analista consultado recomendó examinar tres elementos principales en cualquier pieza sospechosa:

– Extremidades y proporciones: las manos humanas continúan siendo un punto vulnerable en la generación gráfica con IA, donde suelen aparecer dedos adicionales, longitudes desproporcionadas, uñas difusas o uniones irregulares con objetos cercanos.

– Iluminación y dirección de sombras: los motores de renderizado artificial pueden calcular de forma errónea las fuentes de luz y generar escenas donde un rostro recibe iluminación desde un costado mientras las sombras proyectadas apuntan en sentido opuesto.

– Texturas y textos en segundo plano: en fotografías de multitudes o espacios urbanos, los rostros secundarios suelen mostrarse borrosos o repetitivos, mientras que los carteles y pancartas de fondo exhiben caracteres ininteligibles o símbolos sin sentido.

Herramientas de análisis

Otra metodología para desmontar contenidos falsos consiste en rastrear el origen del archivo mediante motores de búsqueda visual como Google Lens, TinEye, Yandex o Bing, los cuales permiten comprobar si una fotografía fue publicada anteriormente en otro contexto o si proviene de un banco de imágenes alterado.

“La solución a largo plazo no depende solo de programas que detecten errores, sino de que las propias cámaras, navegadores y redes sociales certifiquen el origen de cada archivo mediante estándares como C2PA. Si cada imagen lleva un sello digital verificable desde el momento en que se crea, podremos saber con certeza si una foto fue tomada por una cámara real o fabricada por un algoritmo”, detalló el especialista.

El C2PA (siglas en inglés de Coalición para la Procedencia y Autenticidad del Contenido) es un estándar técnico abierto impulsado por una alianza de empresas tecnológicas y medios de comunicación, como Adobe, Microsoft, Google, Sony, OpenAI y la BBC, para certificar el origen y el historial de edición de archivos digitales.

En el caso de secuencias audiovisuales, Morales mencionó que plataformas como InVID-WeVerify facilitan la extracción de fotogramas individuales para verificar si fragmentos de archivos antiguos fueron reutilizados para ilustrar hechos actuales.

Asimismo, acotó que cuando la observación manual resulta insuficiente, los verificadores recurren a software especializado como AI or Not, Hive Moderation, Illuminarty o DeepAI Image Detector, diseñados para identificar patrones de píxeles y ruidos digitales propios de las redes.

Paralelamente, empresas tecnológicas han impulsado estándares criptográficos como la herramienta de Google “Rodea para buscar” que ayuda a identificar el origen de un contenido, u otras que incrustan metadatos y marcas de agua invisibles para certificar el origen sintético de un archivo como SynthID.

Responsabilidad de las plataformas

Morales advirtió que las empresas tecnológicas mantienen una postura ambigua frente al problema, debido a que, si bien implementan sistemas de moderación, sus algoritmos de recomendación suelen privilegiar la interacción masiva que producen las publicaciones impactantes.

Por ello, consideró necesario establecer regulaciones internacionales similares a la Ley de Inteligencia Artificial de la Unión Europea para exigir el etiquetado visible de cualquier material alterado que incida en el debate público.

“Cuando un video o una imagen en redes sociales genera una reacción extrema, ese es el momento exacto en el que debemos activar la duda. Detenerse cinco minutos a buscar la fuente y aplicar una simple búsqueda inversa puede evitar que nos convirtamos en eslabones involuntarios de una cadena de desinformación”, apuntó el periodista.

Para reducir el riesgo de engaño al consumir información digital, el experto recomendó contrastar siempre si el hecho fue reportado por medios periodísticos verificados y reconocidos antes de difundirlo, revisar la sincronización labial en videos con declaraciones políticas o corporativas y emplear herramientas gratuitas de verificación ante cualquier duda sobre la autenticidad del material.

La entrada Las claves para identificar contenido creado con inteligencia artificial en redes sociales se publicó primero en El Diario Venezuela - elDiario.com.