Saltar al contenido

Inicio › Novedades

IA para detectar deepfakes: lo que estas herramientas analizan (y lo que todavía no pueden garantizar)

IA para detectar deepfakes: lo que estas herramientas analizan (y lo que todavía no pueden garantizar)

Si mañana apareciera un vídeo de Robin Williams diciendo palabras que nunca dijo, ¿cómo sabrías que es falso? Eso es exactamente lo que temen sus hijos: no solo que alguien cree el contenido, sino que sea tan convincente que nadie lo cuestione. La IA que detecta deepfakes existe y ya está disponible. Lo que vale la pena entender es qué analiza de verdad y dónde están sus límites reales.

En corto

  • Detectar si una foto o vídeo es falso ya no requiere ser experto técnico: hay herramientas de IA que buscan señales de manipulación que el ojo humano no capta, como artefactos en los bordes del rostro o inconsistencias en el parpadeo.
  • Ninguna herramienta de detección da una garantía absoluta: las de generación mejoran constantemente, y los detectores entrenados con técnicas antiguas pueden no reconocer un deepfake de última generación.
  • El caso Robin Williams pone de relieve que el problema no está solo en quien crea contenido falso, sino en que ese contenido pueda circular como si fuera real sin que nadie lo cuestione.

Qué señales analiza una IA para detectar un deepfake

Las herramientas de detección no buscan lo que tú verías mirando el vídeo: buscan señales técnicas que quedan impresas en el archivo aunque el resultado parezca perfecto a simple vista. Las más comunes son los artefactos en los bordes donde el rostro generado se une al resto de la imagen, inconsistencias en cómo se mueven los ojos o cómo parpadea la persona, diferencias en la textura de la piel que no corresponden con el resto del encuadre, y patrones de compresión anómalos que aparecen cuando una región ha sido procesada de forma distinta al resto.

Cuanto más se ha comprimido y compartido un vídeo —por ejemplo, después de circular por redes sociales—, más señales adicionales quedan. Paradójicamente, un deepfake que ha dado muchas vueltas puede ser más fácil de detectar que el original de alta calidad, porque cada compresión añade sus propias marcas sobre las del procesado anterior.

Cuándo tiene sentido usar estas herramientas

El uso más concreto es la verificación de material antes de publicarlo o actuar sobre él. Un periodista que recibe un clip de audio de un personaje público diciendo algo que nunca ha dicho, un responsable de redes sociales que necesita decidir si un vídeo viral es auténtico, o la familia de un artista fallecido que quiere documentar que un contenido es artificialmente generado: en todos estos casos, pasar el material por una herramienta de detección da una primera señal objetiva, aunque no sea concluyente por sí sola.

También tiene sentido si produces vídeos propios y quieres publicarlos de una forma que no levante dudas sobre su autenticidad. Entender qué señales buscan los detectores te ayuda a grabar y editar de un modo que no genere falsas alarmas.

  • Verificación de material audiovisual antes de publicarlo en medios
  • Moderación de contenido en plataformas y redes sociales
  • Documentación inicial en casos de uso no autorizado de imagen o voz ajena
  • Comprobación personal cuando recibes material sospechoso de una figura pública o familiar

Por qué el caso Robin Williams importa desde el lado de la detección

La preocupación de los hijos de Robin Williams no es solo que alguien pueda crear contenido con su imagen: es que ese contenido pueda circular como si fuera real. La detección es la otra cara de la misma moneda. Si una familia quiere actuar legalmente contra el uso no autorizado de la imagen de un familiar fallecido, necesita primero poder documentar que ese contenido es falso, y no solo afirmarlo.

En España, el derecho a la propia imagen está protegido como derecho fundamental y puede ser ejercido por los herederos. Pero sostener ese argumento requiere evidencia. Un resultado de una herramienta de detección puede ser el punto de partida para una pericial técnica, aunque por sí solo no tenga valor probatorio definitivo.

Los límites que estas herramientas no resuelven

La carrera entre generación y detección es constante, y las herramientas de detección van por detrás. Un deepfake producido con técnicas recientes puede superar a detectores que no han sido entrenados con esas mismas técnicas. No existe ninguna herramienta que garantice un resultado correcto en todos los casos, y los propios desarrolladores advierten de que su precisión baja cuando el contenido manipulado es de alta calidad y no ha sido recomprimido.

El segundo límite es legal: el resultado de un detector de IA no es una prueba forense por sí solo. En un procedimiento legal, hace falta una pericial técnica realizada por un especialista que pueda defender su metodología. La herramienta puede señalar una anomalía; la prueba la construye un experto.

¿Y esto a mí qué me cambia?

  • Si eres periodista o trabajas en medios: puedes hacer una primera verificación objetiva de material audiovisual antes de publicarlo, sin depender únicamente del ojo humano.
  • Si eres familiar de una persona pública o fallecida cuya imagen está siendo usada sin permiso: pasar el contenido por un detector es el primer paso para documentar que es artificialmente generado, antes de actuar legalmente.
  • Si publicas vídeos propios en redes sociales: entender qué señales buscan estos sistemas te ayuda a producir contenido que no genere falsas alertas de manipulación en plataformas o en quien lo recibe.

La letra pequeña

  • Ningún detector da una garantía absoluta: un mismo vídeo puede pasar o fallar distintas herramientas, y los deepfakes de alta calidad sin recomprimir son los más difíciles de detectar.
  • Las herramientas de detección se actualizan con retraso respecto a las de generación: un deepfake producido con técnicas muy recientes puede no ser reconocido por detectores entrenados con técnicas anteriores.
  • El resultado de una herramienta de detección no tiene valor probatorio por sí solo en un procedimiento legal: es una señal de alerta inicial, no una prueba forense.

De dónde sale esto

Todo lo de arriba está comprobado en la fuente original, no copiado de terceros. Puedes verlo tú mismo:

Guías relacionadas