Investigadores de EE.UU. buscan desarrollar un modelo de IA llamado UNITE que pueda identificar y analizar los videos creados con la herramienta artificial
30.07.2025 • 18:00hs • ciberseguridad
ciberseguridad
Así es la nueva tecnología que detecta los contenidos falsos creados con IA
:quality(75):max_bytes(102400)/https://assets.iproup.com/assets/jpg/2019/10/6352.jpg)
La irrupción de la inteligencia artificial (IA) trajo consigo la llegada de los contenidos falsos o modificados, también conocidos como deepfakes, que son generados con las nuevas herramientas de IA.
A medida que la tecnología avanza, la capacidad de reconocer entre lo real y lo que fue generado por una computadora es un desafío.
Ante esto, investigadores de EE.UU. avanzan en el desarrollo del modelo UNITE (Red universal para la identificación de videos manipulados y sintéticos) para el analisis de videos creados con IA.
Este modelo posee la capacidad de detectar con altos grados de precisión todos los videos que hayan sido generados con IA sin depender solo de los rostros humanos.
"La tecnología de deepfake se está desarrollando tan rápidamente que ya no se trata sólo de intercambiar caras. Todo el video, desde la cara hasta el fondo, puede crearse fácilmente con IA generativa", indicó Rohit Kundu, uno de los investigadores.
Hasta el momento, las herramientas disponibles para discernir si estos videos eran reales o falsos, presentan muchas falencias.
De que se trata el modelo UNITE
Para el desarrollo del nuevo modelo, los investigadores utilizaron un modelo de IA creado por Google, llamado SigLIP.
La misma herramienta aprende la correspondencia entre imágenes y videos y el lenguaje natural y tiene la capacidad de extraer características abstractas con gran precisión sin depender directamente de caras u objetos.
UNITE utiliza una técnica de aprendizaje profundo denominada transformadores que son mecanismos para procesar información de manera simultánea en función del contexto.
Así, se podrá identificar distintas incoherencias como la suavidad del movimiento o la falta de naturalidad en los componentes del video.
Por otro lado, los investigadores incorporaron un método de aprendizaje llamado attention-diversity loss.
Se trata de un dispositivo que evita la dependencia de la herramienta en ciertos momentos del video y distribuye la atención por la composición de toda la imagen.
Hasta el momento, UNITE logró alcanzar una precisión de clasificación superior al 87% en el último conjunto de datos "DeMamba", que incluye videos creados por Sora, la inteligencia artificial de Google.
