Con el rápido desarrollo de la tecnología de vídeo generada por IA, su realismo aumenta día a día, lo que también conlleva graves riesgos para la seguridad social, como el reciente caso de fraude por IA por valor de 25 millones de dólares. Para abordar este desafío, un equipo de investigación de la Facultad de Ingeniería de la Universidad de Columbia desarrolló una herramienta de detección de video generada por IA llamada DIVID (DIFfusion-generated VIdeo Detector), que está diseñada para identificar y detectar de manera efectiva videos falsos generados por tecnología avanzada de IA, proporcionando una Fuerte garantía para mantener la seguridad de la red y la autenticidad de la información.
Las principales ventajas de DIVID son:
1. Dirigirse a la nueva generación de IA: diseñado específicamente para detectar videos generados por modelos de difusión, como contenido generado por herramientas como Sora, Runway Gen-2 y Pika de OpenAI.
2. Innovación tecnológica: se adopta la tecnología DIRE (Error de reconstrucción de difusión) para identificar el contenido generado por IA comparando la diferencia entre el video de entrada y la salida de reconstrucción del modelo de difusión previamente entrenado.
3. Basado en el éxito: DIVID es una extensión de la herramienta de detección de texto Raidar desarrollada previamente por el equipo, que extiende la detección de IA desde el campo de texto al campo de video.
4. Apertura: el equipo de investigación ha publicado públicamente código fuente y conjuntos de datos abiertos, promoviendo un mayor desarrollo y aplicación de esta tecnología.
La aparición de DIVID marca un avance importante en la tecnología de detección de contenidos mediante IA. Con el uso generalizado de vídeos generados por IA en las redes sociales, el periodismo y los negocios, la importancia de este tipo de herramientas de detección se ha vuelto cada vez más evidente. No sólo ayuda a combatir el fraude y la difusión de información falsa, sino que también ofrece nuevas posibilidades para mantener la autenticidad y la credibilidad en el mundo digital.
El lanzamiento de código abierto de DIVID proporciona un arma poderosa para la lucha global contra los videos falsos generados por IA, lo que ayudará a aumentar la conciencia pública sobre la tecnología de IA y promoverá la construcción de un entorno digital más seguro y confiable. Se cree que en el futuro, las herramientas de detección de IA como DIVID desempeñarán un papel cada vez más importante en el mantenimiento de la seguridad de la red y la lucha contra el ciberdelito.