Com o rápido desenvolvimento da tecnologia de vídeo gerada por IA, o seu realismo está a aumentar dia a dia, o que também traz sérios riscos para a segurança social, como o recente caso de fraude de IA no valor de 25 milhões de dólares. Para enfrentar esse desafio, uma equipe de pesquisa da Escola de Engenharia da Universidade de Columbia desenvolveu uma ferramenta de detecção de vídeo gerada por IA chamada DIVID (DIffusion-generated VIdeo Detector), que foi projetada para identificar e detectar com eficácia vídeos falsos gerados por tecnologia avançada de IA, fornecendo um forte garantia para manter a segurança da rede e a autenticidade das informações.
As principais vantagens do DIVID são:
1. Visando a nova geração de IA: projetado especificamente para detectar vídeos gerados por modelos de difusão, como conteúdo gerado por ferramentas como Sora da OpenAI, Runway Gen-2 e Pika.
2. Inovação tecnológica: A tecnologia DIRE (Diffusion Reconstruction Error) é adotada para identificar conteúdo gerado por IA, comparando a diferença entre o vídeo de entrada e a saída de reconstrução do modelo de difusão pré-treinado.
3. Construído com base no sucesso: DIVID é uma extensão da ferramenta de detecção de texto Raidar desenvolvida anteriormente pela equipe, estendendo a detecção de IA do campo de texto para o campo de vídeo.
4. Abertura: A equipe de pesquisa divulgou publicamente códigos-fonte e conjuntos de dados abertos, promovendo o desenvolvimento e a aplicação desta tecnologia.
O surgimento do DIVID marca um avanço importante na tecnologia de detecção de conteúdo de IA. Com o uso generalizado de vídeos gerados por IA nas redes sociais, no jornalismo e nos negócios, a importância de tais ferramentas de detecção tornou-se cada vez mais evidente. Não só ajuda a combater a fraude e a propagação de informações falsas, mas também oferece novas possibilidades para manter a autenticidade e a credibilidade no mundo digital.
O lançamento de código aberto do DIVID fornece uma arma poderosa para a luta global contra vídeos falsos gerados pela IA, o que ajudará a aumentar a conscientização pública sobre a tecnologia de IA e a promover a construção de um ambiente digital mais seguro e confiável. Acredita-se que, no futuro, as ferramentas de detecção de IA como o DIVID desempenharão um papel cada vez mais importante na manutenção da segurança da rede e no combate ao crime cibernético.