Dengan pesatnya perkembangan teknologi video yang dihasilkan AI, tingkat realismenya semakin meningkat dari hari ke hari, yang juga membawa risiko keamanan sosial yang serius, seperti kasus penipuan AI senilai $25 juta baru-baru ini. Untuk mengatasi tantangan ini, tim peneliti di Columbia University School of Engineering mengembangkan alat pendeteksi video yang dihasilkan AI yang disebut DIVID (DIffusion-generated VIdeo Detector), yang dirancang untuk secara efektif mengidentifikasi dan mendeteksi video palsu yang dihasilkan oleh teknologi AI canggih, memberikan a jaminan kuat untuk menjaga keamanan jaringan dan keaslian informasi.
Keunggulan inti DIVID adalah:
1. Menargetkan AI generasi baru: Dirancang khusus untuk mendeteksi video yang dihasilkan oleh model difusi, seperti konten yang dihasilkan oleh alat seperti Sora OpenAI, Runway Gen-2, dan Pika.
2. Inovasi teknologi: Teknologi DIRE (Diffusion Reconstruction Error) diadopsi untuk mengidentifikasi konten yang dihasilkan AI dengan membandingkan perbedaan antara video masukan dan keluaran rekonstruksi model difusi terlatih.
3. Dibangun berdasarkan kesuksesan: DIVID adalah perpanjangan dari alat deteksi teks Raidar yang sebelumnya dikembangkan oleh tim, memperluas deteksi AI dari bidang teks ke bidang video.
4. Keterbukaan: Tim peneliti telah merilis kode sumber terbuka dan kumpulan data secara publik, mendorong pengembangan lebih lanjut dan penerapan teknologi ini.
Kemunculan DIVID menandai kemajuan penting dalam teknologi deteksi konten AI. Dengan meluasnya penggunaan video yang dihasilkan AI di media sosial, jurnalisme, dan bisnis, pentingnya alat deteksi tersebut menjadi semakin jelas. Hal ini tidak hanya membantu memerangi penipuan dan penyebaran informasi palsu, namun juga memberikan kemungkinan baru untuk menjaga keaslian dan kredibilitas di dunia digital.
Rilis DIVID yang bersifat open source memberikan senjata ampuh dalam perjuangan global melawan video palsu yang dihasilkan oleh AI, yang akan membantu meningkatkan kesadaran masyarakat akan teknologi AI dan mendorong pembangunan lingkungan digital yang lebih aman dan andal. Di masa depan, alat pendeteksi AI seperti DIVID diyakini akan memainkan peran yang semakin penting dalam menjaga keamanan jaringan dan memerangi kejahatan dunia maya.