Dengan pesatnya perkembangan teknologi kecerdasan buatan, hal ini membawa kemudahan sekaligus risiko. Baru-baru ini, Olga Loiek, seorang blogger YouTube Ukraina, menderita penyalahgunaan teknologi AI yang mengubah wajah. Gambarnya dikloning dan hampir 5.000 video palsu diproduksi. Video-video ini didistribusikan secara luas di platform sosial termasuk Douyin dan Xiaohongshu Tiongkok untuk menarik lalu lintas, mempublikasikan informasi palsu dan bahkan melakukan kegiatan penipuan. Kejadian ini telah meningkatkan kekhawatiran masyarakat mengenai risiko penyalahgunaan teknologi AI, dan juga menimbulkan tantangan baru terhadap perlindungan hak citra pribadi.
Olga Loiek, YouTuber Ukraina berusia 21 tahun, baru-baru ini menemukan bahwa seseorang telah menggunakan AI untuk mengkloning dirinya, dan bahwa gambar kloning tersebut disalahgunakan secara online. Para pengkloning tidak hanya menggunakan teknologi AI untuk membuat video dalam jumlah besar, tetapi juga mengklaim bahwa karakter dalam video tersebut adalah orang Rusia, yang jelas-jelas salah.
Yang mengejutkan, jumlah video kloning ini telah mencapai 4.900 atau lebih, yang menunjukkan besarnya skala penyalahgunaan. Citra Olga telah diklon menjadi beberapa variasi, yang tidak hanya melanggar hak citra pribadinya, namun juga dapat menyesatkan publik.
Yang menjadi perhatian khusus adalah kenyataan bahwa video-video ini digunakan untuk menyebarkan informasi palsu di platform sosial seperti Douyin dan Xiaohongshu di Tiongkok. Video kloning ini menarik lalu lintas dan digunakan untuk menerima iklan atau menjual barang. Hal ini tidak hanya melanggar hak Olga, tetapi juga mungkin melibatkan penipuan.
Untungnya, setelah Olga Loiek mengeluh, perusahaan yang menggunakan gambarnya telah menghapus gambar tersebut. Kejadian ini menyoroti risiko dan masalah penyalahgunaan yang mungkin ditimbulkan oleh teknologi AI dalam kloning gambar pribadi. Hal ini juga mengingatkan masyarakat bahwa mereka perlu waspada saat menggunakan media sosial agar tidak tertipu oleh informasi palsu.
Insiden tersebut juga memicu diskusi mengenai masalah hukum dan etika seputar penggunaan teknologi AI, terutama dalam hal perlindungan privasi pribadi dan hak publisitas. Dengan berkembangnya teknologi AI, bagaimana memastikan bahwa teknologi tersebut digunakan untuk tujuan yang sah dan menghindari penyalahgunaannya merupakan tantangan yang perlu kita hadapi bersama.
Pengalaman Olga Loiek telah memberikan peringatan bagi kita, mengingatkan kita untuk memperhatikan risiko etika dan hukum yang ditimbulkan oleh teknologi AI. Kita perlu memperkuat pengawasan dan meningkatkan undang-undang dan peraturan yang relevan untuk lebih melindungi hak dan kepentingan pribadi, serta mencegah penyalahgunaan AI teknologi, dan meningkatkan kesehatan mereka. Pada saat yang sama, kita juga harus meningkatkan kemampuan kita untuk mengidentifikasi dan menghindari disesatkan oleh informasi palsu.