Di era kemajuan teknologi AI yang pesat ini, kita menjadi semakin bergantung pada kecerdasan buatan. Pada saat yang sama, kita juga perlu mewaspadai potensi risiko AI. Editor Downcodes ingin mendiskusikan penemuan yang meresahkan dengan Anda hari ini: sebuah penelitian yang dilakukan oleh MIT menunjukkan bahwa chatbot AI tanpa disadari dapat menanamkan "kenangan palsu" pada diri kita. Ini bukan hanya masalah teknis, tetapi masalah penting terkait keakuratan memori dan keamanan kognitif kita. Mari selami penelitian ini untuk melihat bagaimana AI dapat menjadi keajaiban bagi ingatan, dan bagaimana kita dapat melawan potensi ancaman ini.
Di era ledakan informasi ini, kita dihadapkan pada sejumlah besar informasi setiap hari, namun pernahkah Anda berpikir bahwa ingatan kita mungkin tidak dapat diandalkan seperti yang kita kira? Baru-baru ini, sebuah penelitian dari MIT menunjukkan fakta yang mengejutkan: AI, Apalagi yang bisa ngobrol, bisa jadi menanamkan “kenangan palsu” di otak kita.
AI berubah menjadi "peretas" memori yang secara diam-diam merusak memori otak Anda
Pertama, kita harus memahami apa itu “memori palsu”. Sederhananya, itu adalah hal-hal yang kita ingat pernah terjadi, namun sebenarnya tidak terjadi. Ini bukanlah plot dalam novel fiksi ilmiah, tapi sebenarnya ada di otak kita masing-masing. Sama seperti Anda ingat pernah tersesat di mal saat masih kecil, tapi itu mungkin sebenarnya hanya alur cerita film yang Anda tonton.
Jadi, bagaimana AI menjadi "penyihir" memori? Para peneliti merancang eksperimen di mana 200 sukarelawan menonton video kriminal dan kemudian mengajukan pertanyaan dalam empat cara berbeda: satu adalah kuesioner tradisional; juga merupakan chatbot berbasis model bahasa besar (LLM) yang dapat digunakan secara bebas. Ditemukan bahwa sukarelawan yang berinteraksi dengan chatbot LLM menghasilkan ingatan palsu tiga kali lebih banyak!
Apa yang terjadi di sini? Para peneliti telah menemukan bahwa chatbots ini tanpa sadar dapat mengarahkan ingatan kita ke arah yang salah dengan mengajukan pertanyaan. Misalnya, jika chatbot bertanya: "Apakah Anda melihat perampok mengemudi ke pintu masuk mal?" Bahkan jika perampok dalam video datang dengan berjalan kaki, seseorang mungkin "ingat" melihat mobil tersebut karena pertanyaan ini.
Yang lebih mengejutkan lagi adalah bahwa ingatan palsu yang ditanamkan oleh AI tidak hanya jumlahnya banyak, tetapi juga memiliki “masa hidup” yang sangat panjang. Bahkan setelah seminggu, ingatan palsu ini tetap ada di benak para relawan, dan keyakinan mereka terhadap ingatan palsu ini sangat tinggi.
Siapa yang lebih mungkin “tertipu”?
Jadi, siapa yang lebih mungkin terkena ingatan palsu oleh AI? Penelitian menemukan bahwa mereka yang tidak akrab dengan chatbot tetapi lebih tertarik pada teknologi AI lebih mungkin untuk "menyerah". Hal ini mungkin terjadi karena mereka sudah memiliki rasa percaya terhadap AI, sehingga mengurangi kewaspadaan mereka terhadap keaslian informasi.
Studi ini telah memberikan peringatan bagi kami: di bidang-bidang seperti hukum, kedokteran, dan pendidikan yang memerlukan akurasi memori yang sangat tinggi, penerapan AI harus lebih berhati-hati. Pada saat yang sama, hal ini juga menimbulkan tantangan baru bagi pengembangan AI di masa depan: Bagaimana kita memastikan bahwa AI tidak menjadi "peretas" yang menanamkan ingatan palsu, namun menjadi "penjaga" yang membantu kita melindungi dan meningkatkan ingatan?
Di era pesatnya perkembangan teknologi AI ini, ingatan kita mungkin lebih rapuh dari yang kita kira. Memahami bagaimana AI memengaruhi ingatan kita bukan hanya tugas para ilmuwan, namun juga merupakan hal yang perlu kita perhatikan. Bagaimanapun, ingatan adalah landasan pemahaman kita tentang dunia dan diri kita sendiri. Melindungi ingatan kita berarti melindungi masa depan kita sendiri.
Referensi:
https://www.media.mit.edu/projects/ai-false-memories/overview/
https://arxiv.org/pdf/2408.04681
Secara keseluruhan, studi MIT ini mengungkap potensi risiko AI dan mengingatkan kita bahwa kita perlu memperlakukan teknologi AI dengan hati-hati, terutama di bidang-bidang di mana keaslian informasi sangat penting. Di masa depan, kita perlu lebih memperhatikan etika dan keamanan AI untuk memastikan bahwa teknologi AI dapat melayani umat manusia dengan lebih baik dibandingkan menjadi alat untuk memanipulasi memori. Mari kita bekerja sama untuk menjadikan AI sebagai pendorong kemajuan manusia dan bukan ancaman potensial.