Baru-baru ini, masalah serius terungkap di Perplexity, alat pencarian AI yang paling banyak ditonton: sumber jawabannya berisi sejumlah besar informasi berkualitas rendah atau bahkan salah yang dihasilkan AI dari blog dan postingan LinkedIn yang tidak dapat diandalkan. Penemuan ini menimbulkan kekhawatiran tentang keandalan informasi mesin pencari AI dan juga berdampak besar pada reputasi Perplexity. Artikel ini akan menganalisis secara detail dilema yang dihadapi oleh Perplexity dan dampak kejadian ini di bidang AI.
Laporan baru mengungkapkan bahwa alat pencarian AI yang terkenal dan didanai dengan baik, Perplexity, menghasilkan spam yang mengutip AI berkualitas rendah atau bahkan salah dari blog dan postingan LinkedIn yang tidak dapat diandalkan.
GPTZero, sebuah startup yang berspesialisasi dalam mendeteksi konten yang dihasilkan AI, baru-baru ini melakukan penyelidikan mendalam terhadap Perplexity. CEO perusahaan, Edward Tian, mencatat dalam postingan blog awal bulan ini bahwa dia memperhatikan bahwa "semakin banyak sumber tautan Perplexity yang dihasilkan secara otomatis oleh AI."
Dia kemudian memeriksa penggunaan kembali informasi ini oleh AI Perplexity dan menemukan bahwa dalam beberapa kasus, Perplexity bahkan mengambil informasi yang sudah ketinggalan zaman dan salah dari sumber yang dihasilkan AI ini. Dengan kata lain, ini adalah siklus misinformasi yang dipicu oleh AI, di mana kesalahan AI dan informasi fiktif masuk ke dalam jawaban yang dihasilkan oleh AI dari Perplexity.
Misalnya, untuk pertanyaan “Festival Budaya di Kyoto, Jepang,” Perplexity memberikan daftar atraksi budaya di kota-kota Jepang yang tampaknya koheren. Namun mereka hanya mengutip satu sumber: postingan blog tidak jelas yang diposting ke LinkedIn pada November 2023 yang kemungkinan besar dibuat oleh AI. Hal ini jauh berbeda dengan "organisasi berita, makalah akademis, dan blog mapan" yang diklaim digunakan oleh Perplexity.
Itu adalah gambaran buruk bagi sebuah startup yang sudah bermasalah dan mengaku “merevolusi cara Anda menemukan informasi” dengan memberikan “pengetahuan yang akurat” dengan mendapatkan “informasi terbaru” dari “sumber terpercaya.”
Highlight:
Kebingungan terungkap saat mengutip AI yang salah untuk menghasilkan spam dari blog dan artikel LinkedIn yang meragukan.
GPTZero telah mendeteksi bahwa semakin banyak sumber yang ditautkan ke Perplexity yang dihasilkan oleh AI, dan Perplexity terkadang bahkan menggunakan informasi yang ketinggalan zaman dan salah dari sumber-sumber ini.
Perplexity mengklaim bahwa jawabannya hanya berasal dari "sumber terpercaya", namun yang terpenting adalah apakah algoritme AI-nya benar-benar mendapatkan informasi yang baik dari informasi yang baik.
Insiden Perplexity sekali lagi mengingatkan kita bahwa meskipun teknologi AI berkembang pesat, keandalan dan keamanannya masih perlu ditingkatkan lebih lanjut. Peninjauan dan penyaringan yang ketat terhadap konten yang dihasilkan AI sangat penting untuk mencegah AI menjadi alat untuk menyebarkan informasi palsu. Di masa depan, mesin pencari AI perlu membangun sistem kendali mutu yang lebih lengkap agar benar-benar memberikan layanan informasi yang andal kepada pengguna.