Situs web resmi www.binance.com/zh-cn :Masukkan situs web resmi ☜☜
Aplikasi: ☞☞ Unduh Aplikasi Resmi☜☜
Tren baru baru -baru ini muncul oleh platform sosial Elon Musk X (sebelumnya Twitter), dan beberapa pengguna telah mulai menggunakan Grok, sebuah chatbot AI yang dikembangkan oleh perusahaan kecerdasan buatan Musk Xai, untuk "pemeriksaan fakta". Praktik ini telah menimbulkan kekhawatiran di antara pengecekan fakta manual profesional yang percaya ini dapat semakin memicu penyebaran informasi palsu.
Dapat dipahami bahwa platform X membuka fungsi menelepon langsung XAI Grok untuk mengajukan pertanyaan kepada pengguna pada awal bulan ini, dan pengguna dapat mencari jawaban dari Grok pada topik yang berbeda. Langkah ini mirip dengan bagaimana perusahaan lain, kebingungan, mengoperasikan akun otomatisasi pada X untuk memberikan layanan serupa.
Tak lama setelah akun GROK Automation Xai diluncurkan pada platform X, pengguna mulai mencoba mengajukan berbagai pertanyaan kepadanya. Terutama di pasar, termasuk India, beberapa pengguna mulai meminta Grok untuk "memeriksa fakta" komentar dan masalah yang menargetkan pandangan politik tertentu.
Namun, pemeriksa fakta manusia khawatir tentang cara menggunakan Grok atau asisten AI serupa lainnya untuk melakukan "pemeriksaan fakta" karena robot-robot ini dapat membangun jawaban dengan cara yang terdengar meyakinkan, bahkan ketika memberikan informasi palsu. Grok telah menyebarkan berita palsu dan informasi yang menyesatkan di masa lalu.
Pada awal Agustus tahun lalu, lima Sekretaris Negara Bagian AS mendesak Musk untuk melakukan penyesuaian kunci kepada Grok, setelah ajudan menyebarkan informasi yang menyesatkan tentang jejaring sosial pada malam pemilihan AS pada saat itu. Tidak hanya itu, chatbots lain, termasuk Openai's ChatGPT dan Google Gemini, juga ditemukan menghasilkan informasi yang tidak akurat tentang pemilihan tahun lalu. Peneliti anti-disinformasi lain telah menemukan pada tahun 2023 bahwa AI Chatbots, termasuk ChatGPT, dapat dengan mudah menghasilkan teks yang menyesatkan dan meyakinkan.
"Asisten AI seperti Grok sangat pandai menggunakan bahasa alami dan memberikan jawaban yang terdengar seperti apa yang dikatakan orang -orang nyata. Dengan cara ini, bahkan jika produk AI berpotensi buruk, mereka dapat memberikan rasa alam dan kenyataan. Di situlah potensi bahaya berada."
Satu pengguna X telah meminta Grok untuk "memeriksa fakta" pernyataan pengguna lain. Tidak seperti asisten AI, pemeriksa fakta manusia menggunakan banyak sumber tepercaya untuk memverifikasi informasi. Mereka juga akan memikul tanggung jawab penuh atas temuan mereka, nama dan melampirkan agen untuk memastikan kredibilitas.
Pratik Sinha, salah satu pendiri situs web nirlaba ALT ALT NEWS, menunjukkan bahwa meskipun Grok tampaknya memberikan jawaban yang meyakinkan saat ini, kemampuannya sepenuhnya tergantung pada kualitas data yang diperolehnya. Dia menekankan: "Siapa yang memutuskan data apa yang didapatnya? Intervensi pemerintah dan masalah lain akan mengikuti. Hal -hal yang kurang transparansi pasti menyebabkan kerusakan, karena sesuatu yang kurang transparansi dapat dibentuk sesuka hati ... itu dapat disalahgunakan - digunakan untuk menyebarkan informasi palsu."
Dalam balasan yang dirilis awal pekan ini, akun resmi Grok di X mengakui bahwa itu "mungkin disalahgunakan - digunakan untuk menyebarkan informasi palsu dan menyerang privasi." Namun, akun otomatis tidak menunjukkan penafian kepada pengguna saat memberikan jawaban, dan jika jawabannya disebabkan oleh "ilusi", pengguna dapat disesatkan sebagai hasilnya, yang juga merupakan kelemahan potensial dari AI. "Ini mungkin membuat informasi untuk memberikan tanggapan," kata Anushuka Jain, seorang peneliti di Digital Futures Lab, sebuah lembaga penelitian interdisipliner di Goa.
Selain itu, ada beberapa pertanyaan tentang sejauh mana Grok menggunakan posting pada platform X sebagai data pelatihan dan ukuran kontrol kualitas apa yang digunakannya untuk memverifikasi keaslian posting ini. Musim panas lalu, platform X membuat perubahan yang tampaknya memungkinkan Grok menggunakan data publik dari pengguna X secara default.
Aspek lain yang mengkhawatirkan dari asisten AI (seperti Grok) yang menyebarkan informasi secara publik melalui platform media sosial adalah bahwa orang lain di platform mungkin masih percaya bahkan jika beberapa pengguna jelas menyadari bahwa informasi yang diperoleh dari asisten AI mungkin menyesatkan atau tidak benar. Ini dapat menyebabkan kerusakan sosial yang serius. Sebelumnya di India, informasi palsu yang tersebar melalui WhatsApp menyebabkan kekerasan massal, meskipun insiden serius itu terjadi sebelum AI generatif, yang sekarang membuat produksi konten sintetis lebih mudah dan lebih realistis.
"Jika Anda melihat banyak jawaban Grok, Anda mungkin berpikir bahwa kebanyakan dari mereka benar, mungkin itu terjadi, tetapi tentu saja ada beberapa yang salah. Apa rasio kesalahan? Itu bukan proporsi yang kecil. Beberapa studi menunjukkan bahwa model AI memiliki tingkat kesalahan setinggi 20% ... dan begitu salah, itu dapat memiliki konsekuensi kehidupan nyata yang serius."
Perusahaan AI, termasuk XAI, meningkatkan model AI mereka untuk berkomunikasi lebih seperti manusia, tetapi mereka masih belum-dan tidak bisa-mengubah manusia sekarang. Dalam beberapa bulan terakhir, perusahaan teknologi telah mengeksplorasi cara untuk mengurangi ketergantungan mereka pada pemeriksa fakta manusia. Platform termasuk X dan Meta telah mulai mencoba melakukan crowdsourcing memeriksa fakta melalui apa yang disebut "catatan komunitas." Tentu saja, perubahan ini juga menyebabkan kekhawatiran di antara pemeriksa fakta.
ALT News 'Sinha optimis bahwa orang pada akhirnya akan belajar untuk membedakan antara mesin dan pemeriksa fakta buatan dan akan lebih memperhatikan akurasi manusia. Holland juga percaya: "Kami pada akhirnya akan melihat ayunan pendulum kembali ke arah lebih memperhatikan pemeriksaan fakta." Namun, ia mencatat bahwa selama periode ini, pemeriksa fakta mungkin memiliki lebih banyak pekerjaan yang harus dilakukan karena penyebaran informasi yang dihasilkan oleh AI. "Sebagian besar dari masalah ini tergantung pada apakah Anda benar -benar peduli tentang apa yang nyata atau hanya mencari sesuatu yang terdengar dan terasa nyata dan sebenarnya tidak seperti itu? Karena apa yang dapat ditawarkan asisten AI adalah yang terakhir."
Baik X maupun XAI tidak menanggapi permintaan komentar.
Poin -Poin Kunci:
AI Robot Grok dari Musk digunakan untuk verifikasi fakta pada platform X, menyebabkan kekhawatiran di antara para inspektur manual tentang penyebaran informasi yang menyesatkan. Asisten AI seperti Grok dapat menghasilkan jawaban yang dapat dipercaya tetapi tidak akurat dan tidak memiliki kontrol kualitas transparan dan sumber data. Pemeriksa fakta manual mengandalkan sumber informasi tepercaya dan memikul tanggung jawab, dan AI tidak dapat menggantikan peran manusia dalam verifikasi informasi.