การศึกษาล่าสุดเกี่ยวกับเครื่องมือค้นหา AI เปิดเผยปัญหาร้ายแรงในการประมวลผลข้อมูลข่าว ศูนย์ข่าวดิจิตอลของ Columbia News Review (CJR) ดำเนินการทดสอบเชิงลึกเกี่ยวกับเครื่องมือ AI แปดตัวที่มีความสามารถในการค้นหาแบบเรียลไทม์และผลลัพธ์ก็น่าตกใจ: มากกว่า 60% ของการสอบถามข่าวที่ได้รับคำตอบที่ไม่ถูกต้อง การค้นพบนี้ดึงดูดความสนใจของสาธารณชนอย่างกว้างขวางต่อความน่าเชื่อถือของเทคโนโลยี AI
การวิจัยแสดงให้เห็นว่ามีความแตกต่างอย่างมีนัยสำคัญในอัตราความผิดพลาดระหว่างแพลตฟอร์ม AI ที่แตกต่างกัน ในหมู่พวกเขาอัตราความผิดพลาดของ GROK3 สูงถึง 94%ในขณะที่อัตราความผิดพลาดของการค้นหา chatgpt ก็สูงถึง 67% เป็นที่น่าสังเกตว่าแม้แต่เวอร์ชันที่จ่ายเงินเช่น Perplexity Pro และบริการระดับพรีเมี่ยมของ Grok3 ก็ล้มเหลวในการหลีกเลี่ยงคำตอบที่มั่นใจบ่อย แต่ไม่ถูกต้อง นักวิจัยชี้ให้เห็นว่าโมเดล AI เหล่านี้มีแนวโน้มที่จะ“ ผิดอย่างมั่นใจ” นั่นคือเมื่อขาดข้อมูลที่เชื่อถือได้พวกเขาไม่ได้เลือกที่จะปฏิเสธคำตอบ แต่มักจะสร้างคำตอบที่ผิดที่สมเหตุสมผล
นอกจากนี้การวิจัยยังเผยให้เห็นปัญหาการอ้างอิงของเครื่องมือค้นหา AI เครื่องมือเหล่านี้มักจะนำผู้ใช้ไปยังแพลตฟอร์มการเผยแพร่ร่วมสำหรับเนื้อหาข่าวมากกว่าเว็บไซต์ของผู้เผยแพร่ดั้งเดิม สิ่งที่ร้ายแรงกว่าคือเครื่องมือ AI บางอย่างที่สร้างลิงก์ URL ที่ไม่ถูกต้องทำให้ผู้ใช้ไม่สามารถเข้าถึงแหล่งข้อมูลได้ ตัวอย่างเช่นลิงก์อ้างอิงของ GROK3 มากกว่าครึ่งหนึ่งนั้นไม่ถูกต้องในการทดสอบซึ่งทำให้ความยากลำบากในการรับข้อมูลรุนแรงยิ่งขึ้น
ปัญหาเหล่านี้เป็นความท้าทายที่ร้ายแรงต่อผู้เผยแพร่ข่าว หากเครื่องรวบรวมข้อมูล AI ถูกป้องกันไม่ให้รวบรวมเนื้อหาเนื้อหาอาจสูญเสียลายเซ็นอย่างสมบูรณ์ ในขณะที่การคลานอาจเผชิญกับภาวะที่กลืนไม่เข้าคายไม่ออกของเนื้อหาที่ใช้กันอย่างแพร่หลาย แต่ไม่สามารถส่งกลับไปยังเว็บไซต์ของตัวเองได้ นายมาร์คฮาวเวิร์ดประธานเจ้าหน้าที่ฝ่ายปฏิบัติการของไทมส์แสดงความกังวลอย่างลึกซึ้งเกี่ยวกับเรื่องนี้โดยเน้นถึงความต้องการความโปร่งใสและการควบคุม
นักวิจัยตั้งข้อสังเกตว่าประมาณหนึ่งในสี่ของชาวอเมริกันได้ใช้โมเดล AI แทนเครื่องมือค้นหาแบบดั้งเดิมและอัตราความผิดพลาดที่สูงนั้นเป็นกังวลเกี่ยวกับความน่าเชื่อถือของข้อมูล การศึกษาเพิ่มเติมยืนยันรายงานที่คล้ายกันที่เผยแพร่เมื่อเดือนพฤศจิกายนที่ผ่านมาซึ่งชี้ไปที่ปัญหาความถูกต้องที่ ChatGPT มีเมื่อจัดการกับเนื้อหาข่าว แม้ว่า Openai และ Microsoft ยอมรับว่าได้รับผลการวิจัย แต่พวกเขาไม่ได้ตอบคำถามที่เฉพาะเจาะจงโดยตรงซึ่งก่อให้เกิดข้อสงสัยต่อสาธารณชนเกี่ยวกับความโปร่งใสของเทคโนโลยี AI
โดยสรุปแล้วอัตราความผิดพลาดที่สูงของเครื่องมือค้นหา AI การอ้างอิงที่สับสนและประสิทธิภาพที่ไม่ดีของบริการที่ชำระเงินในการประมวลผลข้อมูลข่าวทั้งหมดบ่งชี้ว่ายังมีข้อบกพร่องมากมายในเทคโนโลยีปัจจุบัน ในฐานะที่เป็นบทบาทของ AI ในการเก็บข้อมูลมีความสำคัญมากขึ้นเรื่อย ๆ การแก้ปัญหาเหล่านี้ได้กลายเป็นงานเร่งด่วน