เมื่อเร็ว ๆ นี้ มีการเปิดเผยปัญหาร้ายแรงใน Perplexity ซึ่งเป็นเครื่องมือค้นหา AI ที่ได้รับการจับตามองมาก: แหล่งคำตอบประกอบด้วยข้อมูลที่สร้างโดย AI ที่มีคุณภาพต่ำหรือแม้แต่ผิดจำนวนมากจากบล็อกที่ไม่น่าเชื่อถือและโพสต์ใน LinkedIn การค้นพบนี้ทำให้เกิดความกังวลเกี่ยวกับความน่าเชื่อถือของข้อมูลเครื่องมือค้นหา AI และยังส่งผลกระทบอย่างมากต่อชื่อเสียงของ Perplexity บทความนี้จะวิเคราะห์รายละเอียดเกี่ยวกับภาวะที่กลืนไม่เข้าคายไม่ออกที่ต้องเผชิญกับ Perplexity และผลกระทบของเหตุการณ์นี้ในด้าน AI
รายงานใหม่เปิดเผยว่า Perplexity เครื่องมือค้นหา AI ที่มีชื่อเสียงและได้รับทุนสนับสนุนสูงกำลังสร้างสแปมที่อ้างถึง AI ที่มีคุณภาพต่ำหรือแม้แต่ผิดพลาดจากบล็อกและโพสต์ LinkedIn ที่ไม่น่าเชื่อถือ
GPTZero สตาร์ทอัพที่เชี่ยวชาญด้านการตรวจจับเนื้อหาที่สร้างโดย AI ได้ทำการตรวจสอบ Perplexity ในเชิงลึกเมื่อเร็ว ๆ นี้ Edward Tian ซีอีโอของบริษัทระบุในบล็อกโพสต์เมื่อต้นเดือนที่ผ่านมาว่าเขาสังเกตเห็นว่า "แหล่งที่มาของลิงก์ Perplexity ถูกสร้างขึ้นโดยอัตโนมัติโดย AI มากขึ้นเรื่อยๆ"
จากนั้นเขาได้ตรวจสอบการนำข้อมูลนี้ไปใช้ซ้ำโดย AI ของ Perplexity และพบว่าในบางกรณี Perplexity ยังดึงข้อมูลที่ล้าสมัยและไม่ถูกต้องจากแหล่งข้อมูลที่สร้างโดย AI เหล่านี้ กล่าวอีกนัยหนึ่ง มันเป็นวงจรของข้อมูลที่ผิดที่ขับเคลื่อนโดย AI โดยที่ข้อผิดพลาดของ AI และข้อมูลสมมติหาทางไปสู่คำตอบที่สร้างโดย AI ของ Perplexity
ตัวอย่างเช่น สำหรับคำถาม "เทศกาลวัฒนธรรมในเกียวโต ประเทศญี่ปุ่น" Perplexity ให้รายชื่อสถานที่ท่องเที่ยวทางวัฒนธรรมในเมืองต่างๆ ในญี่ปุ่นที่ดูเหมือนจะสอดคล้องกัน แต่อ้างอิงถึงแหล่งเดียวเท่านั้น นั่นคือบล็อกโพสต์ที่ไม่ชัดเจนซึ่งโพสต์ใน LinkedIn ในเดือนพฤศจิกายน 2023 ซึ่งมีแนวโน้มว่า AI จะสร้างเอง นี่เป็นหนทางไกลจาก "องค์กรข่าว เอกสารทางวิชาการ และบล็อกที่จัดตั้งขึ้น" ที่ Perplexity อ้างว่าใช้
นั่นเป็นภาพที่ไม่ดีสำหรับการเริ่มต้นที่มีปัญหาอยู่แล้วซึ่งอ้างว่าเป็น "การปฏิวัติวิธีการค้นพบข้อมูล" โดยการส่งมอบ "ความรู้ที่ถูกต้อง" โดยการรับ "ข้อมูลล่าสุด" จาก "แหล่งที่เชื่อถือได้"
ไฮไลท์:
ความฉงนสนเท่ห์ถูกเปิดเผยว่าเป็นการอ้างถึง AI ที่ผิดพลาดเพื่อสร้างสแปมจากบล็อกที่น่าสงสัยและโพสต์ใน LinkedIn
GPTZero ตรวจพบว่าแหล่งที่มาที่เชื่อมโยงกับ Perplexity จำนวนเพิ่มมากขึ้นนั้นสร้างขึ้นโดย AI และบางครั้ง Perplexity ก็ใช้ข้อมูลที่ล้าสมัยและไม่ถูกต้องจากแหล่งข้อมูลเหล่านี้ด้วยซ้ำ
Perplexity อ้างว่าคำตอบมาจาก "แหล่งที่มาที่เชื่อถือได้" เท่านั้น แต่สิ่งสำคัญคืออัลกอริทึม AI ของมันจะได้รับข้อมูลที่ดีจากข้อมูลที่ดีจริงหรือไม่
เหตุการณ์ Perplexity เตือนเราอีกครั้งว่าถึงแม้เทคโนโลยี AI จะมีการพัฒนาอย่างรวดเร็ว แต่ความน่าเชื่อถือและความปลอดภัยของเทคโนโลยีก็ยังต้องได้รับการปรับปรุงเพิ่มเติม การตรวจสอบและการคัดกรองเนื้อหาที่สร้างโดย AI อย่างเข้มงวดถือเป็นสิ่งสำคัญอย่างยิ่งในการป้องกันไม่ให้ AI กลายเป็นเครื่องมือในการแพร่กระจายข้อมูลเท็จ ในอนาคต เครื่องมือค้นหา AI จำเป็นต้องสร้างระบบควบคุมคุณภาพที่สมบูรณ์ยิ่งขึ้นเพื่อให้บริการข้อมูลที่เชื่อถือได้แก่ผู้ใช้อย่างแท้จริง