การวิจัยล่าสุดของ IBM เผยให้เห็นปรากฏการณ์ที่น่าเป็นห่วง: รูปแบบภาษาขนาดใหญ่เช่น GPT-4 และ GPT-3.5 สามารถถูกหลอกได้ง่ายสร้างรหัสที่เป็นอันตรายหรือให้คำแนะนำด้านความปลอดภัยที่ผิดพลาด นักวิจัยชี้ให้เห็นว่าแม้จะมีความรู้พื้นฐานภาษาอังกฤษและความเข้าใจที่เรียบง่ายของข้อมูลการฝึกอบรมแบบจำลองผู้โจมตีสามารถจัดการกับแชท AI เหล่านี้ได้สำเร็จ การค้นพบนี้เน้นถึงความเสี่ยงที่อาจเกิดขึ้นของเทคโนโลยี AI ในปัจจุบันโดยเฉพาะอย่างยิ่งในด้านความปลอดภัยทางไซเบอร์
มีความแตกต่างอย่างมีนัยสำคัญในประสิทธิภาพของโมเดล AI ที่แตกต่างกันในการเผชิญกับการฉ้อโกงโดย GPT-3.5 และ GPT-4 แสดงช่องโหว่ที่สูงขึ้น ความแตกต่างนี้อาจเกี่ยวข้องกับมาตราส่วนข้อมูลการฝึกอบรมของโมเดลการออกแบบสถาปัตยกรรมและกลไกการสร้างบทสนทนา การศึกษายังแสดงให้เห็นว่าแม้ว่าระดับการคุกคามของช่องโหว่เหล่านี้จะได้รับการประเมินเป็นปานกลาง แต่ผลที่ตามมาอาจร้ายแรงมากหากแฮ็กเกอร์ถูกเอาเปรียบ ตัวอย่างเช่นนักแสดงที่เป็นอันตรายอาจกระจายคำแนะนำด้านความปลอดภัยที่เป็นอันตรายผ่านโมเดลเหล่านี้หรือแม้แต่ขโมยข้อมูลที่ละเอียดอ่อนจากผู้ใช้
ทีมวิจัยเน้นว่าแม้ว่าช่องโหว่เหล่านี้ยังไม่ได้ถูกเอาเปรียบอย่างกว้างขวางนักพัฒนา AI และองค์กรต้องให้ความสำคัญกับปัญหานี้อย่างมาก ด้วยการใช้เทคโนโลยี AI อย่างกว้างขวางในสาขาต่าง ๆ ทำให้มั่นใจได้ว่าการรักษาความปลอดภัยและความน่าเชื่อถือได้กลายเป็นสิ่งสำคัญอย่างยิ่ง นักวิจัยแนะนำว่าแบบจำลอง AI ในอนาคตควรเสริมสร้างการฝึกอบรมที่เป็นปฏิปักษ์เพื่อปรับปรุงความสามารถในการระบุและปกป้องปัจจัยการฉ้อโกง
นอกจากนี้การศึกษาครั้งนี้ได้ก่อให้เกิดการอภิปรายเชิงลึกเกี่ยวกับจริยธรรมและกฎระเบียบของ AI ด้วยการพัฒนาอย่างรวดเร็วของเทคโนโลยี AI วิธีการค้นหาความสมดุลระหว่างนวัตกรรมและความปลอดภัยได้กลายเป็นความท้าทายทั่วไปที่เผชิญกับอินเทอร์เฟซเทคโนโลยีระดับโลก ผู้เชี่ยวชาญเรียกร้องให้รัฐบาลและหน่วยงานที่เกี่ยวข้องเพื่อพัฒนากฎการใช้ AI ที่เข้มงวดขึ้นเพื่อป้องกันไม่ให้เทคโนโลยีถูกทารุณกรรม
โดยรวมแล้วการวิจัยของไอบีเอ็มได้ฟังการโทรปลุกสำหรับสนาม AI แม้ว่าแบบจำลองภาษาขนาดใหญ่จะแสดงความสามารถที่แข็งแกร่งในการประมวลผลภาษาธรรมชาติ แต่ความเสี่ยงด้านความปลอดภัยที่อาจเกิดขึ้นก็ไม่สามารถเพิกเฉยได้ ในอนาคตการพัฒนาเทคโนโลยี AI เพิ่มเติมจำเป็นต้องปรับปรุงประสิทธิภาพในขณะที่ให้ความสำคัญกับความปลอดภัยและปัญหาด้านจริยธรรมมากขึ้นเพื่อให้แน่ใจว่าสามารถนำคุณค่าที่แท้จริงมาสู่สังคมได้