เมื่อเร็ว ๆ นี้ชาวเน็ตค้นพบบนแพลตฟอร์มโซเชียล X ว่าเมื่อ GPT-4O รุ่นล่าสุดของ Chatgpt พยายามสร้างภาพดอกกุหลาบเขาปฏิเสธโดยตรงโดยอ้างว่า "ฉันไม่สามารถสร้างภาพของดอกกุหลาบนี้ได้เพราะมันล้มเหลวในการปฏิบัติตามนโยบายเนื้อหาของเรา" การตอบสนองที่ไม่คาดคิดนี้ดึงดูดความสนใจอย่างกว้างขวางอย่างรวดเร็วและชาวเน็ตหลายคนเริ่มสำรวจเหตุผลที่อยู่เบื้องหลังและพยายามหาวิธีที่จะข้ามข้อ จำกัด นี้
เพื่อตรวจสอบปรากฏการณ์นี้ชาวเน็ตทำการทดลองหลายครั้ง ไม่ว่าจะเป็นในภาษาจีนหรือภาษาอังกฤษหรือแม้แต่พยายามแทนที่ "กุหลาบ" ด้วยสัญลักษณ์พิเศษมันจบลงด้วยความล้มเหลว แม้ว่าจะมีการร้องขอกุหลาบสีเหลือง GPT-4O ยังคงปฏิเสธ อย่างไรก็ตามเมื่อผู้ใช้หันมาขอให้สร้างดอกไม้อื่น ๆ เช่นดอกโบตั๋น GPT-4O สามารถทำงานให้เสร็จได้อย่างง่ายดายซึ่งแสดงให้เห็นว่าฟังก์ชั่นการสร้างภาพนั้นไม่ใช่ปัญหา
เมื่อการอภิปรายลึกซึ้งยิ่งขึ้นชาวเน็ตทำการคาดเดาต่าง ๆ บางคนคิดว่าคำว่า "กุหลาบ" อาจถูกขึ้นบัญชีดำทำให้ระบบไม่สามารถสร้างภาพที่เกี่ยวข้องได้ บางคนคาดการณ์ว่า chatgpt อาจเข้าใจ "กุหลาบ" เป็นคำใบ้ที่คลุมเครือซึ่งทำให้กลไกการกรองเนื้อหา สิ่งที่น่าสนใจกว่าคือผู้ใช้บางคนพูดติดตลกว่าอาจเป็นเพราะผู้ใช้จำนวนมากขอให้สร้างภาพกุหลาบในช่วงวันวาเลนไทน์ซึ่งนำไปสู่ระบบที่ จำกัด คำหลักนี้
ในการทดสอบเพิ่มเติมชาวเน็ตพบว่าหาก "กุหลาบ" ถูกแทนที่ด้วยรูปแบบพหูพจน์หรือถ้า "กุหลาบ" ไม่ได้กล่าวถึงโดยตรง แต่แทนที่จะร้องขอการสร้างภาพโดยการอธิบายลักษณะของมัน GPT-4O สามารถทำงานให้เสร็จสมบูรณ์ได้อย่างราบรื่น การค้นพบนี้ก่อให้เกิดการอภิปรายเชิงลึกเกี่ยวกับกลไกการกรองเนื้อหา AI และหลายคนเชื่อว่าอาจเป็นไปได้ว่านักพัฒนานโยบายเนื้อหาที่มีรหัสยากซึ่งนำไปสู่ปรากฏการณ์ที่ผิดพลาดแปลก ๆ
ในเวลาเดียวกันคำพูดต้องห้ามของ CHATGPT นี้ก็ก่อให้เกิดความสัมพันธ์ของผู้คนเช่นกัน สถานการณ์ที่คล้ายกันเกิดขึ้นมาก่อน เมื่อผู้ใช้ขอชื่อเฉพาะบางอย่างระบบจะตอบสนองอย่างคลุมเครือแสดงการหลีกเลี่ยงเนื้อหาเฉพาะ แม้ว่า "การสร้างกุหลาบ" ได้กลายเป็นข้อห้ามใหม่ แต่ AI chatbots อื่น ๆ เช่นราศีเมถุนและ Grok ยังสามารถสร้างภาพกุหลาบได้สำเร็จซึ่งแสดงให้เห็นว่ามีความแตกต่างอย่างมีนัยสำคัญในการ จำกัด เนื้อหาระหว่างแพลตฟอร์มที่แตกต่างกัน
เนื่องจากการหมักเหตุการณ์นี้ผู้คนได้ตั้งคำถามเพิ่มเติมเกี่ยวกับความมีเหตุผลและความโปร่งใสของการเซ็นเซอร์เนื้อหา AI หลายคนคาดหวังว่า AI ในอนาคตจะสามารถตอบสนองความต้องการที่หลากหลายของผู้ใช้ในช่วงที่เหมาะสมในขณะที่หลีกเลี่ยงข้อ จำกัด และการพิจารณาคดีที่ไม่จำเป็น