OpenAI เปิดตัวโมเดลการตรวจสอบเนื้อหาแบบหลายรูปแบบล่าสุด "omni-moderation-latest" เมื่อวันที่ 26 กันยายน โมเดลนี้ใช้เทคโนโลยี GPT-4o และสามารถระบุเนื้อหาข้อความและรูปภาพที่เป็นอันตรายได้แม่นยำยิ่งขึ้น โดยเฉพาะอย่างยิ่งในการระบุเนื้อหาที่ไม่ใช่ภาษาอังกฤษ . ประสิทธิภาพที่โดดเด่น. การย้ายครั้งนี้จะปรับปรุงประสิทธิภาพและความแม่นยำของระบบตรวจสอบเนื้อหาให้ดีขึ้นอย่างมาก ช่วยให้นักพัฒนามีเครื่องมือที่มีประสิทธิภาพมากขึ้น และสร้างสภาพแวดล้อมผู้ใช้ที่ปลอดภัยยิ่งขึ้น โปรแกรมแก้ไข Downcodes จะทำให้คุณเข้าใจถึงข้อดีและคุณสมบัติของโมเดลใหม่นี้อย่างลึกซึ้ง
ในยุคดิจิทัล ปัญหาด้านความปลอดภัยของเนื้อหาเริ่มรุนแรงมากขึ้นเรื่อยๆ โมเดล "omni-moderation-latest" ที่เปิดตัวโดย OpenAI ถือเป็นก้าวสำคัญในการเผชิญกับความท้าทายนี้อย่างไม่ต้องสงสัย โมเดลนี้รองรับการตรวจสอบข้อความและรูปภาพหลายรูปแบบ โดยมีการปรับปรุงความแม่นยำอย่างมากเมื่อเทียบกับรุ่นก่อนหน้า และเพิ่มความสามารถในการตรวจจับเนื้อหาที่ผิดกฎหมายและรุนแรง สำหรับเนื้อหาที่ไม่ใช่ภาษาอังกฤษ อัตราความแม่นยำเพิ่มขึ้น 42% โดยเฉพาะในภาษาที่มีทรัพยากรต่ำ ข้อดีของโมเดลนี้คือมันฟรีและเข้าถึงได้ง่าย และนักพัฒนาสามารถรวมเข้ากับแอปพลิเคชันของตนเองได้อย่างง่ายดาย
จุดเด่นของรุ่นใหม่คือ รองรับการกลั่นกรองการป้อนข้อความและรูปภาพ โดยเฉพาะอย่างยิ่งเมื่อประมวลผลเนื้อหาที่ไม่ใช่ภาษาอังกฤษ
เมื่อเปรียบเทียบกับโมเดลการกลั่นกรองก่อนหน้านี้ “omni-moderation-latest” ไม่เพียงแต่ปรับปรุงความแม่นยำในการระบุตัวตน แต่ยังเพิ่มความสามารถในการตรวจจับเนื้อหาที่เป็นอันตรายมากขึ้นอีกด้วย สามารถประเมินได้หลายประเภท เช่น ความรุนแรง การทำร้ายตัวเอง และเนื้อหาทางเพศ เพื่อให้มั่นใจว่าผู้ใช้สามารถสื่อสารในพื้นที่ที่ปลอดภัยยิ่งขึ้น
นับตั้งแต่ OpenAI เปิดตัว Content Moderation API (Moderation API) ในปี 2022 จำนวนและประเภทของเนื้อหาที่ระบบการกลั่นกรองอัตโนมัติจำเป็นต้องดำเนินการก็เพิ่มขึ้นอย่างต่อเนื่อง โดยเฉพาะอย่างยิ่งเมื่อแอปพลิเคชันปัญญาประดิษฐ์เข้าสู่ขั้นตอนการผลิตจำนวนมากมากขึ้นเรื่อยๆ ในปัจจุบัน บริษัทหลายแห่ง เช่น Grammarly และ ElevenLabs กำลังใช้ API นี้เพื่อปกป้องผู้ใช้และป้องกันเนื้อหาที่ไม่เหมาะสม
ข้อดีของรุ่นใหม่สะท้อนให้เห็นในหลายด้าน:
ประการแรก ช่วยให้สามารถจำแนกเนื้อหาที่เป็นอันตรายได้หลายรูปแบบ ประเมินการผสมผสานระหว่างรูปภาพและข้อความเพื่อระบุความเสี่ยงที่เกี่ยวข้องกับความรุนแรงและการล่วงละเมิดทางเพศ
ประการที่สอง โมเดลเพิ่มการตรวจสอบข้อความใหม่สองประเภท ได้แก่ เนื้อหาที่เกี่ยวข้องกับความผิดกฎหมายและความรุนแรง ซึ่งช่วยเพิ่มความสามารถในการตรวจสอบเพิ่มเติม
นอกจากนี้ สำหรับการตรวจหาเนื้อหาที่ไม่ใช่ภาษาอังกฤษ ความแม่นยำยังได้รับการปรับปรุงอย่างมาก จากการทดสอบพบว่าอัตราความแม่นยำใน 40 ภาษาเพิ่มขึ้น 42% โดยเฉพาะในภาษาที่มีทรัพยากรต่ำ
สำหรับนักพัฒนา โมเดลการตรวจสอบใหม่นี้ยังคงเป็น API การตรวจสอบเนื้อหาฟรีที่สามารถเข้าถึงได้ง่าย OpenAI หวังว่าการอัปเกรดนี้จะช่วยให้นักพัฒนาจำนวนมากขึ้นสามารถใช้ประโยชน์จากผลการวิจัยล่าสุดและระบบความปลอดภัย เพื่อสร้างประสบการณ์ออนไลน์ที่เป็นมิตรต่อผู้ใช้มากขึ้น
บล็อกอย่างเป็นทางการ: https://openai.com/index/upgrading-the-moderation-api-with-our-new-multimodal-moderation-model/
** จุดเด่น: **
รุ่นใหม่ “omni-moderation-latest” ใช้เทคโนโลยี GPT-4o และรองรับการตรวจสอบรูปภาพหลายรูปแบบ
ความแม่นยำในการตรวจจับ 40 ภาษาเพิ่มขึ้น 42% โดยเฉพาะในภาษาที่มีทรัพยากรต่ำ
มีการเพิ่มการตรวจสอบข้อความใหม่สองประเภทเพื่อปรับปรุงความสามารถในการระบุเนื้อหาที่ผิดกฎหมายและมีความรุนแรง
โดยรวมแล้ว โมเดล "omni-moderation-latest" ของ OpenAI ได้นำมาซึ่งความก้าวหน้าที่สำคัญในด้านการตรวจสอบเนื้อหา ความสามารถที่หลากหลาย ความแม่นยำที่สูงขึ้น และการรองรับหลายภาษา จะช่วยปรับปรุงระดับความปลอดภัยของเนื้อหาออนไลน์ได้อย่างมีประสิทธิภาพ นี่เป็นข่าวดีสำหรับทั้งนักพัฒนาและผู้ใช้ บรรณาธิการของ Downcodes ตั้งตารอที่ OpenAI จะนำเสนอเทคโนโลยีที่เป็นนวัตกรรมมากขึ้นในอนาคต เพื่อร่วมกันสร้างสภาพแวดล้อมทางอินเทอร์เน็ตที่ปลอดภัย ดีต่อสุขภาพ และเป็นมิตรมากขึ้น