أصدرت OpenAI أحدث نموذج لمراجعة المحتوى متعدد الوسائط "omni-moderation-latest" في 26 سبتمبر. ويعتمد هذا النموذج على تقنية GPT-4o ويمكنه تحديد محتوى النص والصور الضار بشكل أكثر دقة، خاصة في تحديد المحتوى غير الإنجليزي. الأداء المتميز. ستعمل هذه الخطوة على تحسين كفاءة ودقة نظام مراجعة المحتوى بشكل كبير، وتزويد المطورين بأدوات أكثر قوة، وبناء بيئة مستخدم أكثر أمانًا. سيمنحك محرر Downcodes فهمًا متعمقًا لمزايا وميزات هذا النموذج الجديد.
في العصر الرقمي، أصبحت مشكلات أمان المحتوى خطيرة بشكل متزايد. ولا شك أن نموذج "الاعتدال الشامل" الذي أطلقته شركة OpenAI يعد خطوة مهمة في مواجهة هذا التحدي. يدعم هذا النموذج المراجعة متعددة الوسائط للنصوص والصور، مع دقة محسنة بشكل ملحوظ مقارنة بالنماذج السابقة، كما أضاف إمكانات الكشف عن المحتوى غير القانوني والعنيف. أما بالنسبة للمحتوى غير الإنجليزي، فقد ارتفع معدل دقته بنسبة 42%، خاصة في اللغات منخفضة الموارد. وتتمثل ميزة النموذج في أنه مجاني وسهل الوصول إليه، ويمكن للمطورين دمجه بسهولة في تطبيقاتهم الخاصة.
وأبرز ما يميز النموذج الجديد هو أنه يدعم الاعتدال في إدخال النصوص والصور، خاصة عند معالجة المحتوى غير الإنجليزي .
بالمقارنة مع نموذج الإشراف السابق، فإن "الاعتدال الشامل الأحدث" لا يعمل على تحسين دقة التحديد فحسب، بل يزيد أيضًا من القدرة على اكتشاف المزيد من المحتوى الضار. ويمكنه تقييم فئات متعددة مثل العنف وإيذاء النفس والمحتوى الجنسي، مما يضمن قدرة المستخدمين على التواصل في مكان أكثر أمانًا.
منذ أن أطلقت OpenAI واجهة برمجة تطبيقات الإشراف على المحتوى (Moderation API) في عام 2022، استمر حجم ونوع المحتوى الذي يحتاج نظام الإشراف الآلي إلى معالجته في الزيادة، خاصة مع دخول المزيد والمزيد من تطبيقات الذكاء الاصطناعي إلى مرحلة الإنتاج الضخم. واليوم، تستخدم العديد من الشركات، مثل Grammarly وElevenLabs، واجهة برمجة التطبيقات هذه لحماية المستخدمين ومنع المحتوى غير المناسب.
تنعكس مزايا النموذج الجديد في جوانب عديدة:
أولاً، يتيح التصنيف المتعدد الوسائط للمحتوى الضار، وتقييم مجموعات من الصور والنصوص لتحديد المخاطر المرتبطة بالعنف والاعتداء الجنسي.
ثانيًا، يضيف النموذج نوعين جديدين من مراجعة النص، وهما المحتوى المتعلق بعدم الشرعية والعنف، مما يعزز قدرات المراجعة بشكل أكبر.
بالإضافة إلى ذلك، بالنسبة للكشف عن المحتوى غير الإنجليزي، تم تحسين الدقة بشكل كبير. ويظهر الاختبار أن معدل الدقة في 40 لغة قد زاد بنسبة 42%، خاصة في اللغات منخفضة الموارد.
بالنسبة للمطورين، لا يزال نموذج المراجعة الجديد هذا عبارة عن واجهة برمجة تطبيقات مجانية لمراجعة المحتوى يمكن الوصول إليها بسهولة. وتأمل OpenAI أن تسمح هذه الترقية لمزيد من المطورين بالاستفادة من أحدث نتائج الأبحاث وأنظمة الأمان لإنشاء تجربة أكثر سهولة في الاستخدام عبر الإنترنت.
المدونة الرسمية: https://openai.com/index/upgrading-the-moderation-api-with-our-new-multimodal-moderation-model/
** أبرز النقاط: **
يعتمد النموذج الجديد "omni-moderation-latest" على تقنية GPT-4o ويدعم المراجعة متعددة الوسائط للصور.
زادت دقة الكشف عن 40 لغة بنسبة 42%، خاصة في اللغات منخفضة الموارد.
تمت إضافة نوعين جديدين من مراجعة النص لتحسين القدرة على تحديد المحتوى غير القانوني والعنيف.
بشكل عام، حقق نموذج OpenAI "الأحدث للاعتدال الشامل" تقدمًا كبيرًا في مجال الإشراف على المحتوى، حيث ستعمل إمكاناته متعددة الوسائط ودقته العالية ودعمه للغات المتعددة على تحسين مستوى أمان المحتوى عبر الإنترنت بشكل فعال. هذه أخبار جيدة لكل من المطورين والمستخدمين. يتطلع محرر Downcodes إلى قيام OpenAI بجلب المزيد من التقنيات المبتكرة في المستقبل لبناء بيئة إنترنت أكثر أمانًا وصحة وأكثر ودية بشكل مشترك.