OpenAI merilis model tinjauan konten multi-modal terbarunya "omni-moderation-latest" pada tanggal 26 September. Model ini didasarkan pada teknologi GPT-4o dan dapat lebih akurat mengidentifikasi konten teks dan gambar berbahaya, terutama dalam identifikasi konten non-Inggris . Performa luar biasa. Langkah ini akan secara signifikan meningkatkan efisiensi dan keakuratan sistem peninjauan konten, menyediakan alat yang lebih canggih bagi pengembang, dan membangun lingkungan pengguna yang lebih aman. Editor Downcodes akan memberi Anda pemahaman mendalam tentang kelebihan dan fitur model baru ini.
Di era digital, masalah keamanan konten menjadi semakin parah. Model "omni-moderasi-terbaru" yang diluncurkan oleh OpenAI tidak diragukan lagi merupakan langkah penting dalam menjawab tantangan ini. Model ini mendukung tinjauan multi-modal atas teks dan gambar, dengan akurasi yang ditingkatkan secara signifikan dibandingkan model sebelumnya, dan telah menambahkan kemampuan deteksi untuk konten ilegal dan kekerasan. Untuk konten non-Inggris, tingkat akurasinya meningkat sebesar 42%, terutama dalam bahasa dengan sumber daya rendah. Keuntungan model ini adalah gratis dan mudah diakses, dan pengembang dapat dengan mudah mengintegrasikannya ke dalam aplikasi mereka sendiri.
Keunggulan model baru ini adalah mendukung moderasi input teks dan gambar, terutama saat memproses konten non-Inggris .
Dibandingkan dengan model moderasi sebelumnya, “omni-moderation-latest” tidak hanya meningkatkan akurasi identifikasi, namun juga meningkatkan kemampuan mendeteksi konten yang lebih berbahaya. Layanan ini dapat menilai berbagai kategori seperti kekerasan, tindakan menyakiti diri sendiri, dan konten seksual, sehingga memastikan pengguna dapat berkomunikasi di tempat yang lebih aman.
Sejak OpenAI meluncurkan API moderasi konten (Moderation API) pada tahun 2022, jumlah dan jenis konten yang perlu diproses oleh sistem moderasi otomatis terus meningkat, terutama karena semakin banyak aplikasi kecerdasan buatan yang memasuki tahap produksi massal. Saat ini, banyak perusahaan, seperti Grammarly dan ElevenLabs, menggunakan API ini untuk melindungi pengguna dan mencegah konten yang tidak pantas.
Keunggulan model baru ini tercermin dalam banyak aspek:
Pertama, hal ini memungkinkan klasifikasi multimodal konten berbahaya, menilai kombinasi gambar dan teks untuk mengidentifikasi risiko terkait kekerasan dan pelecehan seksual.
Kedua, model ini menambahkan dua jenis ulasan teks baru, yaitu konten terkait ilegalitas dan kekerasan, yang semakin meningkatkan kemampuan ulasan.
Selain itu, untuk mendeteksi konten non-Inggris, keakuratannya telah ditingkatkan secara signifikan. Pengujian menunjukkan bahwa tingkat akurasi dalam 40 bahasa telah meningkat sebesar 42%, terutama dalam bahasa dengan sumber daya rendah.
Bagi pengembang, model ulasan baru ini masih berupa API ulasan konten gratis yang dapat diakses dengan mudah. OpenAI berharap peningkatan ini akan memungkinkan lebih banyak pengembang memanfaatkan hasil penelitian dan sistem keamanan terbaru untuk menciptakan pengalaman online yang lebih ramah pengguna.
Blog resmi: https://openai.com/index/upgrading-the-moderation-api-with-our-new-multimodal-moderation-model/
** Sorotan: **
? Model baru “omni-moderation-latest” didasarkan pada teknologi GPT-4o dan mendukung tinjauan gambar multi-modal.
? Akurasi pendeteksian untuk 40 bahasa telah meningkat sebesar 42%, terutama dalam bahasa dengan sumber daya rendah.
? Dua jenis ulasan teks baru telah ditambahkan untuk meningkatkan kemampuan mengidentifikasi konten ilegal dan kekerasan.
Secara keseluruhan, model “omni-moderation-latest” OpenAI telah membawa kemajuan signifikan di bidang moderasi konten. Kemampuan multi-modal, akurasi yang lebih tinggi, dan dukungan untuk berbagai bahasa akan secara efektif meningkatkan tingkat keamanan konten online. Ini adalah kabar baik bagi pengembang dan pengguna. Editor Downcodes berharap OpenAI menghadirkan lebih banyak teknologi inovatif di masa depan untuk bersama-sama membangun lingkungan Internet yang lebih aman, sehat, dan ramah.