OpenAI a publié son dernier modèle d'examen de contenu multimodal « omni-modération-latest » le 26 septembre. Ce modèle est basé sur la technologie GPT-4o et peut identifier plus précisément les contenus texte et image nuisibles, en particulier lors de l'identification de contenu non anglais. .Des performances exceptionnelles. Cette décision améliorera considérablement l'efficacité et la précision du système de révision de contenu, fournira aux développeurs des outils plus puissants et créera un environnement utilisateur plus sûr. L'éditeur de Downcodes vous fera comprendre en profondeur les avantages et les fonctionnalités de ce nouveau modèle.
À l’ère du numérique, les problèmes de sécurité des contenus deviennent de plus en plus graves. Le modèle « omni-modération » lancé par OpenAI constitue sans aucun doute une étape importante pour relever ce défi. Ce modèle prend en charge l'examen multimodal du texte et des images, avec une précision considérablement améliorée par rapport aux modèles précédents, et a ajouté des capacités de détection des contenus illégaux et violents. Pour les contenus non anglophones, son taux de précision a augmenté de 42 %, notamment dans les langues à faibles ressources. L’avantage du modèle est qu’il est gratuit et facile d’accès, et que les développeurs peuvent facilement l’intégrer dans leurs propres applications.
Le point fort du nouveau modèle est qu'il prend en charge la modération de la saisie de texte et d'images, en particulier lors du traitement de contenu non anglais .
Par rapport au modèle de modération précédent, « omni-modération-dernière » améliore non seulement la précision de l'identification, mais augmente également la capacité de détecter des contenus plus préjudiciables. Il peut évaluer plusieurs catégories telles que la violence, l'automutilation et le contenu sexuel, garantissant ainsi que les utilisateurs peuvent communiquer dans un espace plus sûr.
Depuis qu'OpenAI a lancé l'API de modération de contenu (Moderation API) en 2022, la quantité et le type de contenu que le système de modération automatisé doit traiter n'ont cessé d'augmenter, d'autant plus que de plus en plus d'applications d'intelligence artificielle entrent dans la phase de production de masse. Aujourd'hui, de nombreuses entreprises, telles que Grammarly et ElevenLabs, utilisent cette API pour protéger les utilisateurs et empêcher les contenus inappropriés.
Les avantages du nouveau modèle se reflètent dans de nombreux aspects :
Premièrement, il permet une classification multimodale des contenus préjudiciables, en évaluant les combinaisons d’images et de textes pour identifier les risques liés à la violence et aux abus sexuels.
Deuxièmement, le modèle ajoute deux nouveaux types de révision de texte, à savoir le contenu lié à l'illégalité et à la violence, ce qui améliore encore les capacités de révision.
De plus, pour la détection de contenus non anglais, la précision a été grandement améliorée. Le test montre que le taux de précision dans 40 langues a augmenté de 42 %, notamment dans les langues à faibles ressources.
Pour les développeurs, ce nouveau modèle de révision reste une API de révision de contenu gratuite et facilement accessible. OpenAI espère que cette mise à niveau permettra à davantage de développeurs de profiter des derniers résultats de recherche et des derniers systèmes de sécurité pour créer une expérience en ligne plus conviviale.
Blog officiel : https://openai.com/index/upgrading-the-moderation-api-with-our-new-multimodal-moderation-model/
** Points forts: **
? Le nouveau modèle « omni-modération-dernier » est basé sur la technologie GPT-4o et prend en charge l'examen multimodal des images.
? La précision de détection pour 40 langues a augmenté de 42 %, en particulier dans les langues à faibles ressources.
? Deux nouveaux types de révision de texte ont été ajoutés pour améliorer la capacité d'identifier les contenus illégaux et violents.
Dans l’ensemble, le modèle « omni-modération » d’OpenAI a apporté des progrès significatifs dans le domaine de la modération du contenu. Ses capacités multimodales, sa plus grande précision et sa prise en charge de plusieurs langues amélioreront efficacement le niveau de sécurité du contenu en ligne. C'est une bonne nouvelle tant pour les développeurs que pour les utilisateurs. L'éditeur de Downcodes attend avec impatience qu'OpenAI apporte des technologies plus innovantes à l'avenir pour construire conjointement un environnement Internet plus sûr, plus sain et plus convivial.