OpenAI lanzó su último modelo de revisión de contenido multimodal "omni-moderation-latest" el 26 de septiembre. Este modelo se basa en la tecnología GPT-4o y puede identificar con mayor precisión contenido de texto e imágenes dañinos, especialmente en la identificación de contenido que no está en inglés. Rendimiento excepcional. Esta medida mejorará significativamente la eficiencia y precisión del sistema de revisión de contenido, proporcionará a los desarrolladores herramientas más potentes y creará un entorno de usuario más seguro. El editor de Downcodes le permitirá conocer en profundidad las ventajas y características de este nuevo modelo.
En la era digital, los problemas de seguridad del contenido son cada vez más graves. El modelo de "omni-moderación más reciente" lanzado por OpenAI es sin duda un paso importante para afrontar este desafío. Este modelo admite la revisión multimodal de texto e imágenes, con una precisión significativamente mejorada en comparación con los modelos anteriores, y ha agregado capacidades de detección de contenido ilegal y violento. Para el contenido que no está en inglés, su tasa de precisión ha aumentado en un 42%, especialmente en idiomas de bajos recursos. La ventaja del modelo es que es gratuito y de fácil acceso, y los desarrolladores pueden integrarlo fácilmente en sus propias aplicaciones.
Lo más destacado del nuevo modelo es que admite la moderación de la entrada de texto e imágenes, especialmente cuando se procesa contenido que no está en inglés .
En comparación con el modelo de moderación anterior, "omni-moderation-latest" no solo mejora la precisión de la identificación, sino que también aumenta la capacidad de detectar contenido más dañino. Puede evaluar múltiples categorías, como violencia, autolesiones y contenido sexual, garantizando que los usuarios puedan comunicarse en un espacio más seguro.
Desde que OpenAI lanzó la API de moderación de contenido (API de moderación) en 2022, la cantidad y el tipo de contenido que el sistema de moderación automatizado necesita procesar ha seguido aumentando, especialmente a medida que cada vez más aplicaciones de inteligencia artificial entran en la etapa de producción en masa. Hoy en día, muchas empresas, como Grammarly y ElevenLabs, utilizan esta API para proteger a los usuarios y evitar contenido inapropiado.
Las ventajas del nuevo modelo se reflejan en muchos aspectos:
En primer lugar, permite la clasificación multimodal de contenido dañino, evaluando combinaciones de imágenes y texto para identificar riesgos relacionados con la violencia y el abuso sexual.
En segundo lugar, el modelo agrega dos nuevos tipos de revisión de texto, a saber, contenido relacionado con la ilegalidad y la violencia, lo que mejora aún más las capacidades de revisión.
Además, para la detección de contenido que no está en inglés, la precisión ha mejorado enormemente. La prueba muestra que la tasa de precisión en 40 idiomas ha aumentado en un 42%, especialmente en idiomas de bajos recursos.
Para los desarrolladores, este nuevo modelo de revisión sigue siendo una API de revisión de contenido gratuita a la que se puede acceder fácilmente. OpenAI espera que esta actualización permita a más desarrolladores aprovechar los últimos resultados de investigación y sistemas de seguridad para crear una experiencia en línea más fácil de usar.
Blog oficial: https://openai.com/index/upgrading-the-moderation-api-with-our-new-multimodal-moderation-model/
** Reflejos: **
? El nuevo modelo “omni-moderation-latest” se basa en la tecnología GPT-4o y admite la revisión multimodal de imágenes.
? La precisión de la detección para 40 idiomas ha aumentado en un 42%, especialmente en idiomas de bajos recursos.
? Se han agregado dos nuevos tipos de revisión de texto para mejorar la capacidad de identificar contenido ilegal y violento.
Con todo, el modelo "omni-moderación más reciente" de OpenAI ha aportado avances significativos en el campo de la moderación de contenido. Sus capacidades multimodales, mayor precisión y soporte para múltiples idiomas mejorarán efectivamente el nivel de seguridad del contenido en línea. Esta es una buena noticia tanto para los desarrolladores como para los usuarios. El editor de Downcodes espera que OpenAI traiga tecnologías más innovadoras en el futuro para construir conjuntamente un entorno de Internet más seguro, saludable y amigable.