26 сентября OpenAI выпустила свою новейшую мультимодальную модель проверки контента «omni-moderation-latest». Эта модель основана на технологии GPT-4o и может более точно идентифицировать вредоносный текстовый и графический контент, особенно при выявлении неанглоязычного контента. , Выдающаяся производительность. Этот шаг значительно повысит эффективность и точность системы проверки контента, предоставит разработчикам более мощные инструменты и создаст более безопасную пользовательскую среду. Редактор Downcodes даст вам более глубокое понимание преимуществ и особенностей новой модели.
В эпоху цифровых технологий проблемы безопасности контента становятся все более серьезными. Модель «всемодерации новейших технологий», представленная OpenAI, несомненно, является важным шагом в решении этой проблемы. Эта модель поддерживает мультимодальный просмотр текста и изображений со значительно повышенной точностью по сравнению с предыдущими моделями, а также имеет дополнительные возможности обнаружения незаконного и насильственного контента. Для неанглоязычного контента уровень точности увеличился на 42%, особенно для языков с ограниченными ресурсами. Преимущество модели в том, что она бесплатна и проста в доступе, а разработчики могут легко интегрировать ее в свои собственные приложения.
Изюминкой новой модели является то, что она поддерживает модерацию ввода текста и изображений, особенно при обработке неанглоязычного контента .
По сравнению с предыдущей моделью модерации «омни-модерация-последняя» не только повышает точность идентификации, но и увеличивает возможности обнаружения более вредоносного контента. Он может оценивать несколько категорий, таких как насилие, членовредительство и сексуальный контент, гарантируя, что пользователи могут общаться в более безопасном пространстве.
С тех пор как OpenAI запустил API модерации контента (Moderation API) в 2022 году, количество и тип контента, который необходимо обрабатывать автоматизированной системе модерации, продолжает расти, особенно по мере того, как все больше и больше приложений искусственного интеллекта переходят на стадию массового производства. Сегодня многие компании, такие как Grammarly и ElevenLabs, используют этот API для защиты пользователей и предотвращения нежелательного контента.
Преимущества новой модели отражены во многих аспектах:
Во-первых, он позволяет мультимодально классифицировать вредоносный контент, оценивать комбинации изображений и текста для выявления рисков, связанных с насилием и сексуальным насилием.
Во-вторых, модель добавляет два новых типа проверки текста, а именно контент, связанный с незаконностью и насилием, что еще больше расширяет возможности проверки.
Кроме того, точность обнаружения неанглоязычного контента значительно улучшилась. Тест показывает, что уровень точности на 40 языках увеличился на 42%, особенно на языках с низким уровнем ресурсов.
Для разработчиков эта новая модель проверки по-прежнему остается бесплатным API для проверки контента, к которому можно легко получить доступ. OpenAI надеется, что это обновление позволит большему количеству разработчиков воспользоваться преимуществами новейших результатов исследований и систем безопасности для создания более удобного онлайн-опыта.
Официальный блог: https://openai.com/index/upgrading-the-moderation-api-with-our-new-multimodal-moderation-model/
** Основные моменты: **
? Новая модель «omni-moderation-latest» основана на технологии GPT-4o и поддерживает мультимодальный просмотр изображений.
? Точность обнаружения для 40 языков увеличилась на 42%, особенно для языков с низким уровнем ресурсов.
? Были добавлены два новых типа проверки текста, чтобы улучшить способность выявлять противозаконный и насильственный контент.
В целом, модель OpenAI «omni-moderation-latest» принесла значительный прогресс в области модерации контента. Ее мультимодальные возможности, более высокая точность и поддержка нескольких языков эффективно повысят уровень безопасности онлайн-контента. Это хорошая новость как для разработчиков, так и для пользователей. Редактор Downcodes надеется, что OpenAI в будущем принесет больше инновационных технологий для совместного создания более безопасной, здоровой и дружественной интернет-среды.