OpenAI는 9월 26일 최신 다중 모드 콘텐츠 검토 모델인 "omni-moderation-latest"를 출시했습니다. 이 모델은 GPT-4o 기술을 기반으로 하며 특히 영어가 아닌 콘텐츠 식별 시 유해한 텍스트 및 이미지 콘텐츠를 보다 정확하게 식별할 수 있습니다. .뛰어난 성능. 이러한 움직임은 콘텐츠 검토 시스템의 효율성과 정확성을 크게 향상시키고 개발자에게 더욱 강력한 도구를 제공하며 보다 안전한 사용자 환경을 구축할 것입니다. 다운코드 편집자는 이 새로운 모델의 장점과 특징에 대한 심층적인 이해를 제공할 것입니다.
디지털 시대에 콘텐츠 보안 문제는 점점 심각해지고 있습니다. OpenAI가 출시한 "전방향 최신" 모델은 의심할 여지 없이 이러한 과제를 해결하는 데 중요한 단계입니다. 이 모델은 이전 모델에 비해 정확도가 크게 향상된 텍스트 및 이미지의 다중 모드 검토를 지원하며 불법 및 폭력적인 콘텐츠에 대한 감지 기능이 추가되었습니다. 영어가 아닌 콘텐츠의 경우 특히 자원이 부족한 언어의 경우 정확도가 42% 증가했습니다. 이 모델의 장점은 무료이며 액세스가 쉽고 개발자가 자신의 애플리케이션에 쉽게 통합할 수 있다는 것입니다.
새 모델의 하이라이트는 특히 영어가 아닌 콘텐츠를 처리할 때 텍스트 및 이미지 입력 조정을 지원한다는 것입니다.
이전 중재 모델과 비교하여 "omni-moderation-latest"는 식별 정확도를 향상시킬 뿐만 아니라 더 많은 유해 콘텐츠를 탐지하는 능력도 향상시킵니다. 폭력, 자해, 성적인 콘텐츠 등 다양한 범주를 평가하여 사용자가 보다 안전한 공간에서 통신할 수 있도록 보장합니다.
OpenAI가 2022년 콘텐츠 조정 API(Moderation API)를 출시한 이후 자동화된 조정 시스템이 처리해야 하는 콘텐츠의 양과 유형은 계속해서 증가해 왔으며, 특히 점점 더 많은 인공지능 애플리케이션이 대량 생산 단계에 진입함에 따라 더욱 그렇습니다. 현재 Grammarly, ElevenLabs 등 많은 회사에서는 사용자를 보호하고 부적절한 콘텐츠를 방지하기 위해 이 API를 사용하고 있습니다.
새 모델의 장점은 여러 측면에서 반영됩니다.
첫째, 유해 콘텐츠의 다중 모드 분류를 가능하게 하고, 이미지와 텍스트의 조합을 평가하여 폭력 및 성적 학대와 관련된 위험을 식별합니다.
둘째, 모델은 두 가지 새로운 유형의 텍스트 검토, 즉 불법 및 폭력과 관련된 콘텐츠를 추가하여 검토 기능을 더욱 향상시킵니다.
또한, 영어 이외의 콘텐츠 감지에 대한 정확도가 크게 향상되었으며, 특히 리소스가 적은 언어에서 40개 언어의 정확도가 42% 증가한 것으로 테스트 결과 나타났습니다.
개발자에게 있어 이 새로운 검토 모델은 여전히 쉽게 액세스할 수 있는 무료 콘텐츠 검토 API입니다. OpenAI는 이번 업그레이드를 통해 더 많은 개발자가 최신 연구 결과와 보안 시스템을 활용하여 보다 사용자 친화적인 온라인 경험을 만들 수 있기를 바랍니다.
공식 블로그: https://openai.com/index/upgrading-the-moderation-api-with-our-new-multimodal-moderation-model/
** 하이라이트: **
? 새로운 모델인 "omni-moderation-latest"는 GPT-4o 기술을 기반으로 하며 이미지의 다중 모드 검토를 지원합니다.
? 40개 언어에 대한 감지 정확도가 42% 증가했으며, 특히 리소스가 부족한 언어에서 더욱 그렇습니다.
? 불법적이고 폭력적인 콘텐츠를 식별하는 능력을 향상시키기 위해 두 가지 새로운 유형의 텍스트 검토가 추가되었습니다.
전체적으로 OpenAI의 "옴니-조정-최신" 모델은 콘텐츠 조정 분야에서 상당한 진전을 가져왔습니다. 다중 모드 기능, 더 높은 정확성 및 다국어 지원은 온라인 콘텐츠 보안 수준을 효과적으로 향상시킬 것입니다. 이는 개발자와 사용자 모두에게 좋은 소식입니다. Downcodes의 편집자는 OpenAI가 미래에 더 혁신적인 기술을 가져와 더 안전하고 건강하며 친근한 인터넷 환경을 공동으로 구축할 수 있기를 기대합니다.