OpenAI hat am 26. September sein neuestes multimodales Inhaltsüberprüfungsmodell „omni-moderation-latest“ veröffentlicht. Dieses Modell basiert auf der GPT-4o-Technologie und kann schädliche Text- und Bildinhalte genauer identifizieren, insbesondere bei der Identifizierung nicht-englischer Inhalte . Hervorragende Leistung. Dieser Schritt wird die Effizienz und Genauigkeit des Inhaltsüberprüfungssystems erheblich verbessern, Entwicklern leistungsfähigere Tools zur Verfügung stellen und eine sicherere Benutzerumgebung schaffen. Der Herausgeber von Downcodes vermittelt Ihnen einen detaillierten Einblick in die Vorteile und Funktionen dieses neuen Modells.
Im digitalen Zeitalter werden die Fragen der Inhaltssicherheit immer gravierender. Das von OpenAI eingeführte „Omni-Moderation-Latest“-Modell ist zweifellos ein wichtiger Schritt zur Bewältigung dieser Herausforderung. Dieses Modell unterstützt die multimodale Überprüfung von Text und Bildern mit deutlich verbesserter Genauigkeit im Vergleich zu früheren Modellen und verfügt über zusätzliche Erkennungsfunktionen für illegale und gewalttätige Inhalte. Bei nicht-englischen Inhalten ist die Genauigkeitsrate um 42 % gestiegen, insbesondere in ressourcenarmen Sprachen. Der Vorteil des Modells besteht darin, dass es kostenlos und leicht zugänglich ist und Entwickler es problemlos in ihre eigenen Anwendungen integrieren können.
Der Clou des neuen Modells ist, dass es die Moderation von Text- und Bildeingaben unterstützt, insbesondere bei der Verarbeitung nicht-englischer Inhalte .
Im Vergleich zum vorherigen Moderationsmodell verbessert „omni-moderation-latest“ nicht nur die Genauigkeit der Identifizierung, sondern erhöht auch die Fähigkeit, schädlichere Inhalte zu erkennen. Es kann mehrere Kategorien wie Gewalt, Selbstverletzung und sexuelle Inhalte bewerten und so sicherstellen, dass Benutzer in einem sichereren Raum kommunizieren können.
Seit OpenAI im Jahr 2022 die Content-Moderations-API (Moderation API) eingeführt hat, hat die Menge und Art der Inhalte, die das automatisierte Moderationssystem verarbeiten muss, weiter zugenommen, insbesondere da immer mehr Anwendungen der künstlichen Intelligenz in die Massenproduktionsphase eintreten. Heutzutage verwenden viele Unternehmen wie Grammarly und ElevenLabs diese API, um Benutzer zu schützen und unangemessene Inhalte zu verhindern.
Die Vorteile des neuen Modells spiegeln sich in vielen Aspekten wider:
Erstens ermöglicht es die multimodale Klassifizierung schädlicher Inhalte und bewertet Kombinationen aus Bildern und Texten, um Risiken im Zusammenhang mit Gewalt und sexuellem Missbrauch zu identifizieren.
Zweitens fügt das Modell zwei neue Arten der Textüberprüfung hinzu, nämlich Inhalte im Zusammenhang mit Illegalität und Gewalt, wodurch die Überprüfungsmöglichkeiten weiter verbessert werden.
Darüber hinaus wurde die Genauigkeit bei der Erkennung nicht-englischer Inhalte erheblich verbessert. Der Test zeigt, dass die Genauigkeitsrate in 40 Sprachen um 42 % gestiegen ist, insbesondere in ressourcenarmen Sprachen.
Für Entwickler ist dieses neue Überprüfungsmodell weiterhin eine kostenlose API zur Inhaltsüberprüfung, auf die einfach zugegriffen werden kann. OpenAI hofft, dass dieses Upgrade es mehr Entwicklern ermöglicht, die neuesten Forschungsergebnisse und Sicherheitssysteme zu nutzen, um ein benutzerfreundlicheres Online-Erlebnis zu schaffen.
Offizieller Blog: https://openai.com/index/upgrading-the-moderation-api-with-our-new-multimodal-moderation-model/
** Highlights: **
? Das neue Modell „omni-moderation-latest“ basiert auf der GPT-4o-Technologie und unterstützt die multimodale Überprüfung von Bildern.
? Die Erkennungsgenauigkeit für 40 Sprachen ist um 42 % gestiegen, insbesondere in ressourcenarmen Sprachen.
? Zwei neue Arten der Textüberprüfung wurden hinzugefügt, um die Fähigkeit zu verbessern, illegale und gewalttätige Inhalte zu identifizieren.
Insgesamt hat das „Omni-Moderation-Latest“-Modell von OpenAI erhebliche Fortschritte im Bereich der Inhaltsmoderation gebracht. Seine multimodalen Fähigkeiten, höhere Genauigkeit und Unterstützung für mehrere Sprachen werden das Niveau der Online-Inhaltssicherheit effektiv verbessern. Das sind gute Nachrichten für Entwickler und Benutzer. Der Herausgeber von Downcodes freut sich darauf, dass OpenAI in Zukunft weitere innovative Technologien einbringen wird, um gemeinsam eine sicherere, gesündere und freundlichere Internetumgebung aufzubauen.