Google Deepmind a annoncé l'open source de la technologie synthétique et l'intégration de celui-ci dans le modèle Gemini. Synthid pour le texte est une technologie qui ajoute des filigranes au texte généré par l'IA, qui est réalisé en réglant la probabilité de marquage suivante prédite par LLM sans affecter la qualité et la créativité du texte. Cette technologie peut identifier de manière fiable le texte généré par l'IA sans modifier le contenu du texte, fournissant une nouvelle solution au défi du contenu généré par l'IA. Il convient à plusieurs langues et a été intégré dans les applications Gemini et les sites Web pour la commodité des utilisateurs.
Synthid ajoute un filigrane caché au texte généré, qui peut être reconnu même après l'édition. Google Deepmind affirme que ses performances sont meilleures que les systèmes de filigrane de texte existants et ont ouvert la technologie pour faciliter l'utilisation et les améliorations des développeurs et des chercheurs. La publication open source de cette technologie aidera à promouvoir la fiabilité et la transparence du contenu généré par l'IA et contribuera à la construction d'un écosystème d'IA plus sûr et plus fiable.
Récemment, Google DeepMind intégre sa technologie synthétique dans son modèle Gemini et le publie en tant que projet open source. Synthid pour le texte utilise des processus complexes pour interférer avec la génération de texte de modèles de grande langue (LLMS).
Synthid ajuste légèrement le score de probabilité de la balise suivante prédite par LLM, mais seulement si elle n'affecte pas la qualité, la précision ou la créativité de la sortie. Ce processus répète tout le texte généré, formant un filigrane.
Selon Google Deepmind, cette technologie peut être appliquée à au moins trois phrases. Pour un texte plus long, le filigrane devient plus robuste et précis. Bien que cette approche fonctionne dans une variété de langues, elle a quelques faiblesses lors de la modification du texte d'IA.
Google DeepMind a intégré Synthed dans les applications et les sites Web des Gémeaux pour ajouter des filigranes et une reconnaissance au texte généré. La technologie peut également être utilisée comme un projet open source sur GitHub, Google responsable de la boîte à outils Générative AI et le visage des étreintes.
Google Deepmind affirme que Synthid fonctionne mieux que les systèmes de filigrane de texte existants. Auparavant, Google Deepmind a lancé Synthed pour les images, la voix et la musique.
Le passage à la technologie synthétique open source de Google DeepMind marque une étape importante dans la lutte contre les abus du contenu généré par l'IA et reflète son engagement envers le développement responsable de l'IA. À l'avenir, avec l'amélioration continue de la technologie et l'expansion de la portée des applications, Synthed jouera un plus grand rôle dans l'assurance de la sécurité de l'information et le maintien de l'authenticité du contenu.