Récemment, OpenAI a publié un rapport important soulignant que son service d'intelligence artificielle Chatgpt ne permettra jamais aucune forme d'utilisation malveillante. Avec la croissance rapide des utilisateurs de Chatgpt, OpenAI a remarqué que certains criminels utilisent la plate-forme pour les violations. À cette fin, l'entreprise a agi rapidement et a suspendu des dizaines de comptes suspects. Selon les dernières données, les utilisateurs actifs hebdomadaires de Chatgpt ont dépassé 400 millions, avec plus de 100 millions de nouveaux utilisateurs en seulement trois mois. Ce phénomène démontre non seulement la large influence de Chatgpt, mais déclenche également des discussions approfondies sur les aspects éthiques et juridiques de l'utilisation du service.
Dans le rapport, Openai indique clairement que toute utilisation de ses outils de fraude ou de comportement malveillant est strictement interdite. Récemment, la société a enquêté sur plusieurs cas impliquant un faux recrutement et a découvert et interdit plusieurs comptes connexes. Par exemple, un compte a été constaté pour discréditer les États-Unis par le biais de faux reportages et a même publié ces articles en Amérique latine sous le nom de médias chinois. Ce comportement nuit non seulement à la réputation de Chatgpt, mais a également des effets néfastes sur les relations internationales.
De plus, il existe des comptes du Cambodge qui utilisent Chatgpt pour traduire et générer des commentaires pour aider les «escroqueries d'amour de réseau» à effectuer des escroqueries sur les plateformes de médias sociaux telles que X, Facebook et Instagram. Ces fraudes provoquent non seulement des pertes économiques pour les victimes, mais aussi gravement sape l'environnement de fiducie des plateformes sociales.
Openai a déclaré que ses conclusions avaient été partagées avec d'autres sociétés de l'industrie, telles que Meta, pour faire face à une faute qui se produit sur le chatppt. Grâce à ces actions, OpenAI espère maintenir la bonne réputation de la plate-forme et protéger les utilisateurs contre la fraude. La société prévoit également de renforcer davantage la coopération avec d'autres sociétés technologiques pour lutter conjointement sur la fraude en ligne et les comportements malveillants.
En tant que grande entreprise d'IA, OpenAI continuera de surveiller l'utilisation de ses services pour s'assurer que la technologie n'est pas abusée. La société a souligné que le maintien de la confiance des utilisateurs est sa priorité absolue et renforcera encore la surveillance et la gestion des comptes malveillants à l'avenir. OpenAI prévoit également d'introduire davantage de mesures de sécurité, y compris un mécanisme d'audit de compte plus stricte et un système de détection de comportement malveillant plus intelligent pour améliorer la sécurité globale de la plate-forme.
Points clés: Openai a suspendu des dizaines de comptes suspects pour réprimer l'utilisation malveillante de Chatgpt. Le rapport note que certains comptes utilisent Chatgpt pour forger des informations et des documents de recherche d'emploi pour commettre une fraude. OpenAI partage les résultats de l'enquête avec d'autres sociétés technologiques et s'engage à maintenir la réputation et la sécurité de la plate-forme. Grâce à ces mesures, OpenAI espère fournir aux utilisateurs un environnement de service IA plus sécurisé et plus fiable.