Les dernières recherches révèlent que près de 10% des utilisateurs de chatbot AI abusent de la technologie des conversations pornographiques. La découverte, basée sur une analyse approfondie de 100 000 conversations de chatbot, a révélé qu'environ 10% des conversations impliquaient des sujets pornographiques. Cette étude révèle non seulement la véritable interaction entre les utilisateurs et les chatbots, mais fournit également une base importante pour améliorer la sécurité des chatbots dans le monde réel.
L'équipe de recherche a subdivisé les sujets de la maltraitance en trois catégories, notamment des récits obscènes, la fantaisie sexuelle et le jeu de rôle, et des discussions sur le comportement nuisible. Ces catégories aident les chercheurs à identifier et à gérer plus précisément diverses formes d'abus de chatbots. Grâce à une analyse détaillée de ces conversations, les chercheurs sont en mesure de mieux comprendre les modèles de comportement des utilisateurs et ainsi développer des mesures de sécurité plus efficaces.
L'étude souligne également que bien que la plupart des utilisateurs utilisent des chatbots pour une communication normale, l'existence de l'abus ne peut pas être ignorée. Les chercheurs ont appelé les développeurs de technologies et les opérateurs de plate-forme pour renforcer la supervision des chatbots pour empêcher qu'ils ne soient utilisés à des fins inappropriées. Dans le même temps, l'équipe de recherche conseille aux utilisateurs de rester vigilants lors de l'utilisation de chatbots et d'éviter de participer ou d'initier des conversations inappropriées.
En outre, l'étude explore l'impact potentiel de l'abus de chatbot, y compris les impacts négatifs sur la santé mentale des utilisateurs et les dommages potentiels aux interactions sociales. Les chercheurs soulignent que si les chatbots offrent aux gens des moyens pratiques de communiquer, leur abus peut entraîner une série de problèmes sociaux qui nécessitent une attention généralisée.
Dans l'ensemble, cette étude offre une nouvelle perspective pour comprendre l'utilisation des chatbots d'IA et fournit une référence importante pour améliorer leur sécurité. À l'avenir, avec le développement continu de la technologie, comment empêcher efficacement les chatbots d'être maltraités deviendra un défi important pour les développeurs et les chercheurs de technologie.