يكشف أحدث الأبحاث أن ما يقرب من 10 ٪ من مستخدمي AI chatbot يسيئون استخدام التكنولوجيا للمحادثات الإباحية. وجد الاكتشاف ، استنادًا إلى تحليل متعمق لـ 100000 محادثات chatbot ، أن حوالي 10 ٪ من المحادثات تضمنت موضوعات إباحية. لا تكشف هذه الدراسة عن التفاعل الحقيقي بين المستخدمين ودردشة الدردشة فحسب ، بل توفر أيضًا أساسًا مهمًا لتحسين أمان chatbots في العالم الحقيقي.
قام فريق البحث بتقسيم موضوعات الإساءة إلى ثلاث فئات ، بما في ذلك الروايات الفاحشة والخيال الجنسي ولعب الأدوار ومناقشات السلوك الضار. تساعد هذه الفئات الباحثين في تحديد أشكال مختلفة من شركات chatbots والتعامل معها بشكل أكثر دقة. من خلال التحليل التفصيلي لهذه المحادثات ، يمكن للباحثين فهم أنماط سلوك المستخدمين بشكل أفضل وبالتالي تطوير تدابير أمنية أكثر فعالية.
تشير الدراسة أيضًا إلى أنه على الرغم من أن معظم المستخدمين يستخدمون chatbots للتواصل العادي ، إلا أنه لا يمكن تجاهل وجود سوء المعاملة. دعا الباحثون مطوري التكنولوجيا ومشغلي المنصات لتعزيز الإشراف على chatbots لمنع استخدامهم لأغراض غير لائقة. في الوقت نفسه ، ينصح فريق البحث للمستخدمين بالبقاء متيقظين عند استخدام chatbots وتجنب المشاركة في محادثات غير لائقة أو بدءها.
بالإضافة إلى ذلك ، تستكشف الدراسة التأثير المحتمل لإساءة استخدام chatbot ، بما في ذلك الآثار السلبية على الصحة العقلية للمستخدمين والأضرار المحتملة للتفاعلات الاجتماعية. يشدد الباحثون على أنه على الرغم من أن chatbots توفر للناس طرقًا مريحة للتواصل ، فإن سوء معاملة قد يؤدي إلى سلسلة من المشكلات الاجتماعية التي تتطلب اهتمامًا واسع النطاق.
بشكل عام ، توفر هذه الدراسة منظوراً جديداً لفهم استخدام بوتس منظمة العفو الدولية وتوفر مرجعًا مهمًا لتحسين أمانهم. في المستقبل ، مع التطوير المستمر للتكنولوجيا ، فإن كيفية منع chatbots بفعالية ستصبح تحديًا مهمًا لمطوري التكنولوجيا والباحثين.