في الآونة الأخيرة، تم الكشف عن مشكلة خطيرة في أداة البحث المعتمدة على الذكاء الاصطناعي Perplexity والتي تحظى بمتابعة كبيرة: حيث تحتوي مصادر إجاباتها على كمية كبيرة من المعلومات منخفضة الجودة أو حتى الخاطئة التي تم إنشاؤها بواسطة الذكاء الاصطناعي من مدونات ومنشورات غير موثوقة على LinkedIn. أثار هذا الاكتشاف مخاوف بشأن موثوقية معلومات محرك بحث الذكاء الاصطناعي وكان له أيضًا تأثير كبير على سمعة Perplexity. ستحلل هذه المقالة بالتفصيل المعضلة التي تواجهها شركة Perplexity وتأثير هذه الحادثة على مجال الذكاء الاصطناعي.
تكشف التقارير الجديدة أن أداة البحث المدعومة بالذكاء الاصطناعي Perplexity رفيعة المستوى والممولة جيدًا تولد رسائل غير مرغوب فيها تشير إلى ذكاء اصطناعي منخفض الجودة أو حتى معيب من مدونات ومنشورات LinkedIn غير موثوقة.
أجرت شركة GPTZero، وهي شركة ناشئة متخصصة في اكتشاف المحتوى الناتج عن الذكاء الاصطناعي، مؤخرًا تحقيقًا متعمقًا حول Perplexity. وأشار الرئيس التنفيذي للشركة، إدوارد تيان، في منشور على مدونة في وقت سابق من هذا الشهر إلى أنه لاحظ أن "المزيد والمزيد من مصادر روابط Perplexity يتم إنشاؤها تلقائيًا بواسطة الذكاء الاصطناعي".
ثم قام بفحص إعادة استخدام الذكاء الاصطناعي لـ Perplexity لهذه المعلومات ووجد أنه في بعض الحالات، قامت Perplexity بسحب معلومات قديمة وغير صحيحة من هذه المصادر التي أنشأها الذكاء الاصطناعي. بمعنى آخر، إنها دورة من المعلومات الخاطئة التي يحركها الذكاء الاصطناعي، حيث تجد أخطاء الذكاء الاصطناعي والمعلومات الوهمية طريقها إلى إجابات Perplexity التي يولدها الذكاء الاصطناعي.
على سبيل المثال، بالنسبة للسؤال "المهرجانات الثقافية في كيوتو، اليابان"، قدمت شركة Perplexity قائمة تبدو متماسكة للمعالم الثقافية في المدن اليابانية. لكنها تستشهد بمصدر واحد فقط: منشور مدونة غامض تم نشره على LinkedIn في نوفمبر 2023 والذي من المحتمل أن يكون قد تم إنشاؤه بواسطة الذكاء الاصطناعي. وهذا بعيد كل البعد عن "المؤسسات الإخبارية والأبحاث الأكاديمية والمدونات القائمة" التي تدعي شركة Perplexity أنها تستخدمها.
هذه صورة سيئة لشركة ناشئة مضطربة بالفعل تدعي أنها "تحدث ثورة في الطريقة التي تكتشف بها المعلومات" من خلال تقديم "المعرفة الدقيقة" من خلال الحصول على "أحدث المعلومات" من "مصادر موثوقة".
تسليط الضوء على:
تم الكشف عن الحيرة على أنها نقلاً عن الذكاء الاصطناعي الخاطئ لإنشاء بريد عشوائي من المدونات المشكوك فيها ومنشورات LinkedIn.
اكتشف GPTZero أن عددًا متزايدًا من المصادر المرتبطة بواسطة Perplexity يتم إنشاؤها بواسطة الذكاء الاصطناعي، وأن Perplexity يستخدم أحيانًا معلومات قديمة وغير صحيحة من هذه المصادر.
تدعي شركة Perplexity أن إجاباتها تأتي فقط من "مصادر موثوقة"، ولكن من المهم حقًا ما إذا كانت خوارزميات الذكاء الاصطناعي الخاصة بها تحصل بالفعل على معلومات جيدة من معلومات جيدة.
تذكرنا حادثة الحيرة مرة أخرى أنه على الرغم من أن تكنولوجيا الذكاء الاصطناعي تتطور بسرعة، إلا أن موثوقيتها وأمنها لا تزال بحاجة إلى مزيد من التحسين. تعد المراجعة والفحص الصارمان للمحتوى الناتج عن الذكاء الاصطناعي أمرًا بالغ الأهمية لمنع الذكاء الاصطناعي من أن يصبح أداة لنشر معلومات كاذبة. في المستقبل، تحتاج محركات بحث الذكاء الاصطناعي إلى إنشاء نظام أكثر اكتمالاً لمراقبة الجودة لتزويد المستخدمين بخدمات معلومات موثوقة حقًا.