في الآونة الأخيرة ، انتقد مايلز بروندج ، الرئيس السابق لأبحاث السياسات في Openai ، التغيير السردي للشركة في أمان الذكاء الاصطناعي ، قائلاً إن Openai يعيد كتابة تاريخ الأمن في أنظمة الذكاء الاصطناعي. وقال إن Openai قد يتجاهل التدابير الأمنية طويلة الأجل في سعيها للذكاء الاصطناعي العام (AGI).
تلتزم Openai بترويج رؤيتها الطموحة ، خاصة في سياق زيادة ارتفاع المنافسين مثل Deepseek. في عملية متابعة تطوير AGI ، تؤكد الشركة بشكل متكرر على إمكانات وكلاء الذكاء الاصطناعي الفائقة ، لكن هذا الموقف لم يتم الاعتراف به على نطاق واسع. يعتقد Brendage أن Openai لديها روايات غير متسقة مع نشر وأمن نماذج الذكاء الاصطناعى الحالية.
في الآونة الأخيرة ، أصدرت Openai وثيقة عن النشر التدريجي لنموذج الذكاء الاصطناعي لإظهار نهجها الحكيم. يؤكد أخذ GPT-2 كمثال في المستند على أنه ينبغي الحفاظ على درجة عالية من الحذر عند التعامل مع النظام الحالي. ذكر Openai في الوثائق: "في عالم متقطع ، تأتي الدروس الأمنية من درجة عالية من الحذر مع أنظمة اليوم ، وهو بالضبط النهج الذي نتبعه في نموذج GPT-2."
ومع ذلك ، تساءل برينغ هذا. وهو يعتقد أن إطلاق GPT-2 يتبع أيضًا نهجًا تدريجيًا ، وقد أشاد خبراء الأمن بالتعامل مع Openai الحذر. وهو يعتقد أن الحكمة السابقة لم تكن مفرطة ، ولكنها ممارسة ضرورية ومسؤولة.
بالإضافة إلى ذلك ، أعرب Brendage عن مخاوفه بشأن ادعاء Openai بأن AGI سوف يمر بخطوات تدريجية بدلاً من اختراقات مفاجئة. وهو يعتقد أن سوء فهم Openai لتاريخ إطلاق GPT-2 وإعادة تربية تاريخ الأمن يزعج. وأشار أيضًا إلى أن المستندات التي نشرتها Openai قد تتسبب بطريقة أو بأخرى في أن تنظر إلى الشواغل الأمنية على أنها رد فعل مبالغ فيه ، والتي يمكن أن تشكل مخاطر كبيرة في سياق أنظمة الذكاء الاصطناعى المتطورة باستمرار.
ليست هذه هي المرة الأولى التي يتم فيها انتقاد Openai ، حيث يتساءل الخبراء عما إذا كانت الشركات قد قدمت مفاضلة معقولة بين الأمن طويل الأجل والمزايا قصيرة الأجل. جذبت مخاوف Brendage مرة أخرى الانتباه إلى أمان الذكاء الاصطناعي.
النقاط الرئيسية:
تساءل زعيم السياسة السابق في Openai عن تغييرات الشركة في سرد أمن الذكاء الاصطناعي ، معتقدًا أنه كان سوء فهم للتاريخ.
تؤكد المستندات التي أصدرتها Openai على أهمية الإفراج الحذر من نماذج الذكاء الاصطناعى ، ولكن تم انتقادها من قبل الموظفين السابقين.
أعرب الخبراء عن مخاوفهم بشأن التطوير المستقبلي لأنظمة الذكاء الاصطناعي.