أصدر فريق أبحاث Google مؤخرًا نموذجًا رائعًا - Transnar ، والذي يجمع بذكاء بين بنية المحولات وتكنولوجيا تفكير الخوارزمية العصبية (NAR) ، مما يؤدي إلى تحسين الأداء بشكل كبير في مهام الخوارزمية المعقدة. هذا الابتكار لا يحل فقط قيود المحولات التقليدية في التفكير الخوارزمي ، ولكنه يوفر أيضًا حلًا جديدًا تمامًا لمعالجة البيانات المنظمة.
غالبًا ما تواجه المحولات التقليدية التحدي المتمثل في عدم القدرة على التقاط البيانات المنظمة بفعالية عند التعامل مع مشاكل الخوارزمية ، بينما تعمل تقنية NAR بشكل جيد في هذا الصدد ، خاصة في إمكانات التعميم. يدمج Transnar بنجاح إمكانيات معالجة النصوص من Transformer مع إمكانيات تمثيل الرسم البياني لـ NAR من خلال إدخال آلية مهتم. يسمح هذا المزيج للنموذج بمعالجة وصف النص وبيانات هيكل الرسم البياني في وقت واحد ، وبالتالي إظهار مزايا غير مسبوقة في مهام الاستدلال الخوارزمية.
استراتيجية التدريب في Transnar فريدة من نوعها أيضًا. خلال مرحلة ما قبل التدريب ، يتم تدريب وحدة NAR بشكل مستقل ، وتعلم خطوات المنطق والحساب المتأصل عن طريق تنفيذ مهام خوارزمية متعددة. تضع هذه العملية أساس خوارزمية صلبة للنموذج. في مرحلة الضبط الدقيقة ، يتلقى Transnar مدخلات مزدوجة من وصف النص وتمثيل الرسم البياني ، ويستخدم معلومات تضمين العقدة التي توفرها وحدة NAR التي تم تدريبها مسبقًا لضبط علامتها بشكل ديناميكي من خلال آليات الالتحاق. تتيح طريقة التدريب المتعددة المستويات هذه للنموذج بالتكيف بشكل أفضل مع المهام الخوارزمية المعقدة.
في الاختبار الفعلي ، يتجاوز أداء Transnar بكثير نموذج نموذج المحول التقليدي ، وخاصة في قدرة التعميم خارج التوزيع ، مما يدل على تحسين أداء يزيد عن 20 ٪. لا يتحقق هذا الإنجاز من القدرات القوية للنموذج فحسب ، بل يوفر أيضًا دعمًا قويًا للتطبيق المستقبلي في مجموعة واسعة من مهام الخوارزمية.
النقاط الرئيسية:
include أطلقت Google نموذج Transnar ، حيث يجمع بين المحول وتكنولوجيا NAR ، مما يحسن بشكل كبير قدرات التفكير في الخوارزمية.
⭐ Transnar يتبنى آلية شهية ، ويدمج بعمق قدرات معالجة النص وتمثيل الرسم البياني ، ويؤدي بشكل ممتاز في مهام الخوارزمية المعقدة.
strategy استراتيجية التدريب متعددة المستويات تجعل Transnar أفضل بكثير من المحولات التقليدية في المهام الخوارزمية ، وخاصة في قدرات التعميم.