Recommendation Systems without Explicit ID Features A Literature Review

نماذج الأساس لقائمة ورق نظام التوصية

مرحبًا بك في فتح مشكلة أو تقديم طلب سحب!

الكلمة الرئيسية: التوصية بالنظام ، والتدريب ، ونموذج اللغة الكبير ، ونظام التوصية متعددة الوسائط ، ونظام التوصية القابل للتحويل ، ونماذج التوصية الأساسية ، وتمثيل المستخدم الشامل ، ونموذج واحد ، وميزات الهوية ، وتضمينات الهوية

تحاول هذه الأوراق معالجة الأسئلة التالية:

(1) هل يمكن أن يكون لأنظمة التوصية نماذج أساس خاصة بها مماثلة لتلك المستخدمة في NLP و CV؟

(2) هل تضمين المعرف ضروريًا لنماذج التوصية ، هل يمكننا استبدالها أو أبوندون؟

(3) هل ستتحول أنظمة التوصية من نموذج مطابقة إلى نموذج توليد؟

(4) كيف يمكن استخدام LLM لتعزيز أنظمة التوصية؟

(5) ما الذي يحمله المستقبل لأنظمة التوصية متعددة الوسائط؟

قائمة الورق

ورقة المنظور: معرف مقابل LLM & ID مقابل Multimodal

• أين تذهب بعد ذلك لأنظمة التوصية؟ ID-VS. إعادة النظر في نماذج التوصية المستندة إلى الطريقة ، SIGIR2023 ، 2022/09 ، [ورقة] [رمز]
• استكشاف الحدود العليا للتصفية التعاونية المستندة إلى النص باستخدام نماذج لغة كبيرة: الاكتشافات والرؤى ، Arxiv 2023/05 ، [Paper]
• استكشاف التعلم النقل المستند إلى المحول لأنظمة التوصية: الدراسات التجريبية والرؤى العملية ، WSDM2024 ، [ورقة] [رمز]
• الفيل في الغرفة: إعادة التفكير في استخدام نموذج اللغة قبل المدربة في توصية متسلسلة ، ARXIV2024/04 ، [ورقة]

مجموعات البيانات لـ RS القابلة للتحويل أو متعددة الوسائط

• NINEREC: جناح مجموعة البيانات القياسية لتقييم التوصية القابلة للتحويل ، TPAMI2024 ، [PAPER] [LINK] | الصور ، النص ، تسع مجموعات بيانات مجرى النهر
• Tenrec: مجموعة بيانات قياسية متعددة الأغراض واسعة النطاق لأنظمة التوصية ، Neups 2022 [ورقة]
• Pixelrec: مجموعة بيانات صور لقياس الأنظمة الموصية مع وحدات البكسل الخام ، SDM 2023/09 [ورقة] | [رابط] | الصور والنصوص والعلامات و 200 مليون تفاعل
• Microlens: مجموعة بيانات توصية Micro-Video التي تعتمد على المحتوى على نطاق [Paper] [Link] [DeepMind Talk] | الصور ، النص ، الفيديو ، الصوت ، التعليقات ، العلامات ، إلخ.
• العقل: مجموعة بيانات واسعة النطاق لتوصية الأخبار ، ACL2020 ، [Paper] | نص
• نقل معلمة فعال من السلوكيات المتسلسلة لنمذجة المستخدم والتوصية ، Sigir 2020 [Link]
• MOREC: [LINK] Netflix: [Link] Amazon: [Link]
• استكشاف التنبؤ متعدد الوسائد متعدد الوسائط مع مجموعة بيانات واسعة النطاق ، Sigir 2024/07 [Paper] | [Link] | الصور ، النص ، متعدد المجالات ، بيانات سلبية حقيقية ، 100 مليون بيانات النقر إلى الواردة

استطلاع

• دراسة استقصائية عن نماذج اللغة الكبيرة للتوصية ، ARXIV 2023/05 ، [ورقة]
• كيف يمكن أن تستفيد أنظمة التوصية من نماذج اللغة الكبيرة: مسح ، Arxiv 2023/06 ، [ورقة]
• أنظمة التوصية في عصر نماذج اللغة الكبيرة ، Arxiv ، 2023/07 ، [ورقة]
• دراسة استقصائية حول تقييم نماذج اللغة الكبيرة ، Arxiv ، 2023/07 ، [ورقة]
• التعلم الخاضع للإشراف على أنظمة التوصية: A Survey ، Arxiv ، 2023/06 ، [Paper]
• قبل التدريب ، الفوري والتوصية: دراسة استقصائية شاملة للتكيف مع نموذج نمذجة اللغة في أنظمة التوصية ، 2022/09 ، [ورقة]
• نمذجة المستخدم في عصر نماذج اللغة الكبيرة: البحث الحالي والاتجاهات المستقبلية ، 2023/12 ، [ورقة]
• نمذجة المستخدم وتوصيف المستخدم: مسح شامل ، 2024/02 ، [ورقة]
• نماذج الأساس لأنظمة التوصية: مسح ووجهات نظر جديدة ، 2024/02 ، [ورقة]
• ما قبل الرصاص متعدد الوسائط ، والتكيف ، وتوليد التوصية: مسح ، 2024/05 ، [ورقة]
• تؤدي جميع الطرق إلى روما: كشف النقاب عن مسار أنظمة التوصية عبر عصر LLM ، 2024/07 ، [ورقة]

نماذج لغة كبيرة للتوصية （LLM4REC）

تحجيم LLM

• القدرات الناشئة لنماذج اللغة الكبيرة ، TMLR 2022/08 ، [ورقة]
• استكشاف الحدود العليا للتصفية التعاونية المستندة إلى النص باستخدام نماذج لغة كبيرة: الاكتشافات والرؤى ، Arxiv 2023/05 ، [Paper]
• هل تفهم LLMs تفضيلات المستخدم؟ تقييم LLMs على تنبؤات تصنيف المستخدم ، ARXIV 2023/05 ، [ورقة]
• تحجيم نماذج التوصية: نحو تمثيلات المستخدم للأغراض العامة ، AAAI 2023 ، [ورقة]

Untra واسعة وعميقة وطويلة LLM

• StackRec: تدريب فعال لنماذج التوصية المتسلسلة العميقة جدًا عن طريق التراص التكراري ، Sigir 2021 ، [Paper]
• إطار اختيار الطبقة المتكافئة للمستخدم لنماذج التوصية المتسلسلة العميقة للغاية ، AAAI 2021 ، [Paper]
• إطار ضغط الشبكة العام لأنظمة التوصية المتسلسلة ، Sigir 2020 ، [Paper]
• قانون التحجيم لنماذج التوصية المتسلسلة الكبيرة ، ARXIV 2023/11 ، [ورقة]
• تتكلم الإجراءات بصوت أعلى من الكلمات: محولات متسلسلة تريليون المعلمة للتوصيات التوليدية ، Arxiv 2024/03 ، [Paper]
• كسر حاجز الطول: تنبؤات النقر النيكودي LLM المحسنة في سلوكيات المستخدم النصية الطويلة ، Sigir 2024 ، [Paper]

ضبط LLM

• Calrec: محاذاة متناقضة من LLMs التوليدي للتوصية المتسلسلة ، Recsys 2024 ، [ورقة]
• M6-REC: نماذج اللغة المسبقة التوليدية عبارة عن أنظمة توصية مفتوحة ، ARXIV 2022/05 ، [ورقة]
• Tallrec: إطار ضبط فعال وفعال لمحاذاة نموذج لغة كبير مع التوصية ، ARXIV 2023/04 ، [Paper]
• GPT4REC: إطار توليلي لتفسير التوصية المخصصة وتفسير اهتمامات المستخدم ، 2023/04 ، [ورقة]
• نموذج تأريض ثنائي الخطوة لنماذج اللغة الكبيرة في أنظمة التوصية ، Arxiv ، 2023/08 ، [ورقة]
• Llamarec: توصية على مرحلتين باستخدام نماذج لغة كبيرة للترتيب ، PGAI@Cikm 2023 ، [Paper] [Code]
• تحسين التوصيات المتسلسلة مع LLMS ، ARXIV 2024/02 ، [ورقة]

تجميد LLM [رابط]

• CTR-Bert: تقطير المعرفة الفعال من حيث التكلفة لنماذج المعلمين مليار معلم ， Arxiv 2022/04 ، [ورقة]
• نحو أنظمة التوصية المحادثة الموحدة من خلال التعلم السريع المعزز للمعرفة ، Arxiv 2022/06 ، [ورقة]
• التوصية التوليدية: نحو نموذج التوصية من الجيل التالي ، Arxiv 2023/04 ، [ورقة]
• استكشاف الحدود العليا للتصفية التعاونية المستندة إلى النص باستخدام نماذج لغة كبيرة: الاكتشافات والرؤى ، Arxiv 2023/05 ، [Paper]
• نظرة أولى على توصية الأخبار التوليدية التي تعمل بنظام LLM ، Arxiv 2023/05 ، [Paper]
• أنظمة التوصية التي تحافظ على الخصوصية مع توليد استعلام صناعي باستخدام نماذج لغة كبيرة خاصة تفاضلية ، ARXIV 2023/05 ، [Paper]
• التكرار: نموذج محاكاة جديد لأنظمة التوصية ، Arxiv 2023/06 ، [ورقة]
• توصية من العنصر التالي الصفر باستخدام نماذج اللغة الكبيرة المسبقة ، Arxiv 2023/04 ، [ورقة]
• هل يمكن أن تقدم ChatGPT توصية عادلة؟ معيار تقييم الإنصاف للتوصية مع نموذج اللغة الكبيرة ، Recsys 2023
• الاستفادة من نماذج اللغة الكبيرة للتوصية المتسلسلة ، recsys 2023/09 ، [ورقة]
• LLMREC: نماذج لغة كبيرة مع زيادة الرسم البياني للتوصية ، WSDM 2024 عن طريق الفم ، [ورقة] [رمز]
• هل تضمينات ID ضرورية؟ تبييض النصوص المدربين قبل التدريب للتوصية المتسلسلة الفعالة ، ARXIV 2024/02 ، [ورقة]

موجه مع LLM

• نماذج اللغات الكبيرة عبارة عن مرتبة صفرية للأنظمة المتوسطة ، ARXIV 2023/05 ، [Paper]
• التوصية كمعالجة اللغة (RLP): ما قبله موحد ، موجه مخصص وتنبؤ النموذج (P5) ، Arxiv 2022/03 ، [Paper]
• نماذج اللغة كنظم توصية: التقييمات والقيود ، ورشة عمل Neups ICBINB 2021/10 ، [ورقة]
• التعلم السريع لتوصية الأخبار ، Sigir 2023/04 ، [ورقة]
• LLM-REC: توصية مخصصة من خلال تقديم نماذج لغة كبيرة ، Arxiv ، 2023/07 [ورقة]

chatgpt [رابط]

• هل chatgpt موص جيد دراسة أولية ، Arxiv 2023/04 ، [ورقة]
• هل chatgpt جيد في البحث؟ التحقيق في نماذج اللغات الكبيرة كعامل إعادة صلة ، Arxiv 2023/04 ، [ورقة]
• الدردشة: نحو نظام التوصية التفاعلي والتفسير LLMS ، ARXIV 2023/04 ، [ورقة]
• توصية كتعليمات متابعة: نموذج توصية لغوية كبير ، Arxiv 2023/05 ، [Paper]
• الاستفادة من نماذج اللغة الكبيرة في أنظمة التوصية المحادثة ، Arxiv 2023/05 ، [ورقة]
• الكشف عن قدرات ChatGPT في أنظمة التوصية ، Arxiv 2023/05 ، [Paper] [Code]
• شرارات التوصية العامة الاصطناعية (AGR): التجارب المبكرة مع ChatGPT ، Arxiv 2023/05 ، [ورقة]
• هل ChatGpt Fair للتوصية؟ تقييم الإنصاف في توصية نموذج اللغة الكبيرة ، Arxiv 2023/05 ، [ورقة] [رمز]
• شرارات التوصية العامة الاصطناعية (AGR): التجارب المبكرة مع ChatGPT ، Arxiv 2023/05 ، [ورقة]
• PALR: التخصيص LLMs للتوصية ، ARXIV 2023/05 ، [ورقة]
• أنظمة التوصية التي تحافظ على الخصوصية مع توليد استعلام صناعي باستخدام نماذج لغة كبيرة خاصة تفاضلية ، ARXIV 2023/05 ، [Paper]
• إعادة التفكير في تقييم التوصية المحادثة في عصر نماذج اللغة الكبيرة ، Arxiv 2023/05 ، [ورقة]
• CTRL: قم بتوصيل نموذج الجدولة واللغة للتنبؤ بـ CTR ، Arxiv 2023/06 ، [Paper].

نظام التوصية متعدد الوسائط

• VBPR: التصنيف الشخصي البصري بايزي من ردود الفعل الضمنية ، AAAI2016 ، [ورقة]
• تدريب الخصوم نحو نظام التوصية متعدد الوسائط القوي ، TKDE2019 ، [ورقة]
• الرسوم البيانية المعرفة متعددة الوسائط لأنظمة التوصية ، CIKM 2020 ، [ورقة]
• محول متعدد الوسائط محسّن عبر الإنترنت للتوصية المتسلسلة ، ACMMM 2023 ، [ورقة]
• توصية متسلسلة متعددة الوسائط ذات إشراف ذاتي ، ARXIV2023/02 ، [ورقة]
• FMMREC: توصية متعددة الوسائط على دراية بالإنصاف ، ARXIV2023/10 ، [ورقة]
• توصية متسلسلة متعددة الوسائط ذات الإشراف ذاتيا ، ARXIV 2024/02 ، [ورقة]
• تضمين المعرف كميزات خفية للمحتوى والبنية للتوصية متعددة الوسائط ، ARXIV2023/10 ، [ورقة]
• تعزيز الهوية والانصهار النصية عبر التدريب البديل في التوصية القائمة على الجلسة ، ARXIV2023/2 ، [ورقة]
• Bivrec: توصية متسلسلة متعددة الوسائط قائمة على العرض ثنائي الاتجاه ， ARXIV2023/2 ، [ورقة]
• نموذج لغة كبير معزز التوصية المتسلسلة للتوصية المشتركة للفيديو والتعليق ، ARXIV2024/2 ، [ورقة]
• دراسة تجريبية لتوصيات التسلسل المتعددة الوسائط التدريبية ، ARXIV2024/3 ، [ورقة]
• الرمز المميز الدلالي المنفصل للتنبؤ العميق CTR ، ARXIV2024/3 ، [ورقة]
• التدريب الشامل للنموذج متعدد الوسائط ونموذج الترتيب ، ARXIV2023/3 ، [ورقة]

نماذج التوصية القابلة للتحويل

• Transrec: تعلم توصية قابلة للتحويل من ردود الفعل الخليط ، Arxiv 2022/06 ، [ورقة]
• نحو التعلم التمثيل التسلسلي العالمي لأنظمة التوصية ، KDD2022222/06 ، [ورقة]
• تمثيل العناصر المقتطف المتجه للموظفين المتسلسلة القابلة للتحويل ، www 2023 ، [ورقة] [رمز]
• UP5: نموذج الأساس غير المتحيز لتوصية الاهتمام بالإنصاف ، Arxiv 2023/05 ، [ورقة]
• استكشاف التعلم النقل القائم على المحول لأنظمة التوصية: الدراسات التجريبية والرؤى العملية ، ARXIV 2023/05 ، [ورقة] [رمز]
• OpenP5: نماذج مؤسسة القياس للتوصية ، Arxiv 2023/06 ، [ورقة]
• نمذجة تمامًا توصية متعددة المجالات قبل التدريب كلغة ، Arxiv 2023/10 ، [Paper]
• Missrec: تمثيل تسلسل ما قبل التدريب ونقل ما يدرك الاهتمامات متعددة الوسائط للتوصية ، Arxiv 2023/10 ، [ورقة]
• تمثيل العناصر المسبقة قبل المدربين على الكلمات المتعلقة بالكلمات للتوصية القابلة للتحويل ، ARXIV 2023/11 ، [Paper]
• توصية متعددة المجالات متعددة المجالات قبل التدريب ، Arxiv 2023/11 ، [ورقة]
• متعدد الوسائط هو كل ما تحتاجه لأنظمة التوصية القابلة للتحويل ، Arxiv 2023 ، [Paper]
• Transfr: توصية الاتحادية القابلة للتحويل مع نماذج اللغة التي تم تدريبها مسبقًا ، Arxiv 2024/02 ، [ورقة]
• إعادة التفكير في التوصية المتسلسلة عبر المجال بموجب افتراضات العالم المفتوح ، ARXIV 2024/02 ، [ورقة]
• تلبي نماذج اللغة الكبيرة التصفية التعاونية: نظام توصية فعال على أساس LLM ، ARXIV 2024/04 ، [Paper]
• ترميز نماذج اللغة إشارات تعاونية في التوصية ، Arxiv 2024/07 ، [ورقة]

متعلم عالمي للأغراض العامة

• النقل الفعال للمعلمة من السلوكيات المتسلسلة لنمذجة المستخدم والتوصية ، Sigir 2020 ، [Paper] ، [Code]
• تمثيل مستخدم One4All لأنظمة التوصية في التجارة الإلكترونية ، ARXIV 2021 ، [ورقة]
• تعلم تمثيلات المستخدم القابلة للتحويل مع السلوكيات المتسلسلة عبر التدريب المسبق ، ICDM 2021 ، [Paper]
• صقل مائي خاص بالتكيف لتوصيات النطاق عبر المجال ، TKDE 2021 ، [ورقة]
• تحجيم نماذج التوصية: نحو تمثيلات المستخدم للأغراض العامة ، AAAI 2023 ، [ورقة]
• U-Bert: تمثيلات المستخدم قبل التدريب لتحسين التوصية ، AAAI 2021 ، [ورقة]
• واحد للجميع ، كل واحد من أجل واحد: التعلم ونقل تضمينات المستخدم للتوصية عبر المجال ، WSDM 2022 ، [ورقة]
• أدوات تلقائية متغيرة على دراية بالميدان لتعلم تمثيل المستخدم على نطاق مليار ، ICDE2022 ، [ورقة]
• تعلم تمثيل المستخدم العالمي على نطاق واسع مع مزيج متناثر من الخبراء ، ICML202222Workshop ، [Paper]
• تمثيل مستخدم Multi DataSource LTV (MDLUR) ، KDD2023 ، [ورقة]
• الدور المحوري لنمذجة اللغة في أنظمة التوصية: إثراء التعلم التمثيل الخاص بالمهمة والمهمة. ARXIV2022/12 ، [ورقة]
• نمذجة المستخدم وتوصيف المستخدم: مسح شامل ، 2024/02 ، [ورقة]
• تمثيلات المستخدم المعممة لتعلم النقل ، Arxiv 2024/03 ، [ورقة]
• سد لغة وعناصر الاسترجاع والتوصية ， Arxiv 2024/04 ، [ورقة]

التعلم لتمثيل المستخدم العالمي مدى الحياة

• شخص واحد ، نموذج واحد ، عالم واحد: تعلم تمثيل المستخدم المستمر دون نسيان ، Sigir 2021 ، [Paper] ، [Code]
• Tenrec: مجموعة بيانات قياسية متعددة الأغراض واسعة النطاق لأنظمة التوصية ، Neups 2022 [ورقة]
• ستان: شبكة التكيف مع المرحلة للتوصية متعددة المهام من قبل تعلم دورة حياة مستخدم المستخدم ، Recsys 2023 ، [Paper]
• علم المهمة-تدرك التمثيل المستمر لتمثيل المستخدم ، KDD2023 ، [ورقة]
• ريلا: نماذج لغة كبيرة محسنة للاسترجاع لفهم السلوك المتسلسل مدى الحياة في التوصية ، ARXIV2023/08 ، [ورقة]

أنظمة التوصية التوليدية [رابط]

• شبكة توليدية تلافيفية بسيطة لتوصية العنصر التالي ، WSDM 2018/08 ، [ورقة] [رمز]
• تساعد البيانات المستقبلية على التدريب: نمذجة السياقات المستقبلية للتوصية القائمة على الجلسة ، www 2020/04 ، [Paper] [Code]
• التوصية عبر نموذج توليد الانتشار التعاوني ، KSEM 2022/08 ، [ورقة]
• نماذج عملية التشويش غير الواضحة للتصفية التعاونية ، ARXIV 2022/09 ، [ورقة]
• توصية لائحة التوليد مع التعلم التعزيز ، Arxiv 2023/01 ، [ورقة]
• أنظمة التوصية ذات الاسترجاع التوليدي ، Arxiv 2023/04 ، [ورقة]
• Diffurec: نموذج انتشار للتوصية المتسلسلة ، Arxiv 2023/04 ، [Paper]
• نموذج التوصية الانتشار ، Arxiv 2023/04 ، [ورقة]
• نظرة أولى على توصية الأخبار التوليدية التي تعمل بنظام LLM ، Arxiv 2023/05 ، [Paper]
• أنظمة التوصية ذات الاسترجاع التوليدي ، Arxiv 2023/05 ، [ورقة]
• الاسترجاع التوليدي كاسترجاع كثيف ، Arxiv 2023/06 ، [ورقة]
• إعادة الدمج: عملية نشر ذات الحدين لبيانات 1D للتوصية ، ARXIV 2023/06 ، [ورقة]
• توصية متسلسلة توليمية مع GPTREC ، ورشة عمل SIGIR 2023 ، [ورقة]
• المشجعين: توليد تسلسل سريع غير ذاتي للاستمرار في قائمة العناصر ، www 2023 ، [ورقة]
• توصية التوليد في السلة التالية ، recsys 2023
• نموذج اللغة الكبيرة المعززة السرد التي تحركها ، recsys 2023 ، [ورقة]
• Lightlm: نموذج لغة عميق وضيق في التوصية التنكسية ، Arxiv 2023/10 ، [ورقة]

الموارد ذات الصلة:

• Xiangyang Li Github [رابط]
• nancheng58i github [رابط]
• enoche github [رابط]
• wlik github [رابط]
• https://github.com/chiangel/awesome-llm-for-recsys
• https://medium.com/@lifengyi_6964/a-large-scale-short-video-recmommender-system-dataset-160fdfe81b79
• https://medium.com/@lifengyi_6964/rethinking-the-id-paradigmm-in-trecommender-systems-the-lise-of-modality-98f449dec016
• https://medium.com/@lifengyi_6964/one-model-for-all-universal-recommender-system-82dab214a07d
• https://zhuanlan.zhihu.com/p/437671278
• https://zhuanlan.zhihu.com/p/675213913
• https://zhuanlan.zhihu.com/p/684805058
• https://zhuanlan.zhihu.com/p/665467596