intro_dgm

"النمذجة التوليدية العميقة": أمثلة تمهيدية

يحتوي هذا المستودع على أمثلة على النماذج التوليدية العميقة لكتاب "النمذجة العميقة":

1. مزيج من gaussians (MOGS): مزيج من gaussians
2. نماذج الانحدار التلقائي (الأسلحة): الأسلحة معلمة مع الالتزامات المسببة والمحولات
3. النماذج القائمة على التدفق (التدفقات): RealNVP و IDFS (تدفقات INTEGER منفصلة)
4. أدوات التوقيت المتنوع (VAEs): VAE واضحة ومرات مختلفة ، VAE الهرمية
5. النماذج العميقة القائمة على الانتشار (DDGMS): انتشار غاوسي للأمام
6. النماذج التوليدية المستندة إلى النقاط (SBGMS): مطابقة الدرجات ، النماذج التوليدية القائمة على الدرجات ، مطابقة التدفق (الشرطي)
7. النمذجة الهجينة
8. النماذج القائمة على الطاقة
9. شبكات الخصومة التوليدية (GANS)
10. الضغط العصبي مع النمذجة العميقة
11. نماذج لغة كبيرة (LLMS)

قد تبدو الأمثلة مبالغة في التبول ولكن هذه هي النقطة! فكرتي هي أن كل شخص قادر على اتباع كل سطر من الكود ، وتشغيل التجارب في غضون دقيقتين تقريبًا على أي كمبيوتر محمول أو كمبيوتر. هدفي هو تشجيع الأشخاص الجدد على الفهم واللعب مع النماذج التوليدية العميقة. من ناحية أخرى ، يمكن للمستخدمين الأكثر تقدماً تحديث معارفهم أو البناء فوق ذلك للتحقق بسرعة من أفكارهم. في كلتا الحالتين ، آمل أن يساعد الرمز الجميع على الانضمام إلى رحلة رائعة على النمذجة العميقة!

متطلبات

في جميع الأمثلة ، استخدمنا:

• pytorch 1.7.0
• numpy 1.17.2
• matplotlib 3.1.1
• scikit-learn 0.21.3
• pytorch-model-summary 0.1.1
• jupyter 1.0.0

أمثلة

يتم توفير جميع الأمثلة على النماذج التوليدية العميقة التي تم تنفيذها كدفترات Jupyter. يمكن العثور عليها في المجلدات التالية:

1. mog : مثال على مزيج من Gaussians مع مكونات قابلة للتجهيز أو احتمالات مكونات قابلة للتدريب.
2. arms : مثال على نموذج الانحدار الذاتي مع طبقة إيلاء سببية في 1D والمحولات.
3. flows : مثال على نموذج قائم على التدفق ، أي RealNVP مع طبقات الاقتران وطبقات التقليب ، و IDFs (تدفقات INTEGER المنفصلة).
4. vaes : (1) مثال على المشفر التلقائي المتغير باستخدام طبقات متصلة بالكامل و Gaussian Standard قبل ، (ii) مثال على العديد من priors لـ VAEs ، (iii) مثال على VAE الهرمي.
5. ddgms : مثال على نموذج توليدي عميق قائم على الانتشار باستخدام انتشار Gaussian إلى الأمام مع متغير ثابت ومعلمة انتشار عكسي بواسطة MLP.
6. sbgms : (1) مثال على نموذج الدرجات باستخدام طريقة مطابقة النتيجة ونموذج الدرجات المستندة إلى MLP ، (2) مثال على نموذج الانتشار المستند إلى SDE معلمة بواسطة MLP ، (III) مثال لنموذج مطابقة التدفق المشروط المعلم بواسطة MLP.
7. hybrid_modeling : مثال على نموذج هجين باستخدام طبقات واتصالات IDFs متصلة بالكامل.
8. ebms : مثال على نموذج قائم على الطاقة المعلمة بواسطة MLP.
9. gans : مثال على GAN المعلمة بواسطة MLPs.
10. neural_compression : مثال على تطبيق النمذجة العميقة على الضغط العصبي.
11. llms : مثال على محول قائم على وحدة فك الترميز (LLM ؛ هنا نسميه Teenygpt.

اقتباس

إذا كنت تستخدم هذا الرمز بأي شكل من الأشكال ، فيرجى الرجوع إليه عن طريق الإشارة إلى كتابي "النمذجة العميقة":

• نمط APA:

 Tomczak, J. M. (2024). Deep Generative Modeling. Springer Cham

• bibtex:

 @book{tomczak2024deep,
  title={Deep Generative Modeling},
  author={Tomczak, Jakub M},
  publisher={Springer Cham},
  year={2024}
}