generative ai falcon 40b instruct notebooks

دفاتر تخصيص نموذج لغوية كبيرة

يوفر هذا المستودع مجموعة من أجهزة الكمبيوتر المحمولة هندسية AI التي توضح كيفية استخدام Amazon Sagemaker JumpStart SDK لتخصيص نماذج اللغة الكبيرة (LLMS). تُظهر دفاتر الملاحظات باستخدام متغيرات طراز Falcon كيفية تطبيق المستويات الأساسية لتخصيص الاستدلال مثل: فك تشفير استراتيجيات ، وتقنيات المطالبة ، والتوليد المسبق للاسترجاع. تم تصميم دفاتر الملاحظات لتكون سهلة النشر والمتابعة ، مما يجعلها مورد جيد للتعرف على تخصيص استنتاج LLM.

تتوفر أجهزة الكمبيوتر المحمولة التالية لـ Amazon Sagemaker Studio في هذا المستودع:

• يوضح LLM-Custom-Decoding-Falcon40B-G5.ipynb كيفية إنشاء نص باستخدام استراتيجيات فك التشفير المختلفة مع Amazon Sagemaker Jumpstart SDK ونموذج Falcon-40B-instruct.
• يوضح LLM-Custom-Prompting-Falcon40B.ipynb كيفية إنشاء نص باستخدام تقنيات هندسية مطالبة باستخدام نموذج Amazon Sagemaker SDK و Falcon-40B.
• يوضح LLM-Custom-RAG-Kendra-Falcon40B.ipynb كيفية استخدام Sagemaker و Boto3 SDKs لإنشاء نص باستخدام نمط الجيل المتمثل في الاسترداد (RAG). يقوم دفتر الملاحظات بتنفيذ البحث الدلالي باستخدام خدمة البحث Amazon Kendra Enterprise. نموذج اللغة المستخدم لتوليد النص هو Falcon-40B-instruct.

لفتح دفتر Jupyter باستخدام Amazon Sagemaker ، فكر في الخطوتين أدناه:

1. إنشاء أو فتح دفتر Amazon Sagemaker Studio.
2. استنساخ هذا المستودع GIT في Amazon Sagemaker Studio.

حماية

انظر المساهمة لمزيد من المعلومات.

رخصة

هذه المكتبة مرخصة بموجب ترخيص MIT-0. انظر ملف الترخيص.