الصفحة الرئيسية>المتعلقة بالبرمجة>كود الذكاء الاصطناعي
تنزيل

ديناميكية


تقدم Dynamic Pirit-Shot هي حزمة Python التي تختار ديناميكيًا عينات N قريبة من مهمة المستخدم أو الاستعلام من قاعدة المعرفة (على غرار RAG) لتضمينها في المطالبة. يسمح ذلك بتوفير الأمثلة ذات الصلة والمعلوماتية إلى LLM دون الحاجة إلى ضبط LLM لتعلم واستخراج الأنماط من مجموعة البيانات. هذا يعني انخفاض تكاليف الحساب والموارد ؛ تحتاج فقط إلى جمع العينات المرتبطة بمهمتك وقد لا تكون واضحة للغاية بالنسبة إلى LLM.

الميزات الرئيسية

  • أسرع من صقل LLM
  • أداء أفضل من المطالبات القليلة الثابتة
  • يعمل مع بيانات أقل من صياغة نموذج

بداية سريعة

مع PIP: 

 pip install dynamic_prompting

أو التثبيت من المصدر 

 git clone https://github.com/ElmiraGhorbani/dynamic_prompting

pip install -e .

الاستدلال

الإعداد الأول للنموذج:

نموذج LLAMA3

  1. تفضل بزيارة موقع Meta Llama على الويب (https://llama.meta.com/llama-downloads) والتسجيل لتنزيل النموذج/s.

  2. بمجرد التسجيل ، ستحصل على بريد إلكتروني مع عنوان URL لتنزيل النماذج. ستحتاج إلى عنوان URL هذا عند تشغيل البرنامج النصي Download.sh.

  3. بمجرد الحصول على البريد الإلكتروني ، انتقل إلى مستودع Llama الذي تم تنزيله وقم بتشغيل البرنامج النصي للتنزيل.

    • تأكد من منح أذونات التنفيذ إلى البرنامج النصي download.sh
    • خلال هذه العملية ، سيُطلب منك إدخال عنوان URL من البريد الإلكتروني.
    • لا تستخدم خيار "ارتباط النسخ" ؛ انسخ الرابط من البريد الإلكتروني يدويًا.

بمجرد تنزيل النماذج ، ضعها في هذا المجلد.

وإلا يمكنك استخدام هذه الطريقة: 

 - Step 1: Go to your Hugging Face account “Settings” and then “Access Tokens” on the left column, and copy the token you need.

- Step 2: On your terminal, export your token starting with “HF_”. Use a distinct name (for example, HF_TOKEN) for each token you export. 
You may add this line to your ~/.bashrc if you do not want to export it every time you start a session.

 export HF_TOKEN="HF_XXXXXXXXXXXXX"

نماذج تضمين النص

تم تصميم فئة التضمينات للتفاعل مع نماذج تضمين النص. هناك العديد من مزودي نماذج التضمين (Openai ، Cohere ، Hugging Face ، وما إلى ذلك). حاليًا ، توفر هذه الفئة واجهة قياسية لـ MXBAI-embed-large-V1 و BGE-SMALL-EN-V1.5 و NOMIC-TEXT-V1.5 .

ابدأ

للبدء ، قم بتنزيل النماذج ووضعها في هذا المجلد. 


git lfs install
نموذج NOMIC 

git clone https://huggingface.co/nomic-ai/nomic-embed-text-v1.5

cd nomic-embed-text-v1.5

git lfs fetch
نموذج BGE 

git clone https://huggingface.co/BAAI/bge-small-en-v1.5

cd bge-small-en-v1.5

git lfs fetch
نموذج MXBAI 

git clone https://huggingface.co/mixedbread-ai/mxbai-embed-large-v1

cd mxbai-embed-large-v1

git lfs fetch

العرض التوضيحي

تحقق مثال

يوسع
معلومات إضافية
تطبيقات ذات صلة
نوصي لك
أخبار ذات صلة الكل