الصفحة الرئيسية>المتعلقة بالبرمجة>شفرة المصدر الأخرى
تنزيل

Sanguozhi-llm

Sanguozhi-llm

مصدر البيانات:三國志،三國演義،三國志十遊戲

يهدف هذا المشروع إلى إنشاء نص باستخدام نموذج Ollama Llama 3 مع تضمينات متكاملة وقاعدة بيانات متجه.

النماذج والأدوات:

طراز LLM: digimonster/llama3-chinese-response

الغرض: يولد الردود في الأحرف الصينية.

نموذج التضمين: shaw/dmeta-embedding-zh

الغرض: يوفر تضمينات الشخصية الصينية.

قاعدة بيانات المتجهات: chromadb

الوصف: قاعدة بيانات ناقلات منظمة العفو الدولية ، مفتوحة المصدر لاسترجاع وتخزين البيانات الفعالة.

الوثائق: https://documenter.getpostman.com/view/3827865/2saxjf7zxn

url API: http: // localhost: 8000

عنوان URL على الويب: http: // localhost: 8501

متطلبات

  • تثبيت Python (v3.12)
  • تثبيت Ollama Llama (V3)

الاختبار والتشغيل 

// install dependencies
$ cd packages/api
$ pip install -r requirements.txt

// pull llm model
$ ollama pull digimonster/llama3-chinese-response

// pull embedding model
$ ollama pull shaw/dmeta-embedding-zh

// seed chromadb
$ cd packages/api
$ python seed_chromadb.py

// run ollama
$ cd packages/api
$ sh run-ollama.sh

// run in dev
$ cd packages/api
$ fastapi dev main.py

// run in prod
$ cd packages/api
$ fastapi run main.py
or
$ uvicorn main:app --host 0.0.0.0 --port 80
// install dependencies
$ cd packages/web
$ pip install -r requirements.txt

// open sanguozhi_llm web
$ streamlit run sanguozhi_llm.py
يوسع
معلومات إضافية
تطبيقات ذات صلة
نوصي لك
أخبار ذات صلة الكل