หน้าแรก>การเขียนโปรแกรมที่เกี่ยวข้อง>ซอร์สโค้ดอื่น ๆ
ดาวน์โหลด

Sanguozhi-llm

Sanguozhi-llm

แหล่งข้อมูล:三國志,三國演義,三國志十遊戲

โครงการนี้มีจุดมุ่งหมายเพื่อสร้างข้อความโดยใช้โมเดล Ollama Llama 3 พร้อมการฝังตัวแบบรวมและฐานข้อมูลเวกเตอร์

รุ่นและเครื่องมือ:

รุ่น LLM: digimonster/llama3-chinese-response

วัตถุประสงค์: สร้างคำตอบในอักขระจีน

แบบจำลองการฝัง: shaw/dmeta-embedding-zh

วัตถุประสงค์: ให้การฝังตัวละครจีน

ฐานข้อมูลเวกเตอร์: chromadb

คำอธิบาย: ฐานข้อมูลเวกเตอร์โอเพ่นซอร์สโอเพนซอร์ซสำหรับการดึงข้อมูลและการจัดเก็บข้อมูลที่มีประสิทธิภาพ

เอกสาร: https://documenter.getpostman.com/view/3827865/2Saxjf7zxn

API URL: http: // localhost: 8000

เว็บ URL: http: // localhost: 8501

ความต้องการ

  • ติดตั้ง Python (v3.12)
  • ติดตั้ง Ollama Llama (v3)

การทดสอบและดำเนินการ 

// install dependencies
$ cd packages/api
$ pip install -r requirements.txt

// pull llm model
$ ollama pull digimonster/llama3-chinese-response

// pull embedding model
$ ollama pull shaw/dmeta-embedding-zh

// seed chromadb
$ cd packages/api
$ python seed_chromadb.py

// run ollama
$ cd packages/api
$ sh run-ollama.sh

// run in dev
$ cd packages/api
$ fastapi dev main.py

// run in prod
$ cd packages/api
$ fastapi run main.py
or
$ uvicorn main:app --host 0.0.0.0 --port 80
// install dependencies
$ cd packages/web
$ pip install -r requirements.txt

// open sanguozhi_llm web
$ streamlit run sanguozhi_llm.py
ขยาย
ข้อมูลเพิ่มเติม
แอปที่เกี่ยวข้อง
แนะนำสำหรับคุณ
ข้อมูลที่เกี่ยวข้อง ทั้งหมด