ดาวน์โหลด HackerLLM - ดาวน์โหลดซอร์สโค้ด HackerLLM

HackerLLM

ซอร์สโค้ดอื่น ๆ

1.0.0

ดาวน์โหลด

Hackerllm

การแนะนำ

โครงการนี้ขึ้นอยู่กับ Vue (front-end) และ fastapi (back-end) มันฝังข้อความฐานข้อมูลเวกเตอร์โดยเรียกโมเดล BCE-embedding และรวมเข้ากับ Proppt เพื่อเรียกรูปแบบการสนทนายาว Qwen ยาวของข้อความก่อนหน้าของข้อความ Tongyi เพื่อรับรู้คำถามและคำตอบในเขตข้อมูลเฉพาะ ในเวลาเดียวกัน Vue ได้แนะนำองค์ประกอบ Vuetify เพื่อแสดงผลการวิเคราะห์ของเว็บไซต์ https://www.hackthebox.com

วิ่ง

เหมาะสำหรับ Ubuntu Linux (เหมาะสำหรับการทำงานในเครื่องใน Windows)

ติดตั้ง anaconda/miniconda และเริ่มต้น

mkdir -p ~ /miniconda3
wget https://repo.anaconda.com/miniconda/Miniconda3-latest-Linux-x86_64.sh -O ~ /miniconda3/miniconda.sh
bash ~ /miniconda3/miniconda.sh -b -u -p ~ /miniconda3
rm -rf ~ /miniconda3/miniconda.sh

~ /miniconda3/bin/conda init bash
~ /miniconda3/bin/conda init zsh

ไลบรารี Python ที่จำเป็นสำหรับการดาวน์โหลดโครงการส่วนใหญ่คือ Dashscope, Langchain, Fastapi, Chromadb ฯลฯ หากมีข้อผิดพลาดคุณสามารถติดตั้ง XX ได้
ติดตั้ง node.js (ไม่จำเป็น)

sudo apt-get update 
sudo apt-get install nodejs

สมัครสำหรับ Model API_KEY สำหรับรายละเอียดโปรดดู https://help.aliyun.com/zh/dashscope/ อย่างน้อย ณ วันที่ 24 กรกฎาคมยังมีโควต้าฟรีจำนวนมาก

และกำหนดค่า api_key ใน main.py ดู: https://help.aliyun.com/zh/dashscope/developer-reference/acquisition-and-configuration-of-api-key?spm=a2c4g.11186623.0.0.42124937yljump

ดาวน์โหลด HuggingFace Model ที่อยู่: https://huggingface.co/maidalun1020/bce-embedding-base_v1/tree/main หลังจากดาวน์โหลดเปลี่ยนเซ็กเมนต์รหัสใน main.py

 model_name = r"/root/huggingface_cache/bce-embedding-base_v1"
model_kwargs = { 'device' : 'cpu' }
encode_kwargs = { 'normalize_embeddings' : False }
hfembedding = HuggingFaceEmbeddings (
    model_name = model_name ,
    model_kwargs = model_kwargs ,
    encode_kwargs = encode_kwargs
)