HackerLLM下載-ha HackerLLM源代碼下載

HackerLLM

其他源碼

1.0.0

下載

HackerLLM

簡介

本項目基於vue(前端)以及fastapi(後端),通過調用bce-embedding模型進行向量數據庫文本嵌入，結合到prompt調用通義前文qwen-long長對話模型，實現特定領域的問答。同時vue引入vuetify組件實現對https://www.hackthebox.com 網站的分析結果進行可視化展示

運行

適用於ubuntu linux(也適用於windows本地運行)

安裝anaconda/miniconda並初始化

mkdir -p ~ /miniconda3
wget https://repo.anaconda.com/miniconda/Miniconda3-latest-Linux-x86_64.sh -O ~ /miniconda3/miniconda.sh
bash ~ /miniconda3/miniconda.sh -b -u -p ~ /miniconda3
rm -rf ~ /miniconda3/miniconda.sh

~ /miniconda3/bin/conda init bash
~ /miniconda3/bin/conda init zsh

下載項目需要的python庫，主要是dashscope,langchain,fastapi,chromadb等，有報錯缺少xx，直接pip install xx就好
安裝node.js(不必要)

sudo apt-get update 
sudo apt-get install nodejs

申請模型api_key 詳見https://help.aliyun.com/zh/dashscope/ 至少截至24年7月免費額度還是挺多的

並且在main.py中配置api_key，詳見： https://help.aliyun.com/zh/dashscope/developer-reference/acquisition-and-configuration-of-api-key?spm=a2c4g.11186623.0.0.42124937yljUMp

下載huggingface模型下載地址: https://huggingface.co/maidalun1020/bce-embedding-base_v1/tree/main 下載好後在main.py中更改代碼段

 model_name = r"/root/huggingface_cache/bce-embedding-base_v1"
model_kwargs = { 'device' : 'cpu' }
encode_kwargs = { 'normalize_embeddings' : False }
hfembedding = HuggingFaceEmbeddings (
    model_name = model_name ,
    model_kwargs = model_kwargs ,
    encode_kwargs = encode_kwargs
)