HackerLLM Download - HackerLLM Source Code Download

HackerLLM

Anderer Quellcode

1.0.0

Herunterladen

Hackerllm

Einführung

Dieses Projekt basiert auf Vue (Front-End) und Fastapi (Back-End). Es bettet den Vektor-Datenbanktext ein, indem es das BCE-Embedding-Modell aufgerufen hat, und kombiniert es mit dem ProPT, um das Qwen-Long-lange Dialogmodell des vorherigen Textes des Tongyi-Textes aufzurufen, um Q & A in bestimmten Feldern zu realisieren. Gleichzeitig führte Vue die Vuetify -Komponente ein, um die Analyseergebnisse der https://www.hackthebox.com -Website visuell anzuzeigen

laufen

Geeignet für Ubuntu Linux (auch geeignet für das lokale Laufen in Windows)

Installieren Sie Anaconda/Miniconda und initialisieren Sie

mkdir -p ~ /miniconda3
wget https://repo.anaconda.com/miniconda/Miniconda3-latest-Linux-x86_64.sh -O ~ /miniconda3/miniconda.sh
bash ~ /miniconda3/miniconda.sh -b -u -p ~ /miniconda3
rm -rf ~ /miniconda3/miniconda.sh

~ /miniconda3/bin/conda init bash
~ /miniconda3/bin/conda init zsh

Die zum Herunterladen des Projekts erforderliche Python -Bibliothek ist hauptsächlich DashScope, Langchain, Fastapi, Chromadb usw. Wenn ein Fehler vorliegt, können Sie einfach XX installieren.
Installieren Sie Node.js (nicht erforderlich)

sudo apt-get update 
sudo apt-get install nodejs

Bewerben Sie sich für Einzelheiten für Modell -API_Key. Weitere Informationen finden Sie unter https://help.aliyun.com/zh/dashscope/. Mindestens ab dem 24. Juli gibt es immer noch eine Menge kostenloser Quoten.

Und konfigurieren Sie api_key in main.py , siehe: https://help.aliyun.com/zh/dashscope/developer-reference/acquisition-and-configuration-of-api-pe?spm=A2C4G.1118623.0.0.4212493737yljumpe

Laden Sie die Adresse des Huggingface-Modells herunter main.py

 model_name = r"/root/huggingface_cache/bce-embedding-base_v1"
model_kwargs = { 'device' : 'cpu' }
encode_kwargs = { 'normalize_embeddings' : False }
hfembedding = HuggingFaceEmbeddings (
    model_name = model_name ,
    model_kwargs = model_kwargs ,
    encode_kwargs = encode_kwargs
)