Téléchargement HackerLLM - Téléchargement du code source HackerLLM

HackerLLM

Autre code source

1.0.0

Télécharger

Pirate

Introduction

Ce projet est basé sur Vue (front-end) et Fastapi (back-end). Il intègre le texte de la base de données vectorielle en appelant le modèle BCE-Embedding et le combine avec le Propt pour appeler le modèle de dialogue long QWEN long du texte précédent du texte Tongyi pour réaliser des questions et réponses dans des champs spécifiques. Dans le même temps, Vue a introduit le composant VueTy pour afficher visuellement les résultats de l'analyse de https://www.hackthebox.com Site Web

courir

Convient pour Ubuntu Linux (également adapté pour fonctionner localement sous Windows)

Installez Anaconda / Miniconda et initialisez

mkdir -p ~ /miniconda3
wget https://repo.anaconda.com/miniconda/Miniconda3-latest-Linux-x86_64.sh -O ~ /miniconda3/miniconda.sh
bash ~ /miniconda3/miniconda.sh -b -u -p ~ /miniconda3
rm -rf ~ /miniconda3/miniconda.sh

~ /miniconda3/bin/conda init bash
~ /miniconda3/bin/conda init zsh

La bibliothèque Python requise pour télécharger le projet est principalement Dashscope, Langchain, Fastapi, ChromAdb, etc. S'il y a une erreur, vous pouvez simplement installer XX.
Installer Node.js (pas nécessaire)

sudo apt-get update 
sudo apt-get install nodejs

Postulez pour le modèle API_KEY pour plus de détails, veuillez consulter https://help.aliyun.com/zh/dashscope/ Au moins au 24 juillet, il y a encore beaucoup de quotas gratuits.

Et configurer API_KEY dans main.py , voir: https://help.aliyun.com/zh/dashscope/developer-reference/acquisition-and-configuration-of-api-key?spm=a2c4g.11186623.0.0.42124937yljump.11186623.0.0.42124937yljump.11186623.0.0.42124937yljump.11186623.0.0.42124937YLJump.

Téléchargez l'adresse de téléchargement du modèle HuggingFace: https://huggingface.co/maidalun1020/bce-embedding-base_v1/tree/main après téléchargement, modifiez le segment de code dans main.py

 model_name = r"/root/huggingface_cache/bce-embedding-base_v1"
model_kwargs = { 'device' : 'cpu' }
encode_kwargs = { 'normalize_embeddings' : False }
hfembedding = HuggingFaceEmbeddings (
    model_name = model_name ,
    model_kwargs = model_kwargs ,
    encode_kwargs = encode_kwargs
)