Descargar HackerLLM - Descargar código fuente HackerLLM

HackerLLM

Otro código fuente

1.0.0

Descargar

Hackerlm

Introducción

Este proyecto se basa en Vue (front-end) y Fastapi (back-end). Incorpora el texto de la base de datos de vectores llamando al modelo de incrustación de BCE, y lo combina con el propta para llamar al modelo de diálogo largo de Qwen Long del texto anterior del texto tongyi para realizar preguntas y respuestas en campos específicos. Al mismo tiempo, Vue introdujo el componente Vuetify para mostrar visualmente los resultados de análisis de https://www.hackthebox.com Sitio web

correr

Adecuado para Ubuntu Linux (también adecuado para ejecutar localmente en Windows)

Instalar Anaconda/miniconda e inicializar

mkdir -p ~ /miniconda3
wget https://repo.anaconda.com/miniconda/Miniconda3-latest-Linux-x86_64.sh -O ~ /miniconda3/miniconda.sh
bash ~ /miniconda3/miniconda.sh -b -u -p ~ /miniconda3
rm -rf ~ /miniconda3/miniconda.sh

~ /miniconda3/bin/conda init bash
~ /miniconda3/bin/conda init zsh

La biblioteca de Python requerida para descargar el proyecto es principalmente Dashscope, Langchain, Fastapi, ChromAdB, etc. Si hay un error, puede simplemente instalar xx.
Instale Node.js (no es necesario)

sudo apt-get update 
sudo apt-get install nodejs

Solicite el modelo API_KEY para más detalles, consulte https://help.aliyun.com/zh/dashscope/ al menos al 24 de julio, todavía hay bastante cuotas gratuitas.

Y configure API_KEY en main.py , ver: https://help.aliyun.com/zh/dashscope/developer-reference/acquisition-and-configuration-of-api-key?spm=a2c4g.11186623.0.0.42124937yljumpom

Descargue la dirección de descarga del modelo Huggingface: https://huggingface.co/maidalun1020/bce-embedding-base_v1/tree/main Después de descargar, cambie el segmento de código en main.py

 model_name = r"/root/huggingface_cache/bce-embedding-base_v1"
model_kwargs = { 'device' : 'cpu' }
encode_kwargs = { 'normalize_embeddings' : False }
hfembedding = HuggingFaceEmbeddings (
    model_name = model_name ,
    model_kwargs = model_kwargs ,
    encode_kwargs = encode_kwargs
)