Download de HackerLLM - download de código fonte HackerLLM

HackerLLM

Outro código-fonte

1.0.0

Baixar

Hackerllm

Introdução

Este projeto é baseado em Vue (front-end) e FASTAPI (back-end). Ele incorpora o texto do banco de dados vetorial chamando o modelo de embutido BCE e combina-o com o Propt para chamar o modelo de diálogo longo de Qwen-Long do texto anterior do texto tongyi para realizar perguntas e respostas em campos específicos. Ao mesmo tempo, Vue apresentou o componente Vuetify para exibir visualmente os resultados da análise de https://www.hackthebox.com site

correr

Adequado para o Ubuntu Linux (também adequado para executar localmente no Windows)

Instale o anaconda/miniconda e inicialize

mkdir -p ~ /miniconda3
wget https://repo.anaconda.com/miniconda/Miniconda3-latest-Linux-x86_64.sh -O ~ /miniconda3/miniconda.sh
bash ~ /miniconda3/miniconda.sh -b -u -p ~ /miniconda3
rm -rf ~ /miniconda3/miniconda.sh

~ /miniconda3/bin/conda init bash
~ /miniconda3/bin/conda init zsh

A biblioteca Python necessária para o download do projeto é principalmente DashScope, Langchain, FASTAPI, Chromadb, etc. Se houver um erro, você pode apenas instalar o PIP.
Instale o Node.js (não é necessário)

sudo apt-get update 
sudo apt-get install nodejs

Inscreva -se para o modelo API_KEY para obter detalhes, consulte https://help.aliyun.com/zh/dashscope/ pelo menos a partir de 24 de julho, ainda existem muitas cotas gratuitas.

E configure api_key em main.py , consulte: https://help.aliyun.com/zh/dashscope/developer-reference/acquisition-and-configuration-of-api-Key?spm=A2C4G.11186623.0.0.42124937yjump

Faça o download do endereço do download do modelo Huggingface: https://huggingface.co/maidalun1020/bce-embedding-base_v1/tree/main após o download, altere o segmento de código em main.py

 model_name = r"/root/huggingface_cache/bce-embedding-base_v1"
model_kwargs = { 'device' : 'cpu' }
encode_kwargs = { 'normalize_embeddings' : False }
hfembedding = HuggingFaceEmbeddings (
    model_name = model_name ,
    model_kwargs = model_kwargs ,
    encode_kwargs = encode_kwargs
)