HackerLLM скачать - HackerLLM Source Code скачать

HackerLLM

Другой исходный код

1.0.0

Скачать

Hackerllm

Введение

Этот проект основан на Vue (Front-Cend) и Fastapi (Back-End). Он встраивает текст векторной базы данных, вызывая модель BCE-врученного, и объединяет его с ProPT, чтобы вызвать модель длинного диалога длиной QWEN в предыдущем тексту текста Tongyi для реализации вопросов и ответов в определенных полях. В то же время Vue представила компонент Vuetify для визуального отображения результатов анализа https://www.hackthebox.com Веб -сайт.

бегать

Подходит для Ubuntu Linux (также подходит для локального работы в Windows)

Установите Anaconda/Miniconda и инициализируйте

mkdir -p ~ /miniconda3
wget https://repo.anaconda.com/miniconda/Miniconda3-latest-Linux-x86_64.sh -O ~ /miniconda3/miniconda.sh
bash ~ /miniconda3/miniconda.sh -b -u -p ~ /miniconda3
rm -rf ~ /miniconda3/miniconda.sh

~ /miniconda3/bin/conda init bash
~ /miniconda3/bin/conda init zsh

Библиотека Python, необходимая для загрузки проекта, в основном DashScope, Langchain, Fastapi, ChromADB и т. Д. Если есть ошибка, вы можете просто установить xx.
Установите node.js (не обязательно)

sudo apt-get update 
sudo apt-get install nodejs

Подайте заявку на модель API_KEY для получения подробной информации, пожалуйста, см. Https://help.aliyun.com/zh/dashscope/ По крайней мере, по крайней мере 24 июля все еще довольно много бесплатных квот.

И настроить API_KEY в main.py , см.: Https://help.aliyun.com/zh/dashscope/developer-reference/acquisition-and-configuration-of-api-key?spm=a2c4g.11186623.0.0.42124937iljump

Загрузите main.py загрузки модели HuggingFace.

 model_name = r"/root/huggingface_cache/bce-embedding-base_v1"
model_kwargs = { 'device' : 'cpu' }
encode_kwargs = { 'normalize_embeddings' : False }
hfembedding = HuggingFaceEmbeddings (
    model_name = model_name ,
    model_kwargs = model_kwargs ,
    encode_kwargs = encode_kwargs
)