Unduh HackerLLM - Unduh Kode Sumber HackerLLM

HackerLLM

Kode sumber lainnya

1.0.0

Unduh

Hackerllm

Perkenalan

Proyek ini didasarkan pada Vue (front-end) dan Fastapi (back-end). Ini menanamkan teks basis data vektor dengan memanggil model Embedding BCE, dan menggabungkannya dengan propt untuk memanggil model dialog panjang Qwen-panjang dari teks sebelumnya dari teks Tongyi untuk mewujudkan tanya jawab dalam bidang tertentu. Pada saat yang sama, Vue memperkenalkan komponen vuetify untuk secara visual menampilkan hasil analisis https://www.hackthebox.com

berlari

Cocok untuk Ubuntu Linux (juga cocok untuk berjalan secara lokal di Windows)

Instal Anaconda/Miniconda dan inisialisasi

mkdir -p ~ /miniconda3
wget https://repo.anaconda.com/miniconda/Miniconda3-latest-Linux-x86_64.sh -O ~ /miniconda3/miniconda.sh
bash ~ /miniconda3/miniconda.sh -b -u -p ~ /miniconda3
rm -rf ~ /miniconda3/miniconda.sh

~ /miniconda3/bin/conda init bash
~ /miniconda3/bin/conda init zsh

Perpustakaan Python yang diperlukan untuk mengunduh proyek ini terutama dashscope, langchain, fastapi, chromadb, dll. Jika ada kesalahan, Anda hanya dapat menginstal xx.
Instal Node.js (tidak perlu)

sudo apt-get update 
sudo apt-get install nodejs

Ajukan Model API_Key untuk detailnya, silakan lihat https://help.aliyun.com/zh/dashscope/ Setidaknya pada 24 Juli, masih ada cukup banyak kuota gratis.

Dan konfigurasikan api_key di main.py , lihat: https://help.aliyun.com/zh/dashscope/develever-reference/acquisition-and-configuration-of-api-key?spm=a2c4g.11186623.0.0.42124937yljump

Unduh Alamat Unduh Model HuggingFace: https://huggingface.co/maidalun1020/bce-embedding-base_v1/tree/main Setelah mengunduh, ubah segmen kode di main.py

 model_name = r"/root/huggingface_cache/bce-embedding-base_v1"
model_kwargs = { 'device' : 'cpu' }
encode_kwargs = { 'normalize_embeddings' : False }
hfembedding = HuggingFaceEmbeddings (
    model_name = model_name ,
    model_kwargs = model_kwargs ,
    encode_kwargs = encode_kwargs
)