HackerLLM 다운로드 HackerLLM 소스 코드 다운로드

HackerLLM

기타 소스코드

1.0.0

다운로드

해커

소개

이 프로젝트는 VUE (프론트 엔드) 및 Fastapi (백엔드)를 기반으로합니다. BCE-embedding 모델을 호출하여 벡터 데이터베이스 텍스트를 포함시키고 Propt와 결합하여 Tongyi 텍스트의 이전 텍스트의 Qwen-Long Long 대화 모델을 호출하여 특정 필드에서 Q & A를 실현합니다. 동시에 Vue는 vuetify 구성 요소를 도입하여 https://www.hackthebox.com 웹 사이트의 분석 결과를 시각적으로 표시했습니다.

달리다

Ubuntu Linux에 적합합니다 (Windows에서 로컬로 운영하는데도 적합)

Anaconda/Miniconda를 설치하고 초기화하십시오

mkdir -p ~ /miniconda3
wget https://repo.anaconda.com/miniconda/Miniconda3-latest-Linux-x86_64.sh -O ~ /miniconda3/miniconda.sh
bash ~ /miniconda3/miniconda.sh -b -u -p ~ /miniconda3
rm -rf ~ /miniconda3/miniconda.sh

~ /miniconda3/bin/conda init bash
~ /miniconda3/bin/conda init zsh

프로젝트 다운로드에 필요한 Python 라이브러리는 주로 대시 스크로프, Langchain, Fastapi, ChromADB 등입니다. 오류가 있으면 xx를 설치하면 핍을 설치할 수 있습니다.
node.js 설치 (필요하지 않음)

sudo apt-get update 
sudo apt-get install nodejs

자세한 내용은 Model API_Key를 신청하십시오. 최소한 7 월 24 일 기준으로 https://help.aliyun.com/zh/dashscope/을 참조하십시오. 여전히 무료 할당량이 많이 있습니다.

main.py 에서 API_KEY를 구성하십시오. https://help.aliyun.com/zh/dashscope/developer-reference/acquisition-and-configuration-opi-key?spm=a2c4g.11186623.0.0.42124937IllJump

Huggingface 모델 다운로드 다운로드 : https://huggingface.co/maidalun1020/bce-embedding-base_v1/tree/main 다운로드 후 main.py 에서 코드 세그먼트를 변경하십시오.

 model_name = r"/root/huggingface_cache/bce-embedding-base_v1"
model_kwargs = { 'device' : 'cpu' }
encode_kwargs = { 'normalize_embeddings' : False }
hfembedding = HuggingFaceEmbeddings (
    model_name = model_name ,
    model_kwargs = model_kwargs ,
    encode_kwargs = encode_kwargs
)