HackerLLM Download - HackerLLM Source Code Download

HackerLLM

شفرة المصدر الأخرى

1.0.0

تنزيل

Hackerllm

مقدمة

يعتمد هذا المشروع على Vue (الواجهة الأمامية) و Fastapi (الولادة الخلفية). يدمج نص قاعدة البيانات المتجه عن طريق استدعاء نموذج BCE-embedding ، ويجمعه مع ProPt للاتصال بنموذج الحوار الطويل الطويل Qwen للنص السابق لنص Tongyi لتحقيق Q&A في حقول محددة. في الوقت نفسه ، قدم Vue مكون Vuetify لعرض نتائج تحليل HTTPS://www.hackthebox.com بصريًا

يجري

مناسب لـ Ubuntu Linux (مناسب أيضًا للتشغيل محليًا في Windows)

تثبيت anaconda/miniconda وتهيئة

mkdir -p ~ /miniconda3
wget https://repo.anaconda.com/miniconda/Miniconda3-latest-Linux-x86_64.sh -O ~ /miniconda3/miniconda.sh
bash ~ /miniconda3/miniconda.sh -b -u -p ~ /miniconda3
rm -rf ~ /miniconda3/miniconda.sh

~ /miniconda3/bin/conda init bash
~ /miniconda3/bin/conda init zsh

مكتبة Python اللازمة لتنزيل المشروع هي بشكل أساسي DashScope و Langchain و Fastapi و Chromadb ، وما إلى ذلك إذا كان هناك خطأ ، فيمكنك فقط تثبيت PIP XX.
تثبيت node.js (ليس ضروريًا)

sudo apt-get update 
sudo apt-get install nodejs

تقدم بطلب للحصول على طراز API_Key للحصول على التفاصيل ، يرجى الاطلاع على https://help.aliyun.com/zh/dashscope/ على الأقل اعتبارًا من 24 يوليو ، لا يزال هناك الكثير من الحصص المجانية.

وتكوين api_key في main.py ، راجع: https://help.aliyun.com/zh/dashscope/developer-reference/acquisition--configuration-of-api- key؟spm=A2C4G.118623.0.0.42124937labump

قم بتنزيل عنوان تنزيل نموذج Huggingface: https://huggingface.co/Maidalun1020/bce-embedding-base_v1/tree/main بعد التنزيل ، قم بتغيير قطاع الرمز في main.py

 model_name = r"/root/huggingface_cache/bce-embedding-base_v1"
model_kwargs = { 'device' : 'cpu' }
encode_kwargs = { 'normalize_embeddings' : False }
hfembedding = HuggingFaceEmbeddings (
    model_name = model_name ,
    model_kwargs = model_kwargs ,
    encode_kwargs = encode_kwargs
)