hugging face qa bot
v0.3
Hugging Face의 LLM 및 검색 증강 생성 (RAG)을 사용하여 포옹 페이스 문서를 기반으로 답변을 전달하는 다중 인터페이스 Q & A 시스템. API, Discord Bot 또는 Gradio 앱으로 작동 할 수 있으며 각 답변을 공식화하는 데 사용되는 문서에 대한 링크도 제공합니다.
사용 가능한 인터페이스를 실행하려면 config/ 디렉토리에있는 .env.example 을 기반으로 .env 파일의 필요한 매개 변수를 지정하십시오. 또는 환경 변수로 설정할 수 있습니다.
QUESTION_ANSWERING_MODEL_ID (str) Hugging Face Hub에서 모델 ID를 지정하는 문자열 또는 모델 가중치가 포함 된 디렉토리EMBEDDING_MODEL_ID (str) Hugging Face Hub에서 모델 ID를 포함시킵니다. hkunlp/instructor-large 사용하는 것이 좋습니다INDEX_REPO_ID (str) 저장소 ID. 가장 실제 인덱스 목록은이 섹션에서 찾을 수 있습니다 : 색인PROMPT_TEMPLATE_NAME (str) 모델의 이름 질문 응답에 사용되는 모델 프롬프트 템플릿, 템플릿은 config/api/prompt_templates 디렉토리에 저장됩니다.USE_DOCS_FOR_CONTEXT (bool) 주어진 쿼리의 컨텍스트로 검색된 문서를 사용하십시오.NUM_RELEVANT_DOCS (int) 이전 기능에 사용되는 문서 수ADD_SOURCES_TO_RESPONSE (bool) 주어진 쿼리의 컨텍스트로 사용되는 검색 된 문서의 출처 포함USE_MESSAGES_IN_CONTEXT (bool) 대화 경험을 위해 채팅 기록을 사용하십시오DEBUG - (bool)는 추가 로깅을 제공합니다요구 사항 파일에서 필요한 종속성을 설치하십시오.
pip install -r requirements.txt 설정 섹션에 설명 된 모든 단계를 완료 한 후 APP_MODE 환경 변수를 gradio 로 지정하고 다음 명령을 실행하십시오.
python3 app.py 기본적으로 API는 http://0.0.0.0:8000 에서 제공됩니다. 이를 시작하려면 설정 섹션에 요약 된 모든 단계를 완료 한 다음 다음 명령을 실행하십시오.
python3 -m api Discord Bot으로 시스템과 상호 작용하려면 config/ 디렉토리의 .env.example 파일의 Discord bot 섹션에서 추가로 필요한 환경 변수를 추가하십시오.
DISCORD_TOKEN (STR) 봇 응용 프로그램의 API 키QA_SERVICE_URL (str) API 서비스의 URL. http://0.0.0.0:8000 사용하는 것이 좋습니다NUM_LAST_MESSAGES (int) 대화에서 컨텍스트에 사용되는 메시지 수USE_NAMES_IN_CONTEXT (bool) 대화 컨텍스트에 사용자 이름이 포함되어 있습니다ENABLE_COMMANDS (bool) 명령 (예 : 채널 정리 허용)DEBUG - (bool)는 추가 로깅을 제공합니다모든 단계를 완료 한 후 실행 :
python3 -m bot 안아주는 얼굴 공간에서 봇을 호스팅하려면 APP_MODE 환경 변수를 discord 로 지정하면 봇이 app.py 파일에서 자동으로 실행됩니다.
다음 목록에는 시스템에 사용할 수있는 최신 인덱스가 포함되어 있습니다.
우리는 Python 3.10 사용합니다
필요한 모든 Python 패키지를 설치하려면 다음 명령을 실행하십시오.
pip install -r requirements.txtPipreqSNB를 사용하여 요구 사항을 생성합니다 .txt 파일. PipreqSNB를 설치하려면 다음 명령을 실행하십시오.
pip install pipreqsnb요구 사항을 생성하려면 txt 파일을 생성하려면 다음 명령을 실행하십시오.
pipreqsnb --force .단위 테스트를 실행하려면 다음 명령을 사용할 수 있습니다.
pytest -o " testpaths=tests " --noconftest
