ragchat

ragchat

오픈 소스 구성 요소 및 SEMADB를 사용하여 데모 검색 증강 챗봇 AI.

설치

파이썬 종속성 설치 :

pip install -r requirements.txt

Ollama를 메인 LLM으로 설치하십시오.

https://ollama.com/download/ollama-linux-amd64 -o ollama
chmod +x ollama

용법

Ollama 서버 시작 :

ollama serve

원하는 모델을 설치하십시오.

ollama pull llama2
# Test using
ollama run llama2

그런 다음 SemADB API 키로 main.py 진입 점을 실행하십시오.

SEMADB_API_KEY=... python3 main.py

구축

• 구성 요소를 결합하는 데 사용되는 Langchain
• Gradio 웹 인터페이스
• 올라마 주요 대형 언어 모델 라이브러리
• 문장 변압기 임베딩 모델