rag qna

래그 QNA?

이 프로젝트에서는 Langchain을 사용하여 QNA 시스템을 생성하기 위해 Langchain을 사용하여 벡터 데이터베이스 (Chroma DB) 지원 LLM 추론을 사용합니다.

colab 에서 실행하는 동안 LLM 추론에 실제 OpenAI 자격 증명을 사용하십시오.

실행

git clone https://github.com/ketanip/VectorDB-LangChain-LLM.git

src/code.ipynb 열고 셀을 하나씩 실행하십시오.

이 프로젝트에 사용 된 도구 :

1. ? 랭케인
2. 벡터 데이터베이스 (Chroma DB)
3. LM Studio에 의해 구동되는 LLM (Zephyr 7B β- Mistral Architecture).

특징:

1. raw_data 폴더에서 데이터를로드합니다.
2. 데이터에 대한 벡터 임베딩을 생성하고 Chroma DB에 저장합니다.
3. 쿼리를 기반으로 관련 데이터를 검색합니다.
4. Langchain을 사용하여 해당 데이터를 사용자 정의 프롬프트 템플릿에서 입력 질문과 결합합니다.
5. LLM을 사용하여 결과를 표시하고 결과를 표시합니다.