rag qna

Rag QNA?

Neste projeto, usamos uma inferência de banco de dados vetorial (Chroma DB) usando Langchain para criar um sistema QNA.

Enquanto estiver em execução no colab , use credenciais reais do OpenAI para a inferência de LLM.

Executando

git clone https://github.com/ketanip/VectorDB-LangChain-LLM.git

Abra src/code.ipynb e execute as células uma a uma.

Ferramentas usadas neste projeto:

1. ? Langchain
2. Banco de dados vetorial (Chroma DB)
3. LLM (Zephyr 7b β - arquitetura Mistral) alimentada pelo LM Studio.

Características:

1. Carrega dados da pasta raw_data .
2. Gera incorporações vetoriais para os dados e o armazena no Chroma DB.
3. Pesquisa dados relevantes com base na consulta?.
4. Combina esses dados com a pergunta de entrada em um modelo de prompt personalizado usando Langchain.
5. Infina usando LLM e exibe os resultados?.