rag qna

Trapo QNA?

En este proyecto utilizamos una inferencia de LLM de Base Vector (Chroma DB) con respaldo de LLM usando Langchain para crear un sistema QNA.

Mientras se ejecuta en colab , use credenciales reales de OpenAI para la inferencia de LLM.

Ejecutándolo

git clone https://github.com/ketanip/VectorDB-LangChain-LLM.git

Abra src/code.ipynb y ejecute celdas una por una.

Herramientas utilizadas en este proyecto:

1. ? Langchain
2. Base de datos vectorial (Chroma DB)
3. LLM (Zephyr 7B β - Arquitectura Mistral) alimentada por LM Studio.

Características:

1. Carga datos de la carpeta raw_data .
2. Genera integridades vectoriales para los datos y los almacena en Chroma DB.
3. ¿Busca datos relevantes basados ​​en la consulta?
4. Combina esos datos con la pregunta de entrada en una plantilla de solicitud personalizada utilizando langchain.
5. ¿Lo infiere usando LLM y muestra los resultados?