rag qna

Rag Qna?

In diesem Projekt verwenden wir eine Vektor -Datenbank (CHROMA DB) unterstützte LLM -Inferenz mit Langchain, um ein QNA -System zu erstellen.

Verwenden Sie beim Laufen in colab echte OpenAI -Anmeldeinformationen für LLM -Inferenz.

Laufen

git clone https://github.com/ketanip/VectorDB-LangChain-LLM.git

Öffnen Sie src/code.ipynb und führen Sie die Zellen nacheinander aus.

In diesem Projekt verwendete Tools:

1. ? Langchain
2. Vektordatenbank (Chroma DB)
3. LLM (Zephyr 7b β - Mistral -Architektur) von LM Studio angetrieben.

Merkmale:

1. Laden Sie Daten aus dem Ordner raw_data .
2. Generiert Vektor -Einbettungen für die Daten und speichert sie in Chroma DB.
3. Sucht relevante Daten basierend auf der Abfrage?
4. Kombiniert diese Daten mit der Eingabefrage in einer benutzerdefinierten Eingabeaufforderungsvorlage mit Langchain.
5. Ergreift es mit LLM und zeigt die Ergebnisse an?