Ein KI-Chatbot, der eine RAG-Technik mit Meta-Llama2-7b-Großsprachenmodell sowie Langchain- und Pinecone-Vektor-Datenbanken implementiert. Verwendete Ressource: Die Gale Encyclopedia of Medicine
Pinecone Vector DB speichert die aus dem Buch PDF generierten Text_Chunks -Einbettungen. Langchain wird zum Erstellen der LLMCHain mit promptTemplate verwendet, um die Ähnlichkeitssuche aus Pinecone auszuführen und dann die Ausgabe mit LLM zu fein.
Um die Web -App lokal auszuführen, befolgen Sie die folgenden Schritte:
1. Klonen Sie das Repo :
git clone https://github.com/4darsh-Dev/medicure-rag-chatbot.git Poesie konfigurieren :
pip install poetry
poetry init
poetry shell
Anforderungen installieren :
poetry install
Führen Sie die Streamlit -App aus :
poetry streamlit run app.py Zugriff auf Ihre App : Nach dem Ausführen des Befehls startet Streamlit einen lokalen Webserver und bietet eine URL an, an der Sie auf Ihre App zugreifen können. Normalerweise ist es so etwas wie http://localhost:8501 . Öffnen Sie diese URL in Ihrem Webbrowser.
Stoppen Sie den Streamlit -Server : Um den Streamlit -Server zu stoppen, kehren Sie zum Terminal oder zur Eingabeaufforderung zurück, an der er ausgeführt wird, und drücken Sie Ctrl + C , um den Server zu beenden.
Wenn Sie Feedback haben, wenden Sie sich bitte an [email protected] an [email protected]