llm ollama llamaindex bootstrap ui

RAG-Startstrap-Anwendungs-Benutzeroberfläche von Abruf-Augmented Generation (RAG)

Dies ist ein Lamaindex-Projekt, das mit create-llama als vollständige Stapel-UI für die BOOTTRAP-Anwendung (retrieval-augmented Generation) fungiert, die in seinem eigenen Repository unter https://github.com/tyrell/llm-ollama-lamaindex-bootstraprap zu finden ist

Mein Blog -Beitrag bietet mehr Kontext, Motivation und Denken hinter diesen Projekten.

Der Backend -Code dieser Anwendung wurde wie unten geändert.

1. Laden des Vector Store-Index, der zuvor in der Bootstrap-Anwendung (ARRAMALE-AUGmented Generationed Generation) als Antwort auf Benutzeranfragen über die Frontend-Benutzeroberfläche erstellt wurde.
   • Siehe Backend/App/Utils/Index.py und die Code -Kommentare, um die Änderungen zu verstehen.
2. Abfragen des Index mit aktiviertem Streaming
   • Siehe Backend/App/API/Router/Chat.py und die Code -Kommentare, um die Änderungen zu verstehen.

Ausführen der vollständigen Stapelanwendung

Starten Sie zunächst das Backend, wie im Backend Readme beschrieben.

Zweitens führen Sie den Entwicklungsserver des Frontend aus, wie im Frontend Readme beschrieben.

Öffnen Sie http: // localhost: 3000 mit Ihrem Browser, um das Ergebnis zu sehen.

Lizenz

Apache 2.0

~ Tyrell Perera