llama index RAG

Lama Index RAG -Anwendung

Eine RAG -Implementierung im Lama -Index unter Verwendung von Qdrant als Speicher. Nehmen Sie einige PDFs (Sie können entweder die Test -PDFs verwenden, die in /Daten enthalten sind oder Ihre eigenen Dokumente verwenden). Ziemlich nützlich.

Wie man benutzt

• Erstellen Sie einen lokalen Pfad- und Datenunterordner
• Erstellen Sie virtuelle Env mit Conda, Env oder Docker
• Geben Sie pip install -r /path/to/requirements.txt in der CMD -Eingabeaufforderung ein
• Aktivieren Sie Ollama im Terminal mit ollama run mistral oder jedem Modell, das Sie auswählen. Wenn Sie das neue Ollama für Windows verwenden, ist es nicht erforderlich, da es im Hintergrund ausgeführt wird (stellen Sie sicher, dass es aktiv ist).
• Öffnen Sie LLAMA_INDEX_RAG.PY und Aktualisieren Sie die Zeilen 42 & 43 mit Ihrem Modellmodell
• Speichern und führen Sie das Skript aus
• Beobachten Sie ähnliche Ergebnisse wie: