llama index RAG

Application de chiffon d'index lama

Une implémentation de chiffon sur l'indice LLAMA utilisant QDRANT comme stockage. Prenez des PDF (vous pouvez soit utiliser le test que les PDF incluent dans / Data ou supprimer et utiliser vos propres documents), index / intégrer dans un VDB, utiliser LLM pour inférer et générer une sortie. Assez nifty.

Comment utiliser

• Créer un sous-dossier local de chemin et de données
• Créer un Env virtual à l'aide de conda, env ou docker
• Tapez pip install -r /path/to/requirements.txt dans l'invite CMD
• Activez Olllama dans Terminal avec ollama run mistral ou quel que soit le modèle que vous choisissez. Si vous utilisez le nouveau Olllama pour Windows, il n'est pas nécessaire car il s'exécute en arrière-plan (assurez-vous qu'il est actif).
• Open LLAMA_INDEX_RAG.PY et Mettez à jour les lignes 42 et 43 avec votre modèle de choix
• Enregistrer et exécuter le script
• observer les résultats similaires à: