Application de chiffon de Langchain
Une implémentation de chiffon sur Langchain en utilisant le chroma comme stockage. Prenez des PDF (vous pouvez soit utiliser le test que les PDF incluent dans / Data ou supprimer et utiliser vos propres documents), index / intégrer dans un VDB, utiliser LLM pour inférer et générer une sortie.
Comment utiliser
- Créer un sous-dossier local de chemin et de données
- Créer un Env virtuel à l'aide de conda ou comme vous choisissez
- installer les exigences.txt
- Activez Olllama dans Terminal avec "Olllama Run Mistral" ou quel que soit le modèle que vous choisissez. Si vous utilisez le nouveau Olllama pour Windows, il n'est pas nécessaire car il s'exécute en arrière-plan (assurez-vous qu'il est actif).
- Ouvrir Langchain_rag.py
- Mettre à jour les lignes 15 et 16 avec vos chemins locaux # pour PDFS et où la base de données chroma stockera des morceaux
- Mettre à jour la ligne 50 avec votre modèle de choix
- Enregistrer et exécuter le script
- observer les résultats similaires à:
