llama index RAG

Llama Index Rag Application

Реализация RAG на индексе Llama с использованием Qdrant в качестве хранилища. Возьмите несколько PDF -файлов (вы можете использовать тестовые PDF -файлы, включающие в себя /данные или удалить и использовать свои собственные документы), индекс /встроить их в VDB, использовать LLM для вывода и генерировать вывод. Довольно изящный.

Как использовать

• Создать локальный путь и подпапку данных
• Создать виртуальную env с помощью Conda, Env или Docker
• Введите pip install -r /path/to/requirements.txt в
• Активируйте Ollama в терминале с ollama run mistral или какой -либо моделью, которую вы выберете. Если вы используете новую Ollama для Windows, то не требуется, поскольку он работает в фоновом режиме (убедитесь, что он активен).
• Откройте llama_index_rag.py и строки обновления 42 и 43 с вашей моделью выбора
• Сохраните и запустите сценарий
• Наблюдайте за результатами, аналогичными: