RAG Framework

Тряпичная работа

Python Framework для реализации генерации поиска-августа (RAG) с использованием базы данных векторного магазина. В этой структуре используется хранилище вектора-магазина для хранения и извлечения внедрения для эффективной реализации RAG.

Структура

• main.py - основная рамка Rag Pipeline, обработка ввода и оркестреновый поток тряпки.
• Llm.py - модуль, который взаимодействует с API Google Gemini, моделируя большую языковую модель (LLM) для генерации ответов.
• get_embedding.py - скрипт для генерации встроенных встроенных из .txt .
• Comm -VectorStore.py - модуль связи, который загружает встроенные в векторный хранилище для хранения и поиска.

Использование

1. Клонировать хранилище векторного магазина и установите его в соответствии с инструкциями.
2. Настройте main.py и get_embedding.py чтобы использовать базу данных векторного магазина.
3. Запустите main.py , чтобы выполнить тряпку с любым входным текстом.

Требования

• Python 3.x
• Трансформаторы предложений - для создания текстовых внедрений
• nltk - для токенизации предложения
• Google Gemini API учетные данные для llm.py (или любой совместимый API LLM для вывода)

Установка

pip install -r requirements.txt