RAG Enhanced NCERT Tutor

Ncert Books Rag System

Этот проект реализует систему извлечения в поисках генерации (RAG) для книг NCERT с использованием OLLAMA для встраивания текста и векторной базы данных, а также API GROQ для ответа на языковой модели.

Функции

• Использует модель номинального текста через Ollama для создания векторных встроений
• Магазины встраивания в ChromADB
• Использует Groq API с моделью Llama 3 8b для получения ответов
• Предоставляет бэкэнд FastAPI и фронта по потоковой связи для взаимодействия с пользователем

Интерфейс стримки

Ниже приведен скриншот интерфейса потока для нашей тряпичной системы NCERT:

Системная архитектура

Вот обзор архитектуры системы Rag Books Ncert Books:

Архитектура системы состоит из следующих компонентов:

1. Принимание данных : книги NCERT обрабатываются и подготовлены для внедрения.
2. Поколение внедрения : Ollama с номинальной моделью встраивания текста создает векторные встроения для обработанного текста.
3. Векторное хранение : ChromADB хранит сгенерированные встраивания для эффективного поиска.
4. Обработка запросов : запросы пользователей обрабатываются, а соответствующие встроены из ChromADB.
5. Языковая модель : Groq API с Llama 3 8B Модель генерирует ответы на основе полученного контекста и пользовательского запроса.
6. Бэкэнд : FASTAPI обрабатывает связь между фронтом и различными компонентами системы.
7. Frontend : Streamlit предоставляет интерактивный пользовательский интерфейс для запроса системы и отображения результатов.

Предварительные условия

Прежде чем начать, убедитесь, что вы выполнили следующие требования:

• Python 3.7+
• Оллама установил и настроил
• Groq api аккаунт и ключ API

Установка

1. Клонировать репозиторий:

    git clone https://github.com/yourusername/ncert-rag-system.git
   cd ncert-rag-system
   

2. Установите требуемые зависимости:

    pip install -r requirements.txt
   

3. Скачать и настроить Ollama:

   • Следуйте инструкциям на официальном сайте Ollama для установки Ollama
   • Загрузите модель номинального текста:

      ollama pull nomic-embed-text
     

4. Установите свой ключ API Groq:

   • Создайте файл .env в корне проекта
   • Добавьте свой ключ API Groq:

      GROQ_API_KEY=your_api_key_here
     

Использование

1. Начните бэкэнд FASTAPI:

    uvicorn main:app --reload
   

2. Запустите пользовательский интерфейс Streamlit:

    streamlit run streamlit_app.py
   

3. Откройте свой веб -браузер и перейдите к URL -адресу приложения Streamlit (обычно http://localhost:8501 )

4. Используйте интерфейс для взаимодействия с тряпичной системой NCERT Books

Оценка тряпки

Лицензия

Этот проект лицензирован по лицензии MIT - для получения подробной информации см. Файл лицензии.

Внося

Взносы приветствуются! Пожалуйста, не стесняйтесь отправить запрос на привлечение.

Благодарности

• Ollama за предоставление модели встраивания
• Groq для их API LLM
• FASTAPI и стримки для бэкэнд и фронтальных рамок