AI_Powered_Chat_bot_with_message_history

Разговорная тряпка с загрузкой PDF и историей чата

Этот проект представляет собой систему разговорного поиска генерации (RAG), которая позволяет пользователям загружать PDF-файлы, извлекать контент и задавать вопросы о загруженном контенте. Система отслеживает историю чата и контекстуализирует пользовательские вопросы на основе прошлого разговора, чтобы предоставить соответствующие ответы.

Приложение построено с помощью streamlit для пользовательского интерфейса, интегрирует GROQ для LLM (языковая модель) и Chroma в качестве хранилища вектора для обработки документов и поиска. Разговорной поток поддерживается с историей чата, чтобы обеспечить государственное количество вопросов.

Функции

• Загрузка в формате PDF : пользователи могут загружать несколько файлов PDF, а контент обрабатывается и индексируется.
• Ответ : Задайте вопросы о загруженных документах PDF, и помощник ответит на основе контента.
• История чата : отслеживает прошлые вопросы и ответы, чтобы контекстуализировать будущие запросы.
• Интеграция с GROQ : использует API GROQ для языкового моделирования и генерации ответов.
• Enterdings : использует HuggingFaceEmbeddings для создания встроенных документов и получения соответствующего контента.

Требования

Чтобы запустить этот проект, вам нужно следующее:

• Python 3.7+
• Ключ API Groq
• Токен API API HuggingFace

Установка

1. Клонировать репозиторий:

   git clone https://github.com/yourusername/conversational-rag-with-pdf.git
   cd conversational-rag-with-pdf

2. Создайте виртуальную среду:

   python3 -m venv venv
   source venv/bin/activate  # On Windows, use `venvScriptsactivate`

3. Установите требуемые зависимости:

   pip install -r requirements.txt

4. Настройка переменных среды:

   Создайте файл .env в корневом каталоге и добавьте свои клавиши API:

   touch .env

   Внутри файла .env добавьте следующее:

   HF_TOKEN=your_huggingface_token
   GROQ_API_KEY=your_groq_api_key

5. Запустите приложение:

   streamlit run utils.py

Использование

Шаг 1: Введите ключ API Groq

Когда вы запустите приложение, вам сначала нужно будет ввести ключ API Groq. Это необходимо для выполнения языкового моделирования и ответа на вопросы.

Шаг 2: Загрузить PDF

Нажмите кнопку «Выберите файл PDF» , чтобы загрузить один или несколько файлов PDF. Содержание от PDF -файлов будет обработан и разделен на куски для эффективного поиска.

Шаг 3: Задайте вопросы

После загрузки PDF -файлов вы можете задать вопросы, связанные с содержанием загруженных файлов. Помощник ответит на основе контекста, предоставленного PDFS и предыдущей истории чата.

Шаг 4: Управление историей чата

Система отслеживает историю разговора. Вы можете просмотреть историю сеанса, и помощник использует эту историю, чтобы ответить на последующие вопросы в контексте.

Пример прохождения:

1. Запустите приложение и введите свой клавиш Groq API .
2. Загрузите PDF -файлы , которые содержат контент, о котором вы хотели бы спросить.
3. Введите вопрос в поле ввода, например: «Каково резюме главы 3?»
4. Помощник ответит на основе загруженного контента PDF и даст краткий ответ.
5. Задайте последующие вопросы, и система будет использовать прошлый разговор для предоставления ответов на контекст.

Ключевые компоненты

• Streamlit : предоставляет пользовательский интерфейс и взаимодействие формы.
• Chroma : используется в качестве векторного хранилища для хранения встроенных встроенных документов PDF для поиска.
• Groq API : обрабатывает задачу с вопросом, используя модель Gemma2-9b-It .
• Langchain : управляет процессом извлечения и комбинации документов, а также обработку истории чата.

Будущие улучшения

• Добавьте поддержку других типов документов (например, Word, текстовые файлы).
• Улучшите пользовательский интерфейс для лучшего взаимодействия с пользователем.
• Добавьте многоязычную поддержку для неанглийских документов.
• Реализуйте систему для сохранения и загрузки истории чата на протяжении сеансов.

Поиск неисправностей

Если вы столкнетесь с такими проблемами, как ошибки ключей API или проблемы с загрузкой файлов, убедитесь, что:

• У вас есть действительный ключ API Groq и токен для обнимающегося лица .
• Загруженные PDF -файлы действительны и могут быть прочитаны PYPDFLOALER.
• Все зависимости устанавливаются правильно с помощью pip install -r requirements.txt .

Благодарности

• Langchain для удивительной структуры поиска и интеграции LLM.
• Уточняя для предоставления простых в использовании структуры пользовательского интерфейса.