chat_with_your_docs

заголовок	эмодзи	Colorprom	колорто	SDK	sdk_version	app_file	прикреплен	лицензия
Общаться с вашими документами		синий	серый	градио	4.41.0	app.py	ЛОЖЬ	грань

Общаться с вашими документами

Введение

---

Приложение чата ChatWithyourdocs - это приложение Python, которое позволяет вам общаться с несколькими форматами документов, такими как PDF, веб -страницы и видео на YouTube. Вы можете задать вопросы о PDF -файлах с использованием естественного языка, и приложение предоставит соответствующие ответы на основе содержания документов. Это приложение использует языковую модель для создания точных ответов на ваши запросы. Обратите внимание, что приложение будет отвечать только на вопросы, связанные с загруженными документами.

Как это работает

---

Приложение выполняет эти шаги для предоставления ответов на ваши вопросы:

1. Загрузка DOC: приложение считывает несколько типов документов и извлекает их текстовое содержание.

2. Текст -блюд: извлеченный текст делится на более мелкие куски, которые можно эффективно обрабатывать.

3. Языковая модель: приложение использует языковую модель для генерации векторных представлений (встраиваемых) текстовых кусков.

4. Соответствие сходства: когда вы задаете вопрос, приложение сравнивает его с текстовыми кусками и идентифицирует наиболее семантически похожие.

5. Генерация ответов: выбранные куски передаются в языковую модель, которая генерирует ответ, основанный на соответствующем содержании документов.

Зависимости и установка

---

Чтобы установить чат с вашим приложением Docs, следуйте этим шагам:

1. Скачать библиотеку Ollama

    curl https://ollama.ai/install.sh | sh
   

2. Потяните модели чата, которые мы будем использовать, в этом случае мы будем использовать Llama2, Mistral и Gemma

    ollama pull llama2
   

    ollama pull mistral
   

    ollama pull gemma
   

3. Создайте новую среду с Python 3.9 и активируйте ее, в этом случае мы будем использовать Conda

    conda create -n cwd python=3.9
   

    conda activate cwd
   

4. Клонировать репозиторий на местную машину.

    git clone https://github.com/jorge-armando-navarro-flores/chat_with_your_docs.git
   

    cd chat_with_your_docs
   

5. Установите требуемые зависимости, выполнив следующую команду:

    pip install -r requirements.txt
   

6. Установите ffmpeg для видео на YouTube:

    sudo apt-get install ffmpeg
   

Использование

---

Чтобы использовать чат с вашим приложением Docs, выполните эти шаги:

1. Запустите файл main.py , используя CLI Streamlit. Выполнить следующую команду:

    python3 main.py
   

2. Приложение будет запущено в вашем веб -браузере по умолчанию, отображая пользовательский интерфейс.

Архитектура

Занятия:

• LLM: Этот абстрактный класс служит планом для различных реализаций LLM. У него есть подклассы, такие как OllamaModel , OpenAIModel и HFModel , которые обрабатывают конкретных поставщиков LLM (Ollama, OpenAI и обнимающееся лицо).
• Документы: Этот класс управляет загрузкой документов из различных источников, таких как PDFS, веб -страницы и видео на YouTube.
• VectorStore: Этот класс создает векторное представление документов с использованием Enterdings LLM для эффективного поиска.
• Цепочка: Этот класс определяет конвейер обработки для чат -бота. Это может быть простая цепочка для основного ответа на вопросы или цепочки поиска, которая ищет документы на основе истории разговора.
• Чатбот: Этот класс обрабатывает взаимодействие с пользователем, поддерживает историю разговоров и вызывает соответствующий метод цепочки для создания ответов.
• ChatbotController: Этот класс является основным интерфейсом для пользователя. Это позволяет установить модель LLM, источник документа и параметры поиска. Он также обрабатывает запросы пользователей и взаимодействует с экземпляром Chatbot.

Функциональность:

1. Настройка:

   • Пользователь выбирает поставщика LLM (Ollama, Openai или Huggingface) и модель из выпадающего меню. При желании для определенных поставщиков может потребоваться ключ API.
   • Пользователь может выбрать добавление документов (PDF, URL -адрес веб -страницы или URL -адреса YouTube) для поиска задач.

2. Обработка:

   • На основании выбранного LLM и документов (если есть), контроллер настраивает цепочку обработки.
   • Простая цепочка используется для основного ответа на вопрос без поиска документов.
   • Поиск цепь включает в себя:
     • Создание векторного представления документов с использованием встроенных LLM.
     • Определение подсказок для создания поисковых запросов на основе истории разговора.
     • Получение соответствующих документов на основе сгенерированных запросов.
     • Использование полученных документов для ответа на вопрос пользователя.

3. Взаимодействие:

   • Пользователь вводит свои вопросы в интерфейсе чата.
   • Контроллер вызывает метод predict чат -бота, передавая запрос пользователя и историю разговоров (если включено поиск).
   • Чатбот извлекает соответствующий ответ на основе выбранной конфигурации цепи.

Дополнительные функции:

• Интерфейс включает в себя кнопки для «отмены» и «ясной» истории разговоров.

В целом, этот код демонстрирует хорошо структурированную архитектуру для чат-бота, который может использовать различные LLMS и включать в себя поиск документов для расширенных возможностей.