QnA With RAG

QNA-with-rag

? Описание проекта

QNA-With-RAG-это приложение с полным стеком, которое преобразует текстовые документы в контекст для больших языковых моделей (LLMS) для ссылки во время чатов. Вы можете легко добавить, удалять документы и создать несколько баз знаний.

Цель и цели

Этот проект направлен на создание готового производства чат-бота с использованием API OpenAI. Он включает в себя Vectordb и Langsmith для повышения его функциональности.

Технологии используются

Функции

• Общаться с текстовыми файлами
• Потоковой чат
• Загрузить несколько текстовых файлов
• Поддерживать векторную дм (добавить/удалить файлы)
• Статическая аутентификация токена API для ChromADB
• Создать несколько баз знаний

Приложение поток

? Демо

Посмотрите демонстрацию приложения здесь.

Будущее развитие

Будущие обновления будут включать в себя:

• React.js Frontend Integration
• Усовершенствованные функции ChromADB (фильтрация, поиск)
• Возможности памяти для чат -бота

▶ ️ Установка и настройка

1. Клонировать репозиторий

   git clone [email protected]:Ja-yy/QnA-With-RAG.git

2. Настройка переменных среды

   Создайте файл .env с помощью следующего контента:

    OPENAI_API_KEY='<your_open_ai_key>'
   EMBEDDING_MODEL='text-embedding-ada-002'
   CHAT_MODEL='gpt-3.5-turbo'
   TEMPERATURE=0
   MAX_RETRIES=2
   REQUEST_TIMEOUT=15
   
   CHROMADB_HOST="chromadb"
   CHROMADB_PORT="8000"
   
   CHROMA_SERVER_AUTH_CREDENTIALS="<test-token>"
   CHROMA_SERVER_AUTH_CREDENTIALS_PROVIDER="chromadb.auth.token.TokenConfigServerAuthCredentialsProvider"
   CHROMA_SERVER_AUTH_PROVIDER="chromadb.auth.token.TokenAuthServerProvider"
   CHROMA_SERVER_AUTH_TOKEN_TRANSPORT_HEADER="AUTHORIZATION"
   

3. Создать и запустить приложение

   Выполнить следующую команду:

   docker-compose up -d --build

4. Получить доступ к приложению

   Откройте свой веб -браузер и перейдите в Localhost, чтобы начать использовать приложение.

5. Конфигурация NGINX

   • NGINX действует как обратный прокси, запросы на маршрутизацию в соответствующие службы и обрабатывая HTTPS (если настроен).
   • Убедитесь, что ваши файлы конфигурации NGINX правильно настроены в каталоге nginx для оптимальной производительности.

? Часто задаваемые вопросы

• Что мне делать, если я столкнусь с проблемами?

  • Проверьте журналы, используя docker-compose logs для устранения неполадок.

• Как я могу внести свой вклад?

  • Не стесняйтесь открывать проблемы или отправлять запросы на привлечение на GitHub!

Наслаждайтесь использованием приложения! :)