ContextQA

Общайтесь с вашими данными, используя мощность LLM и векторные базы данных

---

ContextQA-это современная утилита, которая обеспечивает готовое к использованию приложение LLM. Он построен на вершине гигантов, таких как Fastapi, Langchain и обнимающееся лицо.

Ключевые функции включают:

• Регулярный чат, поддерживающий расширение знаний через доступ к Интернету
• Разговорной QA с соответствующими источниками
• Потоковые ответы
• Приглашение источников данных, используемых в сеансах QA
• Управление источниками данных
• Настройки LLM: настроить параметры, такие как поставщик, модель, температура и т. Д. В настоящее время поддерживаемыми поставщиками являются OpenAI и Google
• Векторные настройки DB. Регулируйте такие параметры, как двигатель, размер куски, перекрытие куски и т. Д. В настоящее время поддерживаемыми двигателями являются ChromADB и Pinecone
• Другие настройки: выберите встроенную или внешнюю память LLM ( REDIS ), СМИ КАРТАНИЙ, КЛИЧНЫЕ БАЗИНАЦИИ и т. Д.

Установка

pip install contextqa

Использование

В контексте установки предоставляет инструмент CLI

contextqa init

Проверьте доступные параметры, выполнив следующую команду

contextqa init --help

Пример

Запустить это

$ contextqa init

2024-08-28 01:00:39,586 - INFO - Using SQLite
2024-08-28 01:00:47,850 - INFO - Use pytorch device_name: cpu
2024-08-28 01:00:47,850 - INFO - Load pretrained SentenceTransformer: sentence-transformers/all-mpnet-base-v2
INFO:     Started server process [20658]
INFO:     Waiting for application startup.
2024-08-28 01:00:47,850 - INFO - Running initial migrations...
2024-08-28 01:00:47,853 - INFO - Context impl SQLiteImpl.
2024-08-28 01:00:47,855 - INFO - Will assume non-transactional DDL.
2024-08-28 01:00:47,860 - INFO - Running upgrade  - > 0bb7d192c063, Initial migration
2024-08-28 01:00:47,862 - INFO - Running upgrade 0bb7d192c063 - > b7d862d599fe, Support for store types and related indexes
2024-08-28 01:00:47,864 - INFO - Running upgrade b7d862d599fe - > 3058bf204a05, unique index name
INFO:     Application startup complete.
INFO:     Uvicorn running on http://localhost:8080 (Press CTRL+C to quit)

Проверьте это

Откройте свой браузер по адресу http: // localhost: 8080. Вы увидите ступеньку инициализации, которая проведет вас через начальные конфигурации

Или основное представление контекста - если начальная конфигурация уже была установлена

Руководство

Для получения подробных инструкций по использованию, пожалуйста, обратитесь к руководящим принципам использования.

Внося

Мы приветствуем вклад в контекст ! Чтобы начать, пожалуйста, обратитесь к нашему файлу Anforming.md для руководящих принципов о том, как внести свой вклад. Ваши отзывы и вклад помогают нам улучшить и улучшить проект. Спасибо за заинтересованность в вклад!