ContextQA

Mengobrol dengan data Anda dengan memanfaatkan kekuatan database LLM dan vektor

---

ContextQA adalah utilitas modern yang menyediakan aplikasi bertenaga LLM yang siap digunakan. Itu dibangun di atas raksasa seperti Fastapi, Langchain, dan Face memeluk.

Fitur utama meliputi:

• Obrolan reguler mendukung ekspansi pengetahuan melalui akses internet
• QA percakapan dengan sumber yang relevan
• Respons streaming
• Konsumsi sumber data yang digunakan dalam sesi QA
• Manajemen Sumber Data
• Pengaturan LLM: Mengkonfigurasi parameter seperti penyedia, model, suhu, dll. Saat ini, penyedia yang didukung adalah OpenAI dan Google
• Pengaturan DB Vektor. Sesuaikan parameter seperti mesin, ukuran potongan, tumpang tindih potongan, dll. Saat ini, mesin yang didukung adalah chromadb dan pinecone
• Pengaturan Lain: Pilih Memori LLM Tertanam atau Eksternal ( REDIS ), Direktori Media, Kredensial Basis Data, dll.

Instalasi

pip install contextqa

Penggunaan

Pada instalasi ContextQA menyediakan alat CLI

contextqa init

Lihat parameter yang tersedia dengan menjalankan perintah berikut

contextqa init --help

Contoh

Jalankan

$ contextqa init

2024-08-28 01:00:39,586 - INFO - Using SQLite
2024-08-28 01:00:47,850 - INFO - Use pytorch device_name: cpu
2024-08-28 01:00:47,850 - INFO - Load pretrained SentenceTransformer: sentence-transformers/all-mpnet-base-v2
INFO:     Started server process [20658]
INFO:     Waiting for application startup.
2024-08-28 01:00:47,850 - INFO - Running initial migrations...
2024-08-28 01:00:47,853 - INFO - Context impl SQLiteImpl.
2024-08-28 01:00:47,855 - INFO - Will assume non-transactional DDL.
2024-08-28 01:00:47,860 - INFO - Running upgrade  - > 0bb7d192c063, Initial migration
2024-08-28 01:00:47,862 - INFO - Running upgrade 0bb7d192c063 - > b7d862d599fe, Support for store types and related indexes
2024-08-28 01:00:47,864 - INFO - Running upgrade b7d862d599fe - > 3058bf204a05, unique index name
INFO:     Application startup complete.
INFO:     Uvicorn running on http://localhost:8080 (Press CTRL+C to quit)

Periksa

Buka browser Anda di http: // localhost: 8080. Anda akan melihat inisialisasi stepper yang akan memandu Anda melalui konfigurasi awal

Atau tampilan konteksqa utama - jika konfigurasi awal telah ditetapkan

Pedoman

Untuk instruksi penggunaan terperinci, silakan merujuk ke pedoman penggunaan.

Berkontribusi

Kami menyambut kontribusi untuk ContextQA ! Untuk memulai, silakan merujuk ke file Contributing.MD kami untuk Pedoman tentang Cara Kontribusi. Umpan balik dan kontribusi Anda membantu kami meningkatkan dan meningkatkan proyek. Terima kasih atas minat Anda untuk berkontribusi!