หน้าแรก>การเขียนโปรแกรมที่เกี่ยวข้อง>ซอร์สโค้ดอื่น ๆ
ดาวน์โหลด

แชทกับข้อมูลของคุณโดยใช้ประโยชน์จากพลังของฐานข้อมูล LLMS และเวกเตอร์

CONTECTQA เป็นยูทิลิตี้ที่ทันสมัยที่ให้แอปพลิเคชันที่ใช้ LLM พร้อมใช้งาน มันถูกสร้างขึ้นบนยักษ์ใหญ่เช่น Fastapi, Langchain และ Hugging Face

คุณสมบัติที่สำคัญ ได้แก่ :

  • การแชทเป็นประจำรองรับการขยายความรู้ผ่านทางอินเทอร์เน็ต
  • QA สนทนากับแหล่งข้อมูลที่เกี่ยวข้อง
  • การตอบสนองการสตรีม
  • การบริโภคแหล่งข้อมูลที่ใช้ในเซสชัน QA
  • การจัดการแหล่งข้อมูล
  • การตั้งค่า LLM: กำหนดค่าพารามิเตอร์เช่นผู้ให้บริการโมเดลอุณหภูมิ ฯลฯ ปัจจุบันผู้ให้บริการที่ได้รับการสนับสนุนคือ OpenAI และ Google
  • การตั้งค่า DB เวกเตอร์ ปรับพารามิเตอร์เช่นเครื่องยนต์ขนาดก้อนทับซ้อนกัน ฯลฯ ในปัจจุบันเครื่องยนต์ที่รองรับคือ Chromadb และ Pinecone
  • การตั้งค่าอื่น ๆ : เลือกหน่วยความจำ LLM แบบฝังหรือภายนอก ( REDIS ), ไดเรกทอรีสื่อ, ข้อมูลรับรองฐานข้อมูล ฯลฯ

การติดตั้ง 

pip install contextqa

การใช้งาน

ในการติดตั้ง contextQa ให้เครื่องมือ CLI 

contextqa init

ตรวจสอบพารามิเตอร์ที่มีอยู่โดยเรียกใช้คำสั่งต่อไปนี้ 

contextqa init --help

ตัวอย่าง

รันมัน 

$ contextqa init

2024-08-28 01:00:39,586 - INFO - Using SQLite
2024-08-28 01:00:47,850 - INFO - Use pytorch device_name: cpu
2024-08-28 01:00:47,850 - INFO - Load pretrained SentenceTransformer: sentence-transformers/all-mpnet-base-v2
INFO:     Started server process [20658]
INFO:     Waiting for application startup.
2024-08-28 01:00:47,850 - INFO - Running initial migrations...
2024-08-28 01:00:47,853 - INFO - Context impl SQLiteImpl.
2024-08-28 01:00:47,855 - INFO - Will assume non-transactional DDL.
2024-08-28 01:00:47,860 - INFO - Running upgrade  - > 0bb7d192c063, Initial migration
2024-08-28 01:00:47,862 - INFO - Running upgrade 0bb7d192c063 - > b7d862d599fe, Support for store types and related indexes
2024-08-28 01:00:47,864 - INFO - Running upgrade b7d862d599fe - > 3058bf204a05, unique index name
INFO:     Application startup complete.
INFO:     Uvicorn running on http://localhost:8080 (Press CTRL+C to quit)

ตรวจสอบ

เปิดเบราว์เซอร์ของคุณที่ http: // localhost: 8080 คุณจะเห็นสเต็ปเริ่มต้นซึ่งจะแนะนำคุณผ่านการกำหนดค่าเริ่มต้น

หรือมุมมอง contextQa หลัก - หากตั้งค่าการกำหนดค่าเริ่มต้นแล้ว

แนวทาง

สำหรับคำแนะนำการใช้งานโดยละเอียดโปรดดูแนวทางการใช้งาน

การบริจาค

เรายินดีต้อนรับการมีส่วนร่วมใน contextQa ! ในการเริ่มต้นโปรดดูไฟล์ MD ที่มีส่วนร่วมของเราสำหรับแนวทางเกี่ยวกับวิธีการมีส่วนร่วม ความคิดเห็นและการมีส่วนร่วมของคุณช่วยให้เราปรับปรุงและปรับปรุงโครงการ ขอบคุณสำหรับความสนใจในการบริจาค!

ขยาย
ข้อมูลเพิ่มเติม
แอปที่เกี่ยวข้อง
แนะนำสำหรับคุณ
ข้อมูลที่เกี่ยวข้อง ทั้งหมด