หน้าแรก>การเขียนโปรแกรมที่เกี่ยวข้อง>ซอร์สโค้ดอื่น ๆ
ดาวน์โหลด

dabarqus

Dabarqus เป็นแอปพลิเคชั่นแบบสแตนด์อโลนที่ใช้โซลูชัน RAG ที่สมบูรณ์ มันถูกออกแบบมาให้ใช้งานง่ายและง่ายต่อการรวมเข้ากับแอปพลิเคชันที่มีอยู่ของคุณ Dabarqus มี REST API, อินเทอร์เฟซบรรทัดคำสั่งและแผงควบคุมผู้ดูแลระบบ

ทำไมต้องสร้าง dabarqus

หากคุณเป็นนักพัฒนาการสร้างโซลูชันผ้าขี้ริ้วพื้นฐานนั้นค่อนข้างตรงไปตรงมา มีบทเรียนมากมายและวิธีการใช้วิธีการใช้ Python เพื่อนำกลับมาใช้ใหม่ แต่ถ้าคุณใช้โซลูชัน RAG ของคุณภายใน บริษัท หรือสำหรับพีซีผู้ใช้ปลายทางคุณจะต้องหาปัญหาการปรับใช้และการบำรุงรักษาที่อาจยุ่งยาก นั่นหมายถึงการปรับใช้ Python, ฐานข้อมูลเวกเตอร์, แบบจำลองการฝัง AI ที่ถูกต้องและความท้าทายด้านการออกใบอนุญาตที่เป็นไปได้ Dabarqus ถูกสร้างขึ้นเพื่อแก้ไขปัญหาเหล่านี้ด้วยโซลูชันแบบสแตนด์อโลนและไม่มีการพึ่งพา มันเขียนใน C ++ ระดับต่ำพร้อมความสามารถในการค้นหาเวกเตอร์ในตัวความยืดหยุ่นในการใช้โมเดล AI ฝังที่ดีที่สุดสำหรับกรณีการใช้งานของคุณและ API REST เพื่อการรวมการพัฒนาที่ง่าย

สารบัญ

  1. เริ่มต้นอย่างรวดเร็ว
    • Ubuntu
    • แม็กอส
    • หน้าต่าง
  2. คุณสมบัติ
  3. barq - อินเทอร์เฟซบรรทัดคำสั่ง
    • ใช้กับ CLI
      • เก็บ
      • สืบค้น
  4. API - ส่วนต่อประสาน REST
    • ใช้ API
  5. ตัวอย่าง

เริ่มต้นอย่างรวดเร็ว

Ubuntu

Dabarqus ทำงานบน CPU เท่านั้นหรือสามารถใช้ Nvidia cuda เพื่อประสิทธิภาพที่สูงขึ้น สำหรับรุ่น CUDA (aka nvidia cublas) คุณจะต้องติดตั้งไดรเวอร์ Nvidia เวอร์ชัน CPU ไม่จำเป็นต้องใช้ซอฟต์แวร์เพิ่มเติมใด ๆ โปรดทราบว่าในการใช้รุ่น CUDA คุณจะต้องมี Nvidia GPU พร้อมการสนับสนุน CUDA และเพื่อดาวน์โหลด Dabarqus เวอร์ชัน CUDA

  1. ในการติดตั้งไดรเวอร์ Nvidia บน Ubuntu (หากคุณมี Nvidia GPU) ให้เรียกใช้คำสั่งต่อไปนี้: 

    sudo ubuntu-drivers install

  2. คลายซิปไฟล์ dabarqus ลงในโฟลเดอร์ 

    unzip Dabarqus-linux-DOWNLOADED_VERSION.zip
cd Dabarqus-linux-DOWNLOADED_VERSION
chmod +x ./bin/ *
./bin/barq service install

  3. เปิดเบราว์เซอร์และไปที่ http://localhost:6568/admin

แม็กอส

สำหรับการดาวน์โหลดไฟล์แพ็คเกจทำดังต่อไปนี้:

  1. ดับเบิลคลิกที่ dabarqus-macos-downloaded_version.pkg และติดตั้ง
  2. หลังจากการติดตั้งให้เปิดเบราว์เซอร์ของคุณและไปที่ http://localhost:6568/admin

สำหรับการดาวน์โหลดไฟล์ zip ให้ทำสิ่งต่อไปนี้:

  1. คลายซิปไฟล์ dabarqus ลงในโฟลเดอร์ 

    unzip Dabarqus-linux-DOWNLOADED_VERSION.zip
cd Dabarqus-linux-DOWNLOADED_VERSION
./bin/barq service install

  2. เปิดเบราว์เซอร์และไปที่ http://localhost:6568/admin

หน้าต่าง

  1. ดับเบิลคลิกที่ dabarqus-windows-downloaded_version.exe และติดตั้ง
  2. ดับเบิลคลิกที่ไอคอน Dabarqus หรือนำทางไปที่ http://localhost:6568/admin

คุณสมบัติ

  1. เอกสารการบริโภคฐานข้อมูลและ API : การบริโภคแหล่งข้อมูลที่หลากหลายเช่น PDFS*, อีเมลและข้อมูลดิบ

    • ไม่ว่าข้อมูลของคุณจะอยู่ที่ไหน Dabarqus สามารถทำให้สามารถใช้งานได้กับ LLM ของคุณ

  2. การแจ้งเตือนสไตล์ LLM : ใช้การแจ้งเตือนสไตล์ LLM แบบง่ายเมื่อพูดกับธนาคารหน่วยความจำของคุณ

    • Dabarqus จะดึงข้อมูลที่เกี่ยวข้องโดยใช้พรอมต์เดียวกันกับที่คุณให้ LLM ของคุณ
    • ไม่จำเป็นต้องสร้างแบบสอบถามพิเศษหรือเรียนรู้ภาษาแบบสอบถามใหม่

  3. REST API : อินเทอร์เฟซการควบคุมที่ครอบคลุมสำหรับการดาวน์โหลดโมเดลการแจ้งดัชนีความหมายและแม้แต่การอนุมาน LLM

    • REST เป็นอินเทอร์เฟซมาตรฐานที่มีการยอมรับอย่างกว้างขวางดังนั้นทีมของคุณไม่จำเป็นต้องเรียนรู้ระบบใหม่ที่ซับซ้อน
    • ช่วยให้การบูรณาการที่ครอบคลุมกับเครื่องมือการพัฒนาที่มีอยู่เพื่อการใช้งานง่าย

  4. ดัชนีความหมายหลายอย่าง (ธนาคารหน่วยความจำ) : จัดกลุ่มข้อมูลของคุณเป็นดัชนีความหมายแยกต่างหาก (ธนาคารหน่วยความจำ)

    • จัดระเบียบข้อมูลของคุณตามหัวข้อหมวดหมู่หรือการจัดกลุ่มอะไรก็ตามที่คุณชอบ
    • ธนาคารหน่วยความจำสามารถพกพาได้ดังนั้นคุณสามารถสร้างและใช้งานได้ทุกที่ที่คุณต้องการ

  5. SDKS : SDK พื้นเมืองใน Python และ JavaScript

    • รวมเข้ากับโครงการ Python และ JavaScript ได้อย่างง่ายดาย

  6. เอาท์พุทที่เป็นมิตรกับ LLM : สร้างเอาต์พุตพร้อม LLM ที่ทำงานร่วมกับ Chatgpt, Ollama และผู้ให้บริการ LLM อื่น ๆ

    • ทำงานได้อย่างราบรื่นกับ LLM ที่คุณเลือก

  7. Dashboard ผู้ดูแลระบบ : ตรวจสอบประสิทธิภาพการทดสอบธนาคารหน่วยความจำและทำการเปลี่ยนแปลงใน UI ที่ใช้งานง่าย

    • เข้าถึงคุณสมบัติ Dabarqus ได้ง่าย
    • ตรวจสอบประสิทธิภาพของแอพด้วยกราฟเรียลไทม์

  8. การรองรับ Mac, Linux และ Windows : ทำงานโดยไม่ต้องพึ่งพาศูนย์ในทุกแพลตฟอร์ม: MacOS (Intel หรือ Metal), Linux และ Windows (CPU หรือ GPU)

    • ทำงานบนแพลตฟอร์มใดก็ตามที่คุณใช้

  9. การอนุมาน LLM : แชทกับรุ่น LLM ผ่าน Dabarqus API/SDKS

    • ความสามารถในตัว Chatbot ในตัวสำหรับใช้ในแอปพลิเคชันของคุณ

*Dabarqus Professional Edition เป็นสิ่งจำเป็นสำหรับการสนับสนุนอีเมลการส่งข้อความและ API

barq - อินเทอร์เฟซบรรทัดคำสั่งไปยัง dabarqus

ในการติดตั้ง: barq service install

เพื่อถอนการติดตั้ง: barq service uninstall

ใช้กับ CLI

เก็บ

การใช้งาน: barq store --input-path <path to folder> --memory-bank "<memory bank name>"

ตัวอย่าง: barq store --input-path C:docs --memory-bank documents

สืบค้น

การใช้งาน: barq retrieve --memory-bank "<memory bank name>"

  • ตัวอย่าง: barq retrieve --memory-bank documents
  • ตัวอย่าง: barq retrieve --memory-bank documents --query "Tell me about the documents" --query-limit 3 นี่จะแสดงคำตอบสามคำตอบจากธนาคารหน่วยความจำ 'เอกสาร'

API - ส่วนต่อประสาน REST ไปยัง Dabarqus

วิธี จุดสิ้นสุด คำอธิบาย พารามิเตอร์
รับ /สุขภาพหรือ /api /สุขภาพ ตรวจสอบสถานะสุขภาพของบริการ ไม่มี
รับ /admin/* ให้บริการแอปพลิเคชันผู้ดูแลระบบ ไม่มี
รับ /odobo/* ให้บริการแอปพลิเคชัน Odobo ไม่มี
รับ /API/รุ่น ดึงรุ่น AI ที่มีอยู่ ไม่มี
รับ /api/model/metadata รับข้อมูลเมตาสำหรับรุ่นเฉพาะ modelRepo , filePath (ไม่บังคับ)
รับ /API/ดาวน์โหลด รับข้อมูลเกี่ยวกับรายการที่ดาวน์โหลด modelRepo (ไม่บังคับ), filePath (ไม่บังคับ)
รับ /api/downloads/enqueue enqueue ดาวน์โหลดใหม่ modelRepo , filePath
รับ /api/downloads/cancel ยกเลิกการดาวน์โหลด modelRepo , filePath
รับ /API/ดาวน์โหลด/ลบ ลบรายการที่ดาวน์โหลด modelRepo , filePath
รับ /API/การอนุมาน รับข้อมูลเกี่ยวกับรายการอนุมาน alias (ไม่บังคับ)
รับ /api/inferference/start เริ่มการอนุมาน alias , modelRepo , filePath , address (เป็นทางเลือก), port (ไม่บังคับ), contextSize (ไม่บังคับ), gpuLayers (ไม่บังคับ), chatTemplate (ไม่บังคับ)
รับ /API/การอนุมาน/หยุด หยุดการอนุมาน alias
รับ /API/การอนุมาน/สถานะ รับสถานะของการอนุมาน alias (ไม่บังคับ)
รับ /api/inferference/reset รีเซ็ตการอนุมาน alias
รับ /api/inferfer/retart รีสตาร์ทการอนุมานปัจจุบัน ไม่มี
รับ /api/ฮาร์ดแวร์หรือ/api/hardwareinfo รับข้อมูลฮาร์ดแวร์ ไม่มี
รับ /API/ผ้าไหม รับสถานะหน่วยความจำ ไม่มี
รับ /API/ไหม/เปิดใช้งาน เปิดใช้งานความทรงจำ ไม่มี
รับ /API/ไหม/ปิดใช้งาน ปิดการใช้งานความทรงจำ ไม่มี
รับ /API/Silk/MemoryBanks รับข้อมูลธนาคารหน่วยความจำ ไม่มี
รับ /api/silk/memorybank/เปิดใช้งาน เปิดใช้งานธนาคารหน่วยความจำ memorybank
รับ /API/Silk/MemoryBank/ปิดการใช้งาน ปิดการใช้งานธนาคารหน่วยความจำ memorybank all
รับ /API/ไหม/แบบสอบถาม ทำการสืบค้นความหมาย (พารามิเตอร์ที่จัดการโดย Silk Retriever)
รับ /API/ไหม/สุขภาพ ตรวจสอบสุขภาพของผ้าไหมรีทรีฟเวอร์ ไม่มี
รับ /API/Silk/Model/Metadata รับข้อมูลเมตาแบบจำลองจาก Silk Retriever (พารามิเตอร์ที่จัดการโดย Silk Retriever)
รับ /api/shutdown เริ่มการปิดเซิร์ฟเวอร์ ไม่มี
โพสต์ /api/utils/log เขียนถึงบันทึก JSON Body พร้อมรายละเอียดบันทึก
โพสต์ /api/ไหม/ฝัง รับการฝังจากผ้าไหมรีทรีฟเวอร์ (พารามิเตอร์ที่จัดการโดย Silk Retriever)

ใช้ API

  • ตัวอย่าง: curl http://localhost:6568/api/silk/query?q=Tell%20me%20about%20the%20documents&limit=3&memorybank=docs

ตัวอย่าง

ตัวอย่างของ Dabarqus ในการดำเนินการสามารถพบได้ใน repo นี้ภายใต้ ตัวอย่าง

  • PythonPDFCHATBOT-RESTAPI: โปรแกรม ChatBot ตัวอย่างโดยใช้ DABARQUS ผ่าน REST API เพื่อแชทกับ PDFS ของคุณ
  • PythonPDFCHATBOT-PYTHONSDK: โปรแกรม ChatBot ตัวอย่างโดยใช้ DABARQUS ผ่าน Python SDK เพื่อแชทกับ PDFS ของคุณ
  • Storefiles: ตัวอย่าง Python ของการจัดเก็บเอกสารในธนาคารหน่วยความจำ (ดัชนีความหมาย) โดยใช้ Python SDK

หมายเหตุ:

  1. Dabarqus Professional Edition เป็นสิ่งจำเป็นสำหรับการสนับสนุนอีเมลการส่งข้อความและ API
ขยาย
ข้อมูลเพิ่มเติม
แอปที่เกี่ยวข้อง
แนะนำสำหรับคุณ
ข้อมูลที่เกี่ยวข้อง ทั้งหมด