Basic-qdrant-upload-and-search- ตัวอย่าง
ตัวอย่างรหัสเกี่ยวกับวิธีการอัปโหลดและค้นหาฐานข้อมูล qdrant Vector
หากคุณพบว่ารหัสนี้มีประโยชน์ลองตรวจสอบโครงการผู้ช่วย AI หลักของฉัน: https://github.com/libraryofcelsus/aetherius_ai_assistant
หากคุณต้องการบทช่วยสอนเพิ่มเติมเช่นนี้ให้ติดตามฉันที่ GitHub และ YouTube: https://www.youtube.com/@libraryofcelsus
(ยังไม่ได้เปิดตัวช่องฉันมีสคริปต์หลายรายการเช่นนี้เขียน แต่ยังคงทำงานในรูปแบบการผลิตวิดีโอสมัครสมาชิกสำหรับการเปิดตัว!)
บทเรียนรหัสเชิงลึกในรูปแบบเอกสารที่มีอยู่ที่: https://www.libraryofcelsus.com/research/public/code-tutorials/
การติดตั้งหน้าต่าง
- หากใช้คลาวด์ Qdrant คัดลอกคีย์ API และ URL ไปยังไฟล์. txt ที่สอดคล้องกัน
Qdrant Cloud Link: https://qdrant.to/cloud
หากต้องการใช้เซิร์ฟเวอร์ QDDRANT ในพื้นที่ให้ติดตั้ง Docker ก่อน: https://www.docker.com/ จากนั้นดู: https://github.com/qdrant/qdrant/blob/master/quick_start.md
เมื่อเซิร์ฟเวอร์ QDDRANT ท้องถิ่นกำลังทำงานอยู่ควรตรวจพบอัตโนมัติโดยสคริปต์ - ติดตั้ง Git
- ติดตั้ง Python 3.10.6 ตรวจสอบให้แน่ใจว่าคุณเพิ่มลงในเส้นทาง
- โปรแกรมเปิด Git Bash
- เรียกใช้ git clone: git clone https://github.com/libraryofcelsus/basic-qdrant-upload-and-search-example
- เปิดบรรทัดคำสั่งเป็นผู้ดูแลระบบและนำทางไปยังโฟลเดอร์การติดตั้งโครงการด้วย ซีดี
- สร้างสภาพแวดล้อมเสมือนจริง: Python -m venv venv
- เปิดใช้งาน Enviornment เสมือนจริงด้วย:. venv Scripts Activate
- ติดตั้งข้อกำหนดด้วย PIP Install -r rechent.txt
- แก้ไขและตั้งค่าชื่อผู้ใช้และชื่อ chatbot ของคุณในไฟล์. txt
- แก้ไขและตั้งค่าพรอมต์หลักและคำทักทายในไฟล์. txt
- สำหรับ Oobabooga: ติดตั้ง Oobabooga Web-ui สามารถทำได้ด้วยตัวติดตั้งแบบคลิกเดียวที่พบในหน้า GitHub ของพวกเขา: https://github.com/oobabooga/text-generation-webui จากนั้นเรียกใช้ web-ui และนำทางไปยังแท็บเซสชันคลิกทั้งสองกล่อง API จากนั้นคลิกใช้และรีสตาร์ท ตอนนี้นำทางไปยังแท็บโมเดลแล้วป้อน: "Thebloke/Llama-2-7b-Chat-Gptq" หรือ "Thebloke/Llama-2-13b-Chat-Gptq" (หากใช้ CPU ใช้เวอร์ชัน GMML) เมื่อดาวน์โหลดรุ่นให้เปลี่ยนโมเดลโหลดเดอร์เป็น exllama และตั้งค่าพารามิเตอร์ GPU-split เป็น. 5GB ภายใต้ขีด จำกัด ของ GPU ของคุณ ถัดไปตั้งค่า max_seq_len เป็น 4096
- สำหรับ openai: เพิ่มคีย์ OpenAI API ของคุณลงใน key_openai.txt
- เรียกใช้ chatbot ด้วย python script_name.py
*หมายเหตุคุณจะต้องเรียกใช้ venv scripts เปิดใช้งานทุกครั้งที่คุณออกจากบรรทัดคำสั่งเพื่อเปิดใช้งานสภาพแวดล้อมเสมือนจริงอีกครั้ง
การวิจัย AI ของฉันได้รับเงินสนับสนุนตนเองลองสนับสนุนฉันหากคุณพบว่ามีประโยชน์ :)
ติดต่อ
Discord: Libraryofcelsus -> Old Username Style: Celsus#0262
Mega Chat: https://mega.nz/c!pmnmeizq
อีเมล: [email protected]