ai starter kit

ชุดเริ่มต้น AI

ฐานรหัส ขั้นต่ำ สำหรับการสร้างแอพ AI เพื่อตอบคำถาม (QA) ผ่านเอกสาร PDF โดยสมบูรณ์ ในท้องถิ่น

โครงการนี้ได้รับแรงบันดาลใจจากท้องถิ่น-AI-Stack อย่างไรก็ตามสแต็กของพวกเขานั้นใช้ JavaScript ทั้งหมดและฉันต้องการ แบ็กเอนด์ ที่ใช้งูเหลือมดังนั้นจึงตัดสินใจสร้างโครงการนี้

ai-starter-kit-demo_3.mp4

กองซ้อน

• - การอนุมาน: Ollama
• vectordb: qdrant
• - LLM orchestration: Langchain
• ? ️แอพลอจิก: fastapi

วิธีเริ่มต้นใช้งาน

1. โคลน repo นี้:

git clone https://github.com/mallahyari/ai-starter-kit.git

2. ติดตั้งการพึ่งพาแบ็กเอนด์:

 cd backend/app
pip install -r requirements.txt

3. ติดตั้งการพึ่งพาส่วนหน้า:

 cd frontend
npm install

4. เริ่มฐานข้อมูล qdrant Vector (คุณต้องการ Docker) ดูที่นี่สำหรับข้อมูลตัวเลือกอื่น ๆ :

docker run -p 6333:6333 qdrant/qdrant

5. คำแนะนำติดตั้ง Ollama อยู่ที่นี่

6. เรียกใช้เซิร์ฟเวอร์ fastapi (จากภายในไดเรกทอรี backend ภายใน):

python app/main.py

7. เปิดเทอร์มินัลใหม่และเริ่มต้นเซิร์ฟเวอร์ React Development (จากภายใน frontend ):

npm start

เปลี่ยนการกำหนดค่า

คุณสามารถเปลี่ยนการกำหนดค่าในไฟล์ .config เช่น รูปแบบการฝัง ขนาดก้อน และ ก้อนทับกัน หากคุณวางแผนที่จะใช้คลาวด์ Qdrant คุณสามารถหรือคุณสามารถสร้างไฟล์ .env ของคุณเองและตั้งค่าปุ่ม API ที่จำเป็น

กรณีการใช้งานเพิ่มเติม

แม้ว่าแอพปัจจุบันจะรองรับไฟล์ PDF เท่านั้น แต่ก็ตรงไปตรงมามากในการเพิ่มไฟล์ประเภทอื่น ๆ เช่นไฟล์ข้อความ ฯลฯ นอกจากนี้คุณสามารถเพิ่มการแชทปลายเปิดได้อย่างง่ายดายนอกเหนือจาก QA ผ่านกรณีการใช้เอกสาร

การอภิปรายและการบริจาค

หากคุณมีความคิดเห็นหรือข้อเสนอแนะใด ๆ โปรดอย่าลังเลที่จะใช้ส่วน Discussions และเปิดหัวข้อใหม่ นอกจากนี้คุณยังสามารถติดต่อโดยตรงผ่าน LinkedIn หรือ Twitter