llama index RAG

แอปพลิเคชัน Rag ดัชนี Llama

การใช้งาน RAG ในดัชนี Llama โดยใช้ QDRANT เป็นที่เก็บข้อมูล ใช้ PDF บางตัว (คุณสามารถใช้ PDF ทดสอบรวมถึงใน /data หรือลบและใช้เอกสารของคุณเอง) ดัชนี /ฝังไว้ใน VDB ใช้ LLM เพื่อการอนุมานและสร้างเอาต์พุต สวยดี

วิธีใช้

• สร้างโฟลเดอร์ย่อยและข้อมูลท้องถิ่น
• สร้าง env เสมือนโดยใช้ conda, env หรือ docker
• พิมพ์ pip install -r /path/to/requirements.txt ในพรอมต์ cmd
• เปิดใช้งาน Ollama ในเทอร์มินัลด้วย ollama run mistral หรือรุ่นใดก็ตามที่คุณเลือก หากคุณใช้ Ollama ใหม่สำหรับ Windows ไม่จำเป็นเพราะมันทำงานในพื้นหลัง (ตรวจสอบให้แน่ใจว่าใช้งานได้)
• เปิด LLAMA_INDEX_RAG.PY และอัปเดตบรรทัด 42 และ 43 ด้วยรุ่นที่คุณเลือก
• บันทึกและเรียกใช้สคริปต์
• สังเกตผลลัพธ์คล้ายกับ: