llama index RAG

Llama Index Rag Application

Implementasi RAG pada Indeks LLAMA menggunakan Qdrant sebagai penyimpanan. Ambil beberapa PDF (Anda dapat menggunakan PDF uji termasuk dalam /data atau hapus dan gunakan dokumen Anda sendiri), indeks /embed mereka dalam VDB, gunakan LLM untuk inferensi dan menghasilkan output. Cukup bagus.

Cara menggunakan

• Buat jalur lokal dan subfolder data
• Buat env virtual menggunakan conda, env, atau docker
• ketik pip install -r /path/to/requirements.txt di cmd prompt
• Aktifkan Ollama di Terminal dengan ollama run mistral atau model apa pun yang Anda pilih. Jika Anda menggunakan Ollama baru untuk Windows maka tidak perlu karena berjalan di latar belakang (pastikan aktif).
• Buka llama_index_rag.py dan perbarui baris 42 & 43 dengan model pilihan Anda
• Simpan dan jalankan skrip
• Amati hasil yang mirip dengan: