RAG nificent

RAG-NIFIKENT: AI Chatbot Didukung oleh LLMS untuk kutipan PDF, Laporan, dan Pedoman khusus

Sekarang mendukung llama-3.1 oleh meta ai

Rag-Nificent adalah repositori yang canggih yang memanfaatkan kekuatan generasi pengambilan (RAG) untuk memberikan jawaban dan referensi instan dari direktori PDF yang dikuratori yang berisi informasi tentang topik tertentu seperti dokumen rekomendasi WHO. Sistem ini dirancang untuk membantu para peneliti, pembuat kebijakan, dan publik dalam dengan cepat menemukan informasi spesifik dalam dokumen yang luas.

Fitur

• Antarmuka Conversational : Terlibat dengan sistem menggunakan kueri bahasa alami untuk menerima tanggapan yang secara langsung bersumber dari PDF.
• Kutipan Langsung : Setiap respons dari sistem mencakup tautan langsung ke halaman PDF sumber, memastikan keterlacakan dan verifikasi.
• Direktori PDF : Satu set dokumen PDF utama yang telah ditentukan sebelumnya, saat ini termasuk rekomendasi WHO tentang topik kesehatan utama seperti schistosomiasis dan malaria.

Model yang tersedia

• ? LLAMA-3.1-8B-INSTAN : Pengalaman respons instan dan efisien dengan model ini dioptimalkan untuk interaksi cepat.
• ? LLAMA-3.1-70B-VERSATILE : Memanfaatkan model serbaguna ini untuk berbagai tugas bahasa kompleks dengan akurasi tinggi.
• GPT-3.5-Turbo : Terlibat dengan interaksi canggih, seperti manusia yang cocok untuk beragam tugas percakapan.
• ? LLAMA3-70B-8192 : Nikmati kinerja kelas atas dengan model skala besar ini, ideal untuk wawasan pembelajaran yang mendalam.
• ? LLAMA3-8B-8192 : Harness kuat kemampuan dengan versi LLAMA3 yang lebih mudah diakses ini, sempurna untuk berbagai aplikasi AI.
• ? Mixtral-8x7b-32768 : Memanfaatkan kekuatan pemodelan ensemble dengan kapasitas luas Mixtral untuk pemahaman yang bernuansa dan generasi respons.
• ? GEMMA-7B-IT : Jelajahi interaksi khusus dan solusi yang berfokus pada teknologi dengan Gemma, dirancang untuk TI dan konten teknis.

Demo

Cara kerjanya

Aplikasi ini menggunakan kombinasi embeddings openai, pencarian vektor pinecone, dan antarmuka percakapan untuk memberikan pengalaman pengambilan yang mulus. Saat kueri dibuat, sistem:

1. Mengubah kueri menjadi embeddings.
2. Pencarian untuk bagian dokumen yang paling relevan menggunakan pencarian vektor Pinecone.
3. Mengembalikan jawaban bersama dengan kutipan dan tautan ke dokumen sumber.

Pengaturan

1. Klon Repositori:

   git clone https://github.com/yourusername/RAG-nificent.git

2. Instal dependensi:

   pip install -r requirements.txt

3. Atur variabel lingkungan di .env (juga lihat file .env.example :

   • PINECONE_INDEX_NAME
   • PINECONE_NAME_SPACE
   • OPENAI_API_KEY
   • PINECONE_API_KEY
   • GROQ_API_KEY

4. Buat indeks Pinecone dengan nama yang sama dengan PINECONE_INDEX_NAME . Atur dengan dimensions=1536 dan metric=cosine .

5. Tempatkan PDF Anda di direktori pdf_data dan jalankan data_ingestion.py

6. Jalankan aplikasi:

   chainlit run src/app.py

Dokumen sumber

Sistem saat ini menyertakan pedoman dari PDF berikut dengan tautan langsung ke dokumen:

• Pedoman WHO tentang kontrol dan eliminasi schistosomiasis manusia (2022)
• Pedoman WHO untuk malaria (2023)