AI_Powered_Chat_bot_with_message_history

Kain percakapan dengan unggahan pdf dan riwayat obrolan

Proyek ini adalah sistem Conversational Retrieval-Augmented Generation (RAG) yang memungkinkan pengguna untuk mengunggah file PDF, mengekstrak konten, dan mengajukan pertanyaan tentang konten yang diunggah. Sistem ini melacak riwayat obrolan dan mengontekstualisasikan pertanyaan pengguna berdasarkan percakapan sebelumnya untuk memberikan jawaban yang relevan.

Aplikasi ini dibangun dengan streamlit untuk antarmuka pengguna, mengintegrasikan GROQ untuk LLM (model bahasa), dan Chroma sebagai toko vektor untuk menangani embeddings dokumen dan pengambilan. Aliran percakapan dipertahankan dengan riwayat obrolan untuk memungkinkan pertanyaan yang stateful.

Fitur

• Unggah PDF : Pengguna dapat mengunggah beberapa file PDF, dan konten diproses dan diindeks.
• PERTANYAAN PERTANYAAN : Ajukan pertanyaan tentang dokumen PDF yang diunggah, dan asisten akan menjawab berdasarkan konten.
• Riwayat obrolan : Melacak pertanyaan masa lalu dan jawaban untuk mengontekstualisasikan pertanyaan di masa depan.
• Integrasi dengan GROQ : Memanfaatkan API GROQ untuk pemodelan bahasa dan pembuatan respons.
• Embeddings : Menggunakan HuggingFaceEmbeddings untuk membuat embeddings dokumen dan mengambil konten yang relevan.

Persyaratan

Untuk menjalankan proyek ini, Anda membutuhkan yang berikut:

• Python 3.7+
• Kunci API Groq
• Token API Huggingface

Instalasi

1. Klon Repositori:

   git clone https://github.com/yourusername/conversational-rag-with-pdf.git
   cd conversational-rag-with-pdf

2. Buat lingkungan virtual:

   python3 -m venv venv
   source venv/bin/activate  # On Windows, use `venvScriptsactivate`

3. Instal dependensi yang diperlukan:

   pip install -r requirements.txt

4. Mengatur variabel lingkungan:

   Buat file .env di direktori root dan tambahkan tombol API Anda:

   touch .env

   Di dalam file .env , tambahkan yang berikut:

   HF_TOKEN=your_huggingface_token
   GROQ_API_KEY=your_groq_api_key

5. Jalankan aplikasi:

   streamlit run utils.py

Penggunaan

Langkah 1: Masukkan Kunci API GROQ

Saat Anda meluncurkan aplikasi, pertama -tama Anda harus memasukkan kunci API GROQ Anda. Ini diperlukan untuk melakukan pemodelan bahasa dan menjawab pertanyaan.

Langkah 2: Unggah PDFS

Klik tombol Pilih File PDF untuk mengunggah satu atau lebih file PDF. Konten dari PDF akan diproses dan dibagi menjadi potongan -potongan untuk pengambilan yang efisien.

Langkah 3: Ajukan pertanyaan

Setelah mengunggah PDF, Anda dapat mengajukan pertanyaan terkait dengan konten file yang diunggah. Asisten akan menjawab berdasarkan konteks yang disediakan oleh PDF dan riwayat obrolan sebelumnya.

Langkah 4: Kelola riwayat obrolan

Sistem melacak riwayat percakapan. Anda dapat melihat sejarah sesi, dan asisten menggunakan sejarah ini untuk menjawab pertanyaan tindak lanjut dalam konteks.

Contoh Walkthrough:

1. Mulai aplikasi dan masukkan kunci API GROQ Anda.
2. Unggah PDF yang berisi konten yang ingin Anda tanyakan.
3. Ketikkan pertanyaan di bidang input seperti, "Apa ringkasan Bab 3?"
4. Asisten akan menanggapi berdasarkan konten PDF yang diunggah dan memberikan jawaban yang ringkas.
5. Ajukan pertanyaan tindak lanjut, dan sistem akan menggunakan percakapan masa lalu untuk memberikan tanggapan yang sadar konteks.

Komponen utama

• StreamLit : Menyediakan antarmuka pengguna dan interaksi formulir.
• Chroma : Digunakan sebagai toko vektor untuk menyimpan embeddings dari dokumen PDF terpisah untuk pengambilan.
• API GROQ : Menangani tugas yang dianamkan menggunakan model Gemma2-9b-It .
• Langchain : Mengelola proses kombinasi pengambilan dan dokumen, bersama dengan penanganan riwayat obrolan.

Perbaikan di masa depan

• Tambahkan dukungan untuk jenis dokumen lain (misalnya, kata, file teks).
• Tingkatkan UI untuk interaksi pengguna yang lebih baik.
• Tambahkan dukungan multi-bahasa untuk dokumen non-Inggris.
• Menerapkan sistem untuk menyimpan dan memuat riwayat obrolan di seluruh sesi.

Pemecahan masalah

Jika Anda mengalami masalah seperti kesalahan kunci API atau masalah unggahan file, pastikan bahwa:

• Anda memiliki kunci API GROQ yang valid dan memeluk token wajah .
• PDF yang diunggah valid dan dapat dibaca oleh PYPDFLoader.
• Semua dependensi diinstal dengan benar melalui pip install -r requirements.txt .

Ucapan Terima Kasih

• Langchain untuk kerangka integrasi pengambilan dan LLM yang luar biasa.
• Streamlit untuk menyediakan kerangka kerja UI yang mudah digunakan.