QnA With RAG

QNA-dengan-RAG

? Deskripsi proyek

QNA-dengan-RAG adalah aplikasi full-stack yang mengubah dokumen teks menjadi konteks untuk model bahasa besar (LLM) menjadi referensi selama obrolan. Anda dapat dengan mudah menambahkan, menghapus dokumen, dan membuat beberapa basis pengetahuan.

Tujuan dan tujuan

Proyek ini bertujuan untuk membuat chatbot siap-produksi menggunakan API OpenAI. Ini menggabungkan VectorDB dan Langssmith untuk meningkatkan fungsinya.

Teknologi digunakan

Fitur

• Mengobrol dengan file teks
• Obrolan streaming
• Unggah beberapa file teks
• Pertahankan vektor db (tambahkan/hapus file)
• Otentikasi token API statis untuk Chromadb
• Buat beberapa basis pengetahuan

Aliran Aplikasi

? Demo

Tonton demo aplikasi di sini.

Perkembangan masa depan

Pembaruan di masa depan akan mencakup:

• React.js Integrasi Frontend
• Fitur Chromadb yang Ditingkatkan (Penyaringan, Pencarian)
• Kemampuan memori untuk chatbot

▶ ️ Instalasi & Pengaturan

1. Klon Repositori

   git clone [email protected]:Ja-yy/QnA-With-RAG.git

2. Mengatur variabel lingkungan

   Buat file .env dengan konten berikut:

    OPENAI_API_KEY='<your_open_ai_key>'
   EMBEDDING_MODEL='text-embedding-ada-002'
   CHAT_MODEL='gpt-3.5-turbo'
   TEMPERATURE=0
   MAX_RETRIES=2
   REQUEST_TIMEOUT=15
   
   CHROMADB_HOST="chromadb"
   CHROMADB_PORT="8000"
   
   CHROMA_SERVER_AUTH_CREDENTIALS="<test-token>"
   CHROMA_SERVER_AUTH_CREDENTIALS_PROVIDER="chromadb.auth.token.TokenConfigServerAuthCredentialsProvider"
   CHROMA_SERVER_AUTH_PROVIDER="chromadb.auth.token.TokenAuthServerProvider"
   CHROMA_SERVER_AUTH_TOKEN_TRANSPORT_HEADER="AUTHORIZATION"
   

3. Bangun dan jalankan aplikasi

   Jalankan perintah berikut:

   docker-compose up -d --build

4. Mengakses aplikasi

   Buka browser web Anda dan pergi ke LocalHost untuk mulai menggunakan aplikasi.

5. Konfigurasi nginx

   • Nginx bertindak sebagai proxy terbalik, permintaan perutean ke layanan yang sesuai dan menangani HTTPS (jika dikonfigurasi).
   • Pastikan file konfigurasi nginx Anda diatur dengan benar di direktori nginx untuk kinerja optimal.

? Pertanyaan yang sering diajukan

• Apa yang harus saya lakukan jika saya mengalami masalah?

  • Periksa log menggunakan docker-compose logs untuk pemecahan masalah.

• Bagaimana saya bisa berkontribusi?

  • Jangan ragu untuk membuka masalah atau mengirimkan permintaan tarik di GitHub!

Nikmati menggunakan aplikasi! :)