Jessup Cellar RAG App

Pembantu Jessup?

Helper Jessup adalah chatbot berbasis pengambilan yang menggunakan model LLAMA3-8B yang terlatih untuk menghasilkan tanggapan terhadap input pengguna. GroQ telah digunakan untuk inferensi dekat instan karena kecepatan token yang tinggi, dan Google Gen AI Studio API telah digunakan untuk mendapatkan embeddings. Model ini menggunakan file PDF untuk pengambilan informasi dan pembuatan respons berdasarkan konteksnya. File PDF dapat ditemukan di folder 'PDFS'.

Demo langsung

Proyek ini di -host di Streamlit dan dapat diakses di sini.

Memulai

Instruksi ini akan memandu Anda dengan mendapatkan salinan proyek dan berjalan di mesin lokal Anda untuk tujuan pengembangan dan pengujian.

Prasyarat

Pertama, Anda perlu mengkloning repositori ke mesin lokal Anda. Anda dapat melakukan ini dengan menjalankan perintah berikut di terminal Anda:

git clone https://github.com/soumyadeepbose/Jessup-Cellar-RAG-App.git

Selanjutnya, Anda harus menginstal paket yang diperlukan. Anda dapat melakukan ini dengan menjalankan perintah berikut di terminal Anda:

pip install -r requirements.txt

Menyiapkan Variabel Lingkungan

Anda perlu mengatur variabel lingkungan. Untuk ini, Anda perlu membuat file .env di direktori root proyek. File .env harus berisi variabel lingkungan berikut:

• GOOGLE_API_KEY : Ini adalah kunci API untuk API Google Gen AI Studio. Anda bisa mendapatkan ini dengan mengikuti instruksi di sini.

• GROQ_API_KEY : Ini adalah kunci API untuk API GROQ. Anda bisa mendapatkan ini dengan mengikuti instruksi di sini.

Menjalankan aplikasi

Sekarang untuk menjalankan aplikasi, Anda harus menjalankan perintah berikut di terminal Anda:

streamlit run app.py

Pengarang

• Soumyadeep Bose?