PWC RAG

Kain untuk kertas dengan kode

Rag untuk makalah dengan kode adalah metode yang lebih mudah untuk memindai banyak penelitian ML dengan hanya menekan tombol. Sistem RAG yang menambah sejumlah besar informasi dengan mudah. Anda akan menanyakan pertanyaan Anda dalam bahasa alami dan itu akan menjawab sesuai dengan makalah yang relevan yang ditemukannya pada kertas dengan kode.

Di sisi backend, sistem ini ditenagai dengan kerangka pengambilan augmented generasi (RAG) yang bergantung pada database vektor tanpa server yang dapat diskalakan yang disebut Upstash, untuk embeddings kami menggunakan model BGE pada permukaan pelukan, dan mixtral-8x7b-instruct-v0.1 sebagai llm dari huggingface.

Di sisi front-end, asisten ini akan diintegrasikan ke dalam aplikasi web yang interaktif dan mudah digunakan yang dibangun dengan streamlit.

Persyaratan

• Token API Huggingface
• Akun Upstash
• Url dan token unggul setelah membuat indeks

Langkah untuk ditiru

1. Kloning repo

     git clone https://github.com/wittyicon29/PWC-RAG.git

2. Pindah ke direktori ruang kerja

     cd PWC-RAG

3. Pengindeksan ke indeks data ke vektor DB, pertama -tama Anda harus membuat indeks pada Upstash dan mengisi kredensial dalam file .env :

    UPSTASH_URL=...
    UPSTASH_TOKEN=...
   

   Jalankan perintah berikut:

     python -m src.index_papers --query " Mistral " --limit 200

   Hasil pengindeksan 200 potongan yang cocok dengan kueri "Mistral".

   

   

4. Menjalankan Aplikasi StreamLit secara lokal

   Sebelum menjalankan aplikasi StreamLit, Anda harus mengatur token API HuggingFace di file '.env':

     HUGGINGFACE_API_TOKEN=...

   Sekarang Anda dapat aplikasi streamlit

     python -m streamlit run  src/app.py

   

Catatan

• Anda dapat menggunakan model penyematan apa pun yang didukung oleh langchain
• Anda dapat mencoba berbagai LLM di langchain untuk mengevaluasi sistem kain
• Aplikasi ini siap digunakan di Google Cloud Run menggunakan Docker atau Streamlit Cloud.

Referensi

Cara membangun aplikasi bertenaga LLM untuk mengobrol dengan kertas dengan kode