openai elasticsearch rag

Aplikasi Pengambilan Augmented Generation (RAG) menggunakan OpenAi dan Elasticsearch sebagai vektor db

Aplikasi RAG (Retrieval-Augmented Generation) untuk menawarkan T&J pada teks format panjang menggunakan OpenAi dan Elasticsearch. Di sinilah kita

• Menggunakan Elasticsearch sebagai VectorDB untuk menyimpan data yang diindeks dan menggunakannya untuk pengambilan.
• Menggunakan OpenAi untuk membuat embeddings dan menghasilkan jawaban atas pertanyaan setelah mengambil chunck yang relevan dari ES.

Memulai

Prasyarat:

1. Python 3.9 atau lebih
2. Pip
3. virtualenv
4. Elasticsearch - 7.14.0 (https://www.elastic.co/downloads/elasticsearch)
5. Kunci API OpenAI (https://platform.openai.com/)

Langkah Instalasi:

• Buat dan aktifkan lingkungan virtual

python -m venv venv

 source venv/bin/activate

• Instal dependensi

pip install -r requirements.txt

• Unduh model spacy untuk NLP dan membagi teks menjadi kalimat.

python -m spacy download en_core_web_sm

• Pengaturan Elasticsearch (https://www.elastic.co/downloads/elasticsearch)
  1. Unduh dan unzip elasticsearch
  2. Mulai Elasticsearch bin/elasticsearch (atau binelasticsearch.bat di windows)
  3. UJI dengan menjalankan curl -X GET "localhost:9200/" di Terminal

Jalankan aplikasi

Sebelum menjalankan aplikasi, buat file .env menggunakan .env-template dan tambahkan kredensial OpenAI API Key dan Elasticsearch.

python run.py

Aplikasi akan mulai di localhost di port 8081 . Periksa kewarasan dengan berjalan di terminal. Itu harus mengembalikan pesan Hello .

curl -X GET " localhost:8081 " 

Untuk mengindeks dan meminta data

1. Buat indeks ES

curl --location --request PUT ' http://localhost:9200/first-index ' 
--header ' Content-Type: application/json ' 
--data-raw ' {
    "mappings": {
        "properties": {
            "text": {
                "type": "text"
            },
            "embedding": {
                "type": "dense_vector",
                "dims": 1536
            }
        }
    }
} '

Jika Anda ingin menghapus indeks untuk awal yang bersih, gunakan perintah berikut.

curl --location --request DELETE ' http://localhost:9200/first-index '

2. Data indeks

Untuk mengindeks data, gunakan perintah curl berikut. Perintah ini mengirimkan permintaan posting ke titik akhir yang ditentukan dengan muatan JSON yang berisi teks yang akan diindeks dan nama indeks.

Pastikan Anda memiliki server yang berjalan di localhost di port 8081 .

curl --location --request POST ' localhost:8081/api/index ' 
--header ' Content-Type: application/json ' 
--data-raw ' {
  "text": "Ajeet is an engineer turned product entrepreneur with experience in AI, SaaS, HealthTech and EdTech. He is a technology enthusiast and loves to work on new technologies. He was a founding member of leading health-tech startups HealthKart and TATA 1mg in India. He was the founder of Joe Hukum, a chatbot platform which was acquired by Freshworks. After Freshworks, he founded Seekho.ai to solve for the skill gap in Indian higher education. Currently, he is on a break and is exploring GenAI to solve for the next meaningful problem. He is passionate about solving zero to one problems and building products that can impact millions of lives.",
  "index_name": "first-index"
} '

3. Data kueri

Contoh 1:

curl --location --request POST ' localhost:8081/api/query ' 
--header ' Content-Type: application/json ' 
--data-raw ' {
  "question": "Who is Ajeet?",
  "index_name": "first-index"
} '

Contoh 2:

curl --location --request POST ' localhost:8081/api/query ' 
--header ' Content-Type: application/json ' 
--data-raw ' {
  "question": "Joe Hukum was acquired by which company?",
  "index_name": "first-index"
} ' 

Dibangun oleh Ajeet dengan ☕️ dan ❤️