gcp redis llm stack

Arsitektur LLM yang scalable dengan Redis & GCP Vertex AI

☁️ AI generatif dengan Google Vertex AI hadir dengan pengalaman studio in-konsol khusus, API khusus untuk Gemini dan Python SDK yang mudah digunakan yang dirancang untuk menggunakan dan mengelola contoh model bahasa Google yang kuat.

⚡ Redis Enterprise menawarkan pencarian vektor yang cepat dan terukur, dengan API untuk pembuatan indeks, manajemen, pencarian cepat-cepat, dan penyaringan hibrida. Ketika digabungkan dengan struktur data serbaguna - Redis Enterprise bersinar sebagai solusi optimal untuk membangun aplikasi model bahasa besar berkualitas tinggi (LLM).

Repo ini berfungsi sebagai arsitektur dasar untuk membangun aplikasi LLM dengan layanan Redis dan GCP.

Arsitektur referensi

1. Sumber Data Primer
2. Ekstraksi dan pemuatan data
3. Model bahasa besar
   • text-embedding-gecko@003 untuk embeddings
   • gemini-1.5-flash-001 untuk generasi LLM dan obrolan
4. Lapisan Data Kinerja Tinggi (Redis)
   • Caching semantik untuk meningkatkan kinerja LLM dan biaya terkait
   • Pencarian vektor untuk pengambilan konteks dari basis pengetahuan

Demo kain

Buka tutorial kode menggunakan Colab Notebook untuk membuat tangan Anda kotor dengan Redis dan Vertex AI di GCP. Ini adalah langkah-langkah langkah demi langkah untuk menyiapkan data yang diperlukan, dan menghasilkan embeddings, dan membangun kain dari awal untuk membangun aplikasi LLM cepat; Menyoroti pencarian vektor redis dan caching semantik.

Sumber daya tambahan

• Streamlit PDF Chatbot Contoh Aplikasi
• Dokumentasi Pencarian Vektor Redis
• Mulailah dengan redisvl
• Sumber Daya Google Vertexai
• Lebih Banyak Sumber Daya Redis AI