gcp redis llm stack

สถาปัตยกรรม LLM ที่ปรับขนาดได้ด้วย Redis & GCP Vertex AI

☁ AI Generative พร้อม Google Vertex AI มาพร้อมกับประสบการณ์ในสตูดิโอพิเศษในสตูดิโอพิเศษ API เฉพาะสำหรับราศีเมถุนและ Python SDK ที่ใช้งานง่ายซึ่งออกแบบมาสำหรับการปรับใช้และจัดการอินสแตนซ์ของรุ่นภาษาที่ทรงพลังของ Google

⚡ Redis Enterprise เสนอการค้นหาเวกเตอร์ที่รวดเร็วและปรับขนาดได้พร้อม API สำหรับการสร้างดัชนีการจัดการการค้นหาที่รวดเร็วและการกรองไฮบริด เมื่อควบคู่ไปกับโครงสร้างข้อมูลที่หลากหลาย - Redis Enterprise ส่องแสงเป็นโซลูชันที่ดีที่สุดสำหรับการสร้างแอพโมเดลภาษาขนาดใหญ่คุณภาพสูง (LLM)

repo นี้ทำหน้าที่เป็นสถาปัตยกรรมพื้นฐานสำหรับการสร้างแอปพลิเคชัน LLM ด้วยบริการ Redis และ GCP

สถาปัตยกรรมอ้างอิง

1. แหล่งข้อมูลหลัก
2. การสกัดข้อมูลและการโหลด
3. รูปแบบภาษาขนาดใหญ่
   • text-embedding-gecko@003 สำหรับ Embeddings
   • gemini-1.5-flash-001 สำหรับการสร้าง LLM และแชท
4. เลเยอร์ข้อมูลประสิทธิภาพสูง (REDIS)
   • การแคชความหมายเพื่อปรับปรุงประสิทธิภาพ LLM และค่าใช้จ่ายที่เกี่ยวข้อง
   • การค้นหาเวกเตอร์สำหรับการดึงบริบทจากฐานความรู้

การสาธิตผ้าขี้ริ้ว

เปิดการสอนโค้ดโดยใช้สมุดบันทึก Colab เพื่อให้มือของคุณสกปรกด้วย Redis และ Vertex AI บน GCP มันเป็นคำแนะนำทีละขั้นตอนของการตั้งค่าข้อมูลที่ต้องการและสร้าง embeddings และสร้างผ้าขี้ริ้วตั้งแต่เริ่มต้นเพื่อสร้างแอพ LLM ที่รวดเร็ว เน้นการค้นหาเวกเตอร์ Redis และการแคชความหมาย

ทรัพยากรเพิ่มเติม

• แอปตัวอย่าง streamlit pdf chatbot
• เอกสารการค้นหาเวกเตอร์ Redis
• เริ่มต้นด้วย redisvl
• ทรัพยากร Google Vertexai
• ทรัพยากร Redis AI มากขึ้น