gcp redis llm stack

可擴展的LLM架構，具有REDIS和GCP頂點AI

與Google Vertex AI一起使用的生成AI具有專門的內置工作室體驗，專門用於雙子座的API和易於使用的Python SDK，旨在部署和管理Google強大的語言模型的實例。

Redis Enterprise提供快速可擴展的矢量搜索，並具有用於創建索引，管理，燃燒搜索和混合過濾的API。當結合其多功能數據結構時，Redis Enterprise是建立高質量大語言模型（LLM）應用程序的最佳解決方案。

該回購是使用REDIS和GCP服務構建LLM應用程序的基礎架構。

參考體系結構

1. 主要數據源
2. 數據提取和加載
3. 大型語言模型
   • 用於嵌入的text-embedding-gecko@003
   • LLM生成和聊天的gemini-1.5-flash-001
4. 高性能數據層（REDIS）
   • 語義緩存以提高LLM性能和相關成本
   • 向量從知識庫中搜索上下文檢索

抹布演示

使用COLAB筆記本電腦打開代碼教程，用REDIS和VERTEX AI在GCP上弄髒您的手。這是設置所需數據並生成嵌入的逐步演練，並從頭開始構建抹布，以構建快速的LLM應用程序；突出顯示Redis矢量搜索和語義緩存。

其他資源

• 簡化PDF聊天機器人示例應用程序
• REDIS矢量搜索文檔
• 開始使用redisvl
• Google Vertexai資源
• 更多的重新AI資源