gcp redis llm stack

可扩展的LLM架构，具有REDIS和GCP顶点AI

与Google Vertex AI一起使用的生成AI具有专门的内置工作室体验，专门用于双子座的API和易于使用的Python SDK，旨在部署和管理Google强大的语言模型的实例。

Redis Enterprise提供快速可扩展的矢量搜索，并具有用于创建索引，管理，燃烧搜索和混合过滤的API。当结合其多功能数据结构时，Redis Enterprise是建立高质量大语言模型（LLM）应用程序的最佳解决方案。

该回购是使用REDIS和GCP服务构建LLM应用程序的基础架构。

参考体系结构

1. 主要数据源
2. 数据提取和加载
3. 大型语言模型
   • 用于嵌入的text-embedding-gecko@003
   • LLM生成和聊天的gemini-1.5-flash-001
4. 高性能数据层（REDIS）
   • 语义缓存以提高LLM性能和相关成本
   • 向量从知识库中搜索上下文检索

抹布演示

使用COLAB笔记本电脑打开代码教程，用REDIS和VERTEX AI在GCP上弄脏您的手。这是设置所需数据并生成嵌入的逐步演练，并从头开始构建抹布，以构建快速的LLM应用程序；突出显示Redis矢量搜索和语义缓存。

其他资源

• 简化PDF聊天机器人示例应用程序
• REDIS矢量搜索文档
• 开始使用redisvl
• Google Vertexai资源
• 更多的重新AI资源