gcp redis llm stack

Arquitecturas LLM escalables con Redis & GCP Vertex AI

☁️ AI generativo con Google Vertex AI viene con una experiencia de estudio especializada en consolas, una API dedicada para Gemini y Python SDK fácil de usar diseñado para implementar y administrar instancias de los potentes modelos de idiomas de Google.

⚡ Redis Enterprise ofrece una búsqueda vectorial rápida y escalable, con una API para la creación de índices, la gestión, la búsqueda de rápido rápido y el filtrado híbrido. Cuando se combina con sus estructuras de datos versátiles, Redis Enterprise brilla como la solución óptima para construir aplicaciones de modelos de lenguaje grande de alta calidad (LLM).

Este repositorio sirve como arquitectura fundamental para la construcción de aplicaciones LLM con servicios Redis y GCP.

Arquitectura de referencia

1. Fuentes de datos primarias
2. Extracción de datos y carga
3. Modelos de idiomas grandes
   • text-embedding-gecko@003 para incrustaciones
   • gemini-1.5-flash-001 para la generación y chat de LLM
4. Capa de datos de alto rendimiento (Redis)
   • Garante en caché semántico para mejorar el rendimiento de LLM y los costos asociados
   • Búsqueda vectorial de recuperación de contexto de la base de conocimiento

Demostración de trapo

Abra el tutorial de código usando el cuaderno Colab para ensuciarse las manos con Redis y Vertex Ai en GCP. Es un tutorial paso a paso de configurar los datos requeridos y la generación de incrustaciones, y construir trapo desde cero para construir aplicaciones LLM rápidas; Destacando la búsqueda de vectores de Redis y el almacenamiento en caché semántico.

Recursos adicionales

• Aplicación de ejemplo de chatbot de chatbot a optación
• Documentación de búsqueda de Redis Vector
• Empiece con Redisvl
• Recursos de Google Vertexai
• Más recursos de Redis AI