gcp redis llm stack

Arquiteturas Scalable LLM com Redis & GCP Vertex AI

AI A IA generativa com o Google Vertex AI vem com uma experiência especializada em estúdio em console, uma API dedicada para Gêmeos e Python SDK fácil de usar, projetado para implantar e gerenciar instâncias dos poderosos modelos de idiomas do Google.

⚡ A Redis Enterprise oferece pesquisa vetorial rápida e escalável, com uma API para criação de índices, gerenciamento, pesquisa de chamas e filtragem híbrida. Quando acoplado às suas versáteis estruturas de dados - a Redis Enterprise brilha como a solução ideal para a criação de aplicativos de modelo de grande linguagem de alta qualidade (LLM).

Este repo serve como uma arquitetura fundamental para a construção de aplicativos LLM com serviços Redis e GCP.

Arquitetura de referência

1. Fontes de dados primárias
2. Extração de dados e carregamento
3. Grandes modelos de linguagem
   • text-embedding-gecko@003 para incorporação
   • gemini-1.5-flash-001 para geração LLM e bate-papo
4. Camada de dados de alto desempenho (Redis)
   • Cache semântico para melhorar o desempenho do LLM e os custos associados
   • Pesquisa de vetor

Demonstração de trapos

Abra o tutorial de código usando o notebook Colab para sujar as mãos com Redis e Vertex AI no GCP. É um passo a passo passo a passo de configurar os dados necessários e gerar incorporações e construir pano a partir do zero para criar aplicativos Fast LLM; destacando a busca do vetor Redis e o cache semântico.

Recursos adicionais

• Aplicativo de exemplo de chatbot de streamlit pdf
• Documentação de Pesquisa de Vector Redis
• Comece com Redisvl
• Recursos do Google Vertexai
• Mais Redis AI Resources