gcp redis llm stack

Architectures LLM évolutives avec redis & GCP Vertex AI

☁️ L'IA générative avec Google Vertex AI est livrée avec une expérience de studio en console spécialisée, une API dédiée pour les Gémeaux et le SDK Python facile à utiliser conçu pour le déploiement et la gestion des instances de modèles linguistiques puissants de Google.

⚡ Redis Enterprise propose une recherche de vecteurs rapide et évolutive, avec une API pour la création d'index, la gestion, la recherche rapide et le filtrage hybride. Lorsqu'il est associé à ses structures de données polyvalentes - Redis Enterprise brille comme solution optimale pour construire des applications de modèle de grande langue de haute qualité (LLM).

Ce repo sert d'architecture fondamentale pour les applications LLM de construction avec les services redis et GCP.

Architecture de référence

1. Sources de données primaires
2. Extraction et chargement de données
3. Modèles de grande langue
   • text-embedding-gecko@003 pour les intégres
   • gemini-1.5-flash-001 pour la génération et le chat LLM
4. Couche de données haute performance (redis)
   • Cache sémantique pour améliorer les performances LLM et les coûts associés
   • Recherche vectorielle de la récupération de contexte à partir de la base de connaissances

Démo à rag

Ouvrez le tutoriel de code à l'aide du cahier Colab pour vous salir les mains avec Redis et Vertex AI sur GCP. Il s'agit d'une procédure pas à pas étape par étape de la mise en place des données requises, de la génération d'intégration, et de la construction de chiffons à partir de zéro afin de créer des applications LLM rapides; Mettre en évidence Redis Vector Search et la mise en cache sémantique.

Ressources supplémentaires

• Rationaliser l'application d'exemple de chatbot pdf
• Documentation de la recherche vectorielle redis
• Commencez avec Redisvl
• Ressources Google Vertexai
• Plus de ressources redis AI