gcp redis llm stack

Skalierbare LLM -Architekturen mit Redis & GCP -Vertex AI

☁️ Generative KI mit Google Vertex AI verfügt über ein spezialisiertes In-Console-Studio-Erlebnis, eine dedizierte API für Gemini und benutzerfreundliche Python-SDK, die für die Bereitstellung und Verwaltung von Instanzen von Google-leistungsstarken Sprachmodellen entwickelt wurde.

⚡ Redis Enterprise bietet eine schnelle und skalierbare Vektorsuche mit einer API für die Erstellung von Index, das Management, die fließende Suche und die Hybridfilterung. In Verbindung mit seinen vielseitigen Datenstrukturen - Redis Enterprise, leuchtet die optimale Lösung für den Aufbau hochwertiger großer großer Sprachmodell (LLM) -Apps.

Dieses Repo dient als grundlegende Architektur für den Bau von LLM -Anwendungen mit REDIS- und GCP -Diensten.

Referenzarchitektur

1. Primärdatenquellen
2. Datenextraktion und -belastung
3. Großsprachige Modelle
   • text-embedding-gecko@003 für Einbettung
   • gemini-1.5-flash-001 für LLM-Generation und Chat
4. Hochleistungsdatenschicht (Redis)
   • Semantisches Caching zur Verbesserung der LLM -Leistung und der damit verbundenen Kosten
   • Vektorsuche nach Kontextabruf von Wissensbasis

Lagdemo

Öffnen Sie das Code -Tutorial mit dem Colab -Notizbuch, um Ihre Hände mit Redis und Scheitelpunkt AI auf GCP schmutzig zu machen. Es handelt sich um eine Schritt-für-Schritt-Vorgehensweise beim Einrichten der erforderlichen Daten und der Erzeugung von Einbettungen und dem Erstellen von Lappen von Grund auf, um schnelle LLM-Apps zu erstellen. Hervorhebung der Redis -Vektor -Suche und semantisches Caching.

Zusätzliche Ressourcen

• PDF -Chatbot -Beispiel -App streamlit
• Redis -Vektor -Suchdokumentation
• Beginnen Sie mit Redisvl
• Google Vertexai -Ressourcen
• Weitere Redis -AI -Ressourcen