gcp redis llm stackダウンロード-GCP gcp redis llm stackソースコードダウンロード

gcp redis llm stack

その他のソースコード

1.0.0

ダウンロード

Redis＆GCP Vertex AIを使用したスケーラブルLLMアーキテクチャ

Google Vertex AIを備えた生成AIには、Googleの強力な言語モデルのインスタンスを展開および管理するために設計されたGeminiの専用API、Gemini専用のPython SDKを備えた専門のIn-Console Studio Experienceが付属しています。

redis Redis Enterpriseは、インデックス作成、管理、燃えるような検索、ハイブリッドフィルタリングのためのAPIを備えた高速でスケーラブルなベクトル検索を提供します。汎用性の高いデータ構造と組み合わせると、Redis Enterpriseは高品質の大手言語モデル（LLM）アプリを構築するための最適なソリューションとして輝きます。

このレポは、RedisおよびGCPサービスを使用してLLMアプリケーションを構築するための基礎アーキテクチャとして機能します。

参照アーキテクチャ

主要なデータソース
データの抽出と読み込み
大きな言語モデル
- 埋め込み用のtext-embedding-gecko@003
- LLMの生成とチャット用のgemini-1.5-flash-001
高性能データレイヤー（REDIS）
- LLMのパフォーマンスと関連するコストを改善するためのセマンティックキャッシュ
- ナレッジベースからのコンテキスト検索のベクトル検索

ラグデモ

Colabノートブックを使用してコードチュートリアルを開き、GCPでRedisとVertex AIで手を汚します。これは、必要なデータをセットアップし、埋め込みを生成し、高速LLMアプリを構築するためにゼロからぼろを構築する段階的なウォークスルーです。 Redis Vector検索とセマンティックキャッシングの強調表示。