gcp redis llm stack

Redis & GCP Vertex AI를 사용한 확장 가능한 LLM 아키텍처

Google Vertex AI가 포함 된 생성 AI에는 특수 균열 내 스튜디오 경험, Gemini 용 전용 API 및 Google의 강력한 언어 모델 인스턴스를 배포하고 관리하도록 설계된 사용하기 쉬운 Python SDK가 제공됩니다.

Redis Enterprise는 인덱스 생성, 관리, 불타는 검색 및 하이브리드 필터링을위한 API와 함께 빠르고 확장 가능한 벡터 검색을 제공합니다. 다양한 데이터 구조와 결합하면 Redis Enterprise는 고품질 대형 언어 모델 (LLM) 앱을 구축하기위한 최적의 솔루션으로 빛납니다.

이 저장소는 Redis 및 GCP 서비스를 사용하여 LLM 애플리케이션을 구축하기위한 기본 아키텍처 역할을합니다.

참조 아키텍처

1. 기본 데이터 소스
2. 데이터 추출 및 로딩
3. 큰 언어 모델
   • 임베딩에 대한 text-embedding-gecko@003
   • LLM 생성 및 채팅을위한 gemini-1.5-flash-001
4. 고성능 데이터 계층 (REDIS)
   • LLM 성능 및 관련 비용을 개선하기위한 시맨틱 캐싱
   • 벡터 지식 기반에서 컨텍스트 검색을 검색합니다

헝겊 데모

Colab 노트북을 사용하여 코드 자습서를 열어 GCP의 Redis 및 Vertex AI로 손을 더럽 힙니다. 빠른 LLM 앱을 구축하기 위해 필요한 데이터를 설정하고 임베딩을 생성하고 래그를 처음부터 구축하는 단계별 연습입니다. Redis 벡터 검색 및 시맨틱 캐싱 강조.

추가 리소스

• PDF Chatbot 예제 앱을 간소화합니다
• Redis 벡터 검색 문서
• redisvl로 시작하십시오
• Google vertexai 리소스
• 더 많은 Redis AI 리소스