advanced rag router with amazon bedrock下载 - advanced rag router with amazon bedrock

advanced rag router with amazon bedrock

其他源码

1.0.0

下载

与亚马逊基岩建立高级RAG路由器的助手

该存储库包含代码示例，这些代码将使参与者学习如何使用Amazon Bedrock和Amazon OpenSearch serverless（AOSS）使用基于Amazon Bedrock的基于RAG Router Router的架构（AOSS）来快速构建一个安全的助手，该助手使用最新信息，该助手与用户交流。参与者还将学习该助手将如何使用对话指导的信息检索来响应用户。

概述

亚马逊Bedrock是一项完全管理的服务，可以从领先的AI公司通过单个API访问的高性能基础模型（FMS）以及一套广泛的功能来构建生成的AI应用程序，从而简化开发，同时维护隐私和安全性。

大型语言模型（LLMS）是一种基础模型，可以将自然的Langauge作为输入，具有处理和理解并理解并产生自然语言作为输出的能力。 LLM还可以执行分类，摘要，简化，实体识别等的任务。

LLM通常是离线训练的，其数据在此时间点之前可用。结果，LLM在该日期之后将不知道世界。此外，LLM在非常通用的领域语料库中进行了培训，从而使其对特定领域的任务效果降低。然后，LLM具有幻觉的趋势，即模型产生不正确，荒谬或不实的文本的趋势。使用检索增强发电（RAG）机制可以帮助减轻所有这些问题。抹布架构涉及检索与用户提示符，外部数据源中文本密切匹配的数据，并在发送到LLM之前使用它来增强提示。此提示增强将提供LLM可以用来响应提示的上下文。

当有Mulitple数据源时，需要在执行实际检索之前将Retreival请求路由到适当的数据源。这是一个抹布路由器图案。

该存储库包含代码，可以通过在亚马逊基岩上托管的大型语言模型（LLM）来构建基于高级RAG路由器的助手的过程，并使用Amazon Bedrock的知识库进行矢量化，存储和通过语义搜索检索数据。 Amazon OpenSearch无服务器将用作向量索引。

开始

选择一个用于使用的AWS帐户，并确保在该帐户中创建所有资源。
识别一个AWS区域，该区域具有亚马逊基岩，带有拟人化的Claude 3和Titan Embeddings G1-文本模型。
在该区域中，创建新的或使用您选择的现有Amazon S3桶。确保可以通过AWS CloudFormation读取此存储桶。
创建名为py312_opensearch-py_requests_and_requests-aws4auth.zip的lambda层文件，使用以下过程与步骤3中的同一Amazon S3存储桶上传。
- 在Windows 10或更高版本上：
  1. 确保安装Python 3.12和PIP并将其设置在用户路径变量中。
  2. 下载7-zip并将其安装在C:/Program Files/7-Zip/ 。
  3. 打开Windows命令提示符。
  4. 在其中创建一个新的目录和cd 。
  5. 从该目录的内部运行lambda_layer_file_create.bat。
  6. 这将创建名为py312_opensearch-py_requests_and_requests-aws4auth.zip的lambda层文件。
- 在Linux上：
  1. 确保安装Python 3.12和PIP并将其设置在用户路径变量中。
  2. 打开Linux命令提示符。
  3. 在其中创建一个新的目录和cd 。
  4. 从该目录的内部运行lambda_layer_file_create.sh。
  5. 这将创建名为py312_opensearch-py_requests_and_requests-aws4auth.zip的lambda层文件。
以提供的AWS云形式模板rag-router-cfn.yaml并更新以下参数，
- deploymentArtifactsss3bucketname-将其设置为第3步中的Amazon S3存储桶的名称。
使用更新的模板创建AWS CloudFormation堆栈。
通过浏览Amazon Sagemaker笔记本实例控制台，然后单击名为Rag-Router- Insance的实例上的Open Jupyter链接，打开名为Rag- router.ipynb的Jupyter笔记本。