抹布模式使企业能够使用LLMS的推理功能,使用其现有模型根据新数据处理和生成响应。抹布促进了周期性的数据更新,而无需进行微调,从而简化了LLMS的集成到业务中。
Enterprise RAG解决方案加速器(GPT-RAG)提供了一种适合企业级部署抹布模式的强大体系结构。它确保基于零值的安全性和负责人的AI,确保可用性,可伸缩性和可审核性。从探索和POC阶段过渡到全面生产和MVP的组织的理想选择。
有关完整的设置和使用详细信息,请参见我们的用户和管理指南。
GPT-rag遵循一个模块化方法,由三个组件组成,每个组件都有一个特定的函数。
数据摄入- 优化了抹布检索步骤的数据块和索引。
编排- 协调流程以检索信息并生成用户响应。它提供了两个选项:功能,使用语义内核函数(默认)和使用Autogen剂。请参阅部署说明,以切换到代理。
App前端- 使用后端用于前端模式来提供可扩展有效的Web界面。
如果您想了解有关抹布模式和gpt-rag架构的更多信息。
抹布模式:什么,为什么?
解决方案体系结构概述
了解如何在没有网络隔离的情况下快速设置方案的基本体系结构。单击链接继续。
使用标准的零值体系结构部署解决方案加速器,并具有预先配置的解决方案设置。无需定制。单击链接继续。
探索使用零值体系结构自定义解决方案加速器部署的选项,从而根据您的需求调整解决方案设置。单击链接继续。
对于那些喜欢完全控制的人,请遵循本详细指南,以零信任体系结构手动设置解决方案加速器。单击链接继续。
本指南将引导您完成企业抹布的部署过程。有两个可用的部署选项,基本体系结构和零信任体系结构。在开始部署之前,请确保您已经准备好了先决条件部分中概述的所有必要工具和服务。
先决条件
**如果您没有在订阅中创建Azure AI服务资源
对于无网络隔离要求的快速演示或概念验证项目,您可以使用其基本体系结构部署加速器。 
部署过程非常简单,只需安装上面提到的先决条件,然后在终端中使用Azure开发人员CLI(AZD)遵循以下四个步骤:
1下载存储库:
azd init -t azure/gpt-rag注意:如果使用基于代理的Autogen编排器,请添加
-b agentic。azd init -t azure/gpt-rag -b agentic
2登录到Azure:
2. Azure开发人员CLI:
azd auth login2.B Azure CLI:
az login3开始构建基础架构和组件部署:
azd up4将源文档添加到对象存储中
将文档上传到存储帐户中的“文档”文件夹。该帐户的名称应从“ strag”开始。这是默认存储帐户,如下图所示。

完毕!基本部署已完成。
建议:添加应用程序身份验证。观看此快速教程以获取逐步指导。
对于更安全和孤立的部署,您可以选择零信任体系结构。该体系结构非常适合高度重视网络隔离和严格的安全性措施的生产环境。

在部署零信任体系结构之前,请确保查看先决条件。重要的是要注意,您只需要node.js和python才能在该过程的第二部分中进行,这将在该体系结构部署期间创建的VM上进行。
部署过程类似于基本体系结构,但还有一些其他步骤。有关部署此选项的详细指南,请参阅以下说明:
1下载存储库
azd init -t azure/gpt-rag注意:如果使用基于代理的Autogen编排器,请添加
-b agentic。azd init -t azure/gpt-rag -b agentic
2启用网络隔离
azd env set AZURE_NETWORK_ISOLATION true 3登录到Azure:
2. Azure开发人员CLI:
azd auth login2.B Azure CLI:
az login4开始构建基础架构和组件部署:
azd provision5接下来,您将使用具有堡垒连接的虚拟机(在步骤4中创建)继续部署。
使用用户gptrag登录创建的VM,并使用存储在密钥vault中的密码进行身份验证,类似于以下图:

6访问Windows后,安装PowerShell,因为其他先决条件已经安装在VM上。
7打开命令提示符并运行以下命令以将AZD更新为最新版本:
choco upgrade azd
更新AZD后,只需关闭并重新打开终端即可。
8创建一个新的目录,例如deploy然后输入创建的目录。
mkdir deploy
cd deploy
要完成该过程,请在命令提示中执行后续命令,以成功完成部署:
azd init -t azure/gpt-rag
azd auth login
azd env refresh
azd package
azd deploy
注意:运行
azd init ...和azd env refresh时,请使用基础结构初始配置中使用的相同环境名称,订阅和区域。
完毕!零信托部署已完成。
建议:添加应用程序身份验证。观看此快速教程以获取逐步指导。
本节提供了快速指南,以自定义,管理和故障排除您的部署。
标准部署过程设置了Azure资源,并使用标准配置部署了加速器组件。要根据您的特定需求量调整部署,请按照自定义部署部分中的步骤进行进一步的自定义选项。
一旦您成功部署了GPT-rag解决方案作为概念证明,就可以使用适当的CI/CD流程正式将部署形式化以加速您的部署到生产中,请参阅Azure Devops或Github的多环境部署指南。
如果在部署过程中遇到任何错误,请查阅故障排除页面以获取有关解决常见问题的指南。
要评估部署的性能,请参阅《测试方法和最佳实践的绩效测试指南》。
了解如何查询和分析对话数据,遵循如何查询和分析对话文档中概述的步骤。
通过审查定价模型以详细定价估算来了解部署的成本影响。
通过遵循治理模型中提供的准则来确保部署的适当治理。
感谢您对为该项目做出贡献的兴趣!有关如何贡献的详细指南,请参阅贡献。
感谢您的支持和贡献!
该项目可能包含用于项目,产品或服务的商标或徽标。 Microsoft商标或徽标的授权使用受到了Microsoft的商标和品牌准则的约束。在此项目的修改版本中使用Microsoft商标或徽标不得引起混乱或暗示Microsoft赞助。任何使用第三方商标或徽标都遵守这些第三方政策。