GPT RAG

抹布模式使企業能夠使用LLMS的推理功能，使用其現有模型根據新數據處理和生成響應。抹布促進了周期性的數據更新，而無需進行微調，從而簡化了LLMS的集成到業務中。

Enterprise RAG解決方案加速器（GPT-RAG）提供了一種適合企業級部署抹布模式的強大體系結構。它確保基於零值的安全性和負責人的AI，確保可用性，可伸縮性和可審核性。從探索和POC階段過渡到全面生產和MVP的組織的理想選擇。

有關完整的設置和使用詳細信息，請參見我們的用戶和管理指南。

應用程序組件

GPT-rag遵循一個模塊化方法，由三個組件組成，每個組件都有一個特定的函數。

• 數據攝入- 優化了抹布檢索步驟的數據塊和索引。

• 編排- 協調流程以檢索信息並生成用戶響應。它提供了兩個選項：功能，使用語義內核函數（默認）和使用Autogen劑。請參閱部署說明，以切換到代理。

• App前端- 使用後端用於前端模式來提供可擴展有效的Web界面。

概念

如果您想了解有關抹布模式和gpt-rag架構的更多信息。

• 抹布模式：什麼，為什麼？

• 解決方案體系結構概述

• Enterprise Rag+及時工程+Finetuning+火車（西班牙語視頻）

設置指南

1. 基本體系結構部署：對於沒有網絡隔離的快速演示

了解如何在沒有網絡隔離的情況下快速設置方案的基本體系結構。單擊鏈接繼續。

2. 標準零值架構部署：最快的零值部署選項⚡

使用標準的零值體系結構部署解決方案加速器，並具有預先配置的解決方案設置。無需定制。單擊鏈接繼續。

3. 自定義零值架構設置：大多數使用

探索使用零值體系結構自定義解決方案加速器部署的選項，從而根據您的需求調整解決方案設置。單擊鏈接繼續。

4. 分步手冊設置：零信任體系結構：動手方法**

對於那些喜歡完全控制的人，請遵循本詳細指南，以零信任體系結構手動設置解決方案加速器。單擊鏈接繼續。

入門

本指南將引導您完成企業抹布的部署過程。有兩個可用的部署選項，基本體系結構和零信任體系結構。在開始部署之前，請確保您已經準備好了先決條件部分中概述的所有必要工具和服務。

先決條件

• Azure開發人員CLI：為Windows下載AZD，其他操作系統。
• 使用AZ模塊的PowerShell 7+（僅Windows）：PowerShell，AZ模塊
• git：下載git
• Node.js 16+ Windows/Mac Linux/WSL
• Python 3.11：下載Python
• 啟動Azure AI服務創建並同意負責的AI條款**

**如果您沒有在訂閱中創建Azure AI服務資源

基本體系結構部署

對於無網絡隔離要求的快速演示或概念驗證項目，您可以使用其基本體系結構部署加速器。

部署過程非常簡單，只需安裝上面提到的先決條件，然後在終端中使用Azure開發人員CLI（AZD）遵循以下四個步驟：

1下載存儲庫：

azd init -t azure/gpt-rag

注意：如果使用基於代理的Autogen編排器，請添加-b agentic 。

azd init -t azure/gpt-rag -b agentic

2登錄到Azure：

2. Azure開發人員CLI：

azd auth login

2.B Azure CLI：

az login

3開始構建基礎架構和組件部署：

azd up

4將源文檔添加到對象存儲中

將文檔上傳到存儲帳戶中的“文檔”文件夾。該帳戶的名稱應從“ strag”開始。這是默認存儲帳戶，如下圖所示。

完畢！基本部署已完成。

建議：添加應用程序身份驗證。觀看此快速教程以獲取逐步指導。

零信任架構部署

對於更安全和孤立的部署，您可以選擇零信任體系結構。該體系結構非常適合高度重視網絡隔離和嚴格的安全性措施的生產環境。

在部署零信任體系結構之前，請確保查看先決條件。重要的是要注意，您只需要node.js和python才能在該過程的第二部分中進行，這將在該體系結構部署期間創建的VM上進行。

部署過程類似於基本體系結構，但還有一些其他步驟。有關部署此選項的詳細指南，請參閱以下說明：

1下載存儲庫

azd init -t azure/gpt-rag

注意：如果使用基於代理的Autogen編排器，請添加-b agentic 。

azd init -t azure/gpt-rag -b agentic

2啟用網絡隔離

azd env set AZURE_NETWORK_ISOLATION true  

3登錄到Azure：

2. Azure開發人員CLI：

azd auth login

2.B Azure CLI：

az login

4開始構建基礎架構和組件部署：

azd provision

5接下來，您將使用具有堡壘連接的虛擬機（在步驟4中創建）繼續部署。

使用用戶gptrag登錄創建的VM，並使用存儲在密鑰vault中的密碼進行身份驗證，類似於以下圖：

6訪問Windows後，安裝PowerShell，因為其他先決條件已經安裝在VM上。

7打開命令提示符並運行以下命令以將AZD更新為最新版本：

 choco upgrade azd  

更新AZD後，只需關閉並重新打開終端即可。

8創建一個新的目錄，例如deploy然後輸入創建的目錄。

 mkdir deploy  
cd deploy  

要完成該過程，請在命令提示中執行後續命令，以成功完成部署：

 azd init -t azure/gpt-rag  
azd auth login   
azd env refresh  
azd package  
azd deploy  

注意：運行azd init ...和azd env refresh時，請使用基礎結構初始配置中使用的相同環境名稱，訂閱和區域。

完畢！零信託部署已完成。

建議：添加應用程序身份驗證。觀看此快速教程以獲取逐步指導。

怎麼辦？

本節提供了快速指南，以自定義，管理和故障排除您的部署。

自定義您的部署

標準部署過程設置了Azure資源，並使用標準配置部署了加速器組件。要根據您的特定需求量調整部署，請按照自定義部署部分中的步驟進行進一步的自定義選項。

多環境部署

一旦您成功部署了GPT-rag解決方案作為概念證明，就可以使用適當的CI/CD流程正式將部署形式化以加速您的部署到生產中，請參閱Azure Devops或Github的多環境部署指南。

解決部署問題

如果在部署過程中遇到任何錯誤，請查閱故障排除頁面以獲取有關解決常見問題的指南。

評估性能

要評估部署的性能，請參閱《測試方法和最佳實踐的績效測試指南》。

查詢對話歷史記錄

了解如何查詢和分析對話數據，遵循如何查詢和分析對話文檔中概述的步驟。

估計定價

通過審查定價模型以詳細定價估算來了解部署的成本影響。

管理治理

通過遵循治理模型中提供的準則來確保部署的適當治理。

企業抹布社區

• Discord Channel Enterprise抹布 - 連接社區

貢獻

感謝您對為該項目做出貢獻的興趣！有關如何貢獻的詳細指南，請參閱貢獻。

感謝您的支持和貢獻！

商標

該項目可能包含用於項目，產品或服務的商標或徽標。 Microsoft商標或徽標的授權使用受到了Microsoft的商標和品牌準則的約束。在此項目的修改版本中使用Microsoft商標或徽標不得引起混亂或暗示Microsoft贊助。任何使用第三方商標或徽標都遵守這些第三方政策。