amazon bedrock claude3.5 sonnet

與Amazon Aurora和Amazon Bedrock知識庫建築生成的AI應用程序抹布

亞馬遜基石是AWS上使用基礎模型（FMS）構建和擴展生成AI應用程序的最簡單方法。對FMS進行了大量數據的培訓，從而可以用來回答有關各種主題的問題。但是，如果您想使用FM回答有關您存儲在亞馬遜簡單存儲服務（Amazon S3）存儲桶或Amazon Aurora PostgreSQL兼容版數據庫中的有關私人數據的問題，則需要使用一種稱為檢索增強發電的技術（RAG）來為您的客戶提供相關答案。

建築學

作為測試文件，使用PostgreSQL PDF教程。

要求

• 如果您尚未擁有一個AWS帳戶並登錄。您使用的IAM用戶必須具有足夠的權限來進行必要的AWS服務調用並管理AWS資源。
• AWS CLI已安裝和配置
• 安裝了git
• 安裝了Terraform

亞馬遜基岩設置說明

您必須在使用模型之前請求訪問模型。如果您嘗試在請求訪問該模型之前使用該模型（使用API​​或控制台），則會收到錯誤消息。有關更多信息，請參見模型訪問。

1. 在AWS控制台中，選擇要訪問亞馬遜基岩的區域。我們建議使用所有基岩型號可用的US-EAST-1（N. Virginia）地區。

   

2. 通過在AWS控制台中搜索來查找亞馬遜基岩。

   

3. 展開側菜單，然後選擇模型訪問。

   

4. 選擇“編輯”按鈕。

5. 使用複選框選擇要啟用的型號。該指南需要Titan Text Embeddings V2和Claude 3.5十四行詩模型。單擊“保存更改”以激活您帳戶中的模型。如果您願意，請隨時嘗試其他型號。

6. 等到模型可用。

   

部署

1. 創建一個新的目錄，在終端中導航到該目錄，然後克隆GitHub存儲庫：

   git clone [email protected]:set-university/genai-workshops.git

2. 將目錄更改為模式目錄：

    cd workshop4

3. Init Terraform：

   terraform init

4. 下載Terraform模塊：

   terraform get

5. 部署基礎架構：

   terraform plan
   terraform apply --auto-approve 

6. 如果需要，請使用自定義.TFWARS自定義Terraform變量
7. 等到被批准。大約需要15分鐘。
8. 部署完成後，查看輸出部分。將有“ lambda_function_url”條目，其中包含lambda URL來測試基礎架構。複製該URL，因為您需要它進行測試。

將基岩知識庫與S3中的數據源同步

1. 在AWS控制台中前往基岩服務。

2. 單擊知識庫左導航菜單項。

3. 單擊通過Terraform創建的知識庫。

   

4. 選擇S3數據源，然後單擊 *同步按鈕。

   

5. 等待同步完成（〜5-10分鐘）。

測試

請按照下面的示例，然後用lambda URL替換{your-lambda-url}從部署的步驟8中替換。

 curl -X POST ' https://{your-lambda-url}/ ' 
   -H ' content-type: application/json ' 
   -d ' { "prompt": "what are the postgres versions?" } '

響應看起來如下：

 {"genai_response": "Current PostgreSQL version numbers consist of a major and a minor version number. For example, in version 10.1, 10 is the major version and 1 is the minor version. This indicates it's the first minor release of major version 10.nnFor PostgreSQL versions before 10.0, the version numbers consisted of three numbers, such as 9.5.3. In these cases, the major version is represented by the first two digit groups (e.g., 9.5), and the minor version is the third number (e.g., 3).nnMinor releases are always compatible with earlier and later minor releases of the same major version. For instance, version 10.1 is compatible with 10.0 and 10.6. Similarly, 9.5.3 is compatible with 9.5.0, 9.5.1, and 9.5.6."}

清理

1. 運行Terraform Destroy命令。

   terraform destroy
   # type 'yes' to confirm

2. 等到AWS基礎設施將被銷毀（〜10-15分鐘）。

額外的資源

• 檢索數據並通過知識庫生成AI響應
• Terraform文檔