所有課程都在積極的開發中,並在任何以後的版本中都會受到非兼容的兼容更改或刪除。這些不受語義版本控制模型的約束。這意味著,雖然您可以使用它們,但在升級到此軟件包的較新版本時,可能需要更新源代碼。
AWS生成的AI構造庫是AWS雲開發套件(AWS CDK)的開源擴展,該擴展提供了多服務,良好的構建模式,以快速定義代碼中的解決方案,以創建可預測且可重複的基礎架構,稱為構造。 AWS生成AI CDK構建體的目的是幫助開發人員使用基於模式的架構定義來構建生成AI解決方案。
AWS生成AI CDK構建體中定義的模式是AWS CDK構建體的高級別的多功能抽象,這些構建體具有基於良好的最佳實踐的默認配置。使用面向對象的技術創建每個體系結構模型,將庫組織成邏輯模塊。
AWS生成的AI CDK構建體和AWS CDK是獨立的團隊,並且具有不同的發佈時間表。 AWS生成AI CDK構建體的每個版本都是根據AWS CDK的特定版本構建的。 ChangElog.md文件列出了與每個AWS生成AI構造版本關聯的CDK版本。例如,AWS生成AI CDK構造V0.0.0是針對AWS CDK v2.96.2構建的。這意味著要使用AWS生成AI CDK構造v0.0.0,您的應用程序必須包括AWS CDK v2.96.2或更高版本。您可以繼續使用最新的AWS CDK版本,並在新版本可用時升級AWS生成的AI CDK構造版本。
歡迎各種貢獻!查看我們的撰稿人指南
如果您想在庫中添加新結構,請查看我們的設計指南,然後遵循開髮指南
cdk init app --language typescriptnpm install @cdklabs/generative-ai-cdk-constructsimport * as genai from '@cdklabs/generative-ai-cdk-constructs';cdk init app --language pythonpip install cdklabs.generative-ai-cdk-constructsimport cdklabs.generative_ai_cdk_constructscdk init app --language csharpdotnet add package CdkLabs.GenerativeAICdkConstructsusing Cdklabs.GenerativeAiCdkConstructs;cdk init app --language gogo get github.com/cdklabs/generative-ai-cdk-constructs-go/generative-ai-cdk-constructsimport "github.com/cdklabs/generative-ai-cdk-constructs-go/generative-ai-cdk-constructs"注意:GO分發存儲庫,從源存儲庫中分發JSII TAR GZPICT版本的源
cdk init app --language javapom.xml中 <dependency>
<groupId>io.github.cdklabs</groupId>
<artifactId>generative-ai-cdk-constructs</artifactId>
<version>Get the latest version and insert it here</version>
</dependency>
有關特定結構的其他指導,請參閱文檔:目錄
庫中可用以下構造:
| 構造 | 描述 | AWS服務使用 |
|---|---|---|
| 數據攝入管道 - 開放搜索 | 攝入管道提供了將文檔存儲在知識庫中的抹布(檢索增強生成)源。 | Amazon OpenSearch,AWS步驟功能,Amazon Bedrock,AWS Appsync,AWS lambda |
| 問題回答 | 利用大型語言模型(擬人化的Claude v2.1。)在帶有抹布(檢索增強生成)源和/或長上下文的PDF文檔上回答問題。此外,利用擬人化的Claude 3進行圖像回答的視覺問題。 | Amazon OpenSearch,AWS Lambda,Amazon Bedrock,AWS Appsync |
| 摘要 | 使用大語言模型(擬人Claude v2.1)進行文檔摘要。 | AWS Lambda,Amazon Bedrock,AWS Appsync和Amazon Elasticache for Redis。 |
| Sagemaker模型部署(Jumpstart) | 將基礎模型從亞馬遜Sagemaker Jumpstart到Amazon Sagemaker端點。 | 亞馬遜射手製造商 |
| Sagemaker模型部署(擁抱面) | 從擁抱臉到亞馬遜薩吉人的端點部署基礎模型。 | 亞馬遜射手製造商 |
| Sagemaker模型部署(自定義) | 將基礎模型從S3位置部署到Amazon Sagemaker端點。 | 亞馬遜射手製造商 |
| 內容產生 | 使用Amazon-Titan-Image-generator-V1或穩定性從文本中生成圖像。穩定 - 擴散-XL-V1模型。 | AWS Lambda,亞馬遜基岩,AWS Appsync |
| 亞馬遜基岩監視(Amazon CloudWatch儀表板) | Amazon CloudWatch儀表板可監視亞馬遜基岩的模型使用情況。 | Amazon CloudWatch |
| TXT到SQL | 利用生成的AI功能來促進基於自然語言的SQL查詢產生。 | 亞馬遜活動橋,亞馬遜基岩,AWS Lambda,Amazon SQS,AWS秘密和選擇的數據庫 |
| LlamainDEX數據加載 | 使用LlamainDex加載數據,為生成AI工作負載做準備 | 亞馬遜ECS Fargate,Amazon SQS和AWS Systems Manager參數 |
| 構造 | 描述 | AWS服務使用 |
|---|---|---|
| lambda層 | Python Lambda層提供依賴性和實用程序,以開發AWS的生成AI應用程序。 | AWS Lambda,Amazon Bedrock,Amazon Sagemaker |
| 亞馬遜基岩 | 亞馬遜基岩的CDK L2結構。 | Amazon Bedrock,Amazon OpenSearch無服務器,AWS Lambda |
| Amazon OpenSearch無服務器矢量集合 | CDK L2構造以創建矢量集合。 | Amazon OpenSearch向量索引 |
| Amazon OpenSearch向量索引 | CDK L1自定義資源以創建向量索引。 | Amazon OpenSearch無服務器,AWS lambda |
官方樣品存儲庫包括功能案例實現的集合,以演示AWS生成AI CDK構建體的使用。這些可以與建築模式相同的方式使用,並且可以概念化為這些模式的其他“高級”抽象。這些模式(構造)組合成堆棧,形成一個“ CDK應用程序”。
| 資源 | 類型 | 描述 |
|---|---|---|
| AWS回复:Invent 2023-與Werner Vogels博士的主題演講 | 基調 | Amazon.com副總裁和CTO Werner Vogels博士宣布AWS生成的AI CDK在其AWS RE:Invent 2023 Keynote期間宣布。 |
| 研討會 - 使用CDK在AWS上構建生成AI應用 | 車間 | 在此研討會中,您將探索如何使用CDK和生成AI CDK構建體在AWS上構建樣本生成AI應用程序。 |
| 研討會 - AWS CDK生成AI構造的動手 | 車間 | 在此研討會中,您將部署使用此庫中CDK構造的項目。項目來自Amazon-Begrock-Samples GitHub存儲庫。 |
| 使用Amazon Titan Text Premier,Amazon Bedrock和AWS CDK構建生成AI應用程序 | 博客文章 +代碼樣本 | 博客文章探索構建和部署由Amazon Titan Text Premier提供的兩個示例應用程序,使用生成AI CDK構造。 |
| AWS-CDK堆棧構建工具 | 代碼樣本 | AWS CDK Builder是一種基於瀏覽器的工具,旨在使用AWS Cloud Development Kit(CDK)簡化基礎架構作為代碼(IAC)項目的引導。 |
| CDK Live!構建生成的AI應用程序和體系結構利用AWS CDK結構! | 影片 | CDK Live!情節旨在使用AWS Cloud開發套件(CDK)和AWS Generative AI CDK構造在AWS上構建和部署生成AI應用程序和架構。 |
| 宣布AWS生成AI CDK構造! | 博客文章 | 博客文章宣布發布AWS Generative AI CDK結構。 |
| 使用Amazon Bedrock使用生成AI的流線保險承銷 | 博客文章 +代碼樣本 | 博客文章和代碼示例討論如何使用AWS生成人工智能(AI)解決方案(例如Amazon Bedrock)來改善承保過程,包括規則驗證,承保准則遵守和決策理由。 |
| AWS-genai-llm-chatbot | 代碼樣本 | 使用AWS CDK在AWS上使用AWS CDK的多模型和多剝離動力聊天機器人,使您可以在自己的AWS帳戶中嘗試各種大型語言模型以及多模式模型,設置和提示。 |
| 基岩 - 盧克 - 奇特 | 代碼樣本 | AWS本地聊天機器人使用Bedrock + Claude( + Mistral)。 |
| 亞馬遜 - 埃木rag | 代碼樣本 | 使用Amazon Bedrock的知識庫完全管理的RAG解決方案。 |
| 亞馬遜基岩多模式搜索 | 代碼樣本 | 使用亞馬遜泰坦多模式嵌入模型構建的多模式產品搜索應用。 |
| 亞馬遜基石知識庫和私人數據 | 博客文章 +代碼樣本 | 博客文章和相關的代碼示例演示瞭如何將知識庫集成到亞馬遜基岩中,以向基礎模型提供來自私人數據源的上下文數據。 |
| 使用亞馬遜基岩代理商和AI自動執行任務 | 博客文章 +代碼樣本 | 博客文章和相關的代碼樣本,演示瞭如何通過酒店和水療用案例部署亞馬遜基石代理商和知識庫。 |
| 亞馬遜基岩的代理商 - AWS Lambda的PowerTools(Python) | 代碼樣本 | 使用活動處理程序和汽車生成OpenAPI模式為亞馬遜基岩創建代理商。 |
| 短信給SQL基岩代理商 | 代碼樣本 | 利用自然語言處理的力量,“對SQL基岩代理商的文本”促進了自然語言問題的自動轉換為可執行的SQL查詢。 |
生成的AI CDK構造可能會收集匿名操作指標,包括:部署構造的區域,部署的結構的名稱和版本以及相關信息。我們可能會使用指標來維護,提供,開發和改善構造和AWS服務。
路線圖可通過GitHub項目獲得
Apache-2.0
在將本庫中的內容用於生產目的之前,您應該考慮進行自己的獨立評估。這可能包括(除其他方面)根據您的特定質量控制實踐和標準,在本庫中提供的CDK結構和其他內容進行測試,保護和優化。
©版權所有Amazon.com,Inc。或其分支機構。版權所有。