所有课程都在积极的开发中,并在任何以后的版本中都会受到非兼容的兼容更改或删除。这些不受语义版本控制模型的约束。这意味着,虽然您可以使用它们,但在升级到此软件包的较新版本时,可能需要更新源代码。
AWS生成的AI构造库是AWS云开发套件(AWS CDK)的开源扩展,该扩展提供了多服务,良好的构建模式,以快速定义代码中的解决方案,以创建可预测且可重复的基础架构,称为构造。 AWS生成AI CDK构建体的目的是帮助开发人员使用基于模式的架构定义来构建生成AI解决方案。
AWS生成AI CDK构建体中定义的模式是AWS CDK构建体的高级别的多功能抽象,这些构建体具有基于良好的最佳实践的默认配置。使用面向对象的技术创建每个体系结构模型,将库组织成逻辑模块。
AWS生成的AI CDK构建体和AWS CDK是独立的团队,并且具有不同的发布时间表。 AWS生成AI CDK构建体的每个版本都是根据AWS CDK的特定版本构建的。 ChangElog.md文件列出了与每个AWS生成AI构造版本关联的CDK版本。例如,AWS生成AI CDK构造V0.0.0是针对AWS CDK v2.96.2构建的。这意味着要使用AWS生成AI CDK构造v0.0.0,您的应用程序必须包括AWS CDK v2.96.2或更高版本。您可以继续使用最新的AWS CDK版本,并在新版本可用时升级AWS生成的AI CDK构造版本。
欢迎各种贡献!查看我们的撰稿人指南
如果您想在库中添加新结构,请查看我们的设计指南,然后遵循开发指南
cdk init app --language typescriptnpm install @cdklabs/generative-ai-cdk-constructsimport * as genai from '@cdklabs/generative-ai-cdk-constructs';cdk init app --language pythonpip install cdklabs.generative-ai-cdk-constructsimport cdklabs.generative_ai_cdk_constructscdk init app --language csharpdotnet add package CdkLabs.GenerativeAICdkConstructsusing Cdklabs.GenerativeAiCdkConstructs;cdk init app --language gogo get github.com/cdklabs/generative-ai-cdk-constructs-go/generative-ai-cdk-constructsimport "github.com/cdklabs/generative-ai-cdk-constructs-go/generative-ai-cdk-constructs"注意:GO分发存储库,从源存储库中分发JSII TAR GZPICT版本的源
cdk init app --language javapom.xml中 <dependency>
<groupId>io.github.cdklabs</groupId>
<artifactId>generative-ai-cdk-constructs</artifactId>
<version>Get the latest version and insert it here</version>
</dependency>
有关特定结构的其他指导,请参阅文档:目录
库中可用以下构造:
| 构造 | 描述 | AWS服务使用 |
|---|---|---|
| 数据摄入管道 - 开放搜索 | 摄入管道提供了将文档存储在知识库中的抹布(检索增强生成)源。 | Amazon OpenSearch,AWS步骤功能,Amazon Bedrock,AWS Appsync,AWS lambda |
| 问题回答 | 利用大型语言模型(拟人化的Claude v2.1。)在带有抹布(检索增强生成)源和/或长上下文的PDF文档上回答问题。此外,利用拟人化的Claude 3进行图像回答的视觉问题。 | Amazon OpenSearch,AWS Lambda,Amazon Bedrock,AWS Appsync |
| 摘要 | 使用大语言模型(拟人Claude v2.1)进行文档摘要。 | AWS Lambda,Amazon Bedrock,AWS Appsync和Amazon Elasticache for Redis。 |
| Sagemaker模型部署(Jumpstart) | 将基础模型从亚马逊Sagemaker Jumpstart到Amazon Sagemaker端点。 | 亚马逊射手制造商 |
| Sagemaker模型部署(拥抱面) | 从拥抱脸到亚马逊萨吉人的端点部署基础模型。 | 亚马逊射手制造商 |
| Sagemaker模型部署(自定义) | 将基础模型从S3位置部署到Amazon Sagemaker端点。 | 亚马逊射手制造商 |
| 内容产生 | 使用Amazon-Titan-Image-generator-V1或稳定性从文本中生成图像。稳定 - 扩散-XL-V1模型。 | AWS Lambda,亚马逊基岩,AWS Appsync |
| 亚马逊基岩监视(Amazon CloudWatch仪表板) | Amazon CloudWatch仪表板可监视亚马逊基岩的模型使用情况。 | Amazon CloudWatch |
| TXT到SQL | 利用生成的AI功能来促进基于自然语言的SQL查询产生。 | 亚马逊活动桥,亚马逊基岩,AWS Lambda,Amazon SQS,AWS秘密和选择的数据库 |
| LlamainDEX数据加载 | 使用LlamainDex加载数据,为生成AI工作负载做准备 | 亚马逊ECS Fargate,Amazon SQS和AWS Systems Manager参数 |
| 构造 | 描述 | AWS服务使用 |
|---|---|---|
| lambda层 | Python Lambda层提供了依赖性和实用程序,以开发AWS的生成AI应用程序。 | AWS Lambda,Amazon Bedrock,Amazon Sagemaker |
| 亚马逊基岩 | 亚马逊基岩的CDK L2结构。 | Amazon Bedrock,Amazon OpenSearch无服务器,AWS Lambda |
| Amazon OpenSearch无服务器矢量集合 | CDK L2构造以创建矢量集合。 | Amazon OpenSearch向量索引 |
| Amazon OpenSearch向量索引 | CDK L1自定义资源以创建向量索引。 | Amazon OpenSearch无服务器,AWS lambda |
官方样品存储库包括功能案例实现的集合,以演示AWS生成AI CDK构建体的使用。这些可以与建筑模式相同的方式使用,并且可以概念化为这些模式的其他“高级”抽象。这些模式(构造)组合成堆栈,形成一个“ CDK应用程序”。
| 资源 | 类型 | 描述 |
|---|---|---|
| AWS回复:Invent 2023-与Werner Vogels博士的主题演讲 | 基调 | Amazon.com副总裁和CTO Werner Vogels博士宣布AWS生成的AI CDK在其AWS RE:Invent 2023 Keynote期间宣布。 |
| 研讨会 - 使用CDK在AWS上构建生成AI应用 | 车间 | 在此研讨会中,您将探索如何使用CDK和生成AI CDK构建体在AWS上构建样本生成AI应用程序。 |
| 研讨会 - AWS CDK生成AI构造的动手 | 车间 | 在此研讨会中,您将部署使用此库中CDK构造的项目。项目来自Amazon-Begrock-Samples GitHub存储库。 |
| 使用Amazon Titan Text Premier,Amazon Bedrock和AWS CDK构建生成AI应用程序 | 博客文章 +代码样本 | 博客文章探索构建和部署由Amazon Titan Text Premier提供的两个示例应用程序,使用生成AI CDK构造。 |
| AWS-CDK堆栈构建工具 | 代码样本 | AWS CDK Builder是一种基于浏览器的工具,旨在使用AWS Cloud Development Kit(CDK)简化基础架构作为代码(IAC)项目的引导。 |
| CDK Live!构建生成的AI应用程序和体系结构利用AWS CDK结构! | 视频 | CDK Live!情节旨在使用AWS Cloud开发套件(CDK)和AWS Generative AI CDK构造在AWS上构建和部署生成AI应用程序和架构。 |
| 宣布AWS生成AI CDK构造! | 博客文章 | 博客文章宣布发布AWS Generative AI CDK结构。 |
| 使用Amazon Bedrock使用生成AI的流线保险承销 | 博客文章 +代码样本 | 博客文章和代码示例讨论如何使用AWS生成人工智能(AI)解决方案(例如Amazon Bedrock)来改善承保过程,包括规则验证,承保准则遵守和决策理由。 |
| AWS-genai-llm-chatbot | 代码样本 | 使用AWS CDK在AWS上使用AWS CDK的多模型和多剥离动力聊天机器人,使您可以在自己的AWS帐户中尝试各种大型语言模型以及多模式模型,设置和提示。 |
| 基岩 - 卢克 - 奇特 | 代码样本 | AWS本地聊天机器人使用Bedrock + Claude( + Mistral)。 |
| 亚马逊 - 埃木rag | 代码样本 | 使用Amazon Bedrock的知识库完全管理的RAG解决方案。 |
| 亚马逊基岩多模式搜索 | 代码样本 | 使用亚马逊泰坦多模式嵌入模型构建的多模式产品搜索应用。 |
| 亚马逊基石知识库和私人数据 | 博客文章 +代码样本 | 博客文章和相关的代码示例演示了如何将知识库集成到亚马逊基岩中,以向基础模型提供来自私人数据源的上下文数据。 |
| 使用亚马逊基岩代理商和AI自动执行任务 | 博客文章 +代码样本 | 博客文章和相关的代码样本,演示了如何通过酒店和水疗用案例部署亚马逊基石代理商和知识库。 |
| 亚马逊基岩的代理商 - AWS Lambda的PowerTools(Python) | 代码样本 | 使用活动处理程序和汽车生成OpenAPI模式为亚马逊基岩创建代理商。 |
| 短信给SQL基岩代理商 | 代码样本 | 利用自然语言处理的力量,“对SQL基岩代理商的文本”促进了自然语言问题的自动转换为可执行的SQL查询。 |
生成的AI CDK构造可能会收集匿名操作指标,包括:部署构造的区域,部署的结构的名称和版本以及相关信息。我们可能会使用指标来维护,提供,开发和改善构造和AWS服务。
路线图可通过GitHub项目获得
Apache-2.0
在将本库中的内容用于生产目的之前,您应该考虑进行自己的独立评估。这可能包括(除其他方面)根据您的特定质量控制实践和标准,在本库中提供的CDK结构和其他内容进行测试,保护和优化。
©版权所有Amazon.com,Inc。或其分支机构。版权所有。