generative ai falcon 40b instruct notebooks

大型语言模型自定义笔记本

该存储库提供了生成AI工程笔记本的集合，这些笔记本电脑演示了如何使用Amazon Sagemaker JumpStart SDK自定义大型语言模型（LLMS）。笔记本显示使用Falcon模型变体如何应用推理定制的基本级别，例如：解码策略，提示技术和检索效果。笔记本旨在易于部署和遵循，使其成为了解LLM推理定制的良好资源。

此存储库中可用以下亚马逊Sagemaker Studio笔记本：

• LLM-Custom-Decoding-Falcon40B-G5.ipynb演示了如何使用Amazon SageMaker JumpStart SDK和Falcon-40B-Instruct模型使用不同的解码策略生成文本。
• LLM-Custom-Prompting-Falcon40B.ipynb演示了如何使用Amazon SageMaker JumpStart SDK和Falcon-40B型号使用提示工程技术生成文本。
• LLM-Custom-RAG-Kendra-Falcon40B.ipynb演示了如何使用sagemaker和boto3 sdks使用检索功能增强的生成（RAG）模式来生成文本。该笔记本使用Amazon Kendra Enterprise搜索服务实现语义搜索。用于文本生成的语言模型是Falcon-40B-Instruct。

要使用Amazon Sagemaker打开Jupyter笔记本，请考虑以下两个步骤：

1. 创建或打开Amazon Sagemaker Studio笔记本。
2. 克隆这个Git存储库在Amazon Sagemaker Studio中。

安全

有关更多信息，请参见贡献。

执照

该图书馆已获得MIT-0许可证的许可。请参阅许可证文件。