generative ai falcon 40b instruct notebooks

大型語言模型自定義筆記本

該存儲庫提供了生成AI工程筆記本的集合，這些筆記本電腦演示瞭如何使用Amazon Sagemaker JumpStart SDK自定義大型語言模型（LLMS）。筆記本顯示使用Falcon模型變體如何應用推理定制的基本級別，例如：解碼策略，提示技術和檢索效果。筆記本旨在易於部署和遵循，使其成為了解LLM推理定制的良好資源。

此存儲庫中可用以下亞馬遜Sagemaker Studio筆記本：

• LLM-Custom-Decoding-Falcon40B-G5.ipynb演示瞭如何使用Amazon SageMaker JumpStart SDK和Falcon-40B-Instruct模型使用不同的解碼策略生成文本。
• LLM-Custom-Prompting-Falcon40B.ipynb演示瞭如何使用Amazon SageMaker JumpStart SDK和Falcon-40B型號使用提示工程技術生成文本。
• LLM-Custom-RAG-Kendra-Falcon40B.ipynb演示瞭如何使用sagemaker和boto3 sdks使用檢索功能增強的生成（RAG）模式生成文本。該筆記本使用Amazon Kendra Enterprise搜索服務實現語義搜索。用於文本生成的語言模型是Falcon-40B-Instruct。

要使用Amazon Sagemaker打開Jupyter筆記本，請考慮以下兩個步驟：

1. 創建或打開Amazon Sagemaker Studio筆記本。
2. 克隆這個Git存儲庫在Amazon Sagemaker Studio中。

安全

有關更多信息，請參見貢獻。

執照

該圖書館已獲得MIT-0許可證的許可。請參閱許可證文件。