generative ai falcon 40b instruct notebooks
1.0.0
このリポジトリは、Amazon Sagemaker Jumpstart SDKを使用して大規模な言語モデル(LLMS)をカスタマイズする方法を示す生成AIエンジニアリングノートブックのコレクションを提供します。 Notebooksは、Falconモデルのバリエーションを使用して、次のような基本レベルの推論のカスタマイズを適用する方法を示しています。ノートブックは、展開してフォローしやすいように設計されているため、LLM推論のカスタマイズについて学ぶための優れたリソースになります。
次のAmazon Sagemaker Studioノートブックは、このリポジトリで入手できます。
LLM-Custom-Decoding-Falcon40B-G5.ipynb Amazon Sagemaker JumpStart SDKおよびFalcon-40B-Instructモデルを使用して、さまざまなデコード戦略を使用してテキストを生成する方法を示します。LLM-Custom-Prompting-Falcon40B.ipynb Amazon Sagemaker JumpStart SDKおよびFalcon-40Bモデルを使用して、プロンプトエンジニアリング技術を使用してテキストを生成する方法を示します。LLM-Custom-RAG-Kendra-Falcon40B.ipynb SagemakerとBoto3 SDKを使用して、検索された生成(RAG)パターンを使用してテキストを生成する方法を示します。ノートブックは、Amazon Kendra Enterprise Search Serviceを使用してセマンティック検索を実装しています。テキスト生成に使用される言語モデルは、FALCON-40B-Instructです。Amazon Sagemakerを使用してJupyterノートを開くには、以下の2つのステップを検討してください。
詳細については、貢献を参照してください。
このライブラリは、MIT-0ライセンスに基づいてライセンスされています。ライセンスファイルを参照してください。