generative ai falcon 40b instruct notebooks

대형 언어 모델 사용자 정의 노트

이 저장소는 Amazon Sagemaker Jumpstart SDK를 사용하여 LLMS (Lange Language Models)를 사용자 정의하는 방법을 보여주는 생성 AI 엔지니어링 노트북 모음을 제공합니다. 노트북은 Falcon 모델 변형을 사용하여 다음과 같은 기본 수준의 추론 사용자 정의를 적용하는 방법을 보여줍니다 : 디코딩 전략, 프롬프트 기술 및 검색된 생성 세대. 노트북은 배포 및 팔로우가 쉽게 배치 할 수 있도록 설계되었으므로 LLM 추론 사용자 정의에 대한 학습에 적합한 리소스가됩니다.

이 저장소에는 다음과 같은 Amazon Sagemaker Studio Notebook이 제공됩니다.

• LLM-Custom-Decoding-Falcon40B-G5.ipynb Amazon Sagemaker JumpStart SDK 및 Falcon-40B 유도 모델을 사용하여 다양한 디코딩 전략을 사용하여 텍스트를 생성하는 방법을 보여줍니다.
• LLM-Custom-Prompting-Falcon40B.ipynb Amazon Sagemaker Jumpstart SDK 및 Falcon-40B 모델을 사용하여 프롬프트 엔지니어링 기술을 사용하여 텍스트를 생성하는 방법을 보여줍니다.
• LLM-Custom-RAG-Kendra-Falcon40B.ipynb SAGEMAKER 및 BOTO3 SDKS를 사용하여 검색된 생성 (RAG) 패턴을 사용하여 텍스트를 생성하는 방법을 보여줍니다. 노트북은 Amazon Kendra Enterprise Search Service를 사용하여 시맨틱 검색을 구현합니다. 텍스트 생성에 사용되는 언어 모델은 Falcon-40b 비율입니다.

Amazon Sagemaker를 사용하여 Jupyter 노트북을 열려면 아래 두 단계를 고려하십시오.

1. Amazon Sagemaker Studio Notebook을 만들거나 열십시오.
2. Amazon Sagemaker Studio 에서이 Git 저장소를 복제하십시오.

보안

자세한 내용은 기여를 참조하십시오.

특허

이 라이브러리는 MIT-0 라이센스에 따라 라이센스가 부여됩니다. 라이센스 파일을 참조하십시오.