amazon bedrock claude3.5 sonnet

Построение генеративного приложения для искусственного искусства с базой знаний Amazon Aurora и Amazon Bedrock

Amazon Bedrock - самый простой способ создать и масштабировать генеративные приложения ИИ с фундаментальными моделями (FMS) на AWS. FM обучаются на огромных количествах данных, позволяя им использовать их для ответа на вопросы по различным предметам. Однако, если вы хотите использовать FM, чтобы ответить на вопросы о ваших личных данных, которые вы сохранили в базе данных Amazon Smerive Service Service (Amazon S3) или Amazon Aurora PostgresQL, вам необходимо использовать технику, известную как получение Augmented Generation (RAG), чтобы предоставить соответствующие ответы для ваших клиентов.

Архитектура

В качестве тестового файла используется учебник PostgreSQL PDF.

Требования

• Создайте учетную запись AWS, если у вас его еще нет, и войти в систему. Пользователь IAM, который вы используете, должны иметь достаточные разрешения для совершения необходимых сервисных вызовов AWS и управления ресурсами AWS.
• AWS CLI установлен и настроен
• Git установлен
• Терраформ установлен

Инструкции по настройке коренных пород Amazon

Вы должны запросить доступ к модели, прежде чем вы сможете ее использовать. Если вы попытаетесь использовать модель (с API или консолью), прежде чем запрашивать доступ к ней, вы получите сообщение об ошибке. Для получения дополнительной информации см. Модель доступа.

1. В консоли AWS выберите регион, из которого вы хотите получить доступ к Bedrock Amazon. Мы рекомендуем использовать регион США-Восточной 1 (Н. Вирджиния), где доступны все модели коренных пород.

   

2. Найдите Amazon Bendrock , найдя в консоли AWS.

   

3. Разверните боковое меню и выберите доступ модели .

   

4. Выберите кнопку «Редактировать» .

5. Используйте флажки, чтобы выбрать модели, которые вы хотите включить. Это руководство требует моделей Titan Text Enterdings V2 и Claude 3.5 Sonnet Models. Нажмите «Сохранить изменения» , чтобы активировать модели в вашей учетной записи. Пожалуйста, не стесняйтесь экспериментировать с другими моделями, если хотите.

6. Подождите, пока модели станут доступны.

   

Развертывание

1. Создайте новый каталог, перейдите к этому каталогу в терминале и клонируйте репозиторий GitHub:

   git clone [email protected]:set-university/genai-workshops.git

2. Изменить каталог в каталог шаблонов:

    cd workshop4

3. Init terraform:

   terraform init

4. Скачать модули Terraform:

   terraform get

5. Развернуть инфраструктуру:

   terraform plan
   terraform apply --auto-approve 

6. При необходимости настраивайте переменные терраформ с использованием пользовательского файла .tfwars
7. Подождите, пока это не будет оценено. Это занимает приблизительно 15 минут.
8. После завершения развертывания взгляните на раздел выходов. Там будет запись «rambda_function_url», содержащая URL Lambda для проверки инфраструктуры. Скопируйте этот URL, так как он вам понадобится для ваших тестов.

Синхронизируйте базу знаний о коренных породах с датой данных в S3

1. Перейти на сервис в консоли AWS.

2. Нажмите «Основы знаний», левый пункт меню NAV.

3. Нажмите на базу знаний, созданную через Terraform.

   

4. Выберите источник данных S3 и нажмите кнопку синхронизации .

   

5. Дождитесь завершения синхронизации (~ 5-10 минут).

Тестирование

Следуйте примеру ниже и замените {your-lambda-url} на ваш URL Lambda с шага 8 развертывания.

 curl -X POST ' https://{your-lambda-url}/ ' 
   -H ' content-type: application/json ' 
   -d ' { "prompt": "what are the postgres versions?" } '

Ответ может выглядеть следующим образом:

 {"genai_response": "Current PostgreSQL version numbers consist of a major and a minor version number. For example, in version 10.1, 10 is the major version and 1 is the minor version. This indicates it's the first minor release of major version 10.nnFor PostgreSQL versions before 10.0, the version numbers consisted of three numbers, such as 9.5.3. In these cases, the major version is represented by the first two digit groups (e.g., 9.5), and the minor version is the third number (e.g., 3).nnMinor releases are always compatible with earlier and later minor releases of the same major version. For instance, version 10.1 is compatible with 10.0 and 10.6. Similarly, 9.5.3 is compatible with 9.5.0, 9.5.1, and 9.5.6."}

Уборка

1. Запустить команду Terraform Drousm.

   terraform destroy
   # type 'yes' to confirm

2. Подождите, пока инфраструктура AWS не будет уничтожена (~ 10-15 минут).

Дополнительные ресурсы

• Получить данные и генерировать ответы ИИ с базами знаний
• Terraform Docs