amazon bedrock claude3.5 sonnet

Construir el trapo de aplicación de IA generativa con Amazon Aurora y Amazon Bedrock Knowledge Base

Amazon Bedrock es la forma más fácil de construir y escalar aplicaciones de IA generativas con modelos fundamentales (FMS) en AWS. Los FM están capacitados en grandes cantidades de datos, lo que les permite utilizar para responder preguntas sobre una variedad de temas. Sin embargo, si desea utilizar un FM para responder preguntas sobre sus datos privados que ha almacenado en su cubierta de Amazon Simple Storage Storage (Amazon S3) o Amazon Aurora PostgreSQL Compatible Edition Base de datos, debe utilizar una técnica conocida como generación de recuperación de recuperación (RAG) para proporcionar respuestas relevantes para sus clientes.

Arquitectura

Como archivo de prueba, se utiliza el tutorial PDF PostgreSQL.

Requisitos

• Cree una cuenta de AWS si aún no tiene una e inicia sesión. El usuario de IAM que usa debe tener permisos suficientes para realizar llamadas de servicio de AWS necesarias y administrar los recursos de AWS.
• AWS CLI instalada y configurada
• GIT instalado
• Terraform instalado

Instrucciones de configuración de Amazon Bedrock

Debe solicitar acceso a un modelo antes de poder usarlo. Si intenta usar el modelo (con la API o la consola) antes de que haya solicitado acceso a él, recibirá un mensaje de error. Para obtener más información, consulte el acceso al modelo.

1. En la consola AWS, seleccione la región desde la que desea acceder a Amazon Bedrock. Recomendamos utilizar la región US-East-1 (N. Virginia) donde todos los modelos de roca madre están disponibles.

   

2. Encuentra la roca de Amazon buscando en la consola de AWS.

   

3. Expanda el menú lateral y seleccione el acceso al modelo .

   

4. Seleccione el botón Editar .

5. Use las casillas de verificación para seleccionar los modelos que desea habilitar. Esta directriz requiere un texto de Titan Increddings V2 y los modelos de soneto Claude 3.5 . Haga clic en Guardar cambios para activar los modelos en su cuenta. No dude en experimentar con otros modelos si lo desea.

6. Espere hasta que los modelos estén disponibles.

   

Despliegue

1. Cree un nuevo directorio, navegue a ese directorio en un terminal y clone el repositorio de GitHub:

   git clone [email protected]:set-university/genai-workshops.git

2. Cambiar directorio al directorio de patrones:

    cd workshop4

3. Init Terraform:

   terraform init

4. Descargar módulos Terraform:

   terraform get

5. Implementar la infraestructura:

   terraform plan
   terraform apply --auto-approve 

6. Si es necesario, personalice las variables Terraform utilizando el archivo .TFWARS personalizado
7. Espere hasta que se complace. Se necesitan aproximadamente 15 minutos.
8. Después de que se complete la implementación, eche un vistazo a la sección Salidas. Habrá una entrada 'lambda_function_url' que contiene la URL lambda para probar la infraestructura. Copie esa URL como la necesitará para sus pruebas.

Sincronizar la base de conocimiento de roca con la fuente de datos en S3

1. Vaya al servicio Bedrock en la consola de AWS.

2. Haga clic en Bases de conocimiento El elemento del menú de navegación izquierda.

3. Haga clic en la base de conocimiento creada a través de Terraform.

   

4. Seleccione la fuente de datos S3 y haga clic en * Botón Sync .

   

5. Espere la finalización de sincronización (~ 5-10 minutos).

Pruebas

Siga el ejemplo a continuación y reemplace {your-lambda-url} con su URL Lambda del paso 8 de la implementación.

 curl -X POST ' https://{your-lambda-url}/ ' 
   -H ' content-type: application/json ' 
   -d ' { "prompt": "what are the postgres versions?" } '

La respuesta puede parecer de la siguiente manera:

 {"genai_response": "Current PostgreSQL version numbers consist of a major and a minor version number. For example, in version 10.1, 10 is the major version and 1 is the minor version. This indicates it's the first minor release of major version 10.nnFor PostgreSQL versions before 10.0, the version numbers consisted of three numbers, such as 9.5.3. In these cases, the major version is represented by the first two digit groups (e.g., 9.5), and the minor version is the third number (e.g., 3).nnMinor releases are always compatible with earlier and later minor releases of the same major version. For instance, version 10.1 is compatible with 10.0 and 10.6. Similarly, 9.5.3 is compatible with 9.5.0, 9.5.1, and 9.5.6."}

Limpieza

1. Ejecute el comando de destruir Terraform.

   terraform destroy
   # type 'yes' to confirm

2. Espere hasta que la infraestructura de AWS sea destruida (~ 10-15 minutos).

Recursos adicionales

• Recuperar datos y generar respuestas de IA con bases de conocimiento
• Terraform Docs