amazon bedrock claude3.5 sonnet

Membangun Aplikasi AI Generatif Rag dengan Amazon Aurora dan Amazon Bedrock Knowledge Base

Amazon Bedrock adalah cara termudah untuk membangun dan mengukur aplikasi AI generatif dengan model dasar (FM) di AWS. FMS dilatih tentang data dalam jumlah besar, memungkinkan mereka digunakan untuk menjawab pertanyaan tentang berbagai subjek. Namun, jika Anda ingin menggunakan FM untuk menjawab pertanyaan tentang data pribadi Anda yang telah Anda simpan di Amazon Simple Storage Service (Amazon S3) ember atau Amazon Aurora Postgreeval Compatible Database, Anda perlu menggunakan teknik yang dikenal sebagai Retrieval Augmented Generation (RAGE) untuk memberikan jawaban yang relevan bagi pelanggan Anda.

Arsitektur

Sebagai file uji, tutorial PostgreSQL PDF digunakan.

Persyaratan

• Buat akun AWS jika Anda belum memiliki satu dan masuk. Pengguna IAM yang Anda gunakan harus memiliki izin yang cukup untuk membuat panggilan layanan AWS yang diperlukan dan mengelola sumber daya AWS.
• AWS CLI diinstal dan dikonfigurasi
• Git terpasang
• Terraform terpasang

Instruksi Pengaturan Amazon Bedrock

Anda harus meminta akses ke model sebelum Anda dapat menggunakannya. Jika Anda mencoba menggunakan model (dengan API atau konsol) sebelum Anda meminta akses ke sana, Anda menerima pesan kesalahan. Untuk informasi lebih lanjut, lihat Model Access.

1. Di konsol AWS, pilih wilayah tempat Anda ingin mengakses Amazon Bedrock. Kami merekomendasikan untuk menggunakan wilayah US-East-1 (N. Virginia) di mana semua model Bedrock tersedia.

   

2. Temukan Amazon Bedrock dengan mencari di konsol AWS.

   

3. Perluas menu samping dan pilih Model Access .

   

4. Pilih tombol Edit .

5. Gunakan kotak centang untuk memilih model yang ingin Anda aktifkan. Pedoman ini memerlukan model Titan Text Embeddings V2 dan Claude 3.5 Sonnet . Klik Simpan Perubahan untuk mengaktifkan model di akun Anda. Silakan bereksperimen dengan model lain jika Anda mau.

6. Tunggu sampai model tersedia.

   

Penyebaran

1. Buat direktori baru, navigasikan ke direktori itu di terminal dan klon repositori github:

   git clone [email protected]:set-university/genai-workshops.git

2. Ubah direktori ke direktori pola:

    cd workshop4

3. Init terraform:

   terraform init

4. Unduh Modul Terraform:

   terraform get

5. Menyebarkan infrastruktur:

   terraform plan
   terraform apply --auto-approve 

6. Jika perlu, sesuaikan variabel terraform menggunakan file .tfwars khusus
7. Tunggu sampai dilengkapi. Butuh sekitar 15 menit.
8. Setelah penyebaran selesai, lihat bagian outputs. Akan ada entri 'lambda_function_url' yang berisi URL lambda untuk menguji infrastruktur. Salin URL itu karena Anda akan membutuhkannya untuk tes Anda.

Sinkronisasi basis pengetahuan batuan dasar dengan sumber data di S3

1. Pergi ke layanan batuan dasar di konsol AWS.

2. Klik Basis Pengetahuan Menu Nav Menu.

3. Klik basis pengetahuan yang dibuat melalui Terraform.

   

4. Pilih sumber data S3 dan klik * tombol Sinkronisasi .

   

5. Tunggu penyelesaian sinkronisasi (~ 5-10 menit).

Pengujian

Ikuti contoh di bawah ini dan ganti {your-lambda-url} dengan url lambda Anda dari langkah 8 penyebaran.

 curl -X POST ' https://{your-lambda-url}/ ' 
   -H ' content-type: application/json ' 
   -d ' { "prompt": "what are the postgres versions?" } '

Responsnya mungkin terlihat seperti berikut:

 {"genai_response": "Current PostgreSQL version numbers consist of a major and a minor version number. For example, in version 10.1, 10 is the major version and 1 is the minor version. This indicates it's the first minor release of major version 10.nnFor PostgreSQL versions before 10.0, the version numbers consisted of three numbers, such as 9.5.3. In these cases, the major version is represented by the first two digit groups (e.g., 9.5), and the minor version is the third number (e.g., 3).nnMinor releases are always compatible with earlier and later minor releases of the same major version. For instance, version 10.1 is compatible with 10.0 and 10.6. Similarly, 9.5.3 is compatible with 9.5.0, 9.5.1, and 9.5.6."}

Pembersihan

1. Jalankan Komando Hancurkan Terraform.

   terraform destroy
   # type 'yes' to confirm

2. Tunggu sampai infrastruktur AWS akan dihancurkan (~ 10-15 menit).

Sumber daya tambahan

• Ambil data dan hasilkan respons AI dengan basis pengetahuan
• Dokumen Terraform