amazon bedrock claude3.5 sonnet

การสร้างแอปพลิเคชัน AI Applic

Amazon Bedrock เป็นวิธีที่ง่ายที่สุดในการสร้างและปรับขนาดแอพพลิเคชั่น AI แบบกำเนิดด้วยโมเดลพื้นฐาน (FMS) ใน AWS FMS ได้รับการฝึกฝนเกี่ยวกับข้อมูลจำนวนมากทำให้พวกเขาสามารถใช้เพื่อตอบคำถามเกี่ยวกับวิชาที่หลากหลาย อย่างไรก็ตามหากคุณต้องการใช้ FM เพื่อตอบคำถามเกี่ยวกับข้อมูลส่วนตัวของคุณที่คุณเก็บไว้ใน Bucket Storage Simple Simple Storage (Amazon S3) หรือ Amazon Aurora PostgreSQL ที่เข้ากันได้กับฐานข้อมูลรุ่นที่เข้ากันได้คุณต้องใช้เทคนิคที่เรียกว่า

สถาปัตยกรรม

ในฐานะที่เป็นไฟล์ทดสอบจะใช้การสอน PostgreSQL PDF

ความต้องการ

• สร้างบัญชี AWS หากคุณยังไม่มีและเข้าสู่ระบบผู้ใช้ IAM ที่คุณใช้จะต้องมีสิทธิ์เพียงพอที่จะโทรออกจากบริการ AWS และจัดการทรัพยากร AWS
• AWS CLI ติดตั้งและกำหนดค่า
• ติดตั้ง Git
• ติดตั้ง Terraform

คำแนะนำการตั้งค่า Bedrock Amazon

คุณต้องขอการเข้าถึงโมเดลก่อนที่จะใช้งาน หากคุณพยายามใช้โมเดล (ด้วย API หรือคอนโซล) ก่อนที่คุณจะขอการเข้าถึงคุณจะได้รับข้อความแสดงข้อผิดพลาด สำหรับข้อมูลเพิ่มเติมดูการเข้าถึงแบบจำลอง

1. ในคอนโซล AWS ให้เลือกภูมิภาคที่คุณต้องการเข้าถึงอเมซอน เราขอแนะนำให้ใช้ภูมิภาค US-East-1 (N. Virginia) ที่มีทุกรุ่นที่มีอยู่

   

2. ค้นหา พื้นหินอเมซอน โดยค้นหาในคอนโซล AWS

   

3. ขยายเมนูด้านข้างและเลือก การเข้าถึงรุ่น

   

4. เลือกปุ่ม แก้ไข

5. ใช้ช่องทำเครื่องหมายเพื่อเลือกรุ่นที่คุณต้องการเปิดใช้งาน แนวทางนี้ต้องใช้ Titan Text Embeddings V2 และ Claude 3.5 Sonnet Models คลิก บันทึกการเปลี่ยนแปลง เพื่อเปิดใช้งานโมเดลในบัญชีของคุณ โปรดทดสอบกับรุ่นอื่น ๆ หากคุณต้องการ

6. รอจนกว่ารุ่นจะพร้อมใช้งาน

   

การปรับใช้

1. สร้างไดเรกทอรีใหม่นำทางไปยังไดเรกทอรีนั้นในเทอร์มินัลและโคลนที่เก็บ GitHub:

   git clone [email protected]:set-university/genai-workshops.git

2. เปลี่ยนไดเรกทอรีเป็นไดเรกทอรีรูปแบบ:

    cd workshop4

3. init terraform:

   terraform init

4. ดาวน์โหลดโมดูล Terraform:

   terraform get

5. ปรับใช้โครงสร้างพื้นฐาน:

   terraform plan
   terraform apply --auto-approve 

6. หากจำเป็นให้ปรับแต่งตัวแปร Terraform โดยใช้ไฟล์. tfwars ที่กำหนดเอง
7. รอจนกว่าจะได้รับการแก้ไข ใช้เวลาประมาณ 15 นาที
8. หลังจากการปรับใช้เสร็จสมบูรณ์ให้ดูที่ส่วนผลลัพธ์ จะมีรายการ 'lambda_function_url' ที่มี URL Lambda เพื่อทดสอบโครงสร้างพื้นฐาน คัดลอก URL นั้นตามที่คุณต้องการสำหรับการทดสอบของคุณ

ซิงค์ฐานความรู้ด้านล่างกับแหล่งข้อมูลใน S3

1. ไปที่ข้อเท็จจริงบริการใน AWS Console

2. คลิก ฐานความรู้ รายการเมนู NAV ซ้าย

3. คลิกฐานความรู้ที่สร้างขึ้นผ่าน Terraform

   

4. เลือกแหล่งข้อมูล S3 และคลิก * ปุ่ม ซิงค์

   

5. รอให้เสร็จสิ้นการซิงค์ (~ 5-10 นาที)

การทดสอบ

ทำตามตัวอย่างด้านล่างและแทนที่ {your-lambda-url} ด้วย URL แลมบ์ดาของคุณจากขั้นตอนที่ 8 ของการปรับใช้

 curl -X POST ' https://{your-lambda-url}/ ' 
   -H ' content-type: application/json ' 
   -d ' { "prompt": "what are the postgres versions?" } '

การตอบสนองอาจมีลักษณะดังนี้:

 {"genai_response": "Current PostgreSQL version numbers consist of a major and a minor version number. For example, in version 10.1, 10 is the major version and 1 is the minor version. This indicates it's the first minor release of major version 10.nnFor PostgreSQL versions before 10.0, the version numbers consisted of three numbers, such as 9.5.3. In these cases, the major version is represented by the first two digit groups (e.g., 9.5), and the minor version is the third number (e.g., 3).nnMinor releases are always compatible with earlier and later minor releases of the same major version. For instance, version 10.1 is compatible with 10.0 and 10.6. Similarly, 9.5.3 is compatible with 9.5.0, 9.5.1, and 9.5.6."}

การทำความสะอาด

1. เรียกใช้คำสั่งทำลาย Terraform

   terraform destroy
   # type 'yes' to confirm

2. รอจนกว่าโครงสร้างพื้นฐาน AWS จะถูกทำลาย (~ 10-15 นาที)

ทรัพยากรเพิ่มเติม

• ดึงข้อมูลและสร้างการตอบสนอง AI ด้วยฐานความรู้
• เอกสาร Terraform