advanced rag router with amazon bedrock Download - advanced rag router with amazon bedrock Source Download

advanced rag router with amazon bedrock

ซอร์สโค้ดอื่น ๆ

1.0.0

ดาวน์โหลด

สร้างผู้ช่วยเราเตอร์ที่ใช้ผ้าขี้ริ้วขั้นสูงด้วยอเมซอน

พื้นที่เก็บข้อมูลนี้มีตัวอย่างรหัสที่จะให้ผู้เข้าร่วมเรียนรู้วิธีการใช้สถาปัตยกรรมเราเตอร์ Augmented Generation (RAG) การดึงข้อมูลด้วย Amazon Bedrock และ Amazon OpenSearch Serverless (AOSS) เพื่อสร้างผู้ช่วยที่ปลอดภัยซึ่งใช้ข้อมูลที่ทันสมัยที่สุด ผู้เข้าร่วมจะได้เรียนรู้ว่าผู้ช่วยคนนี้จะใช้การดึงข้อมูลแบบไดอะล็อกเพื่อตอบสนองต่อผู้ใช้ได้อย่างไร

ภาพรวม

Amazon Bedrock เป็นบริการที่ได้รับการจัดการอย่างเต็มที่ซึ่งเสนอทางเลือกของโมเดลมูลนิธิที่มีประสิทธิภาพสูง (FMS) จาก บริษัท AI ชั้นนำที่สามารถเข้าถึงได้ผ่าน API เดียวพร้อมกับความสามารถในวงกว้างที่คุณต้องการในการสร้างแอพพลิเคชั่น AI แบบกำเนิดทำให้การพัฒนาง่ายขึ้นในขณะที่รักษาความเป็นส่วนตัวและความปลอดภัย

โมเดลภาษาขนาดใหญ่ (LLMS) เป็นแบบจำลองพื้นฐานที่สามารถใช้ Langauge ธรรมชาติเป็นอินพุตด้วยความสามารถในการประมวลผลและทำความเข้าใจและผลิตภาษาธรรมชาติเป็นเอาท์พุท LLMS ยังสามารถทำงานได้เช่นการจำแนกประเภทการสรุปการทำให้เข้าใจง่ายการจดจำเอนทิตี ฯลฯ

LLM มักจะได้รับการฝึกฝนแบบออฟไลน์พร้อมข้อมูลที่มีอยู่จนถึงเวลานั้น เป็นผลให้ LLMS จะไม่มีความรู้เกี่ยวกับโลกหลังจากวันนั้น นอกจากนี้ LLM ยังได้รับการฝึกฝนเกี่ยวกับโดเมนทั่วไปมากทำให้มีประสิทธิภาพน้อยลงสำหรับงานเฉพาะโดเมน จากนั้น LLM มีแนวโน้มที่จะเห็นภาพหลอนในกรณีที่โมเดลสร้างข้อความที่ไม่ถูกต้องไร้สาระหรือไม่จริง การใช้กลไกการสร้างการเพิ่มการดึง (RAG) สามารถช่วยบรรเทาปัญหาเหล่านี้ทั้งหมด สถาปัตยกรรม RAG เกี่ยวข้องกับการดึงข้อมูลที่ตรงกับข้อความในพรอมต์ของผู้ใช้อย่างใกล้ชิดจากแหล่งข้อมูลภายนอกและใช้มันเพื่อเพิ่มพรอมต์ก่อนที่จะส่งไปยัง LLM การเพิ่มการแจ้งเตือนนี้จะให้บริบทที่ LLM สามารถใช้เพื่อตอบสนองต่อพรอมต์

เมื่อมีแหล่งข้อมูล mulitple มีความจำเป็นที่จะต้องกำหนดเส้นทางคำขอ retreival ไปยังแหล่งข้อมูลที่เหมาะสมก่อนที่จะทำการดึงข้อมูลจริง นี่คือรูปแบบเราเตอร์ผ้าขี้ริ้ว

พื้นที่เก็บข้อมูลนี้มีรหัสที่จะนำคุณผ่านกระบวนการสร้างผู้ช่วยเราเตอร์ที่ใช้ RAG ขั้นสูงโดยใช้โมเดลภาษาขนาดใหญ่ (LLM) ที่โฮสต์บนพื้นหิน Amazon และใช้ฐานความรู้สำหรับอเมซอน Amazon Openearch Serverless จะถูกใช้เป็นดัชนีเวกเตอร์

เพื่อเริ่มต้น

เลือกบัญชี AWS ที่จะใช้และตรวจสอบให้แน่ใจว่าได้สร้างทรัพยากรทั้งหมดในบัญชีนั้น
ระบุภูมิภาค AWS ที่มีพื้นหินอเมซอนกับมานุษยวิทยา Claude 3 และ Titan Embeddings G1 - โมเดลข้อความ
ในภูมิภาคนั้นสร้างใหม่หรือใช้ถัง Amazon S3 ที่คุณเลือก ตรวจสอบให้แน่ใจว่า AWS CloudFormation สามารถอ่านได้
Create the Lambda layer file named py312_opensearch-py_requests_and_requests-aws4auth.zip using the following procedure and upload it to the same Amazon S3 bucket as in step 3.
- บน Windows 10 หรือสูงกว่า:
  1. ตรวจสอบให้แน่ใจว่ามีการติดตั้ง Python 3.12 และ PIP และตั้งค่าในตัวแปรพา ธ ของผู้ใช้
  2. Download 7-zip and install it in C:/Program Files/7-Zip/ .
  3. เปิดพรอมต์คำสั่ง Windows
  4. Create a new directory and cd into it.
  5. เรียกใช้ lambda_layer_file_create.bat จากภายในของไดเรกทอรีนั้น
  6. This will create the Lambda layer file named py312_opensearch-py_requests_and_requests-aws4auth.zip .
- บน Linux:
  1. ตรวจสอบให้แน่ใจว่ามีการติดตั้ง Python 3.12 และ PIP และตั้งค่าในตัวแปรพา ธ ของผู้ใช้
  2. เปิดพรอมต์คำสั่ง Linux
  3. Create a new directory and cd into it.
  4. เรียกใช้ lambda_layer_file_create.sh จากภายในของไดเรกทอรีนั้น
  5. This will create the Lambda layer file named py312_opensearch-py_requests_and_requests-aws4auth.zip .
ใช้เทมเพลต AWS CloudFormation RAG-ROUTER-CFN.YAML ที่ให้ไว้และอัปเดตพารามิเตอร์ต่อไปนี้
- DeploymentAntifacts3BucketName - ตั้งค่าเป็นชื่อของ Bucket Amazon S3 จากขั้นตอนที่ 3
สร้างสแต็ก AWS CloudFormation ด้วยเทมเพลตที่อัปเดต
Open the Jupyter notebook named rag-router.ipynb by navigating to the Amazon SageMaker notebook instances console and clicking on the Open Jupyter link on the instance named rag-router-instance .