Fine Tuning GPT 3 for Amazon Support Chatbot

Amazon Support Chatbot ด้วย GPT-3 ที่ปรับแต่งอย่างละเอียด

โครงการนี้เกี่ยวข้องกับการสร้างบอทสนับสนุน Amazon ที่กำหนดเองโดยใช้โมเดลภาษา GPT-3 โดย OpenAI เป้าหมายคือการสร้าง AI การสนทนาที่สามารถให้การตอบสนองที่ถูกต้องและเป็นประโยชน์ต่อการสอบถามลูกค้าตามชุดข้อมูลการตอบคำถามของ Amazon เราจะปรับแต่งโมเดล GPT-3 บนชุดข้อมูลการตอบคำถาม Amazon ที่กำหนดเองเพื่อจุดประสงค์นี้

ขั้นตอนโครงการ

1. การเตรียมข้อมูล

• โครงการเริ่มต้นด้วยชุดข้อมูลชื่อ amazon_qna.csv ซึ่งมีคำถามและคำตอบที่เกี่ยวข้องกับ Amazon
• ในการฝึกอบรมโมเดล GPT-3 ตัวอย่างข้อมูลการฝึกอบรมและการตรวจสอบความถูกต้องขนาดเล็กจะถูกสร้างขึ้นจากชุดข้อมูลดั้งเดิม

2. การแปลงข้อมูล

• ชุดข้อมูลการฝึกอบรมและการตรวจสอบ ( training_amazon_qna.csv และ validation_amazon_qna.csv ) จะถูกแปลงจากรูปแบบ CSV เป็นรูปแบบ JSONL ( training_amazon_qna.jsonl และ validation_amazon_qna.jsonl )
• รูปแบบ JSONL (สาย JSON) เป็นสิ่งจำเป็นสำหรับการปรับแต่งรุ่น GPT-3
• แต่ละแถวในไฟล์ JSONL จะมี JSON ที่ถูกต้องมี 2 ปุ่ม prompt และ completion รูปแบบนี้เป็นแบบบังคับในการปรับแต่งรุ่น GPT-3

{ "prompt" : " Non-Ducted range Hood, does this mean there is no need to vent up thru the roof or out thru the wall? -> " , "completion" : " That's correct. The air flows through the filter on the underside and out through the three columns of vent slats you see on the front of the range hood. There is no connection to other vents or ducts in a wall or through the roof. n " }

3. การอัปโหลดข้อมูลไปยัง openai

• ชุดข้อมูลการฝึกอบรมและการตรวจสอบที่แปลงในรูปแบบ JSONL จะถูกอัปโหลดไปยังแพลตฟอร์ม OpenAI
• ข้อมูลนี้จะถูกใช้เพื่อปรับแต่งโมเดล GPT-3 เพื่อสร้างคำตอบเฉพาะสำหรับการสืบค้นการสนับสนุนลูกค้าของ Amazon

4. ปรับแต่ง

• รุ่น GPT-3 ที่ใช้สำหรับการปรับแต่งคือ davinci
• Hyperparameters สำหรับการปรับแต่งถูกตั้งค่าดังนี้:
  • จำนวนยุค: 15
  • ขนาดแบทช์: 3
  • ตัวคูณอัตราการเรียนรู้: 0.3

5. การตรวจสอบและติดตาม

• กระบวนการฝึกอบรมการปรับจูนได้รับการตรวจสอบเพื่อให้แน่ใจว่าแบบจำลองกำลังเรียนรู้ได้อย่างมีประสิทธิภาพ
• ความคืบหน้าของงานการปรับแต่งทั้งหมดถูกติดตามบนแพลตฟอร์ม OpenAI

6. การสกัดชื่อรุ่น

• เมื่อการปรับแต่งเสร็จสมบูรณ์ชื่อโมเดลที่ปรับแต่งจะถูกสกัดจากกระบวนการฝึกอบรม
• รุ่นนี้จะใช้สำหรับการสร้างคำตอบในบอทสนับสนุน Amazon

7. การอนุมาน

• รุ่น GPT-3 ที่ปรับแต่งได้ใช้สำหรับการอนุมานในบอทสนับสนุน Amazon

 prompt = "Is this louder/quiter than the HWM450? Does it need to be cleaned more often? ->"

• พรอมต์ข้างต้นจะส่งผลให้เกิดการตอบสนองต่อไปนี้

 "I think they are about the same, and it does not need to be cleaned n " 

บทสรุป

โครงการนี้แสดงให้เห็นถึงกระบวนการสร้างบอทสนับสนุน Amazon ที่กำหนดเองโดยใช้โมเดล GPT-3 ที่ปรับแต่งได้อย่างละเอียด โดยการฝึกอบรมแบบจำลองในคำถามและคำตอบเฉพาะของ Amazon บอทสามารถให้คำตอบที่เป็นประโยชน์ต่อการสอบถามข้อมูลของลูกค้า README ให้ภาพรวมของขั้นตอนโครงการการเตรียมข้อมูลการปรับแต่งการอนุมานและเป้าหมายสูงสุดในการสร้าง ChatBot สนับสนุนลูกค้าที่มีประสิทธิภาพสำหรับการสอบถามที่เกี่ยวข้องกับ Amazon

ติดต่อ

หากคุณมีคำถามข้อเสนอแนะหรือต้องการหารือเกี่ยวกับโครงการนี้ต่อไปอย่าลังเลที่จะติดต่อกับฉัน:

• อีเมล
• LinkedIn

ฉันเปิดรับความร่วมมือและยินดีที่จะเชื่อมต่อ!

Mir Abdullah Yaser