Fine Tuning GPT 3 for Amazon Support Chatbot - Fine Tuning GPT 3 for Amazon Support Chatbot

Fine Tuning GPT 3 for Amazon Support Chatbot

Kode Sumber AI

1.0.0

Unduh

Chatbot Dukungan Amazon dengan GPT-3 yang disesuaikan

Proyek ini melibatkan pembuatan bot dukungan Amazon khusus menggunakan model bahasa GPT-3 oleh OpenAI. Tujuannya adalah untuk membangun AI percakapan yang dapat memberikan respons yang akurat dan bermanfaat terhadap pertanyaan pelanggan berdasarkan dataset menjawab pertanyaan Amazon. Kami akan menyempurnakan model GPT-3 pada dataset penjawab pertanyaan amazon khusus untuk tujuan ini.

Langkah Proyek

1. Persiapan data

Proyek ini dimulai dengan dataset bernama amazon_qna.csv , yang berisi pertanyaan dan jawaban terkait Amazon.
Untuk melatih model GPT-3, sampel yang lebih kecil dari data pelatihan dan validasi dibuat dari dataset asli.

2. Konversi Data

Dataset pelatihan dan validasi ( training_amazon_qna.csv dan validation_amazon_qna.csv ) dikonversi dari format CSV ke format JSONL ( training_amazon_qna.jsonl dan validation_amazon_qna.jsonl )
Format JSONL (JSON Lines) diperlukan untuk menyempurnakan model GPT-3.
Setiap baris dalam file JSONL akan berisi JSON yang valid yang memiliki 2 tombol, prompt dan completion . Format ini wajib untuk menyempurnakan model GPT-3.

{ "prompt" : " Non-Ducted range Hood, does this mean there is no need to vent up thru the roof or out thru the wall? -> " , "completion" : " That's correct. The air flows through the filter on the underside and out through the three columns of vent slats you see on the front of the range hood. There is no connection to other vents or ducts in a wall or through the roof. n " }

3. Mengunggah data ke openai

Dataset pelatihan dan validasi yang dikonversi dalam format JSONL diunggah ke platform OpenAI.
Data ini akan digunakan untuk menyempurnakan model GPT-3 untuk menghasilkan tanggapan khusus untuk kueri dukungan pelanggan Amazon.

4. Fine-tuning

Model GPT-3 yang digunakan untuk fine-tuning adalah davinci .
Hyperparameters untuk fine-tuning ditetapkan sebagai berikut:
- Jumlah zaman: 15
- Ukuran Batch: 3
- Pengganda Tingkat Pembelajaran: 0.3

5. Pemantauan dan Pelacakan

Proses pelatihan penyempurnaan dipantau untuk memastikan model belajar secara efektif.
Kemajuan semua pekerjaan penyempurnaan dilacak di platform OpenAI.

6. Mengekstraksi Nama Model

Setelah fine-tuning selesai, nama model yang disempurnakan diekstraksi dari proses pelatihan.
Model ini akan digunakan untuk menghasilkan respons di bot dukungan Amazon.

7. Inferensi

Model GPT-3 yang disempurnakan digunakan untuk inferensi di bot dukungan Amazon.

 prompt = "Is this louder/quiter than the HWM450? Does it need to be cleaned more often? ->"

Prompt di atas akan menghasilkan respons berikut

 "I think they are about the same, and it does not need to be cleaned n "

Kesimpulan

Proyek ini menunjukkan proses pembuatan bot dukungan Amazon khusus menggunakan model GPT-3 yang disesuaikan. Dengan melatih model pada data tanya jawab khusus Amazon, bot dapat memberikan tanggapan yang bermanfaat untuk pertanyaan pelanggan. README memberikan gambaran tentang langkah-langkah proyek, persiapan data, penyesuaian, inferensi, dan tujuan akhir untuk membangun chatbot dukungan pelanggan yang efisien untuk kueri terkait Amazon.