llm prompting practices ja
2024.03.12
Berdasarkan materi referensi berkualitas tinggi, kami memiliki tips yang mudah dikompilasi untuk membuat petunjuk LLM (model bahasa skala besar).
Hanya ikhtisar yang disediakan. Silakan merujuk ke setiap dokumen untuk detailnya.
Teknik teknik yang cepat dapat dipelajari sampai batas tertentu melalui materi yang diterbitkan. Jika Anda mempertimbangkan untuk membeli kursus, barang dagangan atau memesan tentang rekayasa cepat (sering kali untuk mereka yang memiliki sedikit informasi), pastikan untuk membaca materi ini terlebih dahulu.
Engineering Prompt - Openai API
Enam strategi
- Tulis instruksi yang jelas
- Sertakan detail
- Menetapkan persona
- Bagilah bagian yang berbeda dari pernyataan input
- Tentukan langkah -langkah yang diperlukan untuk menyelesaikan tugas
- Menyajikan contoh
- Tentukan panjang jawaban yang Anda inginkan
- Berikan teks referensi
- Menginstruksikan Anda untuk merespons menggunakan teks referensi
- Instruksikan mereka untuk unzip dengan kutipan dari teks referensi
- Pisahkan tugas kompleks menjadi subtugas sederhana
- Identifikasi instruksi yang sangat relevan untuk kueri pengguna menggunakan klasifikasi niat
- Merangkum atau memfilter interaksi sebelumnya dalam aplikasi interaktif yang membutuhkan percakapan yang sangat panjang
- Dokumen panjang dirangkum dalam fragmen dan kemudian secara rekursif membangun ringkasan keseluruhan.
- Berikan model waktu untuk berpikir
- Beri tahu model itu sendiri untuk menemukan solusi sebelum melompat ke kesimpulan
- Sembunyikan proses inferensi model menggunakan monolog dalam dan serangkaian pertanyaan
- Tanyakan kepada model apakah ada yang hilang dari operan sebelumnya
- Gunakan alat eksternal
- Melakukan pengambilan pengetahuan yang efisien menggunakan pencarian berbasis embeddings
- Gunakan eksekusi kode untuk membuat perhitungan yang lebih akurat dan panggilan API eksternal
- Berikan akses model ke fungsi tertentu
- Uji perubahan Anda secara sistematis
- Mengevaluasi output model menggunakan jawaban standar emas
Strategi Desain Segera | Google AI untuk pengembang
Strategi desain yang cepat
- Berikan instruksi yang jelas dan spesifik
- Tentukan tugas yang akan dilakukan
- Tentukan semua kendala
- Tentukan format jawaban Anda
- Sertakan beberapa contoh
- nol-shot dan beberapa penuntutan beberapa tembakan
- Temukan jumlah contoh optimal
- Contoh digunakan untuk menunjukkan pola daripada anti-pola.
- Contoh -contoh yang disajikan menggunakan format yang konsisten
- Tambahkan informasi kontekstual
- Tambahkan awalan
- Awalan input
- Awalan output
- Contoh awalan
- Berikan input parsial model untuk menyelesaikannya
- Permintaan breakdown menjadi komponen sederhana
- Break Down Instruksi
- Buat rantai prompt (buat output dari prompt sebelumnya sebagai input dari prompt berikutnya)
- Tanggapan agregat
- Coba nilai parameter yang berbeda
- Token output maksimum
- Suhu
- Top-K
- Top-p
- Strategi siklus perbaikan yang cepat
- Gunakan frasa yang berbeda
- Beralih ke tugas yang sama
- Pesan ulang konten prompt
- Respons mundur
- Hal -hal yang harus dihindari
- Hindari mengandalkan model untuk menghasilkan informasi faktual
- Gunakan masalah matematika dan logika dengan hati -hati
Teknik cepat untuk AI generik | Pembelajaran Mesin | Google untuk pengembang
Teknik cepat untuk menghasilkan AI
Praktik terbaik pembuatan
- Komunikasi dengan jelas konten dan informasi mana yang paling penting.
- Struktur Prompt: Mulailah dengan definisi peran, berikan konteks dan input data, dan berikan instruksi.
- Gunakan contoh konkret dan beragam untuk memungkinkan model menghasilkan hasil yang akurat dengan fokus.
- Berikan kendala untuk membatasi ruang lingkup output model. Melakukan hal itu akan menghindari penyimpangan dari instruksi dan memberikan informasi yang tidak akurat.
- Tugas kompleks dipecah menjadi urutan sederhana.
- Instruksikan model untuk menilai dan memeriksa jawaban mereka sendiri sebelum menghasilkannya ("Respons harus dalam 3 kalimat," "Nilai singkatnya output pada skala 1-10." "Apakah menurut Anda ini benar?").
Tipe cepat
- Dorongan langsung (nol-shot)
- Meminta contoh (satu-shot/ beberapa-shot/ multi-shot)
- COT (rantai-dipikirkan) mendorong
- Cot Zero-Shot
- Strategi siklus perbaikan yang cepat
Teknik yang cepat
- Tentukan tugas dan kriteria keberhasilan
- Kriteria Keberhasilan Kunci untuk Dipertimbangkan
- Kinerja dan akurasi
- Latensi
- harga
- Buat test case
- Buat prompt sementara
- Coba prompt pada test case
- Meningkatkan prompt
- Kembali ke Langkah 4 dan ulangi perbaikannya
- Rilis permintaan yang dipoles
Dimulai dengan model yang paling mampu dan permintaan panjang terlebih dahulu, dan begitu Anda memiliki kualitas output yang diinginkan, coba model yang lebih kecil atau petunjuk yang lebih pendek untuk penghematan latensi dan biaya.
Teknik teknik yang cepat
- Beri tahu mereka dengan jelas dan langsung
- Gunakan contohnya
- Berikan peran pada model
- Menggunakan tag XML (spesifik Claude)
- Pisahkan petunjuk besar
- Buat model berpikir dengan langkah demi langkah
- Tentukan awal output yang diharapkan
- Tentukan format output
- Harap tulis ulang
- Model dengan windows konteks panjang memanfaatkannya
Panduan Teknik yang Segera
Pengaturan LLM
nama penjelasan suhu Tingkat keacakan. Tingkatkan suhu meningkatkan keacakan, sementara lebih rendah mengurangi keacakan. POT P. Metode pengambilan sampel yang disebut pengambilan sampel nukleus. P atas yang lebih tinggi meningkatkan keragaman tanggapan. panjang maksimal Panjang jawaban maksimumnya. Unit bervariasi tergantung pada model, seperti jumlah token dan karakter. Hentikan urutan Pola string yang berhenti menghasilkan jawaban. penalti frekuensi Hukuman untuk frekuensi terjadinya token tertentu. Hadiah Hadir Hukuman untuk frekuensi terjadinya token apa pun. Komponen cepat
Pertimbangkan yang berikut sebagai komponen prompt:
nama Jepang penjelasan petunjuk Instruksi Tugas yang ingin Anda modelkan konteks konteks Informasi eksternal dan konteks tambahan data masukan Data masukan Masukan dan pertanyaan untuk mengajukan jawaban indikator output Indikator output Jenis dan format output Kiat Umum
- Mulailah dengan sederhana dan ulangi perbaikannya
- Instruksikan permintaan dengan cara yang tertib
- Secara khusus, secara langsung
- Hindari ketidakakuratan
- "Beginilah caranya" daripada "jangan lakukan ini."
Teknik pembuatan yang cepat
- Nol-tembakan dorongan
- Beberapa pengambilan tutup
- COT (rantai-dipikirkan) mendorong
- Konsistensi diri
- Menghasilkan Pengetahuan Memungkas
- Rantai cepat
- Tot (Pohon Pikiran)
- Rag (Retrieval Augmented Generation)
- Seni (penalaran otomatis dan penggunaan alat)
- APE (Insinyur Prompt Otomatis)
- Prompt aktif
- Mendorong stimulus terarah
- PAL (model bahasa berbantuan program)
- Bereaksi meminta
- Refleksi
- Dorongan rusa multimodal
- GraphPromppt
Risiko dan penyalahgunaan
- Dorongan yang bermusuhan (serangan cepat)
- Injeksi cepat
- King Promptre
- Jailbreak (jailbreak)
- Kebenaran
- bias
