Prompt Engineering adalah disiplin yang relatif baru yang dirancang untuk mengembangkan dan mengoptimalkan petunjuk untuk menggunakan model bahasa (LMS) secara efektif untuk berbagai aplikasi dan topik penelitian. Keterampilan rekayasa TIPS membantu lebih memahami fungsi dan keterbatasan model bahasa besar (LLM).
Rekayasa yang cepat dapat digunakan untuk meningkatkan kemampuan LLMS pada berbagai tugas umum dan kompleks seperti tanya jawab dan penalaran aritmatika, desain yang kuat dan teknik -teknik yang efektif yang berinteraksi dengan LLM dan alat lainnya.
Didorong oleh minat yang tinggi dalam mengembangkan LLM, kumpulan bahan panduan Tip Engineering ini dibuat, yang berisi semua makalah terbaru, panduan studi, kuliah, referensi dan alat yang terkait dengan Tip Engineering. (Saya akan memperbarui setiap tiga hari untuk saat ini)
Sebagian besar konten yang saat ini diterjemahkan dari Dair-ai (https://github.com/dair-ai/prompt-engineering-guide)
Notebook dan tayangan slide susu disertakan.
Perselisihan dan Twitter Dair-ai
Platform (disarankan)
Berikut ini adalah panduan rekayasa TIP untuk pengembangan DAIR-AI. Panduan Dair-Ai sedang dalam pengembangan. (Saya akan memperbarui setiap tiga hari untuk saat ini)
Berikut adalah makalah terbaru tentang rekayasa cepat (diurutkan berdasarkan tanggal rilis). Kami memperbarui makalah ini setiap hari dan menambahkan kertas baru. Kami menambahkan abstrak makalah ini ke panduan di atas setiap minggu:
Survei/Ikhtisar:
Teknik/Metode Pendekatan/Teknik:
Model Bahasa yang Dapat Diukur Generasi Tip Pembelajaran Semi-Divisi (Februari 2023)
Tentukan ruang lingkup kemampuan model bahasa besar dalam pembuatan teks terbuka dengan kendala cepat (Februari 2023)
À-la-carte prompt tuning (APT): Menggabungkan data yang berbeda melalui tips yang dapat dikomposisi (Februari 2023)
GraphPrompt: Unifikasi Pra-Pelatihan untuk Jaringan Saraf Grafis dan Tugas Hilir (Februari 2023)
Kapasitas Model Bahasa Besar dalam Moral Self-Emedy (Februari 2023)
SwitchPromppt: Soft Tips for Gated Area Spesifik untuk Pembelajaran Terbaik di Domain Sumber Daya Rendah (Februari 2023)
Mengevaluasi ketahanan isyarat diskrit (Feb 2023)
Kombinasi Contoh Pembelajaran Konteks (Feb 2023)
Tips keras menjadi mudah: optimasi berbasis gradien diskrit untuk penyesuaian dan penemuan tips (Feb 2023)
Penalaran Berpikir Rantai Multimodal dalam Model Bahasa (Feb 2023)
Model bahasa besar mudah terganggu oleh konteks yang tidak terkait (Feb 2023)
Tips Sintesis: Menghasilkan Demonstrasi Berpikir untuk Model Bahasa Besar (Feb 2023)
Kiat Progresif: Pembelajaran Berkelanjutan Model Bahasa (Jan 2023)
Kiat Pemrosesan Batch: Penalaran Efisien API LLM (Jan 2023)
Pikirkan lagi, janganlah kita berpikir langkah demi langkah! Prasangka dan toksisitas dalam penalaran nol-titik (Desember 2022)
AI Konstitusi: tidak berbahaya dari umpan balik AI (Desember 2022)
Kiat Berkelanjutan: Selesaikan Masalah Kompleks (Desember 2022)
Temukan perilaku model bahasa melalui evaluasi yang ditulis oleh model (Desember 2022)
Tips Struktural: Perluas pembelajaran konteks ke 1.000 contoh (Desember 2022)
PAL: Model Bahasa Berbantuan Program (November 2022)
Model bahasa besar adalah insinyur prompt tingkat manusia (November 2022)
Abaikan tip sebelumnya: Teknologi Serangan Model Bahasa (Nov 2022)
Teks yang dihasilkan mesin: Studi komprehensif model ancaman dan metode deteksi (Nov 2022)
Penalaran Algoritmik Mengajar melalui Pembelajaran Konteks (Nov 2022)
Tingkatkan konsistensi diri dan kinerja model bahasa pra-terlatih melalui inferensi bahasa alami (November 2022)
Tanyakan Santai: Strategi Sederhana Untuk Mendorong Model Bahasa (Okt 2022)
Bereaksi: Penalaran dan tindakan terkoordinasi dalam model bahasa (Oktober 2022)
Tip GPT-3 dapat diandalkan (Okt 2022)
Tip Dekomposisi: Metode Modular Untuk Memecahkan Tugas Kompleks (Okt 2022)
Model Bahasa adalah Alasan Serakah: Analisis Bentuk Sistematis Tautan Pemikiran (Okt 2022)
Evaluasi Kerentanan Model Bahasa Pra-Terlatih Melalui Contoh permusuhan yang dirancang dengan tangan (September 2022)
Promptagator: Dapatkan sejumlah kecil pencarian intensif dari 8 contoh (September 2022)
Nilai yang mendorong model bahasa untuk menjadi lebih baik (Juni 2022)
Model Bahasa Besar adalah Nol-Point Reasoner (Mei 2022)
Sistem MRKL: Arsitektur simbol saraf modular yang menggabungkan model bahasa besar, sumber pengetahuan eksternal dan penalaran diskrit (Mei 2022)
Deteksi toksisitas dengan menghasilkan petunjuk (Mei 2022)
Tips Transfer Pembelajaran untuk Pembuatan Teks (Mei 2022)
Tidak dapat diandalkan instruksi penalaran tekstual dengan sejumlah kecil petunjuk (Mei 2022)
Klasifikasi pengubah Tips untuk pembuatan teks-ke-gambar (April 2022)
PromptChainer: Menghubungkan Tip Model Bahasa Besar Melalui Pemrograman Visual (Maret 2022)
Penalaran Tautan Ideologis untuk Meningkatkan Model Bahasa dengan Konsistensi Diri (Maret 2022)
Latih model bahasa menggunakan umpan balik manusia untuk menjalankan instruksi
Perkenalkan kembali peran demonstrasi: Apa yang membuat pembelajaran konteks berhasil? (Februari 2022)
Tips tautan ide meningkatkan inferensi untuk model bahasa besar (Januari 2022)
Showcase Your Work: Daftar sementara untuk Komputasi Menengah dengan Model Bahasa (November 2021)
Penalaran Akal Sehat Berdasarkan Generasi Petunjuk Pengetahuan (Oktober 2021)
Pelatihan cepat multi-tugas dapat mencapai generalisasi tugas-tugas penembakan nol (Oktober 2021)
Instruksi refactoring meminta untuk beradaptasi dengan bahasa GPTK (Sep 2021)
Pedoman Desain untuk Model Pembuatan Teks-ke-Teks (Sep 2021)
Menjadikan model bahasa pretrained sebagai pelajar tanpa sampel yang lebih baik (Agustus 2021)
Magical and Ordered Prompts dan Lokasinya: Mengatasi Sejumlah Kecil Sensitivitas Urutan Prompt (April 2021)
Bertese: Belajar Berbicara dengan Bert (April 2021)
Penyesuaian kekuatan skala dengan parameter yang valid (April 2021)
Pemrograman Tips Untuk Model Bahasa Besar: Melampaui Sejumlah Kecil Paradigma Tips (Feb 2021)
Kalibrasi Pra-Penggunaan: Tingkatkan Kinerja Sampel Kecil Model Bahasa (Feb 2021)
Penyesuaian Awalan: Mengoptimalkan permintaan kontinu untuk generasi (Jan 2021)
Autoprompt: Pengetahuan cepat dari model bahasa melalui petunjuk yang dihasilkan secara otomatis (Oktober 2020)
Model bahasa adalah pelajar kecil (Mei 2020)
Bagaimana kita tahu model bahasa apa yang diketahui? (Juli 2020)
Aplikasi:
Koleksi:
Jika Anda berpikir ada sesuatu yang hilang, silakan kirim PR. Umpan balik dan saran juga diterima.