chat_prompt_templates
1.0.0
Koleksi Template Prompt Dasar untuk Berbagai LLMS obrolan | Koleksi Template Prompt Dasar CHAT LLM
Motivasi : Template prompt dasar akan secara signifikan mempengaruhi efektivitas pengajaran pengikut. Model arsitektur yang berbeda dapat menggunakan templat cepat yang berbeda selama pelatihan. Namun, saat ini, templat ini dapat menjadi tantangan untuk ditemukan; Terkadang mereka tertanam dalam kode contoh, tersembunyi dalam masalah gitub, atau kadang -kadang ditemukan di blog resmi ...
Motivasi : Template prompt dasar akan secara signifikan mempengaruhi efek pengajaran berikut. Model arsitektur yang berbeda dapat menggunakan templat petunjuk yang berbeda saat pelatihan. Namun, templat ini seringkali sulit ditemukan saat ini; Terkadang mereka tertanam dalam kode sampel, kadang -kadang tersembunyi dalam masalah gitub, dan kadang -kadang kadang -kadang ditemukan di blog resmi ...
Catatan
Bahasa markup obrolan adalah arus utama, mis. Transformers Huggingface, Tiktoken Openai.
Bahasa Markup Obrolan adalah format utama seperti Transformers Huggingface, Openai's Tiktoken.
(Urutan abjad dengan arsitektur)
(Diurutkan berdasarkan Urutan Kamus Nama Skema)
template = """<reserved_195>{query}<reserved_196>""" template = """<|system|>
You are ChatGLM3, a large language model trained by Zhipu.AI. Follow the user's instructions carefully. Respond using markdown.
<|user|>
{query}
<|assistant|>
""" template = """<bos><start_of_turn>user
{query}<end_of_turn>
<start_of_turn>model""" template = """<|im_start|>system
You are a helpful assistant.<|im_end|>
<|im_start|>user
{query}<|im_end|>
<|im_start|>assistant
""" template = """<s>[INST] <<SYS>>
You are a helpful, respectful and honest assistant.
<</SYS>> {query} [/INST] Sure, I'd be happy to help. Here is the answer:"""Sure, I'd be happy to help. Here is the answer: Hindari output model verbose. template = """Instruct: {query} n Output:"""
# or template = """Alice: {query}nBob:""" template = """<|im_start|>system
You are a helpful assistant.<|im_end|>
<|im_start|>user
{query}<|im_end|>
<|im_start|>assistant
"""<|im_end|> atau <|endoftext|> , Anda dapat menghapus teks setelah mereka atau menggunakan parameter stop seperti: # Using vLLM interface
payload = json . dumps ({
"prompt" : query ,
"n" : 1 ,
"stop" : [ "<|endoftext|>" , "<|im_end|>" ],
}) template = """<|im_start|>system
{system_message}<|im_end|>
<|im_start|>user
{prompt}<|im_end|>
<|im_start|>assistant""" template = """<|begin_of_text|><|start_header_id|>system<|end_header_id|>
You are a helpful AI assistant.<|eot_id|><|start_header_id|>user<|end_header_id|>
{query}<|eot_id|><|start_header_id|>assistant<|end_header_id|>
""" template = 
