llama lora chinese couplet

couplet lora-chinois

Un exemple de bout en bout simple de fin pour montrer son potentiel pour former un couplet chinois AI

• Int8 lama + lora = finetune dans un GPU de consommation <= 10g vram!

Diapositives, dernière mise à jour 29/04/2023

• LLM, Pretrain, Finetune
• Lora: une approche finetune de paramètre populaire de paramètres par Microsoft
• Lama: un cadeau de Facebook à la communauté de recherche
• Lama-2: un cadeau plus récent et meilleur de Facebook
• Alpaga: une approche de 600 $ pour «distiller 80%» de Chatgpt par Stanford
• Alpaca-Lora: Une approche encore moins chère d'un étudiant de Stanford?
• Omis en raison du temps
  • Intro de quantification, llm.int8

Exemples zéro-shot

• Après 3 époques de paires de 5 km, des jetons de cap max, gourmands
• Post-traitement pour correspondre au nombre de chars chinois (alors oui, j'ai triché ^ _ ^)
• Idéalement, un modèle bien formé connaîtra la fin de la phrase (EOS) elle-même
• Invite:对联：{上联}n下联：

Grand lien	Lama de base	Llama_lora_a100_9mins	Llama_lora_tesla_t4_35mins
La brise de printemps est fière de ouvrir la route	Immergez-vous dans le lien de boue nprevious	Le clair de lune écoute le son du vent souffle les rêves	Le vent et la pluie soufflent les rêves flottant
Belle Chine charmante Pékin	Belle Chine Chine Charming Pékin nprevious Lien:	L'histoire du rêve de la Chine	Dream China Dream Acer
Le rêve d'un livre de poisson	Porc rôti au poisson n	Les oiseaux sonnent des milliers de kilomètres	Les oiseaux sonnent des milliers de kilomètres
Coucher de soleil et coucher de soleil dans l'ancien temple	Le coucher du soleil brille sur l'ancien temple n	La lune reflète la pluie du matin remplit le rêve	La lune reflète le gel du matin remplit le rêve

• Au cas où vous êtes dans des couplets chinois, j'ai une meilleure version T5

Quelques réflexions supplémentaires sur l'IA de haute qualité

• Voir les notes