llm reasoning tutorial

Raisonnement avec (gros) modèles de langue

---

Présentations

• Tutoriel BHI 2023 (octobre 2023)

• Tutoriel ACL 2023 (juillet 2023)

TLDR

• Un thème central de ces deux tutoriels est un ensemble de techniques clés pour inviter de grands modèles de langue. La combinaison de ces techniques capture de nombreux travaux récents sur l'incitation aux LLM.

---

---

Cahiers

• Modèles linguistiques: un aperçu des modèles de langue, en se concentrant sur l'architecture et l'opération de GPT-2. Contient des démonstrations interactives de la façon dont ces modèles estiment les probabilités de séquence de mots, prédisent les jetons suivants et génèrent du texte cohérent.

• Inviter les bases: démontre une invitation à quelques tirs et zéro. L'utilisation de l'API OpenAI, permet de jouer avec des paramètres comme la température, les jetons d'arrêt et les jetons maximaux, observant leur impact sur les sorties du modèle de langue.

• Inviter les techniques clés: montre un flux de travail typique pour inviter les modèles de langage, y compris le choix entre les invites (invites directes et en chaîne de pensées) et l'analyse des sorties pour l'évaluation. Il comprend également une démonstration de l'incitation à memory assistée, où l'invite est mise à jour avec le texte généré à chaque étape.

Autres ressources

• Mon blog sur l'incitation à de grands modèles de langue, utilisé pour un tutoriel au séminaire CMU LTI sur des modèles de grandes langues (avril 2023). Dans le blog, je dessine une analogie entre les LLM en tant que compilateurs stochastiques et l'invite en tant que langage de haut niveau pour spécifier les tâches.