Generative AI with Large Language Models

Générateur-ai-avec-langage des modèles

Ce référentiel contient le cours de travail de laboratoire pour Coursera sur "Generative AI avec des modèles de langues importants".

1. Lab 1 - Cas d'utilisation générative de l'IA: résume le dialogue

Effectuez un résumé de la boîte de dialogue à l'aide d'une AI générative. Expérimentez avec un apprentissage en contexte tel que Zero Shot, One Shot et quelques inférences de tir et régiment les paramètres de configuration associés à l'inférence pour influencer les résultats.

2. Lab 2 - affiner un modèle générateur d'IA pour le résumé du dialogue

Effectuer des instructions ajustées fins sur un LLM existant à partir du modèle Flan-T5 Flan-T5 existant. Explorez à la fois un réglage complet ainsi que des méthodes PEFT (paramètres de réglage fin efficace) telles que la LORA (adaptation à faible rang) et l'évaluation à l'aide de mesures rouges.

3. Lab 3 - Flan Flan-T5 affiné avec apprentissage du renforcement pour générer des résumés plus positifs

Affiner davantage un modèle Flan-T5 utilisant l'apprentissage du renforcement avec un modèle de récompense tel que le modèle de récompense de la parole de haine de Meta AI pour générer des résumés moins toxiques. Utilisez l'optimisation de la politique proximale (PPO) pour affiner et détoxifier le modèle.