Modèle de grande langue (LLM)
Livre de référence: Mastering Big Language Models [Google Books Preview] [GitHub Lien]
Explication du code: lien
Contenu
Modèles basés sur des règles
- Extraction du numéro de téléphone en utilisant des expressions régulières
- Correspondance de motif à l'aide de parties des étiquettes de discours
- Correspondant à des jetons spécifiques avec des attributs spécifiques
Modèles de langue statistique
- Implémentation simple du modèle de langue Bigram
- Ngrams de phrase
Prétraitement des données
- Nettoyage de base des données
- Détection d'entité
- Anonymisation
- Exemple de prétraitement du texte
- Tags de parties de discours (POS)
- Analyse de dépendance
Réseaux neuronaux
- Réseau neuronal à transformation pour résoudre le problème XNOR
- LSTM pour la classification des sentiments de la critique de film IMDB
- GRU pour IMDB Film Review Sentiment Classification
- RNN bidirectionnel pour la classification des sentiments de la critique de film IMDB
- Architecture de modèle de langue basée sur CNN
Modèles basés sur le transformateur
- Visualisation de l'auto-agence
- Codage positionnel
Formation de modèles de grande langue
- Concevoir un minuscule LLM pour la génération de texte
- Concevoir un modèle de génération de texte au niveau des caractères
- Concevoir un modèle de génération de texte au niveau des mots
- Concevoir un modèle de génération de texte au niveau des mots avec un grand ensemble de données
- Modèle de génération de texte utilisant T5
Modèles de grande langue au réglage fin
- Modèle Gemma 2 2b-it à réglage fin de l'étreinte
Introduction à Ollama
- Modèle d'inferencing Llama 3.2 utilisant la bibliothèque Olllama Python
- Modèle d'inférence Gemma 2 utilisant la bibliothèque Olllama Python
- Modèle de llava d'inférence utilisant la bibliothèque Olllama Python
Introduction à Langchain
- Modèle d'inferencing Llama 3.2 utilisant Langchain et Olllama
- Modèle de llava d'inférence utilisant Langchain et Ollama
GÉNÉRATION AUGURATIVE (RAG)
- Concevoir un pipeline de génération (RAG) de la récupération à l'aide de Llamaindex et d'Ollma
- Concevoir un pipeline de génération auprès de la récupération (RAG) pour le modèle Gemma 2
Ingénierie rapide
