Modelo de lenguaje grande (LLM) Hands On
Libro de referencia: Mastering de modelos de idiomas grandes [Vista previa de Google Books] [Enlace de Github]
Explicación del código: enlace
Contenido
Modelos basados en reglas
- Extracción del número de teléfono utilizando expresiones regulares
- Coincidencia de patrones usando partes de etiquetas de voz
- Coincidir tokens específicos con atributos específicos
Modelos de lenguaje estadístico
- Implementación simple del modelo de idioma BigRam
- Ngrams de oración
Preprocesamiento de datos
- Limpieza de datos básicos
- Detección de entidades
- Anonimización
- Ejemplo de preprocesamiento de texto
- Etiquetas de partes de voz (POS)
- Analizador de dependencia
Redes neuronales
- Red neuronal de FeedForward para resolver el problema de Xnor
- LSTM para la clasificación de sentimientos de revisión de películas IMDB
- Gru para la clasificación de sentimientos de revisión de películas IMDB
- RNN bidireccional para la clasificación de sentimientos de revisión de películas IMDB
- Arquitectura del modelo de idioma basado en CNN
Modelos basados en transformadores
- Visualización de autoatencia
- Codificación posicional
Capacitación de modelos de idiomas grandes
- Diseño de un pequeño LLM para la generación de texto
- Diseño de un modelo de generación de texto a nivel de personaje
- Diseño de un modelo de generación de texto a nivel de palabra
- Diseño de un modelo de generación de texto a nivel de palabra con un gran conjunto de datos
- Modelo de generación de texto con T5
Modelos de idiomas grandes ajustados
- Modelo de Gemma 2 2B-IT de FINAL de la cara abrazada
Introducción a Ollama
- Inferencing Llama 3.2 Modelo utilizando la biblioteca Ollama Python
- Inferencing Gemma 2 Modelo utilizando la biblioteca Ollama Python
- Inferencing Modelo Llava utilizando la biblioteca Ollama Python
Introducción a Langchain
- Inferencing Llama 3.2 Modelo utilizando Langchain y Ollama
- Inferencing Llava Modelo utilizando Langchain y Ollama
Generación de recuperación de generación (trapo)
- Diseño de una tubería de generación (trapo) de recuperación de recuperación utilizando llameindex y ollama
- Diseño de una tubería de generación (trapo) de recuperación para la recuperación para el modelo Gemma 2
Ingeniería rápida
