Improving Accuracy of LLM Applications

Mejora de la precisión de las aplicaciones LLM

¡Bienvenido al curso "Mejora de precisión de las aplicaciones LLM"! El curso proporciona un enfoque sistemático para mejorar la precisión y confiabilidad de sus aplicaciones LLM.

Resumen del curso

Muchos desarrolladores luchan con resultados inconsistentes en aplicaciones LLM. ? Este curso está diseñado para abordar estos desafíos ofreciendo experiencia práctica para mejorar la precisión a través de la evaluación, la ingeniería rápida, la autorreflexión y las técnicas de ajuste fino.

Lo que harás:

1. ? Desarrollo del agente SQL : cree un agente de texto a SQL y simule situaciones donde alucina para comenzar el proceso de evaluación.

2. Marco de evaluación : cree un marco robusto para medir sistemáticamente el rendimiento, incluidos los criterios para buenas evaluaciones, las mejores prácticas y el desarrollo de una puntuación de evaluación.

3. Instrucciones Ajunte : Aprenda cómo la instrucción Autorización fina ayuda a los LLM a seguir las instrucciones con mayor precisión y cómo la memoria ajustada incrusta los hechos para reducir las alucinaciones.
4. Autorización fina de eficiencia de rendimiento (PEFT) : descubra técnicas avanzadas como la adaptación de bajo rango (LORA) y la mezcla de expertos en memoria (MOME) para reducir el tiempo de entrenamiento al tiempo que mejora el rendimiento del modelo.
5. Autorización iterativa : pasar por un proceso iterativo de generar datos de capacitación, ajustar y aplicar consejos prácticos para aumentar la precisión del modelo.

? Puntos clave

• Mejora sistemática : aprenda los pasos de desarrollo, desde la evaluación, la solicitud, la autorreflexión y el ajuste fino, para mejorar la fiabilidad y precisión de su modelo.
• ? Ajuste de la memoria : mejore el rendimiento de su modelo integrando hechos para reducir las alucinaciones.
• ? Modelos de LLAMA : use el modelo LLAMA 3-8B para construir una aplicación LLM que convierta el texto en SQL con un esquema personalizado.

? ‍? Sobre los instructores

• ?
• ? ‍ Amit Sangani : director senior de ingeniería asociada en Meta, Amit comparte valiosos ideas sobre ingeniería confiables LLM Aplicaciones.

? Para inscribirse en el curso o para obtener más información, visite Deeplearning.ai.