Fine Tuning GPT 3 for Amazon Support Chatbot

Amazon Support Chatbot con GPT-3 sintonizado

Este proyecto implica la creación de un bot de soporte de Amazon personalizado utilizando el modelo de lenguaje GPT-3 de OpenAI. El objetivo es construir una IA conversacional que pueda proporcionar respuestas precisas y útiles a las consultas de los clientes en función del conjunto de datos de respuesta a la pregunta de Amazon. Afinaremos un modelo GPT-3 en el conjunto de datos de respuesta a preguntas personalizadas de Amazon para este propósito.

Pasos de proyecto

1. Preparación de datos

• El proyecto comienza con un conjunto de datos llamado amazon_qna.csv , que contiene preguntas y respuestas relacionadas con Amazon.
• Para entrenar el modelo GPT-3, se crea una muestra más pequeña de datos de entrenamiento y validación a partir del conjunto de datos original.

2. Conversión de datos

• Los conjuntos de datos de capacitación y validación ( training_amazon_qna.csv y validation_amazon_qna.csv ) se convierten del formato CSV a formato JSONL ( training_amazon_qna.jsonl y validation_amazon_qna.jsonl )
• El formato JSONL (JSON Lines) es necesario para ajustar el modelo GPT-3.
• Cada fila en el archivo JSONL contendría un JSON válido que tiene 2 claves, prompt y completion . Este formato es obligatorio para ajustar un modelo GPT-3.

{ "prompt" : " Non-Ducted range Hood, does this mean there is no need to vent up thru the roof or out thru the wall? -> " , "completion" : " That's correct. The air flows through the filter on the underside and out through the three columns of vent slats you see on the front of the range hood. There is no connection to other vents or ducts in a wall or through the roof. n " }

3. Subiendo datos a OpenAi

• Los conjuntos de datos de entrenamiento y validación convertidos en formato JSONL se cargan en la plataforma OpenAI.
• Estos datos se utilizarán para ajustar el modelo GPT-3 para generar respuestas específicas para las consultas de atención al cliente de Amazon.

4. Ajuste fino

• El modelo GPT-3 utilizado para el ajuste fino es davinci .
• Los hiperparámetros para el ajuste se establecen de la siguiente manera:
  • Número de épocas: 15
  • Tamaño de lote: 3
  • Multiplicador de tasa de aprendizaje: 0.3

5. Monitoreo y seguimiento

• El proceso de capacitación de ajuste fino se monitorea para garantizar que el modelo esté aprendiendo de manera efectiva.
• El progreso de todos los trabajos de ajuste se rastrea en la plataforma Operai.

6. Extracción del nombre del modelo

• Una vez que se completa el ajuste, el nombre del modelo ajustado se extrae del proceso de entrenamiento.
• Este modelo se utilizará para generar respuestas en el BOT de soporte de Amazon.

7. Inferencia

• El modelo GPT-3 sintonizado se utiliza para la inferencia en el bot de soporte de Amazon.

 prompt = "Is this louder/quiter than the HWM450? Does it need to be cleaned more often? ->"

• El aviso anterior dará como resultado la siguiente respuesta

 "I think they are about the same, and it does not need to be cleaned n " 

Conclusión

Este proyecto demuestra el proceso de creación de un bot de soporte de Amazon personalizado utilizando un modelo GPT-3 sintonizado. Al capacitar al modelo en datos de preguntas y respuestas específicos de Amazon, el BOT puede proporcionar respuestas útiles a las consultas de los clientes. El ReadMe proporciona una visión general de los pasos del proyecto, la preparación de datos, el ajuste, la inferencia y el objetivo final de construir un chatbot de atención al cliente eficiente para consultas relacionadas con Amazon.

Contacto

Si tiene alguna pregunta, sugerencia o desea discutir este proyecto más a fondo, no dude en ponerse en contacto conmigo:

• Correo electrónico
• LinkedIn

¡Estoy abierto a la colaboración y estaría feliz de conectarme!

Mir Abdullah Yaser