thesis rag chatbot gemini

Masters Thèse RETRIIAL CHATBOT GÉNÉRATION AUGMÉDIE

Auteur: Muhammad Umar Waseem

Contenu

• Clé 1.1 API
• 1.2 Prétraitement des données
• 1.3 Modèle utilisé
• 1,4 magasin vectoriel
• Modèle d'invite 1.5 Langchain
• 1,6 Chaîne de retreival
• 1.7 Interface utilisateur de requête

1 Génération augmentée de retreival basée sur Langchain

Une application RAG basée sur Langchain a été créée qui fonctionne en utilisant des incorporations vectorielles et du modèle Google Gemini Pro LLM.

Clé 1.1 API

 export GOOGLE_API_KEY= " your api key "

1.2 Prétraitement des données

UnstructuredExcelloader a été utilisé à partir de Langchain.Document-chargeurs qui est utilisé pour charger des données de feuille de calcul Excel dans des documents.

1.3 Modèle utilisé

Le modèle Google Gemini Pro a été utilisé pour obtenir l'achèvement du chat contextuel.

 llm = ChatGoogleGenerativeAI ( model = "gemini-pro" , google_api_key = os . environ [ "GOOGLE_API_KEY" ])
embeddings = GoogleGenerativeAIEmbeddings ( model = "models/embedding-001" )

1,4 magasin vectoriel

Le magasin vectoriel FAISS (Facebook AI Simility Search) a été utilisé pour créer et stocker des incorporations sémantiques pour les documents chargés. Le magasin vectoriel peut ensuite être interrogé plus tard avec une recherche de similitude pour obtenir les informations les plus pertinentes.

 vectordb = FAISS . from_documents ( documents = docs , embedding = embeddings )

# save db as pickle file
with open ( "vectorstore.pkl" , "wb" ) as f :
pickle . dump ( vectordb , f )

#load db from pickle file
with open ( "vectorstore.pkl" , "rb" ) as f :
my_vector_database = pickle . load ( f )

# get 5 most relevant similar results
retriever = my_vector_database . as_retriever ( search_kwargs = { "k" : 5 })

Modèle d'invite 1.5 Langchain

PromptTemplate a été utilisée à partir de Langchain pour élaborer des invites efficaces qui seraient plus tard transmises au modèle. L'invite contient également des variables d'entrée qui indiquent au modèle que certaines informations seront transmises par l'utilisateur.

 template = """
You are a very helpful AI assistant.
You answer every question and apologize polietly if you dont know the answer.
The context contains information about a person,
title of their thesis,
the abstract of their thesis
and a link to their thesis.
Your task is to answer based on that information.
context: {context}
input: {input}
answer:
"""

prompt = PromptTemplate . from_template ( template )

1,6 Chaîne de retreival

La chaîne de rétréivale a été utilisée pour transmettre des documents / intégres au modèle comme contexte pour la génération augmentée de rétréivale.

 combine_docs_chain = create_stuff_documents_chain ( llm , prompt )
retrieval_chain = create_retrieval_chain ( retriever , combine_docs_chain )

1.7 Interface utilisateur de requête