thesis rag chatbot gemini

大師論文retrival增強一代聊天機器人

作者：穆罕默德·烏馬爾·瓦西姆（Muhammad Umar Waseem）

內容

• 1.1 API鍵
• 1.2數據預處理
• 1.3使用的模型
• 1.4矢量商店
• 1.5蘭鏈提示模板
• 1.6 RETREREVIOL鏈
• 1.7查詢用戶界面

1個基於蘭鏈的Retreival增強發電

已經製作了一個基於蘭鏈的抹布應用程序，它使用矢量嵌入和Google Gemini Pro LLM模型來工作。

1.1 API鍵

 export GOOGLE_API_KEY= " your api key "

1.2數據預處理

langchain.document-loaders已使用了非結構性Excelloader，用於將Excel電子表格數據加載到文檔中。

1.3使用的模型

Google Gemini Pro模型已用於獲得上下文聊天完成。

 llm = ChatGoogleGenerativeAI ( model = "gemini-pro" , google_api_key = os . environ [ "GOOGLE_API_KEY" ])
embeddings = GoogleGenerativeAIEmbeddings ( model = "models/embedding-001" )

1.4矢量商店

Faiss（Facebook AI相似性搜索）矢量存儲已用於為已加載的文檔創建和存儲語義嵌入。然後，可以通過相似性搜索查詢矢量商店以獲取最相關的信息。

 vectordb = FAISS . from_documents ( documents = docs , embedding = embeddings )

# save db as pickle file
with open ( "vectorstore.pkl" , "wb" ) as f :
pickle . dump ( vectordb , f )

#load db from pickle file
with open ( "vectorstore.pkl" , "rb" ) as f :
my_vector_database = pickle . load ( f )

# get 5 most relevant similar results
retriever = my_vector_database . as_retriever ( search_kwargs = { "k" : 5 })

1.5蘭鏈提示模板

提示網板已從Langchain使用來製作有效的提示，後來將傳遞給模型。該提示還包含輸入變量，這些變量表明該模型將通過用戶傳遞某些信息。

 template = """
You are a very helpful AI assistant.
You answer every question and apologize polietly if you dont know the answer.
The context contains information about a person,
title of their thesis,
the abstract of their thesis
and a link to their thesis.
Your task is to answer based on that information.
context: {context}
input: {input}
answer:
"""

prompt = PromptTemplate . from_template ( template )

1.6 RETREREVIOL鏈

Retreival Chain已被用來將文檔/嵌入到模型中，作為Retreival增強發電的背景。

 combine_docs_chain = create_stuff_documents_chain ( llm , prompt )
retrieval_chain = create_retrieval_chain ( retriever , combine_docs_chain )

1.7查詢用戶界面