Jessup Cellar RAG App

傑西普的助手？

Jessup的助手是基於檢索的聊天機器人，它使用預訓練的Llama3-8B模型來生成對用戶輸入的響應。由於標記速度很高，Groq已被用於幾乎即時推斷，而Google Gen AI Studio API已被用來獲取嵌入。該模型使用PDF文件根據上下文進行信息檢索和生成響應。可以在“ PDFS”文件夾中找到PDF文件。

現場演示

該項目託管在簡化中，可以在此處訪問。

入門

這些說明將指導您在本地計算機上啟動和運行項目的副本以開發和測試目的。

先決條件

首先，您需要將存儲庫克隆到本地機器。您可以通過在終端中運行以下命令來執行此操作：

git clone https://github.com/soumyadeepbose/Jessup-Cellar-RAG-App.git

接下來，您需要安裝所需的軟件包。您可以通過在終端中運行以下命令來執行此操作：

pip install -r requirements.txt

設置環境變量

您將需要設置環境變量。為此，您需要在項目的根目錄中創建一個.env文件。 .env文件應包含以下環境變量：

• GOOGLE_API_KEY ：這是Google Gen AI Studio API的API密鑰。您可以在此處按照說明來獲得此功能。

• GROQ_API_KEY ：這是GROQ API的API鍵。您可以在此處按照說明來獲得此功能。

運行該應用程序

現在，要運行該應用程序，您需要在終端中運行以下命令：

streamlit run app.py

作者

• soumyadeep bose？