Jessup Cellar RAG App

杰西普的助手？

Jessup的助手是基于检索的聊天机器人，它使用预训练的Llama3-8B模型来生成对用户输入的响应。由于标记速度很高，Groq已被用于几乎即时推断，而Google Gen AI Studio API已被用来获取嵌入。该模型使用PDF文件根据上下文进行信息检索和生成响应。可以在“ PDFS”文件夹中找到PDF文件。

现场演示

该项目托管在简化中，可以在此处访问。

入门

这些说明将指导您在本地计算机上启动和运行项目的副本以开发和测试目的。

先决条件

首先，您需要将存储库克隆到本地机器。您可以通过在终端中运行以下命令来执行此操作：

git clone https://github.com/soumyadeepbose/Jessup-Cellar-RAG-App.git

接下来，您需要安装所需的软件包。您可以通过在终端中运行以下命令来执行此操作：

pip install -r requirements.txt

设置环境变量

您将需要设置环境变量。为此，您需要在项目的根目录中创建一个.env文件。 .env文件应包含以下环境变量：

• GOOGLE_API_KEY ：这是Google Gen AI Studio API的API密钥。您可以在此处按照说明来获得此功能。

• GROQ_API_KEY ：这是GROQ API的API键。您可以在此处按照说明来获得此功能。

运行该应用程序

现在，要运行该应用程序，您需要在终端中运行以下命令：

streamlit run app.py

作者

• soumyadeep bose？