RAG Enhanced NCERT Tutor

NCERT书籍抹布系统

该项目实现了使用Ollama用于文本嵌入和矢量数据库的NCERT书籍的检索型生成（RAG）系统，以及用于语言模型响应的GROQ API。

特征

• 通过Ollama使用通用文本嵌入模型来创建矢量嵌入
• 商店嵌入Chromadb
• 利用Llama 3 8B模型的Groq API产生响应
• 为用户互动提供了FastApi后端和简化前端

简化接口

下面是我们的NCERT书籍抹布系统的流线界面的屏幕截图：

系统体系结构

这是NCERT书籍抹布系统体系结构的概述：

系统体系结构由以下组件组成：

1. 数据摄入：NCERT书籍经过处理并准备嵌入。
2. 嵌入生成：带有通用文本嵌入模型的Ollama为处理的文本创建向量嵌入。
3. 向量存储：Chromadb存储生成的嵌入，以有效检索。
4. 查询处理：处理用户查询，并从Chromadb检索相关的嵌入。
5. 语言模型：带有Llama 3 8B模型的GROQ API根据检索到的上下文和用户查询生成响应。
6. 后端：FastApi处理前端与各种系统组件之间的通信。
7. Frontend ：Sparlit提供了一个交互式用户界面，用于查询系统并显示结果。

先决条件

在开始之前，请确保您满足以下要求：

• Python 3.7+
• Ollama安装并设置
• GROQ API帐户和API密钥

安装

1. 克隆存储库：

    git clone https://github.com/yourusername/ncert-rag-system.git
   cd ncert-rag-system
   

2. 安装所需的依赖项：

    pip install -r requirements.txt
   

3. 下载并设置Ollama：

   • 遵循奥拉马（Ollama）官方网站上安装奥拉马（Ollama）的说明
   • 下载通用文本嵌入模型：

      ollama pull nomic-embed-text
     

4. 设置您的GROQ API密钥：

   • 在项目root中创建.env文件
   • 添加您的GROQ API密钥：

      GROQ_API_KEY=your_api_key_here
     

用法

1. 启动FastApi后端：

    uvicorn main:app --reload
   

2. 启动简化的UI：

    streamlit run streamlit_app.py
   

3. 打开您的Web浏览器并导航到简化应用程序URL（通常是http://localhost:8501 ）

4. 使用界面与NCERT书籍抹布系统进行交互

抹布评估

执照

该项目是根据MIT许可证获得许可的 - 有关详细信息，请参见许可证文件。

贡献

欢迎捐款！请随时提交拉动请求。

致谢

• Ollama提供嵌入模型
• GROQ的LLM API
• Fastapi和简化后端和前端框架