LLM with RAG

第一阶段

1. 抹布文件
   • 大语言模型：
     • 语言模型：“ databricks/dbrx-instruct”：https：//huggingface.co/databricks/dbrx-instruct
     • NVIDIA客户端：https：//build.nvidia.com/databricks/dbrx-instruct
   • 向量数据库：
     • 米尔维斯：https：//milvus.io/
     • 嵌入模型：https：//huggingface.co/thenlper/gte-base
     • 支持OS：Linux
       • 目前不支持Windows OS，因为MILVUS_LITE不支持Windows OS
       • 将来会选择不同的数据库以解决此问题
2. PDF_TO_TXT文件
   • 当前手柄：
     • pdf（文本）到TXT
     • 需要改善预订的预处理以进食抹布模型
3. 进度（10/01/2024）：简化版本可在Linux上使用，具有一个查询能力
   • （10/02/2024）：能够重用查询的收集

第二阶段（当前）

1. 使用OCR创建PDF阅读器
   • 接受上传的PDF
   • 使用EasyOcr阅读
   • 将结果存储在文件中，最好是每个PDF的一个文件
2. 抹布文件支持递归问题和答案
3. 能够将历史质量质量检查存储在相应的文件中

第三阶段

1. 将抹布与PDF阅读器结合
2. 支持LLM长期内存
   • 将QA历史记录添加到另一个存储
   • 将答案与历史相结合

清理实现并优化

1. 优化，速度和内存

部署？