LLM Pandoras

英语| 简体中文|

LLM-WorkBench是使用简化的培训，微调和可视化语言模型的工具包。它非常适合研究人员和AI爱好者。

特征

• ？知识基础问答：我们提供各种知识检索方式，其中ES使用8.9.0混合搜索来搜索基于输入和答案的相关知识片段。
• Excel问答：我们使用chatglm3根据问题生成相应的Python代码，并使用内核执行相关代码以返回结果。
• ？模型培训：使用我们的工具包，您可以轻松培训自己的语言模型。
• ？模型微调：我们提供了一种简单的方法来微调模型以更好地适应您的特定任务。
• 模型可视化：我们的工具包包括一些可视化工具，可以帮助您更好地理解模型。

？ Docker-Compose安装

安装Elasticsearch（请根据Docker-Compose文件打开相应的服务器端口，或自定义）：

 cd docker/es
docker-compose up -d

要使用知识基础问答，您需要构建相应的索引：

方法一：您可以使用以下命令安装llm-workbench：

 cd LLM-Workbench
docker-compose up -d

对于使用Excel表Q＆A的情况，您需要输入容器并指定内核解释器：

 ipython kernel install --name llm --user

在哪里，LLM对应于Conda环境名称。

？用法

方法2：安装LLM-WorkBench后，您可以从以下命令开始：

 pip install -r requirements.txt
streamlit run chat-box.py

然后，您可以打开浏览器中显示的URL，以开始使用LLM-Workbench。

？贡献

我们欢迎任何形式的贡献！如果您有任何疑问或建议，请随时在Github上提高它们。

？执照

LLM-Workbench根据MIT许可发布。有关更多详细信息，请参阅许可证文件。

？联系我们

如果您有任何疑问或建议，请随时通过电子邮件或Github询问我们。

星历史