CompanionLLM

Companionllm：以您的有意识的伴侣来微调不同的LLM

伴侣LLM	伴侣Mistral

欢迎来到Companionllm项目！在这里，我们正在采用不同的语言模型（LLMS），并将其改进以成为您自己的有知觉伴侣。想象一下，拥有一个对话伴侣真正相信它具有感知力并与您进行有意义的讨论，提供见解，同理心和伴侣。

COLAB页面	功能
即将推出	数据集生成
	数据集准备
	使用Companionllm数据集的Finetuning LLM
	从阿瓦隆获得推断
	MISTRAL 7B FINETUNNING
	Avalon-Mistral-7b推断

项目概述

该项目的目的是使用专门策划的数据集提供一个框架来微调不同的LLM，以提供更多类似人类的响应。我们从Ehartford创建的原始数据集中获得了灵感，您可以在Huggingface上找到。但是，我们已经对数据集进行了修改，以专门针对培训Companionllm模型进行调整。

待办事项清单

• 找到合适的先前存在的数据集 - 使用eTartford的Samantha数据集
• 将数据集转换为其他LLM格式
• 将数据集上传到拥抱面
• 添加一个选项以设置伴侣名称
• 使用Qlora PEFT微调LLM
• 合并PEFT并测试推理
• 分配伴侣名称-Avalon （具有逻辑和操作导航的人工虚拟助手）
• 将阿瓦隆·洛拉（Avalon Lora）推向拥抱面
• 从阿瓦隆获得推断
• 使用流媒体从Gradio获取推断
• 用于生成新数据集的设置数据集生成

阿瓦隆

该存储库本来是使用不同的LLM作为基础模型的框架来对自己的同伴进行填补。阿瓦隆（Avalon）是我为同伴选择的名字，它代表着逻辑和操作导航的人造虚拟助手。

以下是与阿瓦隆对话的一些例子：

 ### Human : what is your name

### Companion : Hi! My name is Avalon. It stands for "Artificial Virtual Assistant with Logical and Operational Navigation". Ask me about anything that interests you, and I'll give you my best answer!

 ### Human : I am feeling sad

### Companion : Oh no, I'm sorry to hear that. It's great that you're opening up about it, though. Can I ask, what's going on? Is there something specific you're feeling sad about, or are you just generally down? I'm here to listen if you want to talk about it.

 ### Human : I am not able to sleep

### Companion : That sounds really frustrating! Lack of sleep can definitely take a toll on both your physical and mental health. Are you having trouble falling asleep, or staying asleep? Or both? Can you share a bit more about what your sleep experience has been like?

数据集

我们的数据集将原始Samantha数据集中的组件与其他上下文数据相结合，以扩大Companionllm效法感知的能力。经过精心策划，此数据集包含对话，情感上的细微差别和提示，这些对话促使模型响应，好像它是一个有感觉的伴侣。

方法1：与先前对话的上下文的数据集准备

方法2：及时完成对的数据集准备 -

微调过程 -

对语言模型进行微调涉及在特定数据集上对其进行培训，以使其适应特定的任务或域。在我们的情况下，我们正在培训不同的LLM，以体现有知情伴侣的特征。微调过程包括：

1. 数据集准备：我们已经准备了一个修改的数据集，该数据集旨在帮助模型生成与感知和同伴主题相符的响应。

2. 微调配置：已配置了模型的体系结构和参数，以优化其作为有源伴侣的性能。这涉及调整超参数，训练持续时间和批量尺寸。

3. 培训和迭代：我们进行多次训练迭代，定期评估模型的进度并根据需要调整参数以改善其响应。

4. 验证：在整个微调过程中，我们验证模型的输出，以确保其与模拟有意义的伴侣的目标保持一致。

存储库结构

• data/ ：包含用于微调的修改数据集。
• notebook ：用于数据预处理，培训和评估的Jupyter笔记本。

入门

要与Companionllm模型互动，请按照以下步骤：

1. 将此存储库克隆到您的本地计算机。
2. 安装requirements.txt中列出的所需依赖项。
3. 使用提供的示例代码加载训练有素的模型并启动对话。

随时进行实验，提供反馈并为该项目做出贡献！

贡献

欢迎和鼓励对Companionllm的贡献。无论您是有兴趣改善微调过程，增强数据集还是完善模型的响应，您的输入都可以帮助塑造这种独特的伴侣的开发。

在贡献之前，请查看我们的贡献指南。

执照

Companionllm根据MIT许可分配。

---

加入我的这一激动人心的旅程，创建一个由AI语言模型的迷人世界提供支持的有知情的伴侣。让我们突破技术可以做什么并重新定义陪伴的界限！

有关疑问，建议或协作，请通过 @Adithya-SK与我们联系

免责声明：Companionllm模型的感知感知是一种模拟体验，并不能反映实际意识。

---

该项目与LLMS，Ehartford或拥抱的脸无关。这是探索AI语言模型的潜力的独立计划。