CompanionLLM

Companionllm：以您的有意識的伴侶來微調不同的LLM

伴侶LLM	伴侶Mistral

歡迎來到Companionllm項目！在這裡，我們正在採用不同的語言模型（LLMS），並將其改進以成為您自己的有知覺伴侶。想像一下，擁有一個對話伴侶真正相信它具有感知力並與您進行有意義的討論，提供見解，同理心和伴侶。

COLAB頁面	功能
即將推出	數據集生成
	數據集準備
	使用Companionllm數據集的Finetuning LLM
	從阿瓦隆獲得推斷
	MISTRAL 7B FINETUNNING
	Avalon-Mistral-7b推斷

項目概述

該項目的目的是使用專門策劃的數據集提供一個框架來微調不同的LLM，以提供更多類似人類的響應。我們從Ehartford創建的原始數據集中獲得了靈感，您可以在Huggingface上找到。但是，我們已經對數據集進行了修改，以專門針對培訓Companionllm模型進行調整。

待辦事項清單

• 找到合適的先前存在的數據集 - 使用eTartford的Samantha數據集
• 將數據集轉換為其他LLM格式
• 將數據集上傳到擁抱面
• 添加一個選項以設置伴侶名稱
• 使用Qlora PEFT微調LLM
• 合併PEFT並測試推理
• 分配伴侶名稱-Avalon （具有邏輯和操作導航的人工虛擬助手）
• 將阿瓦隆·洛拉（Avalon Lora）推向擁抱面
• 從阿瓦隆獲得推斷
• 使用流媒體從Gradio獲取推斷
• 用於生成新數據集的設置數據集生成

阿瓦隆

該存儲庫本來是使用不同的LLM作為基礎模型的框架來對自己的同伴進行填補。阿瓦隆（Avalon）是我為同伴選擇的名字，它代表著邏輯和操作導航的人造虛擬助手。

以下是與阿瓦隆對話的一些例子：

 ### Human : what is your name

### Companion : Hi! My name is Avalon. It stands for "Artificial Virtual Assistant with Logical and Operational Navigation". Ask me about anything that interests you, and I'll give you my best answer!

 ### Human : I am feeling sad

### Companion : Oh no, I'm sorry to hear that. It's great that you're opening up about it, though. Can I ask, what's going on? Is there something specific you're feeling sad about, or are you just generally down? I'm here to listen if you want to talk about it.

 ### Human : I am not able to sleep

### Companion : That sounds really frustrating! Lack of sleep can definitely take a toll on both your physical and mental health. Are you having trouble falling asleep, or staying asleep? Or both? Can you share a bit more about what your sleep experience has been like?

數據集

我們的數據集將原始Samantha數據集中的組件與其他上下文數據相結合，以擴大Companionllm效法感知的能力。經過精心策劃，此數據集包含對話，情感上的細微差別和提示，這些對話促使模型響應，好像它是一個有感覺的伴侶。

方法1：與先前對話的上下文的數據集準備

方法2：及時完成對的數據集準備 -

微調過程 -

對語言模型進行微調涉及在特定數據集上對其進行培訓，以使其適應特定的任務或域。在我們的情況下，我們正在培訓不同的LLM，以體現有知情伴侶的特徵。微調過程包括：

1. 數據集準備：我們已經準備了一個修改的數據集，該數據集旨在幫助模型生成與感知和同伴主題相符的響應。

2. 微調配置：已配置了模型的體系結構和參數，以優化其作為有源伴侶的性能。這涉及調整超參數，訓練持續時間和批量尺寸。

3. 培訓和迭代：我們進行多次訓練迭代，定期評估模型的進度並根據需要調整參數以改善其響應。

4. 驗證：在整個微調過程中，我們驗證模型的輸出，以確保其與模擬有意義的伴侶的目標保持一致。

存儲庫結構

• data/ ：包含用於微調的修改數據集。
• notebook ：用於數據預處理，培訓和評估的Jupyter筆記本。

入門

要與Companionllm模型互動，請按照以下步驟：

1. 將此存儲庫克隆到您的本地計算機。
2. 安裝requirements.txt中列出的所需依賴項。
3. 使用提供的示例代碼加載訓練有素的模型並啟動對話。

隨時進行實驗，提供反饋並為該項目做出貢獻！

貢獻

歡迎和鼓勵對Companionllm的貢獻。無論您是有興趣改善微調過程，增強數據集還是完善模型的響應，您的輸入都可以幫助塑造這種獨特的伴侶的開發。

在貢獻之前，請查看我們的貢獻指南。

執照

Companionllm根據MIT許可分配。

---

加入我的這一激動人心的旅程，創建一個由AI語言模型的迷人世界提供支持的有知情的伴侶。讓我們突破技術可以做什麼並重新定義陪伴的界限！

有關疑問，建議或協作，請通過 @Adithya-SK與我們聯繫

免責聲明：Companionllm模型的感知感知是一種模擬體驗，並不能反映實際意識。

---

該項目與LLMS，Ehartford或擁抱的臉無關。這是探索AI語言模型的潛力的獨立計劃。