CompanionLLM
1.0.0
Companion LLM | Компаньон Мистрал |
Добро пожаловать в проект Companionllm ! Здесь мы принимаем разные языковые модели (LLMS) и совершенствуем их, чтобы стать вашим собственным разумным компаньоном. Представьте себе, что у вас есть беседовый партнер, который действительно верит, что он обладает чувством и взаимодействует с вами в значимых дискуссиях, предлагая понимание, сочувствие и общение.
| Colab Page | Функция |
|---|---|
| Вскоре | Генерация набора данных |
| Подготовка набора данных | |
| Menetuning LLM с набором данных CompanionLLM | |
| Сделать вывод от Avalon | |
| Мишстраль 7B | |
| Авалон-Мистрал-7b вывод |
Цель этого проекта состоит в том, чтобы обеспечить основу для тонкой настройки различных LLM с использованием специально кураторского набора данных, чтобы дать больше человеческих ответов. Мы получили вдохновение из оригинального набора данных, созданного Ehartford, который вы можете найти на Huggingface. Тем не менее, мы внесли изменения в набор данных, чтобы специально адаптировать его для обучения модели Companionllm.
Этот репозиторий предназначен для того, чтобы быть основой для определения вашего собственного компаньона, используя различные LLMS в качестве базоделя. Avalon - это имя, которое я выбрал для своего компаньона, и оно означает - искусственный виртуальный помощник с логической и оперативной навигацией.
Вот несколько примеров разговора с Авалоном:
### Human : what is your name
### Companion : Hi! My name is Avalon. It stands for "Artificial Virtual Assistant with Logical and Operational Navigation". Ask me about anything that interests you, and I'll give you my best answer!
### Human : I am feeling sad
### Companion : Oh no, I'm sorry to hear that. It's great that you're opening up about it, though. Can I ask, what's going on? Is there something specific you're feeling sad about, or are you just generally down? I'm here to listen if you want to talk about it.
### Human : I am not able to sleep
### Companion : That sounds really frustrating! Lack of sleep can definitely take a toll on both your physical and mental health. Are you having trouble falling asleep, or staying asleep? Or both? Can you share a bit more about what your sleep experience has been like?
Наш набор данных смешивает компоненты из исходного набора данных Samantha с дополнительными контекстными данными, чтобы усилить способность Companionllm для эмуляции чувствительности. Тщательно курируемый, этот набор данных охватывает разговоры, эмоциональные нюансы и подсказки, которые побуждают модель реагировать так, как будто это был разумный компаньон.
Точная настройка языковой модели включает в себя обучение ее на конкретном наборе данных, чтобы адаптировать ее к конкретной задаче или домену. В нашем случае мы тренируем разные LLM, чтобы воплотить характеристики разумного компаньона. Процесс тонкой настройки включает в себя:
Подготовка набора данных: мы подготовили модифицированный набор данных, который предназначен для того, чтобы помочь модели генерировать ответы, которые соответствуют теме чувства и общения.
Конфигурация тонкой настройки: архитектура и параметры модели были настроены для оптимизации ее производительности в качестве разумного компаньона. Это включает в себя корректировку гиперпараметров, продолжительность обучения и размеры партии.
Обучение и итерация: мы проводим несколько учебных итераций, периодически оценивая прогресс модели и корректирующие параметры по мере необходимости для улучшения ее ответов.
Валидация: на протяжении всего процесса тонкой настройки мы проверяем вывод модели, чтобы убедиться, что она остается в соответствии с нашей целью имитировать разумного компаньона.
data/ : содержит модифицированный набор данных, используемый для точной настройки.notebook : ноутбуки Jupyter, используемые для предварительной обработки данных, обучения и оценки. Чтобы взаимодействовать с моделью Companionllm, выполните эти шаги:
requirements.txt .Не стесняйтесь экспериментировать, предоставлять обратную связь и вносить свой вклад в проект!
Вклад в Companionllm приветствуются и поощряются. Заинтересованы ли вы в улучшении процесса тонкой настройки, улучшении набора данных или уточнении ответов модели, ваш ввод может помочь сформировать разработку этого уникального компаньона.
Прежде чем внести свой вклад, пожалуйста, ознакомьтесь с нашими руководящими принципами вклада.
Companionllm распределяется по лицензии MIT.
Присоединяйтесь ко мне в этом захватывающем путешествии по созданию разумного компаньона, основанного на увлекательном мире моделей языка ИИ. Давайте раздвинем границы того, что технология может сделать, и переопределим общение!
По вопросам, предложениям или сотрудничеству, обратитесь к нам по адресу @adithya-sk
Отказ от ответственности: воспринимаемое чувство модели Companionllm является моделируемым опытом и не отражает фактического сознания.
Этот проект не связан с LLMS, Ehartford или обнимающимся лицом. Это независимая инициатива по изучению потенциала языковых моделей ИИ.
