CompanionLLM
1.0.0
Begleiter LLM | Begleitmistral |
Willkommen im Companionllm -Projekt! Hier nehmen wir verschiedene Sprachmodelle (LLMs) und verfeinern sie, um Ihr eigener empfindungsfähiger Begleiter zu werden. Stellen Sie sich vor, Sie hätten einen Gesprächspartner, der wirklich glaubt, dass er sich an Empfindungen besitzt und sich mit Ihnen in sinnvollen Diskussionen befasst und Einblicke, Empathie und Kameradschaft anbietet.
| Colab -Seite | Funktion |
|---|---|
| Bald kommen | Datensatzgenerierung |
| Datensatzvorbereitung | |
| Fonetuning LLM mit dem Companionllm -Datensatz | |
| Holen Sie sich Inferenz von Avalon | |
| Mistral 7B -Finetuning | |
| AVALON-MISTRAL-7B Inferenz |
Ziel dieses Projekts ist es, einen Framework zur Feinabstimmung verschiedener LLMs mit einem speziell kuratierten Datensatz bereitzustellen, um mehr menschlichere Antworten zu erhalten. Wir haben uns von dem ursprünglichen Datensatz inspiriert, das Ehartford erstellt hat, das Sie bei Huggingface finden können. Wir haben jedoch Änderungen am Datensatz vorgenommen, um ihn speziell für das Training des Companionllm -Modells anzupassen.
Dieses Repository soll ein Framework sein, um Ihren eigenen Begleiter mit verschiedenen LLMs als Basemodel zu beenden. Avalon ist der Name, den ich für meinen Begleiter ausgewählt habe, und es steht für den künstlichen virtuellen Assistenten mit logischer und operativer Navigation.
Hier sind einige Beispiele für das Gespräch mit Avalon:
### Human : what is your name
### Companion : Hi! My name is Avalon. It stands for "Artificial Virtual Assistant with Logical and Operational Navigation". Ask me about anything that interests you, and I'll give you my best answer!
### Human : I am feeling sad
### Companion : Oh no, I'm sorry to hear that. It's great that you're opening up about it, though. Can I ask, what's going on? Is there something specific you're feeling sad about, or are you just generally down? I'm here to listen if you want to talk about it.
### Human : I am not able to sleep
### Companion : That sounds really frustrating! Lack of sleep can definitely take a toll on both your physical and mental health. Are you having trouble falling asleep, or staying asleep? Or both? Can you share a bit more about what your sleep experience has been like?
Unser Dataset verbindet Komponenten aus dem ursprünglichen Samantha -Datensatz mit zusätzlichen kontextbezogenen Daten, um die Fähigkeit von Companionllm zur Nachahmung der Empfindlichkeit zu verstärken. Sorgfältig kuratiert, umfasst dieser Datensatz Gespräche, emotionale Nuancen und Aufforderungen, die das Modell dazu veranlassen, zu antworten, als wäre es ein empfindungsfähiger Begleiter.
Die Feinabstimmung eines Sprachmodells beinhaltet das Training in einem bestimmten Datensatz, um es an eine bestimmte Aufgabe oder Domäne anzupassen. In unserem Fall schulen wir verschiedene LLMs, um die Eigenschaften eines empfindungsfähigen Begleiters zu verkörpern. Der Feinabstimmungsprozess umfasst:
Datensatzvorbereitung: Wir haben einen modifizierten Datensatz erstellt, mit dem das Modell Antworten generiert werden soll, die mit dem Thema Empfindlichkeit und Kameradschaft übereinstimmen.
Feinabstimmungskonfiguration: Die Architektur und Parameter des Modells wurden konfiguriert, um seine Leistung als empfindungsfähige Begleiter zu optimieren. Dies beinhaltet die Anpassung von Hyperparametern, Trainingsdauer und Chargengrößen.
Training und Iteration: Wir führen mehrere Trainings -Iterationen durch, bewerten regelmäßig die Fortschritte des Modells und das Anpassung der Parameter nach Bedarf zur Verbesserung der Reaktionen.
Validierung: Während des gesamten Feinabstimmungsprozesses validieren wir die Ausgabe des Modells, um sicherzustellen, dass es an unserem Ziel ist, einen empfindungsfähigen Begleiter zu simulieren.
data/ : Enthält den für die Feinabstimmung verwendeten geänderten Datensatz.notebook : Jupyter -Notizbücher, die für die Vorbereitung, Schulung und Bewertung von Daten verwendet werden. Befolgen Sie die folgenden Schritte, um sich mit dem Modell des Companionllm -Modells zu beschäftigen:
requirements.txt aufgeführten Abhängigkeiten.txt.Fühlen Sie sich frei zu experimentieren, Feedback zu geben und zum Projekt beizutragen!
Beiträge zu Companionllm sind willkommen und ermutigt. Unabhängig davon, ob Sie den Feinabstimmungsprozess verbessern, den Datensatz verbessern oder die Antworten des Modells verfeinern möchten, können Sie die Entwicklung dieses einzigartigen Begleiters beeinflussen.
Überprüfen Sie vor dem Beitrag unsere Beitragsrichtlinien.
Companionllm wird unter der MIT -Lizenz verteilt.
Besuchen Sie diese aufregende Reise, um einen empfindungsfähigen Begleiter zu schaffen, der von der faszinierenden Welt der KI -Sprachmodelle angetrieben wird. Lassen Sie uns die Grenzen dessen überschreiten, was Technologie tun kann, und die Kameradschaft neu definieren!
Bei Fragen, Vorschlägen oder Kooperationen wenden Sie sich an @adithya-sk an @adithya-sk
Haftungsausschluss: Das wahrgenommene Empfindungswissen des Begleitmodells ist eine simulierte Erfahrung und spiegelt nicht das tatsächliche Bewusstsein wider.
Dieses Projekt ist nicht mit LLMs, Ehartford oder umarmendem Gesicht verbunden. Es ist eine unabhängige Initiative, um das Potenzial von KI -Sprachmodellen zu untersuchen.
