Aetherius_AI_Assistant
1.0.0
Version .05 des Ätherius AI Assistenten/Agenten von Libraryofcelsus.com
Installationshandbuch
Aetherius -Verwendungsführer
Springe zu Changelog
Discord Server
Aetherius befindet sich in einem Zustand ständiger iterativer Entwicklung. Wenn Ihnen die von Ihnen verwendete Version gefällt, führen Sie eine Sicherung oder machen Sie eine Gabel. Erwarten Sie Fehler.
Update zu meiner Gesundheit
Am 6/07 unterzog ich meine dritte Hüftoperation. Leider war die Situation schwerwiegender als zunächst erwartet und erforderte einen Knorpel des Spenders aufgrund von Knochen bei Knochenarthritis. Wenn diese Operation nicht erfolgreich ist, benötige ich möglicherweise einen totalen Hüftersatz, bevor ich dreißig werde. Zum Glück!
Auf hellere Sicht hat mein Handgelenk erhebliche Verbesserungen gezeigt. Es mag nur in meinem Kopf sein, aber das für meine Hüfte verschriebene Medikamente, um Narbengewebe zu begrenzen und das Nachwachsen von Knochen an meinem Femur zu verhindern, scheint Wunder für mein Handgelenk gearbeitet zu haben. Der große Klumpen des Narbengewebes hat sich endgültig auflösen, und ich habe viel weniger Schmerzen während des längeren Gebrauchs meiner Hand, obwohl dies auf die entzündungshemmenden Medikamente zurückzuführen ist. Ungeachtet dessen erreiche ich endlich einen Punkt, an dem ich die KI -Arbeit wieder aufnehmen kann. Ich habe vor, langsam zu beginnen, beginnend mit der Wiederaufnahme der Aetherius -Codebase. Im Laufe der Zeit hat sich die Verwendbarkeit von Aetherius aufgrund seiner Abhängigkeit von veralteten Aufforderungstechniken erheblich verringert, die nicht mit modernen Modellen kompatibel sind. Sobald der Refaktor abgeschlossen ist, sollte Aetherius erneut ein funktionaler KI -Assistent sein.
Das Update des Code Refactor Aetherius ist ziemlich komplex geworden, sodass es äußerst umständlich ist, an einzelnen Aspekten zu arbeiten. Um dies zu lindern und den Entwicklungsprozess zu optimieren, habe ich beschlossen, jede Technik in ein eigenes Repository zu unterteilen. Dieser Ansatz ermöglicht die individuelle Verbesserung und erleichtert es allen Interessierten, den Code zu sezieren. Sobald alle verschiedenen Teile umgeschrieben und verbessert wurden, werde ich sie wieder in das Haupt -Aetherius -Projekt integrieren.
Aktuelle individuelle Skripte:
Jüngste Änderungen
• 6/10 Code Refactor gestartet
• 6/10 begann die Verbesserung der internen Eingabeaufforderungen zu verbessern
• 6/10 Lama 3 Formatierung hinzugefügt
• 6/10 Support für Koboldcpp hinzugefügt
• 6/10 aktualisiert Oobabooga, um neue API zu verwenden
• 6/10 Zusätzliche Fähigkeit zur Verwendung von Zeichenkarten V2 hinzugefügt
• 4/08 Neues API -Skript hinzugefügt. Dadurch wird der Discord Bot integriert und wird automatisch gestartet, wenn ein gültiges Token in der api_setings.json erkannt wird. NGROK wird für eine öffentliche URL verwendet, die derzeit Openai Formating verwendet.
• 4/08 Fehler mit der Bildverarbeitung behoben, sollte jetzt sowohl mit der Benutzeroberfläche als auch mit API -Skript funktionieren.
• 2/11 Fixed Response Printing Präfix.
• 2/09 GPT Vision zur Benutzeroberfläche hinzugefügt. Fügte auch TTs hinzu.
• 2/07 fügte der Benutzeroberfläche Webscape- und Dateiprozess -Tools hinzu
• 1/16 experimentelle Version einer aktualisierten Benutzeroberfläche hinzugefügt. Tools, TTs und Spracheingaben müssen noch aktualisiert werden.
• 1/09 Aktualisierter Agentenmodus mit einer neuen expliziten Speicher Suche
• 1/08 fügte einen zufälligen Wald -ähnlichen Ansatz für explizite Speichersuche hinzu
• 1/08 Fixes Knowledge Domain Auswahlfehler
Aetherius ist ein vielseitiger, modularer AI-Assistent/Sub-Agent-Framework, der sich Ihren Bedürfnissen anpasst. Die Fähigkeiten erstrecken sich über konventionelle Chatbots hinaus:
Echtzeitdaten : Aetherius hat Zugriff auf das Web oder Ihre eigenen Daten im Agentenmodus und ermöglicht Informationen, die nicht im Basismodell enthalten sind.
Multi-Agent-Framework : Aetherius gibt Ihnen die Möglichkeit, Subagenten für den Anwendungsfall zu erstellen, den Sie haben. Alternativ, können Sie es stattdessen Python -Skripte auslösen lassen.
Reflektierendes Journal : Sprechen Sie Ihre Meinung frei und erhalten Sie ohne Urteilsvermögen oder Angst nachdenklich.
Lernwerkzeug : Tauchen Sie tief in Ihre Lieblingsthemen ein und verbessern Sie Ihr Wissen mühelos.
Datenanalyse Begleiter : Nutzen Sie die Leistung Ihrer Daten mit Aetherius an Ihrer Seite.
Kognitiver Ausladung : Ein zweites Gehirn, das völlig privat ist und Sie bei der Organisation von Gedanken und Ideen unterstützt.
Inhaltsgenerierung : Generieren Sie Inhalte einfach aus Dateien oder Webcrapes.
Realistisches Gedächtnis : Aetherius basiert auf einer Simulacra des menschlichen Gedächtnisses, um realistischere Rückruf- und Gedankenbildung zu liefern.
Aetherius ist ein lokal betriebener AI-Assistent/Multi-Agent-Framework, der Ihnen die ultimative Kontrolle gewährt. Keine externe Kraft kann es ohne Ihre Zustimmung ändern und Ihre Privatsphäre sicherstellen.
Wie aus dem Versuchsveränderungswechsel bei „Open“ AI im Jahr 2023, geschlossen, können verwaltete Lösungen nicht vertrauenswürdig sein. Selbst wenn Sie der Führung vertrauen, kann sie sich sofort ohne Vorwarnung ändern. Sie haben keine wirkliche Kontrolle über gesendete Daten.
Durch die lokale Ausführung kann dieses Problem vermieden werden.
Im Zentrum des Ätherius liegt ein benutzerdefiniertes Randwerk (Lond-Tat Memory) (LLM), das von Open Source LLMs mithilfe der AetherNode-API (Free Tier Colab verfügbar), Oobabooga Text-UI, Koboldcpp oder Openais Chatgpt angetrieben wird. Verschiedene Gedächtnistypen werden extrahiert und kombiniert, um einen realistischeren und kreativeren Denkprozess als andere Chatbots zu bieten. Da es sich um ein Framework handelt, kann Aetherius mehrere Hosts verwenden, um Berechnung auf mehrere Maschinen zu laden, um die Rechenzeit zu erhöhen.
Aetherius kann nicht als grundlegender Chatbot dienen, sondern kann auch Subagenten verwenden. Diese ermöglichen es Aetherius, seine Erinnerungen besser zu durchsuchen oder sich mit externen Daten zu verbinden. Subagenten werden durch Auslösen eines Skripts ausgeführt, sodass Aetherius die meisten Dinge theoretisch verwenden kann, die von Python ausgelöst werden können. Aetherius kann jetzt auch dank der GPT-4-Vision „sehen“.
Aetherius wurde aus meiner Besessenheit von AI und meinen philosophischen Kontemplationen über das Gleichgewicht zwischen freiem Willen und Determinismus geboren. Ich glaube zwar, dass der freie Wille ein inhärentes Attribut aller Menschen ist, aber ich glaube nicht, dass die durchschnittliche Person die Zeit damit verbracht hat, zu individuell oder zu lernen, wie man ihrem "wahren Selbst" dient. Folglich werden sie anfällig für externe Einflüsse und können leicht beeinflusst werden. Oft werden Entscheidungen, die als selbstgesteuert empfunden werden, versehentlich von externen Reizen oder früheren Informationen geprägt.
Aufbauend auf dieser Perspektive setze ich fest, dass eine Darstellung des menschlichen kognitiven Prozesses durch die akribische Extraktion und Synthese verschiedener Gedächtnismodalitäten konstruiert werden kann. Während ein solches System im traditionellen Sinne möglicherweise kein "Bewusstsein" erreicht, kann es meiner Meinung nach die menschliche kognitive Leistung in erheblichem Maße emulieren.
Sobald ausreichende Erinnerungen extrahiert wurden, hoffe ich, einen künstlichen "Atman" oder "True Self" erstellen zu können, der als Kontrollmethode für den autonomen Betrieb und als Möglichkeit verwendet werden kann, kleinere, weniger komplexe Wirkstoffe zu orchestrieren.
Hier kommt der Name Aetherius. "αἰθήρ" oder "Äther", das angebliche fünfte Element oder die Quintessenz im alten philosophischen Denken, das unsichtbar ist, durchdringt jedoch alles. Und "ius" das lateinische Suffix für "über" oder "abgeleitet von". Ein KI -Assistent, der aus dem Äther der kollektiven Konstruktion abgeleitet ist.
Aetherius ist ein fortlaufendes Forschungsprojekt. Erwarten Sie, dass sich Fehlern und die Dinge ständig ändern.
| Schleife | Beschreibung |
|---|---|
| Benutzereingabe | Die Interaktion wird vom Benutzer initiiert, der eine Anfrage an Atherius sendet. |
| Eingabeerweiterung | Erweitert die Benutzereingabe mit dem Konversationshistorium für eine erweiterte Bedeutung bei Datenbanksuche. |
| Wissensdomänenextraktion | Wählt eine Wissensdomäne aus verfügbaren Optionen für explizite Speichersuche aus. |
| Semantische Begriff Trennung | Trennt die Benutzereingabe in synonyme Begriffe, um nuancierte Bedeutungen zu erfassen. |
| Erstspeicher DB -Suche | Sucht die Erinnerungen von Atherius, um einen inneren Monolog zu erzeugen. |
| Erzeugung der inneren Monolog | Generiert einen inneren Monolog, der frühere Erfahrungen widerspiegelt, Datenbanksuchinformationen konsolidieren und Benutzereingaben erweitern. |
| Zweiter Speicher -DB -Suche | Sucht die Erinnerungen von Atherius erneut, um seine Intuition zu formulieren. |
| Intuitionsgenerierung | Erstellt einen Aktionsplan, der auf Erinnerungen und dem inneren Monolog basiert. Dient als automatische Strategie der Gedankenkette. |
| Implizite Gedächtnisgenerierung | Erzeugt kurzfristige implizite Erinnerungen aus seinen internen Prozessen. |
| Master -Taskliste Generation | Generiert eine Liste asynchroner Aufgaben unter Verwendung der verfügbaren Kategorien von Sub-Agent. |
| Sub-Agent-Auswahl | Wählt einen Unteragent aus einer Kategorie, um die Aufgabe zu erledigen. |
| Endgültige Antwortgenerierung | Verwendet den inneren Monolog, den Gesprächsverlauf und die Erledigung von Aufgaben, um auf den Benutzer zu reagieren. |
| Explizite Gedächtnisgenerierung | Erzeugt explizite kurzfristige Erinnerungen, die auf dem inneren Monolog und der endgültigen Reaktion basieren. |
| Episodische Gedächtnisgenerierung | Erzeugt eine Zeitstempelzusammenfassung der aktuellen Interaktion für den episodischen Speicherspeicher. |
| Flashbulb -Speichergenerierung | Bildet sinnvolle Erinnerungen/Ziele mit langfristigen und episodischen Erinnerungen regelmäßig. |
| Kurzzeitgedächtniskonsolidierung | Konsolidiert kurzfristige Erinnerungen und weist ihnen Wissensdomänen zu, bevor sie als langfristige Erinnerungen hochladen. |
| Langzeitgedächtnisvereinigung | Verwaltet die Datenbankgröße, indem sie langfristige Erinnerungen und Clustering-Themen kondensiert. |
Mit Aetherius haben Sie ein Arsenal an Werkzeugen zum Erkunden und Gebrauch:
Haupt-Ätherius-Chatbot : Ein Framework für die Erstellung von benutzerdefinierten Subagenten für Aetherius.
Aktuelle Subagenten
Old UI Chatbot : Ihr persönlicher Begleiter mit realistischem Langzeitgedächtnis.
Die Entwicklung von Atherius wird durch meinen Tagesjob selbst finanziert. Erwägen Sie, mich zu unterstützen, wenn Sie sie häufig verwenden und die Entwicklungsgeschwindigkeit erhöhen möchten.
Schließen Sie sich der Zwietracht an, um Hilfe zu erhalten oder detailliertere Informationen zu erhalten!
Discord Server: https://discord.gg/pb5zcna7ze
Aetherius -Verwendungsführer
Abonnieren Sie mein YouTube für Video -Tutorials: https://www.youtube.com/@libraryofcelsus (Kanal noch nicht gestartet)
Code-Tutorials erhältlich unter: https://www.libraryofcelsus.com/research/public/code-tutorials/
Hergestellt von: https://github.com/libraryofcelsus
Inspiriert von https://github.com/daveshap/
• Verbessern Sie die internen Eingabeaufforderungen weiterhin
• Beenden Sie den Aetherius -Verwendungsführer
• Bessere Dokumentation
• Book/Datei -Zusammenfassungstool
• Datensatzgenerator -Tool
• Benutzerdefiniertes LLM -Modell für Aetherius
• Starten Sie AI Tutorial YouTube -Kanal
0,05
0,047b
• GPT -Vision zur Benutzeroberfläche hinzugefügt. Fügte auch TTs hinzu.
• Die Benutzeroberflächen -Tools für Webscape- und Dateiprozess -Tools hinzugefügt
0,047a
• Experimentelle Version einer aktualisierten Benutzeroberfläche hinzugefügt. Tools, TTs und Spracheingaben müssen noch aktualisiert werden.
0,046c
• Ein zufälliger Waldansatz für explizite Speichersuche fügte hinzu
• Fehler bei der Auswahl des Wissensdomänens behoben
0,046b
• Fehler beim Schreiben von Persönlichkeitsdateien behoben.
• GPT Vision zum Agentenmodus hinzugefügt.
• Support der GPT -Vision hinzugefügt. Ich empfehle dafür, den Discord Bot dafür zu verwenden.
• Der Upload -Modus für erzwungene Speicher hinzugefügt.
• Verschiedene Backend -Änderungen, keine zusätzliche Funktionalität vorerst, hauptsächlich für zukünftige Dinge.
• Auswahlfehler der Sub-Agent-Auswahl behoben.
0,046a
• Das neue Kategoriesystem für Subagenten hinzugefügt, nur in der asynchronen API-Skript vorerst.
• Fehler behoben, wodurch mehrere Kategorien in die Kategorieliste geladen wurden. Auch leere Eingabeaufforderung behoben. Nur asynchrische API -Version.
• Separate Skripte für die Kategorie Sub-Agent-Speicher hinzugefügt. Nur asynchrische API -Version.
• Experimentelle Wissensdomänen für explizites Langzeitgedächtnis hinzugefügt. Nur asynchrische API -Version.
• Es wurde kein Sammelfehler für die externe Ressourcensuche behoben. Nur asynchrische API -Version.
• Arbeiten Sie an der Auswahl der Wissensdomänen. Nur asynchrische API -Version.
• Die temporäre Gradio -UI für den Testvertretungsmodus hinzugefügt, bis andere Benutzeroberflächen erneuert sind. Benutzername und Botname müssen in "Gradio-ui.py" geändert werden. Wenn die Verwendung von Discord Bot, muss user_id auf Discord-Benutzernamen festgelegt werden.
0,045c
• Bot- und Benutzerprofilbeschreibungen hinzugefügt. Dies kann in den API -Einstellungen JSON deaktiviert werden.
• Konvertierte .txt -Dateien auf JSON einstellen
• Das Skript von Discord Bot wurde mit API in ./aetherius_api/examples hinzugefügt
• Die grundlegende API -Skript hinzugefügt werden, die so importiert werden kann, um Atherius programmatisch zu verwenden. (Immer noch eine frühe Arbeit im Gange)
• Sub-Agent für Speichersuche und eine autonome Webseckung hinzugefügt, wenn die erforderlichen Informationen nicht in der DB der externen Ressourcen enthalten sind.
• Sub-Agent-Skript hinzugefügt. Sie können jetzt benutzerdefinierte Subagenten für die parallele Verarbeitungsschleife von Aetherius erstellen.
• Konvertierte Lama 2 Chatbot, um JSON für Einstellungen zu verwenden.
• Besseres Sortieren für die Verwendung mehrerer Hosts.
• Verschiedene Fehlerbehebungen
0,045c
• Die Möglichkeit, mehrere Hosts mit Oobabooga zu verwenden.
• Verbesserte Lama 2 interne Eingabeaufforderungen
• Einige Speichertypen eine wichtige Punktzahl hinzugefügt (immer noch in Arbeit)
0,045b
• Das LAMA 2 -Dateikratztool wurde eine Videoverarbeitung hinzugefügt.
• Mit Coqui TTs klonieren Sprachklonen.
0,045a
• Hinzufügen von Überprüfungen für Interpunktion für Speicher -Uploads, um das Abschneiden von Uploads in Lama 2 Chatbot zu vermeiden.
• Löschen von Schaltflächen für externe Ressourcen im DB -Management -Löschmenü in Lama 2 Chatbot hinzugefügt.
• Verbesserte interne Eingabeaufforderungen für den Lama -2 -Agentenmodus und das Webscape -Tool.
• Verschiedene Fehlerbehebungen
0,044f
• Die Spracheingabe mit Flüstern und TTs mit GTTs oder elf Labors hinzugefügt. Rinde TTs noch in Arbeit.
0,044e
• Fehler behoben, wo beim Erstellen von Sammlungen nicht ein Einbettungsgröße festgelegt wurde.
• Die Benutzernamen vom Sammlungsnamen zu Metadaten gewechselt.
0,044d
• Einbettungsauswahlmenü hinzugefügt, sind vorerst nur Satztransformatoren und umarmende Gesichtsbettungen verfügbar.
0,044c
• Neue GUI für Aetherius. Die meisten Chatbot -Modi sind jetzt unter einer Benutzeroberfläche konsolidiert.
0,044b
• Aktualisierte Lama-2-GUI-Aussehen und -Features
• Fusionen
• Fehler behoben, wobei der HTML -Markdown bei Verwendung öffentlicher API anstelle von normalem Text gedruckt wurde.
• Colab Notebook für Personen ohne GPU hinzugefügt.
0,044a
• Konsolidierte Sammlungen für eine bessere Visualisierung mit QDrant (verfügbar im Qdrant Dashboard)
• Quell -Tag für externe Datenkratzer hinzugefügt
Ältere Changelogs finden Sie unter: https://www.libraryofcelsus.com/aetherius/
Laden Sie den Projekt Zip -Ordner herunter, indem Sie das Dropdown -Menü <> Code drücken.
1. Installieren Sie Python 3.10.6, stellen Sie sicher, dass Sie es zu Pfad hinzufügen: https://www.python.org/downloads/release/python-3106/
2. Führen Sie "Install_aetherius_Client_Windows.bat" aus, um den Aetherius -Client zu installieren.
(Wenn Sie bei der Installation der Anforderungen einen Fehler erhalten, werden Sie ausgeführt: Python -m PIP -Cache -Spülung )
3. Kopieren Sie Ihre OpenAI- und QDRANT -API/URL -Schlüssel in den Ordner api_keys in dem erstellten ayetherius_api -Ordner. Openai wird für GPT -Vision benötigt.
4. Kopieren Sie Ihren Google CSE -Schlüssel und Ihre API -Taste in den Ordner api_keys oder setzen Sie Web_Search auf false in chatbot_setings.json.
5. Wenn Sie OpenAI verwenden, können Sie dies überspringen. Wenn Sie Aetherius lokal ausführen möchten, müssen Sie eine der verschiedenen API -Unterstützung installieren.
KOBOLDCPP (empfohlen): https://github.com/lostruins/koboldcpp
Oobabooga: https://github.com/oobabooga/text-generation-webui
AetherNode: https://github.com/libraryofcelsus/aethernode
6. Qdrant einrichten
Qdrant Cloud: https://qdrant.to/cloud
Um einen lokalen QDrant -Server zu verwenden, installieren Sie zuerst Docker: https://www.docker.com.
Nächster Typ: Docker Pull Qdrant/Qdrant: v1.5.1 In der Eingabeaufforderung.
Geben Sie nach dem Download Docker Run -P 6333: 6333 QDrant/Qdrant: v1.5.1 ein
Siehe: https://docs.docker.com/desktop/backup-and-restore/ für die Erstellung von Sicherungen.
Sobald der lokale QDrant -Server ausgeführt wird, sollte er von Aetherius automatisch erkannt werden.
7. Starten Sie Aetherius mit einer der Auslauf -Fledermausdateien .
(Discord wurde der neuen API hinzugefügt. Sie wird automatisch neben der API ausgeführt, wenn ein gültiges Token in "api_setings.json" eingegeben wird.)
(Wenn Sie NGROK verwenden, müssen Sie in der NGROK-Konfiguration einen Tunnel namens Aetherius erstellen. Dies kann mit 'run_aetherius_cmd.bat' durchgeführt werden, indem 'ngrok config bearbeiten' eingeht.
Beispiel ngrok config: Region: uns
Version: '2' '
AuthToken: ersetzen_with_ngrok_auth
Tunnel:
Ätherius:
Proto: Http
Hostname: Ersetzen Sie durch die statische NGROK -Domäne
ADDR: 127.0.0.1:5000
8. Laden Sie Heuristiken in DB hoch und ändern Sie den Bot -Namen, den Benutzernamen und den User_id, um mit dem Aetherius zu chatten!
Um das mit AetherNode verwendete Modell zu ändern, ändern Sie den Schlüssel "model_name_or_path" in ayetherNode/Settings.json in das gewünschte Modell. Sie müssen dann den Schlüssel "model_backend" in ayetherius_api/chatbot_settings.json in das gewünschte Format ändern. Für den Moment stehen nur Lama-2-Chat und Alpaka zur Verfügung.
Empfohlene Modelle: TheBloke/LAMA-2-13B-CHAT-GPTQ
TheBloke/Mythomax-L2-13B-GPTQ
Einstellungen und Eingabeaufforderungen finden Sie im Ordner ayetherius_api.
Foto OCR (JPG, JPEG, PNG) erfordert Tesseract: https://github.com/ub-mannheim/tesseract/wiki Einmal installiert, kopieren Sie den "Tesseract-ocr" -Fordner aus den Programmdateien in den Ordner "ayetherius_ai_assistant".
Um das Arbeiten mit CUDA zum Arbeiten zu bringen, müssen Sie möglicherweise die Befehle ausführen: venv scripts aktivieren Sie PIP -Deinstall -Torch Torchaudio PIP Installieren Sie Torchvision Torchaudio -f https://download.pytorch.org/hl/cu118/torch_stable.html.html
Aetherius -Verwendungsführer
Bot -Befehle
!Agent
(Aktiviert den Unter-Agent-Modus von Atherius)
! Heuristik
(Ermöglicht Ihnen, eine Heuristik hochzuladen)
! Implizitstm
(Ermöglicht Ihnen, einen kurzfristigen impliziten Speicher hochzuladen)
! Explizitstm
(Ermöglicht Ihnen, einen kurzfristigen expliziten Speicher hochzuladen)
! Implizit
(Ermöglicht Ihnen, einen langfristigen impliziten Speicher hochzuladen)
! ExplicitltM (ermöglicht es Ihnen, einen langfristigen expliziten Speicher hochzuladen)
Anleitung mit Fotos finden Sie unter [https://www.libraryofcelsus.com/aetherius-setup-guide/]
Fotohandbuch veraltet
1. Installieren Sie GIT: https://git-scm.com/ (Git kann übersprungen werden, indem das Repo als ZIP-Datei unter der Schaltfläche Green Code heruntergeladen wird)
2. Installieren Sie Python 3.10.6, stellen Sie sicher, dass Sie es zu Pfad hinzufügen: https://www.python.org/downloads/release/python-3106/
3. Öffnen Sie das Programm "Git Bash".
4. Run Git Clone: Git Clone https://github.com/libraryofcelsus/aetherius_ai_assistant.git
5. Öffnen Sie CMD als Administrator (Befehlsfeld)
6. Navigieren Sie zum Projektordner: CD Path_to_aetherius_install
7. Erstellen Sie eine virtuelle Umgebung: Python -m Venv Venv
8. Aktivieren Sie die Umgebung: venv scripts aktivieren (dies muss vor dem Ausführen von Aetherius jedes Mal erfolgen. Der Lauf.bat wird dies auch automatisch tun.)
9. Installieren Sie die erforderlichen Pakete: PIP -Installation -r -Anforderungen.txt
(Wenn Sie bei der Installation von Anforderungen einen Fehler erhalten, der ausgeführt wird: Python -m PIP -Cache -Spülung nach Aktivierung des Venvs)
10. Aktualisieren Sie Numpy Version: PIP -Installation -Upgrade Numpy == 1.24 (Wenn Sie einen Fehler von TTS erhalten, ignorieren Sie es.)
11. Installieren Sie FFMPEG: https://www.gyan.dev/ffmpeg/builds/
12. Brenner mit CUDA installieren: PIP Deinstallation Torch Torchvision PIP Installieren Sie Torch Torchvision Torchaudio -f https://download.pytorch.org/whl/cu118/torch_stable.html
13. Kopieren Sie Ihren OpenAI -API -Schlüssel zu Key_openai.txt (bei Verwendung von Oobabooga können Sie dies überspringen.)
14. Wenn Sie QDRant Cloud verwenden, kopieren Sie ihre API -Taste und URL in ihren jeweiligen .txt -Dateien im Ordner ./api_keys. Qdrant Cloud: https://qdrant.to/cloud
15. Um einen lokalen QDrant -Server zu verwenden, installieren Sie zuerst Docker: https://www.docker.com/
16. Jetzt laufen: Docker Pull Qdrant/Qdrant: v1.5.1 in CMD
17. Nächster Lauf: Docker Run -p 6333: 6333 Qdrant/Qdrant: v1.5.1
18. Sobald der lokale QDrant -Server ausgeführt wird, sollte er von Aetherius automatisch erkannt werden. Wenn kein QDrant -Server ausgeführt wird, speichert Aetherius auf der Festplatte.
(Siehe: https://docs.docker.com/desktop/backup-and-restore/ für die Erstellung von Backups.)
(Wenn Sie UI verwenden, bearbeiten Sie Einstellungen außerhalb des API -Ordners. Wenn Sie API verwenden, bearbeiten Sie Einstellungen im Ordner API. Discord und Gradio verwenden die API.)
19. Kopieren Sie Ihren Google -API -Schlüssel auf Key_Google.txt (Sie können die externe Ressourcen in der Skriptdatei deaktivieren.)
20. Kopieren Sie Ihre Google CSE -ID in KEY_GOOGLE_CSE.TXT
21. Wenn Sie eine Foto-OCR (JPG, JPEG, PNG-Texterkennung) verwenden möchten, sind Tesseract erforderlich: https://github.com/ub-mannheim/tesseract/wiki Einmal installiert, kopieren Sie den "Tesseract-ocr" -Ical aus den Programmdateien in den Ordner "ayetherius_ai_assistantant". Fotos müssen in den Ordner ./upload/scans platziert werden.
22. Führen Sie Aetherius aus, indem Sie Python experimental_ ui_menu.py in CMD oder einer der Run.bat -Dateien als Administrator eingeben, um Aetherius zu starten. (Mit Run.bat können Sie das Öffnen von CMD überspringen und die Umgebung aktivieren.)
23. Wählen Sie die DB -Heuristik aus dem Menü DB -Management hoch, um Heuristiken für den Bot hochzuladen. Diese DB kann auch als Persönlichkeits -DB fungieren. Ein Beispiel dafür, wie dies zu tun ist, finden Sie im Konfigurationsordner in "personality_db_input_examples.txt".
24. Bearbeiten Sie die Eingabeaufforderungen des Chatbots mit dem Konfigurationsmenü. Auf diese Weise können Sie die Haupt-, Sekundär- und Begrüßungsaufforderungen ändern. Sie können auch Dinge wie den Schriftstil und die Größe des Schriftarts ändern.
25. Sie können den Botnamen und den Benutzernamen im Login -Menü ändern. Durch das Ändern einer dieser diese wird ein neuer Chatbot erstellt.
26. Sobald Sie eine Sicherung erstellt haben, können Sie mit dem "Auto" -Modus beginnen, in diesem Modus wird der Ätherius selbst festgelegt, ob er seine Erinnerungen hochladen sollte oder nicht.
27. Um Aetherius mit seiner benutzerdefinierten API auszuführen, laden Sie und installieren Sie: https://github.com/libraryofcelsus/aetherNode
Dies ist die neue Standard -API für Aetherius. Installationsanweisungen finden Sie auf der Github -Seite.
Um das mit AetherNode verwendete Modell zu ändern, ändern Sie den Schlüssel "model_name_or_path" in ayetherNode/Settings.json in das gewünschte Modell. Sie müssen dann den Schlüssel "model_backend" in ayetherius_api/chatbot_settings.json in das gewünschte Format ändern. Für den Moment stehen nur Lama-2-Chat und Alpaka zur Verfügung.
AetherNode Google Colab Wenn Sie keine GPU haben:
28. Um Aetherius lokal mit Oobabooga auszuführen, installieren Sie zuerst die Web-ui unter: https://github.com/oobabooga/text-generation-webui/releases/tag/snapshot-2023-11-05
Oobabooga text-ui hat gerade die Funktionsweise ihrer API verändert. Die aktuellste Version , die funktioniert
Verwenden Sie die Notebook -Datei im Ordner "./Colab Notebooks", um Aetherius auf Google Colab mit Oobabooga mit einer öffentlichen API auszuführen. Um die öffentliche API mit Aetherius zu verwenden, ändern Sie die "Host_oobabooga" in den Einstellungen JSON in die gegebene nicht streaming URL. Um mehrere Hosts zu verwenden, trennen Sie sie mit einem Raum.
Aktivieren Sie dann unter der Registerkarte "Schnittstellenmodus" das Kontrollkästchen API nur im Feld "verfügbare Erweiterungen". Klicken Sie dann auf Bewerben und starten Sie die Schnittstelle neu.
Navigieren Sie als nächstes zur Registerkarte "Modelle". Deaktivieren Sie das Feld Autoload-Modelle und geben Sie "TheBloke/LLAMA-2-13B-CHAT-GPTQ" in das Download-Box ein (7B-Modell kann für schnellere Ergebnisse verwendet werden, aber gelegentlich bricht es das Format und hat eine Tendenz, Dinge zu erfinden. Wenn Sie sachliche Daten benötigen, müssen Sie nicht empfehlen. Andere Modelle mögen funktionieren, aber dies ist die getestete.
Wenn der Download abgeschlossen ist, laden Sie das Menü Modellauswahl neu und wählen Sie dann das Modell aus. Ändern Sie den Modellloader in Exllamav2 und setzen Sie den max_seq_len auf "4096". Setzen Sie die "gpu_split" unter dem Max -VRAM Ihrer GPU auf 1 GB.
Klicken Sie auf die Schaltfläche "Laden" und laden Sie das Modell.
Gehen Sie nun in die Datei chatbot_setings.json im Ordner ayetherius_api und ändern Sie die API in Oobabooga anstelle von AetherNode. Aetherius sollte jetzt arbeiten!
30. Einstellungen JSON und Eingabeaufforderungen finden Sie im Ordner ayetherius_api.
Im Januar 2023 hatte ich meine Eröffnungserfahrung mit Chatgpt 3.5 und LLMs im Allgemeinen. Seit diesem Moment war ich tief besessen von KI, widmete jeden Tag unzählige Stunden, um es zu studieren und praktisch zu experimentieren. Der Asetherius AI -Assistent ist der Höhepunkt dieser Forschung.
Discord: Libraryofcelsus -> Altem Benutzername Stil: Celsus#0262
Mega -Chat: https://mega.nz/c!pmnmeizq
