Aetherius_AI_Assistant
1.0.0
Version .05 de l'assistant / agent Aetherius AI par LibraryOfcelsus.com
Guide d'installation
Guide d'utilisation d'Aetherius
Sauter à Changelog
Serveur de discorde
Aetherius est dans un état de développement itératif constant. Si vous aimez la version que vous utilisez, gardez une sauvegarde ou faites une fourchette. Attendez-vous à des bugs.
Mise à jour sur ma santé
Le 6/07, j'ai subi ma troisième chirurgie de la hanche. Malheureusement, la situation était plus grave que prévu initialement, nécessitant un cartilage des donneurs en raison de l'os sur la polyarthrite osseuse. Si cette chirurgie ne réussit pas, j'ai peut-être besoin d'un remplacement total de la hanche avant d'avoir trente ans. Heureusement moi!
Sur une note plus lumineuse, mon poignet a montré une amélioration significative. Cela pourrait être dans ma tête, mais le médicament prescrit à ma hanche pour limiter les tissus cicatriciels et empêcher la repousse osseuse sur mon fémur semble avoir fait des merveilles pour mon poignet. Le gros morceau de tissu cicatriciel a finalement commencé à se briser, et je ressens beaucoup moins de douleur lors d'une utilisation prolongée de ma main, bien que cela puisse être attribué au médicament anti-inflammatoire. Quoi qu'il en soit, j'atteins enfin un point où je peux reprendre le travail de l'IA. Je prévois de commencer lentement, en commençant par la refactorisation de la base de code Aetherius. Au fil du temps, la convivialité d'Aetherius a considérablement diminué en raison de sa dépendance à l'égard des techniques d'incitation obsolètes non compatibles avec les modèles modernes. Une fois le refacteur terminé, Aetherius devrait à nouveau être un assistant AI fonctionnel.
La mise à jour du refacteur de code Aetherius est devenue assez complexe, ce qui rend extrêmement lourd de travailler sur des aspects individuels. Pour atténuer cela et rationaliser le processus de développement, j'ai décidé de séparer chaque technique dans son propre référentiel. Cette approche permettra une amélioration individuelle et facilitera la dissection de toute personne intéressée à disséquer le code. Une fois que toutes les différentes parties ont été réécrites et améliorées, je les réintégrerai dans le projet principal Aetherius.
Scripts individuels actuels:
Changements récents
• 6/10 CODE CODE REFACTOR
• 6/10 a commencé à améliorer les invites internes
• 6/10 Formatage ajouté Llama 3
• 6/10 Ajout de la prise en charge de Koboldcpp
• 6/10 Oobabooga mis à jour pour utiliser la nouvelle API
• 6/10 Capacité ajoutée à utiliser la carte de caractères V2
• 4/08 Ajout d'un nouveau script API. Cela a le bot Discord intégré et lancera automatiquement si un jeton valide est détecté dans API_SETTISTS.JSON. NGROK est utilisé pour une URL face au public, il utilise actuellement Openai Formating.
• 4/08 Correction du bug avec le traitement d'image, devrait maintenant fonctionner avec le script d'interface utilisateur et d'API.
• Préfixe d'impression de réponse fixe 2/11.
• 2/09 a ajouté la vision GPT à l'interface utilisateur. Ajout de TTS.
• 2/07 a ajouté des outils WebCrapes et de processus de fichier à l'interface utilisateur
• 1/16 ajout de la version expérimentale d'une interface utilisateur mise à jour. Les outils, les TT et les entrées vocales doivent encore être mis à jour.
• Mode d'agent 1/09 mis à jour avec une nouvelle recherche de mémoire explicite
• 1/08 a ajouté une approche de type forêt aléatoire pour la recherche de mémoire explicite
• 1/08 Bogue de sélection du domaine des connaissances fixes
Aetherius est un cadre adjoint / sous-agent polyvalent et modulaire qui s'adapte à vos besoins. Ses capacités s'étendent au-delà des chatbots conventionnels:
Données en temps réel : Aetherius a accès à la recherche du Web ou de vos propres données en mode agent, permettant des informations qui ne sont pas contenues dans le modèle de base.
Framework multi-agent : Aetherius vous donne la possibilité de créer des sous-agents pour le cas d'utilisation que vous avez. Alternativement, vous pouvez le faire déclencher des scripts Python à la place.
Journal réfléchissant : parlez librement et recevez des commentaires réfléchis sans jugement ni peur.
Outil d'apprentissage : plongez profondément dans vos sujets préférés et améliorez vos connaissances sans effort.
Compagnon d'analyse des données : exploitez la puissance de vos données avec Aetherius à vos côtés.
Déchargement cognitif : un deuxième cerveau entièrement privé, vous aidant à organiser des pensées et des idées.
Génération de contenu : générez facilement du contenu basé sur des fichiers ou des crampons Web.
Mémoire réaliste : Aetherius est construit autour d'un simulacra de mémoire humaine, visant à fournir un rappel et une formation de pensée plus réalistes.
Aetherius est un cadre adjoint / multi-agents AI à guide locale, conçu pour vous accorder un contrôle ultime. Aucune force externe ne peut la modifier sans votre consentement, assurant votre vie privée.
Comme le montre la tentative de changement de leadership à «Open» IA en 2023, les solutions fermées et gérées ne peuvent pas faire confiance. Même si vous faites confiance au leadership, cela peut changer immédiatement sans avertissement. Vous n'avez aucun contrôle réel sur les données envoyées.
En exécutant tout localement, ce problème peut être évité.
Au cœur d'Aetherius se trouve un cadre de récupération à long terme personnalisé à long terme (LLM), alimenté par des LLM open source à l'aide de l'API Aethernode (Colab de niveau gratuit disponible), Oobabooga Text-UI, Koboldcpp ou Chatgpt d'Openai. Différents types de mémoire sont extraits et combinés pour fournir un processus de réflexion plus réaliste et créatif que les autres chatbots. Comme il s'agit d'un cadre, Aetherius est capable d'utiliser plusieurs hôtes, déchargeant le calcul sur plusieurs machines pour augmenter le temps de calcul.
Au-delà de servir de chatbot de base, Aetherius peut également utiliser des sous-agents. Ceux-ci permettent à Aetherius de mieux rechercher dans ses souvenirs ou de se connecter à des données externes. Les sous-agents sont gérés en déclenchant un script, donc Aetherius peut théoriquement utiliser la plupart des choses qui peuvent être déclenchées par Python. Aetherius peut également «voir» maintenant grâce à GPT-4 Vision.
Aetherius est né de mon obsession pour l'IA et mes contemplations philosophiques sur l'équilibre entre le libre arbitre et le déterminisme. Bien que je crois que le libre arbitre est un attribut inhérent de tous les individus, je ne pense pas que la personne moyenne ait passé le temps pour individualiser ou apprendre à servir leur "vrai moi". Par conséquent, ils deviennent sensibles aux influences externes et peuvent être facilement influencés. Souvent, les décisions perçues comme auto-dirigées sont façonnées par inadvertance par des stimuli externes ou des informations passées.
S'appuyant sur cette perspective, je postule qu'une représentation du processus cognitif humain peut être construite par l'extraction méticuleuse et la synthèse de diverses modalités de mémoire. Bien qu'un tel système puisse ne pas atteindre la «conscience» au sens traditionnel, je crois qu'il peut imiter une performance cognitive humaine dans une large mesure.
Une fois que des souvenirs suffisants ont été extraits, mon espoir est de pouvoir créer un «atman» artificiel ou un «vrai soi» qui peut être utilisé comme méthode de contrôle pour un fonctionnement autonome et comme moyen d'orchestrer des agents plus petits et moins complexes.
C'est de là que vient le nom d'Aetherius. "αἰθήρ" ou "Aether", le cinquième élément supposé ou la quintessence dans l'ancienne pensée philosophique qui est invisible, mais imprègne tout. Et "ius" le suffixe latin pour "se rapportant à" ou "dérivé de". Un assistant AI dérivé de l'éther de la conscience collective.
Aetherius est un projet de recherche en cours, s'attendez à ce qu'il y ait des bugs et que les choses changent constamment.
| Boucle | Description |
|---|---|
| Entrée utilisateur | L'interaction est lancée par l'utilisateur envoyant une demande à Aetherius. |
| Extension d'entrée | Étend la saisie de l'utilisateur avec l'historique de la conversation pour une signification améliorée dans les recherches de base de données. |
| Extraction du domaine des connaissances | Sélectionne un domaine de connaissance à partir des options disponibles pour la recherche de mémoire explicite. |
| Séparation de terme sémantique | Sépare la saisie de l'utilisateur en termes synonymes pour capturer des significations nuancées. |
| First Memory DB Search | Recherche les souvenirs d'Aetherius pour générer un monologue intérieur. |
| Génération de monologue intérieur | Génère un monologue intérieur reflétant les expériences passées, consolidant les informations de recherche de base de données et étendant la signification des entrées utilisateur. |
| Recherche de DB de deuxième mémoire | Recherche à nouveau les souvenirs d'Aetherius pour formuler son intuition. |
| Génération d'intuition | Crée un plan d'action basé sur les souvenirs et le monologue intérieur. Sert de stratégie invite automatique de la chaîne de pensées. |
| Génération de mémoire implicite | Génère des souvenirs implicites à court terme à partir de ses processus internes. |
| Master Task List Génération | Génère une liste de tâches asynchrones utilisant des catégories sous-agents disponibles. |
| Sélection de sous-agent | Choisit un sous-agent dans une catégorie pour terminer la tâche. |
| Génération de réponse finale | Utilise le monologue intérieur, l'historique des conversations et les tâches terminées pour répondre à l'utilisateur. |
| Génération de mémoire explicite | Produit des souvenirs explicites à court terme basés sur le monologue intérieur et la réponse finale. |
| Génération de mémoire épisodique | Génère un résumé horodomagien de l'interaction actuelle pour le stockage de la mémoire épisodique. |
| Génération de mémoire Flashbulb | Forme des souvenirs / objectifs significatifs en utilisant périodiquement des souvenirs à long terme et épisodiques. |
| Consolidation de mémoire à court terme | Consolide des souvenirs à court terme et leur attribue des domaines de connaissances avant de télécharger comme des souvenirs à long terme. |
| Association de mémoire à long terme | Gère la taille de la base de données en condensant des souvenirs à long terme et en clustering des sujets liés. |
Avec Aetherius, vous avez un arsenal d'outils à explorer et à utiliser:
Chatbot principal Aetherius : un cadre pour la création de sous-agents personnalisés pour Aetherius.
Sous-agents actuels
Vieux chatbot d'interface utilisateur : votre compagnon personnel avec une mémoire à long terme réaliste.
Le développement d'Aetherius est autofinancé par mon travail de jour, envisagez de me soutenir si vous l'utilisez fréquemment et que vous souhaitez augmenter la vitesse de développement.
Rejoignez la discorde pour obtenir de l'aide ou pour obtenir des informations plus approfondies!
Discord Server: https://discord.gg/pb5zcna7ze
Guide d'utilisation d'Aetherius
Abonnez-vous à mon YouTube pour les tutoriels vidéo: https://www.youtube.com/@libraryofcelsus (chaîne non encore lancée)
Tutoriels de code disponibles sur: https://www.libraryofcelsus.com/research/public/code-tutorials/
Fabriqué par: https://github.com/libraryofcelsus
Inspiré par https://github.com/daveshap/
• Continuez à améliorer les invites internes
• Terminer le guide d'utilisation Aetherius
• Meilleure documentation
• outil de résumé de livre / fichier
• outil de générateur de données
• Modèle LLM personnalisé pour Aetherius
• Lancez la chaîne YouTube du didacticiel AI
0,05
0,047b
• Ajout de la vision GPT à l'interface utilisateur. Ajout de TTS.
• Ajout d'outils WebCrapes et File Process à l'interface utilisateur
0,047a
• Ajout de la version expérimentale d'une interface utilisateur mise à jour. Les outils, les TT et les entrées vocales doivent encore être mis à jour.
0,046c
• Ajout d'une approche de type forêt aléatoire pour une recherche de mémoire explicite
• Correction du bogue de sélection du domaine des connaissances
0,046b
• Correction d'une erreur de codage Unicode lors de la rédaction de fichiers de personnalité.
• Ajout de la vision GPT au mode agent.
• Ajout du support de vision GPT. Je recommande d'utiliser le bot Discord pour cela.
• Mode de téléchargement de mémoire forcée ajouté.
• Divers changements backend, pas de fonctionnalité supplémentaire pour l'instant, principalement pour les choses futures.
• Correction du bogue de sélection de sous-agent.
0,046a
• Ajout d'un nouveau système de catégorie pour les sous-agents, uniquement dans le script API asynchronisé pour l'instant.
• Correction d'un bug qui entraîne le chargement de plusieurs catégories dans la liste des catégories. Correction d'un bug invite vide. Version API asynchrone uniquement.
• Ajout de scripts séparés pour la catégorie de sous-agent de mémoire. Version API asynchrone uniquement.
• Ajout de domaines de connaissances expérimentales pour une mémoire explicite à long terme. Version API asynchrone uniquement.
• Correction d'aucun bug de collection pour la recherche de ressources externes. Version API asynchrone uniquement.
• A travaillé sur la sélection du domaine des connaissances. Version API asynchrone uniquement.
• Ajout de l'interface utilisateur temporaire pour tester le mode agent jusqu'à ce que d'autres interface utilisateur soient refaits. Le nom d'utilisateur et BotName doivent être modifiés dans "Gradio-Ui.py" Si l'utilisation de Discord Bot, User_ID doit être défini sur Discord Username.
0,045c
• Ajout de descriptions de BOT et de profil utilisateur. Cela peut être désactivé dans les paramètres de l'API JSON.
• Fichiers de réglage .txt converti en JSON
• Ajout du script Discord Bot à l'aide de l'API dans ./Aetherius_api/Examples
• Ajout du script API de base qui peut être importé pour utiliser Aetherius programmatiquement. (Encore un travail précoce en cours)
• Ajout d'un sous-agent de recherche de mémoire et d'une recherche Web autonome si les informations nécessaires ne sont pas dans la base de données des ressources externes.
• Ajout de script sous-agent. Vous pouvez désormais créer des sous-agents personnalisés pour la boucle de traitement parallèle d'Aetherius.
• CHATBOT CONVERTED LLAMA 2 pour utiliser JSON pour les paramètres.
• Meilleur tri pour l'utilisation de plusieurs hôtes.
• Divers corrections de bogues
0,045c
• Capacité ajoutée à utiliser plusieurs hôtes avec Oobabooga.
• Amélioration des invites internes de Llama 2
• Ajout d'un score important à certains types de mémoire (toujours un travail en cours)
0,045b
• Ajout d'un traitement vidéo à l'outil de grattement de fichier LLAMA 2.
• Ajout de clonage vocal avec coqui tts.
0,045a
• Ajout de vérification de la ponctuation des téléchargements de mémoire pour éviter les téléchargements de coupe dans le chatbot de Llama 2.
• Ajout de boutons de suppression pour les ressources externes dans le menu de suppression de gestion de DB dans le chatbot de Llama 2.
• Amélioration des invites internes pour le mode Agent LLAMA 2 et l'outil WebCrapie.
• Divers corrections de bogues
0,044f
• Ajout d'entrée vocale à l'aide de Whisper et TTS en utilisant GTTS ou Eleven Labs. Bark TTS est toujours un travail en cours.
0,044E
• Correction d'un bug où la taille de l'intégration n'était pas définie lors de la création de collections.
• Noms d'utilisateur passé du nom de la collection aux métadonnées.
0,044d
• Ajout du menu de sélection d'intégration, pour l'instant, seuls les transformateurs de phrases et les intérêts étreintes sont disponibles.
0,044c
• Nouvelle GUI pour Aetherius. La plupart des modes de chatbot sont désormais consolidés sous une seule interface utilisateur.
0,044b
• Apparence et fonctionnalités de GUI lama-2 mise à jour
• Chatbot de filevrage fusionné dans Aethersearch
• Correction d'un bug où la marque HTML a été imprimée à la place du texte normal lors de l'utilisation de l'API publique.
• Ajout du cahier Colab pour les personnes sans GPU.
0,044A
• Collections consolidées pour une meilleure visualisation avec QDrant (disponible dans le tableau de bord QDrant)
• Ajout d'une balise source pour les éraflures de données externes
Les changelogs plus anciens peuvent être trouvés à: https://www.libraryofcelsus.com/aetherius/
Téléchargez le dossier Zip Project en appuyant sur le menu déroulant <> Code.
1. Installez Python 3.10.6, assurez-vous de l'ajouter au chemin: https://www.python.org/downloads/release/python-3106/
2. Exécutez "install_aetherius_client_windows.bat" pour installer le client Aetherius.
(Si vous obtenez une erreur lors de l'installation des exigences: Python -M Pip Cache Purge )
3. Copiez vos touches API / URL OpenAI et QDRANT dans le dossier API_KEYS à l'intérieur du dossier Aetherius_API créé. Openai est nécessaire pour GPT Vision.
4. Copiez votre clé CSE Google et votre clé API dans le dossier API_KEYS ou définissez Web_search sur false dans chatbot_settings.json.
5. Si vous utilisez Openai, vous pouvez ignorer cela. Si vous souhaitez exécuter Aetherius localement, vous devez installer l'une des diverses supports des API.
Koboldcpp (recommandé): https://github.com/lostruins/koboldcpp
Oobabooga: https://github.com/oobabooga/text-generation-webui
Aethernode: https://github.com/libraryofcelsus/aethernode
6. Configurer Qdrant
Cloud Qdrant: https://qdrant.to/cloud
Pour utiliser un serveur QDrant local, installez d'abord Docker: https://www.docker.com.
Type suivant: Docker Pull Qdrant / Qdrant: v1.5.1 dans l'invite de commande.
Une fois le téléchargement terminé, Type Docker Run -P 6333: 6333 QDRANT / QDRANT: V1.5.1
Voir: https://docs.docker.com/desktop/backup-and-restore/ pour comment faire des sauvegardes.
Une fois le serveur QDrant local en cours d'exécution, il doit être détecté automatique par Aetherius.
7. Lancez Aetherius avec l'un des fichiers de batte _ *. BAT .
(Discord a été ajouté à la nouvelle API. Il sera automatiquement exécuté à côté de l'API si un jeton valide est entré dans "api_settings.json".)
(Si vous utilisez Ngrok, vous devez faire un tunnel nommé Aetherius dans la configuration ngrok.
Exemple de configuration de ngrok: région: États-Unis
Version: '2'
AuthToken: Remplace_With_Ngrok_Auth
tunnels:
Aetherius:
proto: http
Nom d'hôte: remplacer par un domaine Ngrok statique
addr: 127.0.0.1:5000
8. Téléchargez l'heuristique sur DB et modifiez le nom du bot, le nom d'utilisateur et user_id pour commencer à discuter avec Aetherius!
Pour modifier le modèle utilisé avec Aethernode, modifiez la touche "Model_Name_Or_Path" dans Aethernode / Settings.json au modèle souhaité. Vous devez ensuite modifier la clé "Model_Backend" dans Aetherius_API / Chatbot_Settings.json au format souhaité. Seuls LLAMA-2-CHAT et Alpaga sont disponibles pour l'instant.
Modèles recommandés: TheBloke / Llama-2-13B-CHAT-GPTQ
Thebloke / mythomax-l2-13b-gptq
Les paramètres et les invites peuvent être trouvés dans le dossier Aetherius_API.
Photo OCR (JPG, JPEG, PNG) nécessite Tesseract: https://github.com/ub-mannheim/tesseract/wiki une fois installé, copiez le dossier "Tesseract-ocr" à partir des fichiers de programme dans le dossier "Aetherius_ai_assistant".
Pour faire chuchoter avec Cuda, vous devrez peut-être exécuter les commandes : . Venv Scripts Activer Pip Disinstall Torch Torchaudio PiP Installer Torch TorchVision Torchaudio -f https://download.pytorch.org/whl/cu118/torch_stable.html
Guide d'utilisation d'Aetherius
Commandes de bot
!Agent
(Active le mode sous-agent d'Aetherius)
! Heuristique
(Vous permet de télécharger une heuristique)
! Implicitstm
(Vous permet de télécharger une mémoire implicite à court terme)
! Explicitstm
(Vous permet de télécharger une mémoire explicite à court terme)
! Implicitltm
(Vous permet de télécharger une mémoire implicite à long terme)
! Explicitltm (vous permet de télécharger une mémoire explicite à long terme)
Le guide avec des photos se trouve sur [https://www.libraryofcelsus.com/aetherius-setup-guide/]
Guide photo obsolète
1. Installer Git: https://git-scm.com/ (Git peut être ignoré en téléchargeant le repo en tant que fichier zip sous le bouton du code vert)
2. Installez Python 3.10.6, assurez-vous de l'ajouter au chemin: https://www.python.org/downloads/release/python-3106/
3. Ouvrez le programme "Git Bash".
4. Exécuter Git Clone: Git Clone https://github.com/libraryofcelsus/aetherius_ai_assistant.git
5. Ouvrir CMD en tant qu'administrateur (panneau de commande)
6. Accédez au dossier du projet: CD PATH_TO_AATHEIUS_INSTALL
7. Créer un environnement virtuel: Python -M Venv Venv
8. Activer l'environnement : . Venv Scripts Activate (cela doit être fait avant d'exécuter Aetherius à chaque fois. Le run.bat le fera également automatiquement.)
9. Installer les packages requis: PIP Installer -R exigences.txt
(Si vous obtenez une erreur lorsque vous installez les exigences: Python -M PIP Cache Purge après l'activation du VENV)
10. Mettre à jour Numpy Version: PIP INSTALLATION - Opgrade Numpy == 1.24 (si vous obtenez une erreur de TTS l'ignorez.)
11. Installez ffmpeg: https://www.gyan.dev/ffmpeg/builds/
12. Installer la torche avec Cuda: Pip Désinstaller Torch TorchVision Pip Installer Torch TorchVision Torchaudio -F https://download.pytorch.org/whl/cu118/torch_stable.html
13. Copiez votre touche API OpenAI à key_openai.txt (si vous utilisez Oobabooga, vous pouvez ignorer ceci.)
14. Si l'utilisation du cloud QDrant copie leur clé API et URL dans leurs fichiers .txt respectifs dans le dossier ./API_KEYS. Cloud Qdrant: https://qdrant.to/cloud
15. Pour utiliser un serveur QDrant local, installez d'abord Docker: https://www.docker.com/
16. Maintenant exécute: Docker Pull Qdrant / Qdrant: V1.5.1 dans CMD
17. Next Run: Docker Run -P 6333: 6333 QDRANT / QDRANT: V1.5.1
18. Une fois le serveur QDrant local en cours d'exécution, il doit être détecté automatiquement par Aetherius. Si aucun serveur Qdrant n'est en cours d'exécution, Aetherius enregistre sur le disque.
(Voir: https://docs.docker.com/desktop/backup-and-restore/ pour comment faire des sauvegardes.)
(Si vous utilisez l'interface utilisateur, modifiez les paramètres en dehors du dossier de l'API. Si vous utilisez l'API, modifiez les paramètres à l'intérieur du dossier de l'API. Discord et Gradio Utilisez l'API.)
19. Copiez votre clé API Google à Key_Google.txt (vous pouvez désactiver les ressources externes Web_search dans le fichier de script.)
20. Copiez votre ID Google CSE sur KEY_GOOGLE_CSE.txt
21. Si vous prévoyez d'utiliser Photo OCR (JPG, JPEG, PNG Text Recognition), cela nécessite Tesseract: https://github.com/ub-mannheim/tesseract/wiki une fois installé, copiez le dossier "Tesseract-ocr des fichiers de programme dans le dossier" Aetherius_ai_assistant. Les photos doivent être placées dans le dossier ./upload/scans.
22. Exécutez Aetherius en tapant Python Experimental_ UI_MENU.py dans CMD ou l'un des fichiers run.bat en tant qu'administrateur pour démarrer Aetherius. (Utilisation de run.bat vous permettra de sauter l'ouverture de CMD et d'activer l'environnement.)
23. Sélectionnez DB Télécharger l'heuristique dans le menu de gestion de la base de données pour télécharger des heuristiques pour le bot, cette base de données peut également fonctionner comme une base de données de personnalité. Un exemple de la façon de procéder peut être trouvé dans "personnalité_db_input_examples.txt" dans le dossier de configuration.
24. Modifiez les invites du chatbot avec le menu de configuration. Cela vous permettra de changer les invites principales, secondaires et de salut. Vous pouvez également changer de choses comme le style et la taille de la police.
25. Vous pouvez modifier le nom de botname et le nom d'utilisateur dans le menu de connexion. Le changement de l'un ou l'autre créera un nouveau chatbot.
26. Une fois que vous avez fait une sauvegarde, vous pouvez commencer à utiliser le mode "Auto", ce mode a Aetherius décider de lui-même s'il doit télécharger ou non sur ses souvenirs.
27. Pour exécuter Aetherius avec son API personnalisée, téléchargez et installez: https://github.com/libraryofcelsus/aethernode
Il s'agit de la nouvelle API par défaut pour Aetherius. Les instructions d'installation peuvent être trouvées sur la page GitHub.
Pour modifier le modèle utilisé avec Aethernode, modifiez la touche "Model_Name_Or_Path" dans Aethernode / Settings.json au modèle souhaité. Vous devez ensuite modifier la clé "Model_Backend" dans Aetherius_API / Chatbot_Settings.json au format souhaité. Seuls LLAMA-2-CHAT et Alpaga sont disponibles pour l'instant.
Aethernode Google Colab si vous n'avez pas de GPU:
28. Pour exécuter Aetherius localement à l'aide d'Oobabooga, installez d'abord le web-Ui sur: https://github.com/oobabooga/text-generation-webui/releases/tag/snapshot-2023-11-05
Oobabooga Text-Ui a simplement changé le fonctionnement de leur API. La version la plus à jour qui fonctionne est Snapshot-2023-11-05 Cela peut être fait via le menu de version ou Git Clone https://github.com/oobabooga/text-generation-webui --branch snapshot-2023-11-05
Pour exécuter Aetherius sur Google Colab avec Oobabooga à l'aide d'une API publique, utilisez le fichier de carnet dans le dossier "./Colab Notebooks". Pour utiliser l'API publique avec Aetherius, modifiez le "host_oobabooga" dans les paramètres JSON vers l'URL non streaming donnée. Pour utiliser plusieurs hôtes, séparez-les avec un espace.
Ensuite, sous l'onglet "Mode d'interface", activez uniquement la case à cocher API dans le champ "Extensions disponibles". Cliquez ensuite sur Appliquer et redémarrez l'interface.
Ensuite, accédez à l'onglet Modèles. Décochez la boîte des modèles Autoload, puis saisissez "TheBloke / Llama-2-13B-CHAT-GPTQ" dans la boîte de téléchargements (le modèle 7B peut être utilisé pour des résultats plus rapides, mais il casse parfois le format et a tendance à inventer les choses. Je ne le recommanderais pas si vous avez besoin de données factuelles). D'autres modèles peuvent fonctionner, mais c'est celui qui est testé.
Une fois le téléchargement terminé, rechargez le menu de sélection du modèle, puis sélectionnez le modèle. Modifiez le chargeur de modèle en exllamav2 et définissez le max_seq_len sur "4096". Réglez le "gpu_split" sur 1 Go sous le VRAM Max de votre GPU.
Cliquez sur le bouton "Charge" et chargez le modèle.
Maintenant, allez dans le fichier chatbot_settings.json dans le dossier Aetherius_API et modifiez l'API en oobabooga au lieu d'Aethernode. Aetherius devrait maintenant travailler!
30. Paramètres JSON et les invites peuvent être trouvées dans le dossier Aetherius_API.
En janvier 2023, j'ai eu mon expérience inaugurale avec Chatgpt 3.5 et LLMS en général. Depuis ce moment, je suis profondément obsédé par l'IA, consacrant d'innombrables heures par jour à l'étudier et à l'expérimentation pratique. L'assistant Aetherius AI est l'aboutissement de cette recherche.
Discord: LibraryOfcelsus -> Old Username Style: Celsus # 0262
Méga chat: https://mega.nz/c!pmnmeizq
