Aetherius_AI_Assistant
1.0.0
Versión .05 del asistente/agente de Aetherius AI por bibliotecafcelsus.com
Guía de instalación
Guía de uso de Aetherius
Skip to Changelog
Servidor de discordia
Aetherius está en un estado de desarrollo iterativo constante. Si le gusta la versión que está utilizando, mantenga una copia de seguridad o haga un tenedor. Espere errores.
Actualización de mi salud
El 6/07, me sometí a mi tercera cirugía de cadera. Desafortunadamente, la situación fue más grave de lo que se esperaba inicialmente, lo que requería el cartílago de los donantes debido al hueso sobre la artritis ósea. Si esta cirugía no tiene éxito, podría necesitar un reemplazo total de cadera antes de cumplir los treinta. ¡Afortunado de mí!
En una nota más brillante, mi muñeca ha mostrado una mejora significativa. Puede estar en mi cabeza, pero el medicamento prescrito para mi cadera para limitar el tejido cicatricial y prevenir el crecimiento óseo en mi fémur parece haber funcionado maravillas para mi muñeca. El gran bulto de tejido cicatricial finalmente ha comenzado a romperse, y experimento mucho menos dolor durante el uso extendido de mi mano, aunque esto podría atribuirse a la medicación antiinflamatoria. De todos modos, finalmente estoy llegando a un punto en el que puedo reanudar el trabajo de IA. Planeo comenzar lentamente, comenzando con la refactorización de la base de código Aetherius. Con el tiempo, la usabilidad de Aetherius ha disminuido significativamente debido a su dependencia de las técnicas de incorporación anticuadas que no son compatibles con los modelos modernos. Una vez que el refactor está completo, Aetherius debería ser una vez más un asistente de IA funcional.
La actualización del refactor de código Aetherius se ha vuelto bastante compleja, lo que hace que sea extremadamente engorroso trabajar en aspectos individuales. Para aliviar esto y optimizar el proceso de desarrollo, he decidido separar cada técnica en su propio repositorio. Este enfoque permitirá una mejora individual y facilitará a cualquier persona interesada diseccionar el código. Una vez que todas las diferentes partes hayan sido reescritas y mejoradas, las reintegraré en el proyecto principal de Aetherius.
Scripts individuales actuales:
Cambios recientes
• 6/10 iniciado por refactor de código
• 6/10 comenzó a mejorar las indicaciones internas
• 6/10 se agregó el formato de Llama 3
• 6/10 agregó soporte para Koboldcpp
• 6/10 OOBABOOGA actualizado para usar una nueva API
• 6/10 Capacidad agregada para usar la tarjeta de caracteres V2
• 4/08 agregó un nuevo script API. Esto tiene el bot de Discord incorporado y se lanzará automáticamente si se detecta un token válido en API_SETTINGS.JSON. NGROK se utiliza para una URL pública, actualmente utiliza la formación de OpenAI.
• 4/08 Se corrigió el error con el procesamiento de imágenes, ahora debe funcionar con el script de UI y API.
• 2/11 de respuesta de respuesta fija de respuesta.
• 2/09 agregó la visión GPT a la interfaz de usuario. También agregó TTS.
• 2/07 Se agregaron herramientas de procesos de WebScrape y archivos a la interfaz de usuario
• 1/16 Se agregó la versión experimental de una interfaz de usuario actualizada. Las herramientas, TTS y la entrada de voz aún deben actualizarse.
• 1/09 Modo de agente actualizado con una nueva búsqueda de memoria explícita
• 1/08 agregó un enfoque de bosque aleatorio para la búsqueda de memoria explícita
• 1/08 Error de selección de dominio de conocimiento fijo
Aetherius es un marco versátil de asistente de IA/subcentual modular que se adapta a sus necesidades. Sus capacidades se extienden más allá de los chatbots convencionales:
Datos en tiempo real : Aetherius tiene acceso para buscar en la web o sus propios datos en el modo de agente, lo que permite información que no está contenida en el modelo base.
Marco de múltiples agentes : Aetherius le brinda la capacidad de crear subcibentes para cualquier caso de uso que tenga. Alternativamente, puede que active los scripts de Python en su lugar.
Revista reflexiva : Diga lo que piensa libremente y recibe comentarios reflexivos sin juicio ni miedo.
Herramienta de aprendizaje : sumérjase en sus temas favoritos y mejore su conocimiento sin esfuerzo.
Compañero de análisis de datos : aproveche el poder de sus datos con Aetherius a su lado.
Descarga cognitiva : un segundo cerebro que es completamente privado, lo que lo ayuda a organizar pensamientos e ideas.
Generación de contenido : genere fácilmente contenido basado en archivos o caceos web.
Memoria realista : Aetherius se basa en una simulacros de la memoria humana, con el objetivo de proporcionar un recuerdo y una formación de pensamiento más realista.
Aetherius es un marco de asistente de IA/agente de IA operado localmente, diseñado para otorgarle el control final. Ninguna fuerza externa puede alterarlo sin su consentimiento, asegurando su privacidad.
Según lo visto por el intento de cambio de liderazgo en la IA "abierta" en 2023, no se pueden confiar en las soluciones cerradas y administradas. Incluso si confía en el liderazgo, puede cambiar de inmediato sin previo aviso. No tiene control real sobre los datos enviados.
Al ejecutar todo localmente, este problema se puede evitar.
En el corazón de Aetherius se encuentra un marco de recuperación de memoria a largo plazo (LLM) personalizado, alimentado por LLM de código abierto utilizando la API AetherNode (Tier COLAB Free disponible), Oobabooga Text-UI, Koboldcpp o el ChatGPT de OpenAi. Se extraen y combinan diferentes tipos de memoria para proporcionar un proceso de pensamiento más realista y creativo que otros chatbots. Dado que es un marco, Aetherius puede usar múltiples hosts, descargando cómputo a múltiples máquinas para aumentar el tiempo de cómputo.
Más allá de servir como un chatbot básico, Aetherius también puede usar subcibentes. Estos permiten a Aetherius buscar mejor sus recuerdos o conectarse a datos externos. Los subgénes se ejecutan desencadenando un script, por lo que Aetherius puede usar teóricamente la mayoría de las cosas que Python puede activar. Aetherius también puede "ver" ahora gracias a la visión GPT-4.
Aetherius nació de mi obsesión con la IA y mis contemplaciones filosóficas sobre el equilibrio entre el libre albedrío y el determinismo. Si bien creo que el libre albedrío es un atributo inherente de todas las personas, no creo que la persona promedio haya pasado el tiempo para individualizar o aprender a servir a su "verdadero yo". En consecuencia, se vuelven susceptibles a las influencias externas y se pueden influir fácilmente. A menudo, las decisiones percibidas como autodirigidas están formadas inadvertidamente por estímulos externos o información pasada.
Sobre la base de esta perspectiva, postule que una representación del proceso cognitivo humano puede construirse a través de la extracción meticulosa y la síntesis de diversas modalidades de memoria. Si bien tal sistema podría no alcanzar la "conciencia" en el sentido tradicional, creo que puede emular el rendimiento cognitivo humano en un grado significativo.
Una vez que se han extraído recuerdos suficientes, espero poder crear un "Atman" o "verdadero yo verdadero" artificial que pueda usarse como un método de control para la operación autónoma y como una forma de orquestar agentes más pequeños y menos complejos.
Aquí es de donde proviene el nombre Aetherius. "αἰθήρ" o "éter", el supuesto quinto elemento o quintaesencia en el antiguo pensamiento filosófico que no se ve, pero impregna a todos. E "ius" el sufijo latino para "perteneciente a" o "derivado de". Un asistente de IA derivado del éter del consiencia colectiva.
Aetherius es un proyecto de investigación en curso, espera que haya errores y que las cosas cambien constantemente.
| Bucle | Descripción |
|---|---|
| Entrada de usuario | La interacción es iniciada por el usuario que envía una solicitud a Aetherius. |
| Expansión de entrada | Expande la entrada del usuario con el historial de conversación para un significado mejorado en las búsquedas de bases de datos. |
| Extracción de dominio de conocimiento | Selecciona un dominio de conocimiento de las opciones disponibles para la búsqueda de memoria explícita. |
| Separación de términos semánticos | Separa la entrada del usuario en términos sinónimos para capturar significados matizados. |
| Primera búsqueda de DB de memoria | Busca los recuerdos de Aetherius para generar un monólogo interno. |
| Generación de monólogo interno | Genera un monólogo interno que refleja experiencias pasadas, consolidando la información de búsqueda de la base de datos y extendiendo el significado de entrada del usuario. |
| Segunda búsqueda de DB de memoria | Busca nuevamente los recuerdos de Aetherius para formular su intuición. |
| Generación de intuición | Crea un plan de acción basado en los recuerdos y el monólogo interno. Sirve como una estrategia rápida automática de la cadena de pensamiento. |
| Generación de memoria implícita | Genera recuerdos implícitos a corto plazo a partir de sus procesos internos. |
| Generación de la lista de tareas maestras | Genera una lista de tareas asincrónicas utilizando categorías de subagentes disponibles. |
| Selección de subagentes | Elige un subgent de una categoría para completar la tarea. |
| Generación de respuesta final | Utiliza el monólogo interno, el historial de conversación y las tareas completadas para responder al usuario. |
| Generación de memoria explícita | Produce recuerdos explícitos a corto plazo basados en el monólogo interno y la respuesta final. |
| Generación de memoria episódica | Genera un resumen de tiempo de tiempo de la interacción actual para el almacenamiento de memoria episódica. |
| Generación de memoria FlashBulb | Forma recuerdos/objetivos significativos utilizando recuerdos a largo plazo y episódicos periódicamente. |
| Consolidación de memoria a corto plazo | Consolida recuerdos a corto plazo y les asigna dominios de conocimiento antes de cargar como recuerdos a largo plazo. |
| Asociación de memoria a largo plazo | Administra el tamaño de la base de datos mediante la condensación de recuerdos a largo plazo y temas relacionados con la agrupación. |
Con Aetherius, tienes un arsenal de herramientas para explorar y usar:
Main Aetherius Chatbot : un marco para la creación de subciburentes personalizados para Aetherius.
Sub-agentes actuales
Old UI Chatbot : su compañero personal con memoria realista a largo plazo.
El desarrollo de Aetherius está autofinanciado por mi trabajo diario, considere apoyarme si lo usa con frecuencia y desea que aumente la velocidad de desarrollo.
¡Únase a Discord para obtener ayuda o para obtener información más profunda!
Servidor Discord: https://discord.gg/pb5zcna7ze
Guía de uso de Aetherius
Suscríbase a mi YouTube para videos tutoriales: https://www.youtube.com/@libraryofcelsus (canal aún no lanzado)
Tutoriales de código disponibles en: https://www.libraryofcelsus.com/research/public/code-tutorials/
Hecho por: https://github.com/libraryOfCelsus
Inspirado en https://github.com/daveshap/
• Continuar mejorando las indicaciones internas
• Termine la guía de uso de Aetherius
• Mejor documentación
• Herramienta de resumen de libros/archivos
• Herramienta del generador de conjuntos de datos
• Modelo LLM personalizado para Aetherius
• Lanzar el Tutorial de AI Tutorial de YouTube Channel
0.05
0.047b
• Se agregó la visión GPT a la interfaz de usuario. También agregó TTS.
• Se agregaron herramientas de procesos de WebScrape y archivos a la interfaz de usuario
0.047a
• Se agregó la versión experimental de una interfaz de usuario actualizada. Las herramientas, TTS y la entrada de voz aún deben actualizarse.
0.046c
• Se agregó un enfoque de bosque aleatorio para la búsqueda de memoria explícita
• Se corrigió el error de selección de dominio de conocimiento
0.046b
• Se corrigió un error de codificación de Unicode al escribir archivos de personalidad.
• Se agregó la visión GPT al modo de agente.
• Se agregó soporte de visión GPT. Recomiendo usar Discord Bot para esto.
• Se agregó el modo de carga de memoria forzada.
• Varios cambios de backend, sin funcionalidad adicional por ahora, principalmente para cosas futuras.
• Se solucionó el error de selección de subgentes.
0.046a
• Se agregó un nuevo sistema de categoría para sub-agentes, solo en el script API de Async por ahora.
• Se corrigió un error que causa múltiples categorías se cargará en la lista de categorías. También se solucionó el error de inmediato vacío. Versión API de Async solamente.
• Se agregaron scripts separados para la categoría de subagentes de memoria. Versión API de Async solamente.
• Se agregaron dominios de conocimiento experimental para la memoria explícita a largo plazo. Versión API de Async solamente.
• No se solucionó el error de la colección para la búsqueda de recursos externos. Versión API de Async solamente.
• Trabajó en selección de dominio de conocimiento. Versión API de Async solamente.
• Se agregó la interfaz de usuario de Gradio temporal para el modo de agente de prueba hasta que se reúna otra interfaz de usuario. El nombre de usuario y el nombre de Botname deben cambiarse en "gradio-ui.py" Si se usa Discord Bot, User_ID debe establecerse en Discord UserName.
0.045c
• Se agregaron descripciones de BOT y perfil de usuario. Esto se puede deshabilitar en la configuración de la API JSON.
• Convirtió. Txt de configuración de archivos a JSON
• Se agregó el script de Bot de Discord usando API en ./ATERSIUS_API/EXAMPLES
• Se agregó un script API básico que se puede importar para usar Aetherius programáticamente. (Sigue siendo un trabajo temprano en progreso)
• Se agregó el sub-agente de búsqueda de memoria y una búsqueda web autónoma si la información necesaria no está en los recursos externos DB.
• Script de subagente agregado. Ahora puede crear sub-agentes personalizados para el bucle de procesamiento paralelo de Aetherius.
• Convertido Llama 2 Chatbot para usar JSON para la configuración.
• Mejor clasificación para usar múltiples hosts.
• Varias correcciones de errores
0.045c
• Se agregó la capacidad de usar múltiples hosts con Oobabooga.
• MEJORA DE LLAMA 2 INTERNOS INTERNOS
• Se agregó una puntuación importante a algunos tipos de memoria (sigue siendo un trabajo en progreso)
0.045b
• Se agregó procesamiento de video a la herramienta de raspado de archivos LLAMA 2.
• Se agregó clonación de voz con Coqui TTS.
0.045A
• Se agregó verificación de la puntuación para las cargas de memoria para evitar cargas de corte en Llama 2 Chatbot.
• Se agregaron botones de eliminación para recursos externos en el menú de eliminación de gestión de DB en Llama 2 Chatbot.
• Instalaciones internas mejoradas para el modo de agente LLAMA 2 y la herramienta WebScrape.
• Varias correcciones de errores
0.044f
• Se agregó entrada de voz usando Whisper y TTS usando GTTS o once laboratorios. Lark TTS sigue siendo un trabajo en progreso.
0.044E
• Se corrigió un error donde el tamaño de la incrustación no se estaba configurando al crear colecciones.
• Cambiaron los nombres de usuario del nombre de la colección a los metadatos.
0.044d
• Menú de selección de incrustación agregada, por ahora solo hay disponibles transformadores de oraciones e incrustaciones faciales para abrazar.
0.044c
• Nueva GUI para Aetherius. La mayoría de los modos de chatbot ahora se consolidan bajo una interfaz de usuario.
0.044b
• Apariencia y características de GUI de LLAMA-2 actualizadas
• El archivo fusionado de chatbot en aethersearch
• Se corrigió el error donde se imprimió el markdown HTML en lugar del texto normal cuando se usa API pública.
• Se agregó el cuaderno de Colab para personas sin GPU.
0.044a
• Colecciones consolidadas para una mejor visualización con Qdrant (disponible en el tablero Qdrant)
• Se agregó la etiqueta fuente para raspados de datos externos
Se pueden encontrarelogs más antiguos en: https://www.libraryofcelsus.com/aetherius/
Descargue la carpeta del proyecto Project presionando el menú desplegable <> Código desplegable.
1. Instale Python 3.10.6, asegúrese de agregarlo a la ruta: https://www.python.org/downloads/release/python-3106/
2. Ejecute "install_aetherius_client_windows.bat" para instalar el cliente Aetherius.
(Si recibe un error al instalar los requisitos ejecutados: Python -M PIP Cache Purge )
3. Copie sus teclas API/URL de OpenAI y Qdrant a la carpeta API_Keys dentro de la carpeta Aetherius_API creada. Se necesita OpenAi para la visión GPT.
4. Copie su clave de Google CSE y la tecla API a la carpeta API_KEYS o establezca Web_Search en falso en chatbot_settings.json.
5. Si usa OpenAi, puede omitir esto. Si desea ejecutar Aetherius localmente, debe instalar uno de los diversos soportes de API.
Koboldcpp (recomendado): https://github.com/lostruins/koboldcpp
Oobabooga: https://github.com/oobabooga/text-generation-webui
Aethernode: https://github.com/libraryofcelsus/aethernode
6. Configurar qdrant
Qdrant Cloud: https://qdrant.to/cloud
Para usar un servidor local Qdrant, primero instale Docker: https://www.docker.com.
Siguiente tipo: Docker Pull Qdrant/Qdrant: V1.5.1 en el símbolo del sistema.
Después de que termine de descargar, escriba Docker Run -P 6333: 6333 Qdrant/Qdrant: V1.5.1
Ver: https://docs.docker.com/desktop/backup-and-restore/ para obtener copias de seguridad.
Una vez que el servidor Qdrant local se está ejecutando, debe ser detectado automáticamente por Aetherius.
7. Lanza Aetherius con uno de los archivos Run _*. BAT .
(Discord se ha agregado a la nueva API. Se ejecutará automáticamente junto con la API si se ingresa un token válido en "API_SETTINGS.JSON".)
(Si usa NGROK, debe hacer un túnel llamado Aetherius en la configuración de Ngrok. Esto se puede hacer con 'run_aetherius_cmd.bat' ingresando 'ngrok config edit') Obtenga una dirección ngrok estática aquí: https://dashboard.ngrok.com/cloud-edge/domains
Ejemplo de configuración ngrok: región: EE. UU.
Versión: '2'
Authtoken: reemplazar_with_ngrok_auth
Túneles:
Aetherius:
Proto: http
nombre de host: reemplazar con dominio ngrok estático
Addr: 127.0.0.1:5000
8. ¡ Sube la heurística a DB y cambia el nombre de bot, el nombre de usuario y el usuario_id para comenzar a chatear con Aetherius!
Para cambiar el modelo utilizado con AetherNode, cambie la tecla "Model_name_or_path" en AetherNode/Settings.json al modelo deseado. Luego debe cambiar la tecla "Model_Backend" en Aetherius_api/Chatbot_settings.json al formato deseado. Solo Llama-2-Chat y Alpaca están disponibles por ahora.
Modelos recomendados: TheBloke/Llama-2-13b-Chat-GPTQ
TheBloke/Mythomax-L2-13b-GPTQ
La configuración y las indicaciones se pueden encontrar en la carpeta Aetherius_API.
Photo OCR (JPG, JPEG, PNG) requiere Tesseract: https://github.com/ub-mannheim/tasseract/wiki Una vez instalada, copie la carpeta "tesseract-oCR" de archivos de programa a la carpeta "aetherius_ai_assistant".
Para que Whisper trabaje con CUDA, es posible que deba ejecutar los comandos : . venv scripts activar pip uninstal antorcha torchaudio pip instalar torthVision torthaudio -f https://download.pytorch.org/whl/cu118/torch_stable.html
Guía de uso de Aetherius
Comandos BOT
!Agente
(Activa el modo de subagente de Aetherius)
! Heurística
(Te permite subir una heurística)
! Implícito
(Le permite cargar una memoria implícita a corto plazo)
! Explicitstm
(Le permite cargar una memoria explícita a corto plazo)
! Implícito
(Le permite cargar una memoria implícita a largo plazo)
! Explicitltm (le permite cargar una memoria explícita a largo plazo)
La guía con fotos se puede encontrar en [https://www.libraryofcelsus.com/aetherius-setup-guide/]
Guía de fotos desactualizado
1. Instale Git: https://git-scm.com/ (Git se puede omitir descargando el repositorio como un archivo zip bajo el botón de código verde)
2. Instale Python 3.10.6, asegúrese de agregarlo a la ruta: https://www.python.org/downloads/release/python-3106/
3. Abra el programa "Git Bash".
4. Ejecute el clon Git: Git Clone https://github.com/libraryofcelsus/aetherius_ai_assistant.git
5. Abra CMD como Admin (panel de comando)
6. Navegue a la carpeta del proyecto: CD Path_To_Aterherius_install
7. Crea un entorno virtual: Python -M Venv Venv
8. Active el entorno : . venv scripts activate (esto debe hacerse antes de ejecutar aetherius cada vez. El run.bat también lo hará automáticamente).
9. Instale los paquetes requeridos: PIP Install -R Requisitos.txt
(Si recibe un error al instalar los requisitos de ejecución: Python -M PIP Cache Purge después de activar el Venv)
10. Actualizar la versión Numpy: Instalar PIP - -Upgrade Numpy == 1.24 (si recibe un error de TTS ignorarlo).
11. Instale ffmpeg: https://www.gyan.dev/ffmpeg/builds/
12. Instale la antorcha con CUDA: Pip Uninstall Torch TorchVision Pip Instale la antorcha de antorcha Torchaudio -f https://download.pytorch.org/whl/cu118/torch_stable.html
13. Copie su tecla API OpenAI a Key_openai.txt (si usa oobabooga, puede omitir esto).
14. Si el uso de Qdrant Cloud copia su clave API y URL a sus respectivos archivos .txt en la carpeta ./api_keys. Qdrant Cloud: https://qdrant.to/cloud
15. Para usar un servidor local Qdrant, primero instale Docker: https://www.docker.com/
16. Ahora corre: Docker Pull Qdrant/Qdrant: V1.5.1 en CMD
17. Siguiente ejecución: Docker Run -P 6333: 6333 Qdrant/Qdrant: V1.5.1
18. Una vez que el servidor Qdrant local se está ejecutando, debe ser detectado automáticamente por Aetherius. Si no se está ejecutando un servidor Qdrant, Aetherius guardará en el disco.
(Ver: https://docs.docker.com/desktop/backup-and-restore/ para hacer copias de seguridad).
(Si usa UI, edite la configuración fuera de la carpeta API. Si usa API, edite la configuración dentro de la carpeta API. Discord y Gradio usan la API).
19. Copie su tecla API de Google a Key_Google.txt (puede deshabilitar los recursos externos web_search en el archivo de script).
20. Copie su ID de Google CSE a Key_Google_cse.txt
21. Si planea usar Photo OCR (JPG, JPEG, Reconocimiento de texto PNG), requiere Tesseract: https://github.com/ub-mannheim/tesseract/wiki una vez instalada, copie la carpeta "tesseract-oCr" de los archivos de programa a la carpeta "aetherius_ai_assistant". Las fotos deben colocarse en la carpeta ./upload/scans.
22. Ejecute Aetherius escribiendo Python Experimental_ ui_menu.py en CMD o uno de los archivos run.bat como administrador para iniciar Aetherius. (Usando Run.bat le permitirá omitir la apertura de CMD y activar el entorno).
23. Seleccione DB Cargue Heuristics en el menú de gestión de DB para cargar heurísticas para el bot, este DB también puede funcionar como una personalidad DB. Un ejemplo de cómo hacer esto se puede encontrar en "Personality_DB_Input_examples.txt" en la carpeta de configuración.
24. Edite las indicaciones del chatbot con el menú de configuración. Esto le permitirá cambiar las indicaciones principales, secundarias y de saludo. También puede cambiar cosas como el estilo y el tamaño de la fuente.
25. Puede cambiar el nombre de bots y el nombre de usuario en el menú de inicio de sesión. Cambiar cualquiera de estos creará un nuevo chatbot.
26. Una vez que haya realizado una copia de seguridad, puede comenzar a usar el modo "Auto", este modo hace que Aetherius decida por sí mismo si debería cargarse o no.
27. Para ejecutar Aetherius con su API personalizada, descargar e instalar: https://github.com/libraryOfCelsus/aethernode
Esta es la nueva API predeterminada para Aetherius. Las instrucciones de instalación se pueden encontrar en la página GitHub.
Para cambiar el modelo utilizado con AetherNode, cambie la tecla "Model_name_or_path" en AetherNode/Settings.json al modelo deseado. Luego debe cambiar la tecla "Model_Backend" en Aetherius_api/Chatbot_settings.json al formato deseado. Solo Llama-2-Chat y Alpaca están disponibles por ahora.
Aethernode Google Colab si no tiene una GPU:
28. Para ejecutar Aetherius localmente usando oobabooga, primero instale el web-ui en: https://github.com/oobabooga/text-generation-webui/releases/tag/snapshot-2023-11-05
Oobabooga Text-Ui acaba de cambiar la forma en que funciona su API. La versión más actualizada que funciona es Snapshot-2023-11-05 Esto se puede hacer a través del menú de lanzamiento o clon Git https://github.com/oobabooga/text-generation-webui --Branch Snapshot-2023-11-05
Para ejecutar Aetherius en Google Colab con Oobabooga utilizando una API pública, use el archivo de cuaderno en la carpeta "./Colab Notebooks". Para usar la API pública con Aetherius, cambie el "host_oobabooga" en la configuración JSON a la URL no transmitente dada. Para usar múltiples hosts, separarlos con un espacio.
Luego, en la pestaña "Modo de interfaz", habilite la casilla de verificación API en el campo "Extensiones disponibles" solamente. Luego haga clic en Aplicar y reiniciar la interfaz.
A continuación, navegue a la pestaña Modelos. Descargue el cuadro de modelos Autoload y luego ingrese "TheBloke/LLAMA-2-13B-CHAT-GPTQ" en el cuadro Descargas (el modelo 7B se puede usar para obtener resultados más rápidos, pero ocasionalmente rompe el formato y tiene una tendencia a inventar las cosas. No lo recomendaría si necesita datos factuales). Otros modelos pueden funcionar, pero este es el que se prueba.
Una vez que se completa la descarga, vuelva a cargar el menú de selección de modelos y luego seleccione el modelo. Cambie el cargador de modelo a exllamav2 y establezca el max_seq_len en "4096". Establezca el "GPU_SPLIT" en 1 GB bajo el Max VRAM de su GPU.
Haga clic en el botón "Cargar" y cargue el modelo.
Ahora, vaya al archivo chatbot_settings.json en la carpeta Aetherius_api y cambie la API a Oobabooga en lugar de AetherNode. ¡Aetherius ahora debería funcionar!
30. Configuración JSON y las indicaciones se pueden encontrar en la carpeta Aetherius_API.
En enero de 2023, tuve mi experiencia inaugural con ChatGPT 3.5 y LLMS en general. Desde ese momento, he estado profundamente obsesionado con la IA, dedicando innumerables horas cada día a estudiarlo y a la experimentación práctica. El asistente de Aetherius AI es la culminación de esa investigación.
Discord: LibraryOfCelsus -> Estilo de nombre de usuario antiguo: Celsus#0262
Mega Chat: https://mega.nz/c!pmnmeizq
