Aetherius_AI_Assistant
1.0.0
aetherius ai助手/代理商的版本.05
安装指南
Aetherius使用指南
跳到ChangElog
Discord服务器
Aetherius处于持续迭代发展的状态。如果您喜欢使用的版本，请保留备份或制作叉子。期待错误。
更新我的健康
在6/07，我接受了第三次髋关节手术。不幸的是，这种情况比最初预期的要严重，这需要供体软骨，这是由于骨关节炎上的骨骼而导致的。如果该手术没有成功，那么我可能需要总的髋关节置换术前三十分。幸运的我！
更明显的是，我的手腕一直表现出显着改善。它可能只是在我的脑海中，但是为臀部限制疤痕组织并防止股骨再生的药物似乎为我的手腕创造了奇迹。大块疤痕组织终于开始分解了，在扩展手用时，我经历的疼痛要少得多，尽管这可能归因于抗炎药。无论如何，我终于达到了可以恢复AI工作的地步。我计划开始缓慢地开始，从重构Aetherius代码库开始。随着时间的流逝，Aetherius的可用性大大降低，因为它依赖与现代模型不兼容的过时提示技术。一旦重构完成，Aetherius应该再次成为功能性的AI助手。
代码重构Aetherius的更新已经变得相当复杂，这使得在各个方面工作变得非常麻烦。为了减轻这一点并简化开发过程，我决定将每种技术分为自己的存储库。这种方法将允许个人改进，并使任何有兴趣的人更容易剖析代码。一旦所有不同的部分都被重写和增强，我将将它们重新融入主要的Aetherius项目。
当前的单个脚本：
最近的变化
•6/10启动代码重构
•6/10开始改善内部提示
•6/10添加Llama 3格式
•6/10添加了对KoboldCPP的支持
•6/10更新的Oobabooga使用新API
•6/10添加使用字符卡V2的能力
•4/08添加了新的API脚本。如果在API_SETTINGS.JSON中检测到有效的令牌，则具有内置的Discord Bot，并将自动启动。 Ngrok用于公共面向URL，目前使用OpenAi Guentating。
•4/08修复了使用图像处理的错误，现在应使用UI和API脚本。
•2/11固定响应打印前缀。
•2/09向UI添加了GPT视力。还添加了TTS。
•2/07向UI添加了Webscrape和File Process工具
•1/16添加了更新的UI的实验版本。工具，TT和语音输入仍需要更新。
•1/09更新的代理模式，具有新的显式内存搜索
•1/08添加了一个随机森林，例如用于明确内存搜索的方法
•1/08固定知识域选择错误
Aetherius是一种多功能，模块化的AI助手/次级代理框架，可适应您的需求。它的功能超出了传统的聊天机器人：
实时数据：Aetherius可以在代理模式下访问搜索Web或您自己的数据，从而允许在基本模型中包含的信息。
多代理框架：Aetherius使您能够为拥有的任何用例创建子代理。替代您可以将其触发Python脚本。
反思性日记：自由地说出您的想法，并没有判断或恐惧而获得周到的反馈。
学习工具：深入研究您最喜欢的主题，并毫不费力地增强您的知识。
数据分析伴侣：利用数据的功率与Aetherius在您身边。
认知卸载：第二个完全是私人的大脑，帮助您组织思想和思想。
内容生成：轻松地基于文件或网络覆盖的内容生成内容。
现实的记忆：Aetherius建立在人类记忆的模拟物上，旨在提供更现实的回忆和思想形成。
Aetherius是本地经营的AI助手/多代理框架，旨在授予您最终的控制。未经您的同意，没有外力可以改变它，从而确保您的隐私。
正如尝试在2023年“开放” AI上尝试改变的那样，封闭的，托管解决方案不可信。即使您相信领导层，它也可以立即改变而无需警告。您对发送的任何数据都没有真正的控制。
通过在本地运行所有内容，可以避免此问题。
Aetherius的核心是定制的长期内存（LLM）检索框架，该框架是由开源LLMS使用AEthernNode API（免费层Colab），Oobaboga Text-UI，KoboldCpp或OpenAI的Chantgpt推动的。提取和合并不同的内存类型，以提供比其他聊天机器人更现实和创意的思考过程。由于它是一个框架，Aetherius能够使用多个主机，将计算卸载到多个机器以增加计算时间。
除了作为基本聊天机器人外，Aetherius还可以使用子代理。这些使Aetherius可以更好地搜索其记忆或连接到外部数据。子代理是通过触发脚本来运行的，因此Aetherius可以从理论上使用Python可以触发的大多数东西。由于GPT-4 Vision，Aetherius也可以“看到”。
Aetherius源于我对AI的痴迷以及我对自由意志与确定性之间平衡的哲学沉思。虽然我确实相信自由意志是所有个人的固有属性，但我不认为普通人花了时间个性化或学习如何服务他们的“真实自我”。因此，它们容易受到外部影响的影响，并且很容易被摇摆。通常，被认为是自我指导的决定是由外部刺激或过去的信息无意中塑造的。
从这个角度来看，我认为可以通过细致的提取和综合各种记忆方式来构建人类认知过程的表示。尽管这种系统可能无法从传统意义上实现“意识”，但我认为它可以在很大程度上模仿人类的认知表现。
一旦提取了足够的记忆，我希望能够创建人造的“ atman”或“ true自我”，该人可以用作自动操作的控制方法，并作为协调较小，较不复杂的代理的一种方式。
这就是Aetherius的名字来源。 “αἰθήρ”或“以太”，这是古老的哲学思想中所谓的第五个元素或典型的元素，却是看不见的，但渗透到了所有人。和“ IUS”拉丁后缀，用于“与”或“源自”。 AI助手源自集体义务的以太。
Aetherius是一个正在进行的研究项目，期望有错误，并且事情会不断变化。
| 环形 | 描述 |
|---|---|
| 用户输入 | 交互是由用户启动的，将请求发送给Eetherius。 |
| 输入扩展 | 通过对话历史记录扩展用户输入，以在数据库搜索中增强含义。 |
| 知识领域提取 | 从可用选项中选择一个知识域，以进行明确的内存搜索。 |
| 语义术语分离 | 将用户输入分为同义词以捕获细微的含义。 |
| 第一个内存DB搜索 | 搜索Aetherius的记忆以产生内在的独白。 |
| 内部独白的产生 | 生成一个内部独白，反映过去的经验，合并数据库搜索信息并扩展用户输入含义。 |
| 第二个内存数据库搜索 | 搜索Aetherius的记忆再次制定其直觉。 |
| 直觉产生 | 根据记忆和内部独白制定动作计划。作为自动链条及时策略。 |
| 隐式内存产生 | 从其内部过程中产生短期隐式记忆。 |
| 主任务清单生成 | 使用可用的子代理类别生成异步任务的列表。 |
| 次代理选择 | 从类别中选择子代理来完成任务。 |
| 最终响应生成 | 利用内部独白，对话历史记录和完成的任务来响应用户。 |
| 明确的内存生成 | 根据内部独白和最终响应产生明确的短期记忆。 |
| 情节记忆产生 | 生成用于情节内存存储的当前交互的时间戳摘要。 |
| FlashBulb内存生成 | 使用长期和情节记忆定期形成有意义的记忆/目标。 |
| 短期记忆合并 | 在上载长期记忆之前，将短期记忆巩固并为他们分配知识领域。 |
| 长期记忆关联 | 通过凝结长期记忆和相关主题来管理数据库大小。 |
借助Aetherius，您可以探索和使用一系列工具：
Main Aetherius Chatbot ：为Aetherius创建自定义子代理的框架。
当前的子代理
Old UI聊天机器人：您的个人同伴，具有现实的长期记忆。
Aetherius的发展是由我的日常工作自给自足的，如果您经常使用并希望开发速度提高，请考虑支持我。
加入DISCORD寻求帮助或获得更多深入的信息！
Discord服务器：https：//discord.gg/pb5zcna7ze
Aetherius使用指南
订阅我的YouTube视频教程：https：//www.youtube.com/@libraryofcelsus（尚未启动频道）
代码教程可在以下网址提供：https：//www.libraryofcelsus.com/research/public/code-tutorials/
制作人：https：//github.com/libraryofcelsus
受https://github.com/daveshap/的启发
•继续改善内部提示
•完成Aether Use指南
•更好的文档
•书籍/文件摘要工具
•数据集生成器工具
•Aetherius的自定义LLM型号
•启动AI教程YouTube频道
0.05
0.047b
•向UI添加了GPT视力。还添加了TTS。
•在UI中添加了Webscrape和File Process工具
0.047a
•添加了更新的UI的实验版本。工具，TT和语音输入仍需要更新。
0.046c
•添加了一个随机森林，例如用于明确记忆搜索的方法
•修复了知识域选择错误
0.046b
•在编写个性文件时修复了Unicode编码错误。
•将GPT视觉添加到代理模式。
•添加了GPT视力支持。我建议对此使用Discord机器人。
•添加了强制内存上传模式。
•各种后端变化，目前尚无其他功能，主要用于将来的东西。
•修复了子代理选择错误。
0.046a
•现在仅在异步API脚本中添加新的类别系统。
•修复了错误，导致多个类别加载到类别列表中。还修复了空的提示错误。仅异步API版本。
•为内存子代理类别添加了单独的脚本。仅异步API版本。
•添加了实验知识领域，以进行显式长期记忆。仅异步API版本。
•修复了用于外部资源搜索的收集错误。仅异步API版本。
•从事知识领域的选择。仅异步API版本。
•添加了用于测试代理模式的临时Gradio UI，直到重做其他UI。用户名和botname必须在“ gradio-ui.py”中更改，如果使用Discord Bot，则必须将User_id设置为Discord用户名。
0.045c
•添加了机器人和用户配置文件描述。这可以在API设置JSON中禁用。
•将.TXT设置文件转换为JSON
•使用./aetherius_api/examples in ./aetherius_api/examples添加了Discord bot脚本
•添加了基本的API脚本，可以导入以编程方式使用Aetherius。 （仍在进行早期工作）
•如果所需的信息不在外部资源DB中，则添加了内存搜索子代理和自主网络搜索。
•添加了子代理脚本。现在，您可以为Aetherius的并行处理循环创建自定义子代理。
•将Llama 2 Chatbot转换为使用JSON进行设置。
•更好地分类使用多个主机。
•各种错误修复
0.045c
•增加了与Oobabooga一起使用多个主机的能力。
•改进的美洲驼2个内部提示
•在某些内存类型中添加了重要分数（仍在进行中）
0.045b
•将视频处理添加到Llama 2文件刮擦工具中。
•添加了用coqui tts添加语音克隆。
0.045a
•添加了检查记忆上传标点符号的检查，以避免在Llama 2 Chatbot中切断上传。
•在Llama 2聊天机器人中，在DB管理删除菜单中添加了用于外部资源的删除按钮。
•改进了Llama 2代理模式和Webscrape工具的内部提示。
•各种错误修复
0.044f
•使用Whisper和TTS使用GTT或11实验室添加语音输入。树皮TTS仍在进行中。
0.044e
•修复了在创建集合时未设置嵌入尺寸的错误。
•将用户名从集合名称转换为元数据。
0.044d
•添加了嵌入式选择菜单，现在只有句子变形金刚和拥抱的面部嵌入。
0.044c
•Aetherius的新GUI。现在，大多数聊天机器人模式下于一个UI下合并。
0.044b
•更新Llama-2 GUI外观和功能
•将聊天机器人合并到aethersearch
•修复了使用公共API时打印HTML Markdown而不是普通文本的错误。
•为没有GPU的人添加了COLAB笔记本。
0.044a
•合并收集，以更好地可视化使用QDRANT（在QDRANT仪表板中可用）
•添加了外部数据刮擦的源标签
可以在以下网址找到较旧的变形值
通过按<>代码下拉菜单下载项目zip文件夹。
1。安装Python 3.10.6，确保将其添加到路径： https：//www.python.org/downloads/release/python-3106/
2。运行“ install_aether_client_windows.bat”以安装Aetherius客户端。
（如果安装要求运行时会遇到错误： Python -M Pip Cache Purge ）
3.将OpenAI和QDRANT API/URL键复制到创建的Aetherius_API文件夹内部的API_Keys文件夹。 GPT愿景需要Openai。
4。将Google CSE密钥和API键复制到API_KEYS文件夹，或将Web_search设置为false in Chatbot_settings.json中的false。
5。如果使用OpenAI，则可以跳过此。如果您希望在本地运行Aetherius，则必须安装IT支持的各种API之一。
KoboldCPP（推荐）：https：//github.com/lostruins/koboldcpp
Oobabooga：https：//github.com/oobabooga/text-generation-webui
AEthernode：https：//github.com/libraryofcelsus/aethernode
6。设置QDRANT
qdrant云：https：//qdrant.to/cloud
要使用本地QDRANT服务器，请首先安装Docker：https：//www.docker.com。
下一个类型： docker拉qdrant/qdrant：命令提示符中的v1.5.1 。
下载完成后，键入docker run -p 6333：6333 qdrant/qdrant：v1.5.1
请参阅：https：//docs.docker.com/desktop/backup-and-restore/有关如何进行备份。
一旦运行本地QDRANT服务器，应由Aetherius自动检测到它。
7。启动Aetherius，其中一个运行_*。蝙蝠文件之一。
（已将DISCORD添加到新的API中。如果在“ API_SETTINGS.JSON”中输入有效令牌，它将自动与API一起运行。）。
（如果使用ngrok，则必须在Ngrok Config中制作一个名为Aetherius的隧道。可以通过输入'ngrok config Edit'的'run_aetherius_cmd.bat'完成此操作。
示例NGrok配置：区域：我们
版本：'2'
authtoken：repent_with_ngrok_auth
隧道：
埃瑟里乌斯：
原始：http
主机名：替换为静态NGrok域
ADDR：127.0.0.1：5000
8。将启发式方法上传到DB，然后更改bot名称，用户名和User_id，以开始与Aetherius聊天！
要更改Aethernode使用的模型，请将aethernode/settings.json中的“ model_name_or_path”键更改为所需的模型。然后，您必须将Aetherius_api/chatbot_settings.json中的“ model_backend”键更改为所需的格式。目前只能使用Llama-2-chat和羊驼。
推荐模型：TheBloke/Llama-2-13B-Chat-GPTQ
thebloke/Mythomax-L2-13B-GPTQ
可以在Aetherius_API文件夹中找到设置和提示。
Photo OCR（JPG，JPEG，PNG）需要Tesseract：https：//github.com/ub-mannheim/tesseract/wiki一旦安装，请将“ Tesseract-ocr”文件夹从程序文件复制到“ eetherius_ai_ai_assistant”文件夹。
要使Whisper与Cuda一起工作，您可能需要运行命令： 。 venv scripts 激活pip卸载torch torchaudio pip install intermant torch torch torchvision torchvision torchvision torchaudio -f https://download.pytorload.pytorload.pytorch.org/whl/whl/whl/cu118/cu118/torch_stable.stable.sstable.sstable.htmll
Aetherius使用指南
bot命令
！代理人
（激活Aetherius的子代理模式）
！启发式法
（允许您上传启发式）
！
（允许您上传短期隐式内存）
！explicitstm
（允许您上传短期显式内存）
！
（允许您上传长期隐式内存）
！explicitltm（允许您上传长期的显式内存）
可以在[https://www.libraryofcelsus.com/aetherius-setup-guide/]上找到照片的指南。
照片指南过期日期
1。安装git： https：//git-scm.com/ （可以通过下载repo作为绿色代码按钮下的zip文件来跳过git）
2。安装python 3.10.6，确保将其添加到路径： https：//www.python.org/downloads/release/python-3106/
3。打开程序“ git bash”。
4。运行git克隆： git克隆https：//github.com/libraryofcelsus/aetherius_ai_assistant.git
5。打开CMD为admin（命令面板）
6。导航到项目文件夹： CD PATH_TO_AETHERIUS_INSTALL
7。创建虚拟环境： Python -M Venv Venv
8。激活环境： 。 venv scripts activate （必须在每次运行aderius之前完成。运行。BAT也将自动执行此操作。）
9。安装所需的软件包： PIP install -R Euncess.txt
（如果安装要求运行时会遇到错误：激活VENV后清除Python -M Pip Cache ）
10。更新numpy版本： pip install -upgrade numpy == 1.24 （如果从tts中获得错误，请忽略它。）
11。安装ffmpeg： https：//www.gyan.dev/ffmpeg/builds/
12。使用CUDA安装火炬： pip卸载火炬火炬火炬pip安装火炬火炬torchaudio -f https：//download.pytorch.org/whl/cu118/cu118/torch_stable.html
13.将OpenAi API密钥复制到key_openai.txt（如果使用Oobabooga，则可以跳过此。）
14。如果使用qdrant云将其API密钥和URL复制到./api_keys文件夹中的各自的.txt文件。 qdrant云：https：//qdrant.to/cloud
15。要使用本地QDRANT服务器，请先安装Docker：https：//www.docker.com/
16。现在运行： Docker Pull Qdrant/QDrant：v1.5.1在CMD中
17。下一个运行： Docker Run -P 6333：6333 QDRANT/QDRANT：V1.5.1
18。一旦运行了本地QDRANT服务器，应由Aetherius自动检测到它。如果没有运行QDRANT服务器，则Aetherius将保存到磁盘。
（请参阅：https：//docs.docker.com/desktop/backup-and-restore/有关如何进行备份。）
（如果使用UI，请在API文件夹外部编辑设置。如果使用API，请在API文件夹中编辑设置。不和谐和Gradio使用API。）
19。将Google API密钥复制到key_google.txt（您可以禁用脚本文件中的外部资源Web_search。）
20。将您的Google CSE ID复制到key_google_cse.txt
21. If you plan on using Photo OCR (jpg, jpeg, png Text Recognition), it requires tesseract: https://github.com/UB-Mannheim/tesseract/wiki Once installed, copy the "Tesseract-OCR" folder from Program Files to the "Aetherius_Ai_Assistant" Folder.照片必须放在./upload/scans文件夹中。
22.通过在cmd或一个run.bat文件中键入python perveriention_ ui_menu.py来运行aderius。 （使用run.bat可以让您跳过打开CMD并激活环境。）
23。从DB管理菜单中选择DB上传启发式方法以上传机器人的启发式方法，此DB也可以充当个性DB。可以在配置文件夹中的“ shoretital_db_input_examples.txt”中找到一个如何执行此操作的示例。
24。使用配置菜单编辑聊天机器人的提示。这将使您更改主要，次要和问候提示。您还可以更改字体样式和尺寸之类的内容。
25。您可以在登录菜单中更改botname和用户名。更改这些都会创建一个新的聊天机器人。
26。一旦您进行了备份，就可以开始使用“自动”模式，此模式使Aetherius自行决定是否应该上传到其记忆。
27。要使用自定义API运行Aetherius，请下载并安装：https：//github.com/libraryofcelsus/aethernode
这是Aetherius的新默认API。可以在GitHub页面上找到安装说明。
要更改Aethernode使用的模型，请将aethernode/settings.json中的“ model_name_or_path”键更改为所需的模型。然后，您必须将Aetherius_api/chatbot_settings.json中的“ model_backend”键更改为所需的格式。目前只能使用Llama-2-chat和羊驼。
AEthernode Google Colab如果您没有GPU：
28。要使用Oobabooga在本地运行Aetherius，请首先在：https：//github.com/oobabooga/text-generation-webui/releases/tag/snapshot-2023-11-11-05安装Web-UI。
Oobabooga Text-UI只是改变了其API的工作方式。最新版本的最新版本是Snapshot-2023-11-05，可以通过发布菜单或Git Clone https://github.com/oobabooga/text-generation-webui-brand snapshot-2023-11-05来完成。
要使用公共API在Google Colab上运行Aetherius，请使用“ ./colab Notebooks”文件夹中的笔记本文件。要将公共API与Aetherius一起使用，请在设置JSON中将“ host_oobabooga”更改为给定的非流式URL。要使用多个主机，请用一个空间将它们分开。
然后，在“接口模式”选项卡下，仅在“可用扩展”字段中启用API复选框。然后单击应用并重新启动接口。
接下来，导航到“模型”选项卡。取消选中自动加载型号，然后将“ thebloke/llama-2-13b-chat-gptq”输入到下载框中（7B型号可以用于更快的结果，但偶尔会破坏格式并倾向于制作内容。如果需要事实数据，则不会推荐它）。其他模型可能会起作用，但这是经过测试的模型。
下载完成后，重新加载模型选择菜单，然后选择模型。将模型加载程序更改为Exllamav2，并将MAX_SEQ_LEN设置为“ 4096”。将“ gpu_split”设置为GPU的最大VRAM下的1 GB。
单击“加载”按钮并加载模型。
现在，进入Aetherius_API文件夹中的chatbot_settings.json文件，然后将API更改为Oobabooga而不是Aethernode。 Aetherius现在应该工作！
30。设置JSON和提示可以在Aetherius_API文件夹中找到。
在2023年1月，我在Chatgpt 3.5和LLMS总体上获得了首届经验。从那时起，我一直深深地迷恋AI，每天都花无数小时来研究它和动手实验。 Aetherius AI助手是该研究的高潮。
Discord：Libraryofcelsus->旧用户名样式：Celsus＃0262
Mega Chat：https：//mega.nz/c！Pmnmeizq
