Aetherius_AI_Assistant
1.0.0
aetherius ai助手/代理商的版本.05
安裝指南
Aetherius使用指南
跳到ChangElog
Discord服務器
Aetherius處於持續迭代發展的狀態。如果您喜歡使用的版本，請保留備份或製作叉子。期待錯誤。
更新我的健康
在6/07，我接受了第三次髖關節手術。不幸的是，這種情況比最初預期的要嚴重，這需要供體軟骨，這是由於骨關節炎上的骨骼而導致的。如果該手術沒有成功，那麼我可能需要總的髖關節置換術前三十分。幸運的我！
更明顯的是，我的手腕一直表現出顯著改善。它可能只是在我的腦海中，但是為臀部限制疤痕組織並防止股骨再生的藥物似乎為我的手腕創造了奇蹟。大塊疤痕組織終於開始分解了，在擴展手用時，我經歷的疼痛要少得多，儘管這可能歸因於抗炎藥。無論如何，我終於達到了可以恢復AI工作的地步。我計劃開始緩慢地開始，從重構Aetherius代碼庫開始。隨著時間的流逝，Aetherius的可用性大大降低，因為它依賴與現代模型不兼容的過時提示技術。一旦重構完成，Aetherius應該再次成為功能性的AI助手。
代碼重構Aetherius的更新已經變得相當複雜，這使得在各個方面工作變得非常麻煩。為了減輕這一點並簡化開發過程，我決定將每種技術分為自己的存儲庫。這種方法將允許個人改進，並使任何有興趣的人更容易剖析代碼。一旦所有不同的部分都被重寫和增強，我將將它們重新融入主要的Aetherius項目。
當前的單個腳本：
最近的變化
•6/10啟動代碼重構
•6/10開始改善內部提示
•6/10添加Llama 3格式
•6/10添加了對KoboldCPP的支持
•6/10更新的Oobabooga使用新API
•6/10添加使用字符卡V2的能力
•4/08添加了新的API腳本。如果在API_SETTINGS.JSON中檢測到有效的令牌，則具有內置的Discord Bot，並將自動啟動。 Ngrok用於公共面向URL，目前使用OpenAi Guentating。
•4/08修復了使用圖像處理的錯誤，現在應使用UI和API腳本。
•2/11固定響應打印前綴。
•2/09向UI添加了GPT視力。還添加了TTS。
•2/07向UI添加了Webscrape和File Process工具
•1/16添加了更新的UI的實驗版本。工具，TT和語音輸入仍需要更新。
•1/09更新的代理模式，具有新的顯式內存搜索
•1/08添加了一個隨機森林，例如用於明確內存搜索的方法
•1/08固定知識域選擇錯誤
Aetherius是一種多功能，模塊化的AI助手/次級代理框架，可適應您的需求。它的功能超出了傳統的聊天機器人：
實時數據：Aetherius可以在代理模式下訪問搜索Web或您自己的數據，從而允許在基本模型中包含的信息。
多代理框架：Aetherius使您能夠為擁有的任何用例創建子代理。替代您可以將其觸發Python腳本。
反思性日記：自由地說出您的想法，並沒有判斷或恐懼而獲得周到的反饋。
學習工具：深入研究您最喜歡的主題，並毫不費力地增強您的知識。
數據分析伴侶：利用數據的功率與Aetherius在您身邊。
認知卸載：第二個完全是私人的大腦，幫助您組織思想和思想。
內容生成：輕鬆地基於文件或網絡覆蓋的內容生成內容。
現實的記憶：Aetherius建立在人類記憶的模擬物上，旨在提供更現實的回憶和思想形成。
Aetherius是本地經營的AI助手/多代理框架，旨在授予您最終的控制。未經您的同意，沒有外力可以改變它，從而確保您的隱私。
正如嘗試在2023年“開放” AI上嘗試改變的那樣，封閉的，託管解決方案不可信。即使您相信領導層，它也可以立即改變而無需警告。您對發送的任何數據都沒有真正的控制。
通過在本地運行所有內容，可以避免此問題。
Aetherius的核心是定制的長期內存（LLM）檢索框架，該框架是由開源LLMS使用AEthernNode API（免費層Colab），Oobaboga Text-UI，KoboldCpp或OpenAI的Chantgpt推動的。提取和合併不同的內存類型，以提供比其他聊天機器人更現實和創意的思考過程。由於它是一個框架，Aetherius能夠使用多個主機，將計算卸載到多個機器以增加計算時間。
除了作為基本聊天機器人外，Aetherius還可以使用子代理。這些使Aetherius可以更好地搜索其記憶或連接到外部數據。子代理是通過觸發腳本來運行的，因此Aetherius可以從理論上使用Python可以觸發的大多數東西。由於GPT-4 Vision，Aetherius也可以“看到”。
Aetherius源於我對AI的痴迷以及我對自由意志與確定性之間平衡的哲學沉思。雖然我確實相信自由意志是所有個人的固有屬性，但我不認為普通人花了時間個性化或學習如何服務他們的“真實自我”。因此，它們容易受到外部影響的影響，並且很容易被搖擺。通常，被認為是自我指導的決定是由外部刺激或過去的信息無意中塑造的。
從這個角度來看，我認為可以通過細緻的提取和綜合各種記憶方式來構建人類認知過程的表示。儘管這種系統可能無法從傳統意義上實現“意識”，但我認為它可以在很大程度上模仿人類的認知表現。
一旦提取了足夠的記憶，我希望能夠創建人造的“ atman”或“ true自我”，該人可以用作自動操作的控制方法，並作為協調較小，較不復雜的代理的一種方式。
這就是Aetherius的名字來源。 “αἰθήρ”或“以太”，這是古老的哲學思想中所謂的第五個元素或典型的元素，卻是看不見的，但滲透到了所有人。和“ IUS”拉丁後綴，用於“與”或“源自”。 AI助手源自集體義務的以太。
Aetherius是一個正在進行的研究項目，期望有錯誤，並且事情會不斷變化。
| 環形 | 描述 |
|---|---|
| 用戶輸入 | 交互是由用戶啟動的，將請求發送給Eetherius。 |
| 輸入擴展 | 通過對話歷史記錄擴展用戶輸入，以在數據庫搜索中增強含義。 |
| 知識領域提取 | 從可用選項中選擇一個知識域，以進行明確的內存搜索。 |
| 語義術語分離 | 將用戶輸入分為同義詞以捕獲細微的含義。 |
| 第一個內存DB搜索 | 搜索Aetherius的記憶以產生內在的獨白。 |
| 內部獨白的產生 | 生成一個內部獨白，反映過去的經驗，合併數據庫搜索信息並擴展用戶輸入含義。 |
| 第二個內存數據庫搜索 | 搜索Aetherius的記憶再次製定其直覺。 |
| 直覺產生 | 根據記憶和內部獨白制定動作計劃。作為自動鏈條及時策略。 |
| 隱式內存產生 | 從其內部過程中產生短期隱式記憶。 |
| 主任務清單生成 | 使用可用的子代理類別生成異步任務的列表。 |
| 次代理選擇 | 從類別中選擇子代理來完成任務。 |
| 最終響應生成 | 利用內部獨白，對話歷史記錄和完成的任務來響應用戶。 |
| 明確的內存生成 | 根據內部獨白和最終響應產生明確的短期記憶。 |
| 情節記憶產生 | 生成用於情節內存存儲的當前交互的時間戳摘要。 |
| FlashBulb內存生成 | 使用長期和情節記憶定期形成有意義的記憶/目標。 |
| 短期記憶合併 | 在上載長期記憶之前，將短期記憶鞏固並為他們分配知識領域。 |
| 長期記憶關聯 | 通過凝結長期記憶和相關主題來管理數據庫大小。 |
借助Aetherius，您可以探索和使用一系列工具：
Main Aetherius Chatbot ：為Aetherius創建自定義子代理的框架。
當前的子代理
Old UI聊天機器人：您的個人同伴，具有現實的長期記憶。
Aetherius的發展是由我的日常工作自給自足的，如果您經常使用並希望開發速度提高，請考慮支持我。
加入DISCORD尋求幫助或獲得更多深入的信息！
Discord服務器：https：//discord.gg/pb5zcna7ze
Aetherius使用指南
訂閱我的YouTube視頻教程：https：//www.youtube.com/@libraryofcelsus（尚未啟動頻道）
代碼教程可在以下網址提供：https：//www.libraryofcelsus.com/research/public/code-tutorials/
製作人：https：//github.com/libraryofcelsus
受https://github.com/daveshap/的啟發
•繼續改善內部提示
•完成Aether Use指南
•更好的文檔
•書籍/文件摘要工具
•數據集生成器工具
•Aetherius的自定義LLM型號
•啟動AI教程YouTube頻道
0.05
0.047b
•向UI添加了GPT視力。還添加了TTS。
•在UI中添加了Webscrape和File Process工具
0.047a
•添加了更新的UI的實驗版本。工具，TT和語音輸入仍需要更新。
0.046c
•添加了一個隨機森林，例如用於明確記憶搜索的方法
•修復了知識域選擇錯誤
0.046b
•在編寫個性文件時修復了Unicode編碼錯誤。
•將GPT視覺添加到代理模式。
•添加了GPT視力支持。我建議對此使用Discord機器人。
•添加了強制內存上傳模式。
•各種後端變化，目前尚無其他功能，主要用於將來的東西。
•修復了子代理選擇錯誤。
0.046a
•現在僅在異步API腳本中添加新的類別系統。
•修復了錯誤，導致多個類別加載到類別列表中。還修復了空的提示錯誤。僅異步API版本。
•為內存子代理類別添加了單獨的腳本。僅異步API版本。
•添加了實驗知識領域，以進行顯式長期記憶。僅異步API版本。
•修復了用於外部資源搜索的收集錯誤。僅異步API版本。
•從事知識領域的選擇。僅異步API版本。
•添加了用於測試代理模式的臨時Gradio UI，直到重做其他UI。用戶名和botname必須在“ gradio-ui.py”中更改，如果使用Discord Bot，則必須將User_id設置為Discord用戶名。
0.045c
•添加了機器人和用戶配置文件描述。這可以在API設置JSON中禁用。
•將.TXT設置文件轉換為JSON
•使用./aetherius_api/examples in ./aetherius_api/examples添加了Discord bot腳本
•添加了基本的API腳本，可以導入以編程方式使用Aetherius。 （仍在進行早期工作）
•如果所需的信息不在外部資源DB中，則添加了內存搜索子代理和自主網絡搜索。
•添加了子代理腳本。現在，您可以為Aetherius的並行處理循環創建自定義子代理。
•將Llama 2 Chatbot轉換為使用JSON進行設置。
•更好地分類使用多個主機。
•各種錯誤修復
0.045c
•增加了與Oobabooga一起使用多個主機的能力。
•改進的美洲駝2個內部提示
•在某些內存類型中添加了重要分數（仍在進行中）
0.045b
•將視頻處理添加到Llama 2文件刮擦工具中。
•添加了用coqui tts添加語音克隆。
0.045a
•添加了檢查記憶上傳標點符號的檢查，以避免在Llama 2 Chatbot中切斷上傳。
•在Llama 2聊天機器人中，在DB管理刪除菜單中添加了用於外部資源的刪除按鈕。
•改進了Llama 2代理模式和Webscrape工具的內部提示。
•各種錯誤修復
0.044f
•使用Whisper和TTS使用GTT或11實驗室添加語音輸入。樹皮TTS仍在進行中。
0.044e
•修復了在創建集合時未設置嵌入尺寸的錯誤。
•將用戶名從集合名稱轉換為元數據。
0.044d
•添加了嵌入式選擇菜單，現在只有句子變形金剛和擁抱的面部嵌入。
0.044c
•Aetherius的新GUI。現在，大多數聊天機器人模式下於一個UI下合併。
0.044b
•更新Llama-2 GUI外觀和功能
•將聊天機器人合併到aethersearch
•修復了使用公共API時打印HTML Markdown而不是普通文本的錯誤。
•為沒有GPU的人添加了COLAB筆記本。
0.044a
•合併收集，以更好地可視化使用QDRANT（在QDRANT儀表板中可用）
•添加了外部數據刮擦的源標籤
可以在以下網址找到較舊的變形值
通過按<>代碼下拉菜單下載項目zip文件夾。
1。安裝Python 3.10.6，確保將其添加到路徑： https：//www.python.org/downloads/release/python-3106/
2。運行“ install_aether_client_windows.bat”以安裝Aetherius客戶端。
（如果安裝要求運行時會遇到錯誤： Python -M Pip Cache Purge ）
3.將OpenAI和QDRANT API/URL鍵複製到創建的Aetherius_API文件夾內部的API_Keys文件夾。 GPT願景需要Openai。
4。將Google CSE密鑰和API鍵複製到API_KEYS文件夾，或將Web_search設置為false in Chatbot_settings.json中的false。
5。如果使用OpenAI，則可以跳過此。如果您希望在本地運行Aetherius，則必須安裝IT支持的各種API之一。
KoboldCPP（推薦）：https：//github.com/lostruins/koboldcpp
Oobabooga：https：//github.com/oobabooga/text-generation-webui
AEthernode：https：//github.com/libraryofcelsus/aethernode
6。設置QDRANT
qdrant雲：https：//qdrant.to/cloud
要使用本地QDRANT服務器，請首先安裝Docker：https：//www.docker.com。
下一個類型： docker拉qdrant/qdrant：命令提示符中的v1.5.1 。
下載完成後，鍵入docker run -p 6333：6333 qdrant/qdrant：v1.5.1
請參閱：https：//docs.docker.com/desktop/backup-and-restore/有關如何進行備份。
一旦運行本地QDRANT服務器，應由Aetherius自動檢測到它。
7。啟動Aetherius，其中一個運行_*。蝙蝠文件之一。
（已將DISCORD添加到新的API中。如果在“ API_SETTINGS.JSON”中輸入有效令牌，它將自動與API一起運行。）。
（如果使用ngrok，則必須在Ngrok Config中製作一個名為Aetherius的隧道。可以通過輸入'ngrok config Edit'的'run_aetherius_cmd.bat'完成此操作。
示例NGrok配置：區域：我們
版本：'2'
authtoken：repent_with_ngrok_auth
隧道：
埃瑟里烏斯：
原始：http
主機名：替換為靜態NGrok域
ADDR：127.0.0.1：5000
8。將啟發式方法上傳到DB，然後更改bot名稱，用戶名和User_id，以開始與Aetherius聊天！
要更改Aethernode使用的模型，請將aethernode/settings.json中的“ model_name_or_path”鍵更改為所需的模型。然後，您必須將Aetherius_api/chatbot_settings.json中的“ model_backend”鍵更改為所需的格式。目前只能使用Llama-2-chat和羊駝。
推薦模型：TheBloke/Llama-2-13B-Chat-GPTQ
thebloke/Mythomax-L2-13B-GPTQ
可以在Aetherius_API文件夾中找到設置和提示。
Photo OCR（JPG，JPEG，PNG）需要Tesseract：https：//github.com/ub-mannheim/tesseract/wiki一旦安裝，請將“ Tesseract-ocr”文件夾從程序文件複製到“ eetherius_ai_ai_assistant”文件夾。
要使Whisper與Cuda一起工作，您可能需要運行命令： 。 venv scripts 激活pip卸載torch torchaudio pip install intermant torch torch torchvision torchvision torchvision torchaudio -f https://download.pytorload.pytorload.pytorch.org/whl/whl/whl/cu118/cu118/torch_stable.stable.sstable.sstable.htmll
Aetherius使用指南
bot命令
！代理人
（激活Aetherius的子代理模式）
！啟發式法
（允許您上傳啟發式）
！
（允許您上傳短期隱式內存）
！explicitstm
（允許您上傳短期顯式內存）
！
（允許您上傳長期隱式內存）
！explicitltm（允許您上傳長期的顯式內存）
可以在[https://www.libraryofcelsus.com/aetherius-setup-guide/]上找到照片的指南。
照片指南過期日期
1。安裝git： https：//git-scm.com/ （可以通過下載repo作為綠色代碼按鈕下的zip文件來跳過git）
2。安裝python 3.10.6，確保將其添加到路徑： https：//www.python.org/downloads/release/python-3106/
3。打開程序“ git bash”。
4。運行git克隆： git克隆https：//github.com/libraryofcelsus/aetherius_ai_assistant.git
5。打開CMD為admin（命令面板）
6。導航到項目文件夾： CD PATH_TO_AETHERIUS_INSTALL
7。創建虛擬環境： Python -M Venv Venv
8。激活環境： 。 venv scripts activate （必須在每次運行aderius之前完成。運行。BAT也將自動執行此操作。）
9。安裝所需的軟件包： PIP install -R Euncess.txt
（如果安裝要求運行時會遇到錯誤：激活VENV後清除Python -M Pip Cache ）
10。更新numpy版本： pip install -upgrade numpy == 1.24 （如果從tts中獲得錯誤，請忽略它。）
11。安裝ffmpeg： https：//www.gyan.dev/ffmpeg/builds/
12。使用CUDA安裝火炬： pip卸載火炬火炬火炬pip安裝火炬火炬torchaudio -f https：//download.pytorch.org/whl/cu118/cu118/torch_stable.html
13.將OpenAi API密鑰複製到key_openai.txt（如果使用Oobabooga，則可以跳過此。）
14。如果使用qdrant雲將其API密鑰和URL複製到./api_keys文件夾中的各自的.txt文件。 qdrant雲：https：//qdrant.to/cloud
15。要使用本地QDRANT服務器，請先安裝Docker：https：//www.docker.com/
16。現在運行： Docker Pull Qdrant/QDrant：v1.5.1在CMD中
17。下一個運行： Docker Run -P 6333：6333 QDRANT/QDRANT：V1.5.1
18。一旦運行了本地QDRANT服務器，應由Aetherius自動檢測到它。如果沒有運行QDRANT服務器，則Aetherius將保存到磁盤。
（請參閱：https：//docs.docker.com/desktop/backup-and-restore/有關如何進行備份。）
（如果使用UI，請在API文件夾外部編輯設置。如果使用API，請在API文件夾中編輯設置。不和諧和Gradio使用API。）
19。將Google API密鑰複製到key_google.txt（您可以禁用腳本文件中的外部資源Web_search。）
20。將您的Google CSE ID複製到key_google_cse.txt
21. If you plan on using Photo OCR (jpg, jpeg, png Text Recognition), it requires tesseract: https://github.com/UB-Mannheim/tesseract/wiki Once installed, copy the "Tesseract-OCR" folder from Program Files to the "Aetherius_Ai_Assistant" Folder.照片必須放在./upload/scans文件夾中。
22.通過在cmd或一個run.bat文件中鍵入python perveriention_ ui_menu.py來運行aderius。 （使用run.bat可以讓您跳過打開CMD並激活環境。）
23。從DB管理菜單中選擇DB上傳啟發式方法以上傳機器人的啟發式方法，此DB也可以充當個性DB。可以在配置文件夾中的“ shoretital_db_input_examples.txt”中找到一個如何執行此操作的示例。
24。使用配置菜單編輯聊天機器人的提示。這將使您更改主要，次要和問候提示。您還可以更改字體樣式和尺寸之類的內容。
25。您可以在登錄菜單中更改botname和用戶名。更改這些都會創建一個新的聊天機器人。
26。一旦您進行了備份，就可以開始使用“自動”模式，此模式使Aetherius自行決定是否應該上傳到其記憶。
27。要使用自定義API運行Aetherius，請下載並安裝：https：//github.com/libraryofcelsus/aethernode
這是Aetherius的新默認API。可以在GitHub頁面上找到安裝說明。
要更改Aethernode使用的模型，請將aethernode/settings.json中的“ model_name_or_path”鍵更改為所需的模型。然後，您必須將Aetherius_api/chatbot_settings.json中的“ model_backend”鍵更改為所需的格式。目前只能使用Llama-2-chat和羊駝。
AEthernode Google Colab如果您沒有GPU：
28。要使用Oobabooga在本地運行Aetherius，請首先在：https：//github.com/oobabooga/text-generation-webui/releases/tag/snapshot-2023-11-11-05安裝Web-UI。
Oobabooga Text-UI只是改變了其API的工作方式。最新版本的最新版本是Snapshot-2023-11-05，可以通過發布菜單或Git Clone https://github.com/oobabooga/text-generation-webui-brand snapshot-2023-11-05來完成。
要使用公共API在Google Colab上運行Aetherius，請使用“ ./colab Notebooks”文件夾中的筆記本文件。要將公共API與Aetherius一起使用，請在設置JSON中將“ host_oobabooga”更改為給定的非流式URL。要使用多個主機，請用一個空間將它們分開。
然後，在“接口模式”選項卡下，僅在“可用擴展”字段中啟用API複選框。然後單擊應用並重新啟動接口。
接下來，導航到“模型”選項卡。取消選中自動加載型號，然後將“ thebloke/llama-2-13b-chat-gptq”輸入到下載框中（7B型號可以用於更快的結果，但偶爾會破壞格式並傾向於製作內容。如果需要事實數據，則不會推薦它）。其他模型可能會起作用，但這是經過測試的模型。
下載完成後，重新加載模型選擇菜單，然後選擇模型。將模型加載程序更改為Exllamav2，並將MAX_SEQ_LEN設置為“ 4096”。將“ gpu_split”設置為GPU的最大VRAM下的1 GB。
單擊“加載”按鈕並加載模型。
現在，進入Aetherius_API文件夾中的chatbot_settings.json文件，然後將API更改為Oobabooga而不是Aethernode。 Aetherius現在應該工作！
30。設置JSON和提示可以在Aetherius_API文件夾中找到。
在2023年1月，我在Chatgpt 3.5和LLMS總體上獲得了首屆經驗。從那時起，我一直深深地迷戀AI，每天都花無數小時來研究它和動手實驗。 Aetherius AI助手是該研究的高潮。
Discord：Libraryofcelsus->舊用戶名樣式：Celsus＃0262
Mega Chat：https：//mega.nz/c！Pmnmeizq
