Aetherius_AI_Assistant
1.0.0
Libraryofcelsus.com의 Aetherius AI Assistant/Agent의 버전 .05
설치 안내서
Aetherius 사용 안내서
Changelog로 건너 뜁니다
Discord Server
Aetherius는 끊임없는 반복 개발 상태에 있습니다. 사용중인 버전이 마음에 들면 백업을 유지하거나 포크를 만드십시오. 버그를 기대합니다.
내 건강에 대한 업데이트
6/07에 나는 세 번째 고관절 수술을 받았다. 불행하게도, 상황은 처음에 예상했던 것보다 더 심각했으며, 뼈 관절염의 뼈로 인한 기증자 연골이 필요했습니다. 이 수술이 성공하지 못하면 30 세가되기 전에 총 고관절 교체가 필요할 수 있습니다. 운이 좋다!
더 밝은 말로, 내 손목은 크게 개선되었습니다. 그것은 단지 내 머리 속에 있을지 모르지만, 내 엉덩이에 처방 된 약물은 흉터 조직을 제한하고 대퇴골의 뼈 재성장을 방지하는 것이 내 손목에 놀라운 일을하는 것으로 보입니다. 흉터 조직의 큰 덩어리가 마침내 분해되기 시작했고, 내 손을 장기간 사용하는 동안 훨씬 덜 통증을 경험하지만, 이것은 항염증제 약물에 기인 할 수 있습니다. 어쨌든, 나는 마침내 AI 작업을 재개 할 수있는 지점에 도달하고 있습니다. Aetherius Codebase를 리팩토링하기 시작하여 천천히 시작할 계획입니다. 시간이 지남에 따라 Atherius의 유용성은 현대 모델과 호환되지 않는 오래된 프롬프트 기술에 대한 의존으로 인해 크게 감소했습니다. 리팩터가 완료되면 Aetherius는 다시 한 번 기능적 AI 조수가되어야합니다.
Code Refactor Aetherius에 대한 업데이트는 상당히 복잡 해져서 개별 측면에서 작업하는 것이 매우 번거 롭습니다. 이를 완화하고 개발 프로세스를 간소화하기 위해 각 기술을 자체 저장소로 분리하기로 결정했습니다. 이 접근법은 개별 개선을 허용하고 코드를 해부하는 사람이 더 쉽게 만들 수 있습니다. 모든 다른 부분이 다시 작성되고 향상되면 메인 Aetherius 프로젝트로 다시 통합 할 것입니다.
현재 개별 스크립트 :
최근 변경
• 6/10은 코드 리팩터를 시작했습니다
• 6/10은 내부 프롬프트를 개선하기 시작했습니다
• 6/10 추가 LLAMA 3 형식
• 6/10은 KoboldCPP에 대한 지원이 추가되었습니다
• 새로운 API를 사용하도록 6/10 업데이트 Oobabooga
• 6/10 문자 카드 v2를 사용하는 기능이 추가되었습니다
• 4/08 새 API 스크립트가 추가되었습니다. 여기에는 Discord Bot이 내장되어 있으며 API_SETTINGS.JSON에서 유효한 토큰이 감지되면 자동으로 시작됩니다. Ngrok은 공개 대면 URL에 사용되며 현재 OpenAI 형식을 사용하고 있습니다.
• 4/08 이미지 처리로 버그가 수정되었으므로 이제 UI 및 API 스크립트와 함께 작동해야합니다.
• 2/11 고정 응답 인쇄 접두사.
• 2/09 UI에 GPT 비전을 추가했습니다. 또한 TTS를 추가했습니다.
• 2/07 UI에 WebScrape 및 파일 프로세스 도구가 추가되었습니다.
• 1/16 업데이트 된 UI의 실험 버전. 도구, TT 및 음성 입력은 여전히 업데이트되어야합니다.
• 1/09 새로운 명시 적 메모리 검색으로 업데이트 된 에이전트 모드
• 1/08 명시 적 메모리 검색을위한 임의의 숲이 추가되었습니다.
• 1/08 고정 된 지식 도메인 선택 버그
Aetherius는 다양한 모듈 식 AI Assistant/Sub-Agent 프레임 워크로 귀하의 요구에 적응합니다. 그 기능은 기존 챗봇을 넘어 확장됩니다.
실시간 데이터 : Aetherius는 에이전트 모드에서 웹 또는 자체 데이터를 검색하는 데 액세스하여 기본 모델에 포함되지 않은 정보가 허용됩니다.
다중 에이전트 프레임 워크 : Aetherius는 어떤 유스 케이스에 대해 하위 에이전트를 만들 수있는 능력을 제공합니다. 또는 대신 파이썬 스크립트를 트리거 할 수 있습니다.
반사 저널 : 마음을 자유롭게 말하고 판단이나 두려움없이 사려 깊은 피드백을 받으십시오.
학습 도구 : 좋아하는 주제에 깊이 빠져들고 지식을 쉽게 향상시킵니다.
데이터 분석 동반자 : Aetherius로 데이터의 전력을 활용하십시오.
인지 적 오프로드 : 완전히 사적인 두 번째 뇌, 생각과 아이디어를 조직하는 데 도움이됩니다.
컨텐츠 생성 : 파일 또는 WebScrapes를 기반으로 컨텐츠를 쉽게 생성합니다.
현실적인 기억 : Aetherius는보다 현실적인 리콜과 사고 형성을 제공하는 것을 목표로하는 인간 기억의 시뮬 라 크라 주위에 지어졌습니다.
Aetherius는 현지에서 운영되는 AI Assistant/Multi-Agent 프레임 워크로, 궁극적 인 제어를 제공하도록 설계되었습니다. 동의없이 외부 힘이 변경되어 개인 정보를 보장 할 수 없습니다.
2023 년“Open”AI에서 리더십 변화가 시도한 바와 같이, 폐쇄 된 관리 솔루션은 신뢰할 수 없습니다. 리더십을 신뢰하더라도 경고없이 즉시 변경 될 수 있습니다. 전송 된 데이터를 실제로 제어 할 수 없습니다.
로컬로 모든 것을 실행하면이 문제를 피할 수 있습니다.
Aetherius의 핵심에는 Aethernode API (무료 계층 콜랩), Oobabooga Text-UI, KoboldCPP 또는 OpenAi의 chatgpt를 사용하여 오픈 소스 LLM에 의해 연료를 공급하는 맞춤형 장기 메모리 (LLM) 검색 프레임 워크가 있습니다. 다른 메모리 유형이 추출되고 결합되어 다른 챗봇보다보다 현실적이고 창의적인 사고 과정을 제공합니다. 프레임 워크이므로 Aetherius는 여러 호스트를 사용하여 계산 시간을 늘리기 위해 여러 시스템에 컴퓨팅을 오프로드 할 수 있습니다.
기본 챗봇 역할을하는 것 외에도 Aetherius는 하위 에이전트를 사용할 수도 있습니다. 이를 통해 Aetherius는 기억을 통해 더 잘 검색하거나 외부 데이터에 연결할 수 있습니다. 하위 에이전트는 스크립트를 트리거하여 실행되므로 Aetherius는 이론적으로 Python에 의해 트리거 될 수있는 대부분의 것을 사용할 수 있습니다. Aetherius는 GPT-4 비전 덕분에 이제“볼”할 수 있습니다.
Aetherius는 AI에 대한 나의 집착과 자유 의지와 결정론의 균형에 대한 나의 철학적 묵상에서 태어났습니다. 나는 자유 의지가 모든 개인의 고유 한 속성이라고 생각하지만, 평범한 사람이 자신의 "진정한 자아"를 섬기는 방법을 개별화하거나 배우는 데 시간을 보냈다고 믿지 않습니다. 결과적으로, 그들은 외부 영향에 취약 해지고 쉽게 흔들릴 수 있습니다. 종종, 자기 주도로 인식 된 결정은 실수로 외부 자극이나 과거 정보에 의해 형성됩니다.
이러한 관점을 바탕으로, 나는 인간인지 과정의 표현이 다양한 메모리 양식의 세심한 추출 및 합성을 통해 구성 될 수 있다고 주장합니다. 그러한 시스템은 전통적인 의미에서 "의식"을 달성하지 못할 수도 있지만, 나는 그것이 인간의인지 성과를 상당히 모방 할 수 있다고 생각합니다.
충분한 추억이 추출되면, 나의 희망은 자율적 운영을위한 제어 방법과 더 작고 덜 복잡한 에이전트를 조정하는 방법으로 사용될 수있는 인공적인 "Atman"또는 "True Self"를 만들 수 있기를 희망합니다.
이곳은 Aetherius라는 이름이 유래 한 곳입니다. 보이지 않는 고대 철학적 사고의 다섯 번째 요소 또는 전형적인 것으로 추정되는 다섯 번째 요소 또는 전형적인 "αἰθήρ"또는 "aether". "IUS"라틴어 접미사 "와 관련된"또는 "파생 된". 집단적 공조의 에테르에서 파생 된 AI 조수.
Aetherius는 진행중인 연구 프로젝트이며 버그가있을 것으로 예상하고 끊임없이 변화 할 것입니다.
| 고리 | 설명 |
|---|---|
| 사용자 입력 | 상호 작용은 사용자가 Aetherius에 요청을 보내는 것에 의해 시작됩니다. |
| 입력 확장 | 데이터베이스 검색에서 의미를 향상시키기 위해 대화 내용으로 사용자 입력을 확장합니다. |
| 지식 영역 추출 | 명시적인 메모리 검색을 위해 사용 가능한 옵션에서 지식 도메인을 선택합니다. |
| 시맨틱 용어 분리 | 미묘한 의미를 포착하기 위해 사용자 입력을 동의어 용어로 분리합니다. |
| 첫 번째 메모리 DB 검색 | 내부 독백을 생성하기 위해 Aetherius의 기억을 찾아냅니다. |
| 내부 독백 생성 | 과거 경험을 반영하고 데이터베이스 검색 정보를 통합하며 사용자 입력 의미를 확장하는 내부 독백을 생성합니다. |
| 두 번째 메모리 DB 검색 | Aetherius의 기억을 다시 찾아 직관을 공식화합니다. |
| 직관 생성 | 기억과 내부 독백을 기반으로 행동 계획을 만듭니다. 자동으로 생각하는 프롬프트 전략 역할을합니다. |
| 암시 적 메모리 생성 | 내부 프로세스에서 단기 암시 적 기억을 생성합니다. |
| 마스터 작업 목록 생성 | 사용 가능한 하위 에이전트 카테고리를 사용하여 비동기 작업 목록을 생성합니다. |
| 하위 에이전트 선택 | 작업을 완료하기 위해 카테고리에서 하위 에이전트를 선택합니다. |
| 최종 응답 생성 | 내부 독백, 대화 이력 및 완료된 작업을 활용하여 사용자에게 응답합니다. |
| 명백한 메모리 생성 | 내부 독백 및 최종 반응에 기초하여 명백한 단기 기억을 생성합니다. |
| 에피소드 메모리 생성 | 에피소드 메모리 저장에 대한 현재 상호 작용에 대한 타임 스탬프 요약을 생성합니다. |
| FlashBulb 메모리 생성 | 주기적으로 장기적이고 일시적인 기억을 사용하여 의미있는 기억/목표를 형성합니다. |
| 단기 메모리 통합 | 단기 기억을 통합하고 장기 기억으로 업로드하기 전에 지식 영역을 할당합니다. |
| 장기 메모리 협회 | 장기 기억을 응축하고 클러스터링 관련 주제를 압축하여 데이터베이스 크기를 관리합니다. |
Aetherius에는 탐색 및 사용할 도구가 있습니다.
Main Aetherius Chatbot : Aetherius를위한 맞춤형 하위 에이전트 제작을위한 프레임 워크.
현재 하위 에이전트
Old UI Chatbot : 현실적인 장기 기억을 가진 개인 동반자.
Aetherius의 개발은 내 일자리에 의해 자체 자금을 지원합니다. 자주 사용하고 개발 속도가 증가하기를 원한다면 저를 지원하는 것을 고려하십시오.
불화에 가입하여 도움을 받거나 더 심층적 인 정보를 얻으십시오!
Discord Server : https://discord.gg/pb5zcna7ze
Aetherius 사용 안내서
비디오 자습서를 위해 내 YouTube 구독 : https://www.youtube.com/@libraryofcelsus (아직 출시되지 않음)
https://www.libraryofcelsus.com/research/public/code-tutorials/에서 사용할 수있는 코드 자습서
작성자 : https://github.com/libraryofcelsus
https://github.com/daveshap/에서 영감
• 내부 프롬프트를 계속 개선합니다
• Aetherius 사용 안내서를 마무리하십시오
• 더 나은 문서화
• 책/파일 요약 도구
• 데이터 세트 생성기 도구
• Aetherius의 맞춤형 LLM 모델
• AI 자습서 YouTube 채널을 시작하십시오
0.05
0.047b
• UI에 GPT 비전을 추가했습니다. 또한 TTS를 추가했습니다.
• UI에 웹 크래프 및 파일 프로세스 도구가 추가되었습니다.
0.047a
• 업데이트 된 UI의 실험 버전이 추가되었습니다. 도구, TT 및 음성 입력은 여전히 업데이트되어야합니다.
0.046C
• 명시 적 메모리 검색을위한 접근 방식과 같은 임의의 숲 추가
• 고정 된 지식 도메인 선택 버그
0.046B
• 성격 파일을 작성할 때 유니 코드 인코딩 오류를 수정했습니다.
• 에이전트 모드에 GPT 비전을 추가했습니다.
• GPT 비전 지원이 추가되었습니다. 이를 위해 Discord Bot을 사용하는 것이 좋습니다.
• 강제 메모리 업로드 모드가 추가되었습니다.
• 다양한 백엔드 변경, 현재에는 추가 기능이 없으며 주로 미래의 물건을위한 것입니다.
• 수정 하위 에이전트 선택 버그.
0.046A
• 현재 Async API 스크립트에서만 하위 에이전트를위한 새로운 카테고리 시스템이 추가되었습니다.
• 버그가 수정되어 여러 범주가 카테고리 목록에로드됩니다. 빈 프롬프트 버그도 수정했습니다. Async API 버전 만.
• 메모리 하위 에이전트 카테고리에 대한 별도의 스크립트가 추가되었습니다. Async API 버전 만.
• 명백한 장기 기억을위한 실험 지식 영역이 추가되었습니다. Async API 버전 만.
• 외부 리소스 검색을위한 수집 버그가 수정되지 않았습니다. Async API 버전 만.
• 지식 도메인 선택 작업. Async API 버전 만.
• 다른 UI가 다시 작성 될 때까지 테스트 에이전트 모드에 임시 Gradio UI를 추가했습니다. Username 및 Botname은 "Gradio-ui.py"에서 변경되어야합니다. Discord Bot을 사용하는 경우 User_id는 Discord 사용자 이름으로 설정해야합니다.
0.045C
• 봇 및 사용자 프로필 설명이 추가되었습니다. API 설정 JSON에서 비활성화 할 수 있습니다.
• .txt 파일을 JSON으로 변환했습니다
• ./aetherius_api/examples에서 API를 사용하여 Discord 봇 스크립트를 추가했습니다
• 프로그래밍 방식으로 Aetherius를 사용할 수있는 기본 API 스크립트를 추가했습니다. (아직도 진행중인 초기 작업)
• 필요한 정보가 외부 리소스 DB에 있지 않은 경우 메모리 검색 하위 에이전트 및 자율 웹 검색이 추가되었습니다.
• 하위 에이전트 스크립트가 추가되었습니다. 이제 Aetherius의 병렬 처리 루프에 대한 사용자 정의 하위 에이전트를 만들 수 있습니다.
• LLAMA 2 챗봇을 변환하여 설정에 JSON을 사용합니다.
• 여러 호스트 사용을위한 더 나은 정렬.
• 다양한 버그 수정
0.045C
• Oobabooga와 함께 여러 호스트를 사용할 수있는 기능이 추가되었습니다.
• 개선 된 LLAMA 2 내부 프롬프트
• 일부 메모리 유형에 중요한 점수가 추가되었습니다 (여전히 진행중인 작업)
0.045B
• LLAMA 2 파일 스크랩 도구에 비디오 처리가 추가되었습니다.
• Coqui tts와의 음성 클로닝이 추가되었습니다.
0.045A
• LLAMA 2 챗봇의 업로드 차단을 피하기 위해 메모리 업로드 구두점 확인을 추가했습니다.
• LLAMA 2 챗봇의 DB 관리 삭제 메뉴의 외부 리소스 삭제 버튼을 추가했습니다.
• LLAMA 2 에이전트 모드 및 WebScrape 도구의 내부 프롬프트 향상.
• 다양한 버그 수정
0.044F
• Whisper 및 GTT 또는 11 개의 실험실을 사용하여 TT를 사용하여 음성 입력을 추가했습니다. 껍질 tts는 여전히 진행중인 작업입니다.
0.044E
• 컬렉션을 만들 때 포함 된 크기가 설정되지 않은 경우 버그가 수정되었습니다.
• 수집 이름에서 메타 데이터로 사용자 이름을 전환했습니다.
0.044D
• 추가 임베딩 선택 메뉴는 현재 문장 변압기와 포옹 얼굴 임베딩 만 사용할 수 있습니다.
0.044C
• Aetherius의 새로운 GUI. 대부분의 챗봇 모드는 이제 하나의 UI에 따라 통합됩니다.
0.044b
• LLAMA-2 GUI 모양 및 기능을 업데이트했습니다
• 합병 된 내용 챗봇을 Aethersearch로 연결했습니다
• 공개 API를 사용할 때 HTML Markdown이 일반 텍스트 대신 인쇄 된 버그가 수정되었습니다.
• GPU가없는 사람들을위한 Colab 노트북을 추가했습니다.
0.044A
• QDRANT를 사용하여 더 나은 시각화를위한 통합 컬렉션 (QDRANT 대시 보드에서 사용할 수 있음)
• 외부 데이터 스크랩에 대한 소스 태그가 추가되었습니다
구형 체인지는 https://www.libraryofcelsus.com/aetherius/에서 찾을 수 있습니다.
<> 코드 드롭 다운 메뉴를 눌러 프로젝트 zip 폴더를 다운로드하십시오.
1. Python 3.10.6을 설치하고 경로에 추가하십시오 : https://www.python.org/downloads/python-3106/
2. "install_aetherius_client_windows.bat"를 실행하여 Aetherius 클라이언트를 설치합니다.
(요구 사항을 설치할 때 오류가 발생하면 실행 : Python -M PIP 캐시 퍼지 )
. GPT 비전에는 OpenAI가 필요합니다.
4. Google CSE 키 및 API 키를 API_Keys 폴더에 복사하거나 chatbot_settings.json에서 web_search를 false로 설정하십시오.
5. OpenAi를 사용하는 경우이를 건너 뛸 수 있습니다. Aetherius를 로컬로 실행하려면 다양한 API의 IT 지원 중 하나를 설치해야합니다.
Koboldcpp (권장) : https://github.com/lostruins/koboldcpp
Oobabooga : https://github.com/oobabooga/text-generation-webui
Aethernode : https://github.com/libraryofcelsus/aethernode
6. Qdrant를 설정하십시오
Qdrant Cloud : https://qdrant.to/cloud
로컬 Qdrant 서버를 사용하려면 먼저 Docker를 설치하십시오 : https://www.docker.com.
다음 유형 : Docker Pull qdrant/qdrant : v1.5.1 명령 프롬프트에서.
다운로드를 마친 후 Docker Run -P 6333 : 6333 Qdrant/Qdrant를 입력하십시오 : v1.5.1
백업 방법은 https://docs.docker.com/desktop/backup-and-restore/를 참조하십시오.
로컬 Qdrant 서버가 실행되면 Aetherius는 자동 감지해야합니다.
7. 실행 _*. BAT 파일 중 하나를 사용하여 Aetherius를 시작하십시오.
(Discord는 새 API에 추가되었습니다. 유효한 토큰이 "API_Settings.json"에 입력되면 API와 함께 자동으로 실행됩니다.)
(Ngrok을 사용하는 경우 Ngrok 구성에서 Aetherius라는 터널을 만들어야합니다. 'ngrok config edit'을 입력하여 'run_aetherius_cmd.bat'로 수행 할 수 있습니다.) 여기에서 정적 NGROK 주소를 가져옵니다.
예제 NGROK 구성 : 지역 : US
버전 : '2'
Authtoken : Replace_with_ngrok_auth
터널 :
에테르우스 :
프로토 : HTTP
호스트 이름 : 정적 NGROK 도메인으로 교체하십시오
ADDR : 127.0.0.1:5000
8. 휴리스틱을 DB에 업로드하고 봇 이름, 사용자 이름 및 user_id를 변경하여 Aetherius와 채팅을 시작하십시오!
Aethernode와 함께 사용되는 모델을 변경하려면 Aethernode/Settings.json의 "Model_name_or_path"키를 원하는 모델로 변경하십시오. 그런 다음 aetherius_api/chatbot_settings.json의 "model_backend"키를 원하는 형식으로 변경해야합니다. 현재 LLAMA-2-Chat 및 Alpaca 만 사용할 수 있습니다.
권장 모델 : TheBloke/Llama-2-13B-Chat-GPTQ
Thebloke/Mythomax-L2-13B-GPTQ
설정 및 프롬프트는 Aetherius_api 폴더에서 찾을 수 있습니다.
Photo OCR (JPG, JPEG, PNG)에는 TesserAct가 필요합니다 : https://github.com/ub-mannheim/tesseract/wiki 일단 설치된 경우 "TesserAct-ocr"폴더를 프로그램 파일에서 "ATHERIUS_AI_ASSISTANT"폴더로 복사하십시오.
Cuda와의 작업 속삭임을 얻으려면 다음 과 같은 명령을 실행해야 할 수도 있습니다 .
Aetherius 사용 안내서
봇 명령
!대리인
(Aetherius의 하위 에이전트 모드 활성화)
! 휴리스틱
(휴리스틱을 업로드 할 수 있습니다)
! implicitstm
(단기 암시 적 메모리를 업로드 할 수 있습니다)
! ExplictStm
(단기 명시 적 메모리를 업로드 할 수 있습니다)
! implicitltm
(장기적인 암시 적 메모리를 업로드 할 수 있습니다)
! ExplicitLtm (장기적인 명백한 메모리를 업로드 할 수 있습니다)
사진과 함께 가이드는 [https://www.libraryofcelsus.com/aetherius-setup-guide/]에서 찾을 수 있습니다.
사진 안내서
1. GIT 설치 : https://git-scm.com/ (녹색 코드 버튼 아래에 ZIP 파일로 리포지션을 다운로드하여 GIT를 건너 뛸 수 있음).
2. Python 3.10.6을 설치하고 경로에 추가하십시오 : https://www.python.org/downloads/release/python-3106/
3. 프로그램 "git bash"를 엽니 다.
4. git 클론 달리기 : git 클론 https://github.com/libraryofcelsus/aetherius_ai_assistant.git
5. 관리자로 CMD를 엽니 다 (명령 패널)
6. 프로젝트 폴더로 이동 : CD PATH_TO_AETHERIUS_INSTALL
7. 가상 환경을 만듭니다 : Python -m venv venv
8. 환경을 활성화하십시오 ..
9. 필요한 패키지를 설치하십시오 : PIP 설치 -R 요구 사항 .txt
(요구 사항을 설치할 때 오류가 발생하면 실행 : Python -M PIP 캐시 퍼지가 VenV 활성화 후)
10. Numpy 버전 업데이트 : PIP 설치 -Upgrade Numpy == 1.24 (TTS에서 오류가 발생하면 무시하십시오.)
11. ffmpeg 설치 : https://www.gyan.dev/ffmpeg/builds/
12. CUDA로 토치 설치 : PIP TORCH TORCHVISION PIP 설치 토치 토치 토치 우전 -F https://download.pytorch.org/whl/cu118/torch_stable.html 설치
13. OpenAI API 키를 key_openai.txt에 복사하십시오 (Oobabooga를 사용하는 경우 건너 뛸 수 있습니다.)
14. Qdrant Cloud를 사용하는 경우 API 키와 URL을 ./api_keys 폴더의 각 .txt 파일에 복사하십시오. Qdrant Cloud : https://qdrant.to/cloud
15. 로컬 Qdrant 서버를 사용하려면 먼저 Docker를 설치하십시오 : https://www.docker.com/
16. 이제 실행 : Docker PULL QDRANT/QDRANT : CMD에서 v1.5.1
17. 다음 달리기 : Docker Run -P 6333 : 6333 Qdrant/Qdrant : v1.5.1
18. 로컬 Qdrant 서버가 실행되면 Aetherius는 자동 감지해야합니다. Qdrant 서버가 실행되지 않으면 Aetherius는 디스크에 저장합니다.
(백업을하는 방법은 https://docs.docker.com/desktop/backup-and-restore/ 참조).
(UI를 사용하는 경우 API 폴더 외부의 설정을 편집합니다. API를 사용하는 경우 API 폴더 내부의 설정을 편집하십시오. 불화 및 Gradio API를 사용하십시오.)
19. Google API 키를 key_google.txt에 복사합니다 (스크립트 파일에서 외부 리소스 Web_Search를 비활성화 할 수 있습니다.)
20. Google CSE ID를 key_google_cse.txt에 복사하십시오
21. Photo OCR (JPG, JPEG, PNG 텍스트 인식)을 사용하려는 경우, 일단 설치 한 TesserAct : https://github.com/ub-mannheim/tesseract/wiki가 필요한 경우, "TesserAct-ocr"폴더를 프로그램 파일에서 "aetherius_ai_assistant"폴더로 복사하십시오. 사진은 ./upload/scans 폴더에 배치해야합니다.
22. CMD에서 Python Experimental_ UI_Menu.py를 입력 하여 Aetherius를 실행하십시오. (run.bat를 사용하면 CMD 개방 및 환경 활성화를 건너 뛸 수 있습니다.)
23. DB Management 메뉴에서 DB 업로드 휴위를 선택하여 봇에 대한 휴리스틱을 업로드하면이 DB는 성격 DB 역할을 할 수도 있습니다. 이 작업을 수행하는 방법의 예는 구성 폴더의 "Personality_db_input_examples.txt"에서 찾을 수 있습니다.
24. 구성 메뉴로 챗봇의 프롬프트를 편집하십시오. 이를 통해 메인, 2 차 및 인사말 프롬프트를 변경할 수 있습니다. 글꼴 스타일과 크기와 같은 것을 변경할 수도 있습니다.
25. 로그인 메뉴에서 봇 이름과 사용자 이름을 변경할 수 있습니다. 이 중 하나를 변경하면 새 챗봇이 생성됩니다.
26. 백업을 한 후에는 "자동"모드를 사용하여 시작할 수 있으므로이 모드는 Aetherius가 추억에 업로드 해야하는지 여부를 스스로 결정합니다.
27. Custom API로 Aetherius를 실행하려면 다운로드 및 설치 : https://github.com/libraryofcelsus/aethernode
이것은 Aetherius의 새로운 기본 API입니다. 설치 지침은 Github 페이지에서 찾을 수 있습니다.
Aethernode와 함께 사용되는 모델을 변경하려면 Aethernode/Settings.json의 "Model_name_or_path"키를 원하는 모델로 변경하십시오. 그런 다음 aetherius_api/chatbot_settings.json의 "model_backend"키를 원하는 형식으로 변경해야합니다. 현재 LLAMA-2-Chat 및 Alpaca 만 사용할 수 있습니다.
GPU가없는 경우 Aethernode Google Colab :
28. Oobabooga를 사용하여 로컬로 Atherius를 실행하려면 먼저 https://github.com/oobabooga/text-generation-webui/releases/tag/snapshot-2023-11-05 at : https://github.com/oobabooga를 설치하십시오.
Oobabooga Text-UI는 API의 작동 방식을 변경했습니다. 가장 최신 버전은 Snapshot-2023-11-05입니다. 릴리스 메뉴 또는 git 클론 https://github.com/oobabooga/text-generation-webui -Branch Snapshot-2023-11-05를 통해 수행 할 수 있습니다.
공개 API를 사용하여 Oobabooga와 함께 Google Colab에서 Aetherius를 실행하려면 "./colab 노트북"폴더의 노트북 파일을 사용하십시오. Aetherius와 함께 공개 API를 사용하려면 설정 JSON의 "Host_oobabooga"를 주어진 비 스트리밍 URL로 변경하십시오. 여러 호스트를 사용하려면 공간으로 분리하십시오.
그런 다음 "인터페이스 모드"탭에서 "사용 가능한 확장자"필드에서만 API 확인란을 활성화하십시오. 그런 다음 적용하고 인터페이스를 다시 시작합니다.
다음으로 모델 탭으로 이동하십시오. 자동로드 모델 상자를 선택 취소 한 다음 "TheBloke/Llama-2-13B-Chat-GPTQ"를 다운로드 상자에 입력하십시오 (7B 모델은 더 빠른 결과에 사용될 수 있지만 때때로 형식을 중단하고 물건을 구성하는 경향이 있습니다. 사실 데이터가 필요하지 않으면 권장하지 않습니다). 다른 모델은 작동 할 수 있지만 테스트 된 모델입니다.
다운로드가 완료되면 모델 선택 메뉴를 다시로드 한 다음 모델을 선택하십시오. 모델 로더를 exllamav2로 변경하고 max_seq_len을 "4096"으로 설정하십시오. GPU의 Max VRAM에서 "GPU_SPLIT"를 1GB로 설정하십시오.
"로드"버튼을 클릭하고 모델을로드하십시오.
이제 aetherius_api 폴더의 chatbot_settings.json 파일로 이동하여 AEthernode 대신 API를 Oobabooga로 변경하십시오. Aetherius는 이제 일해야합니다!
30. 설정 JSON 및 프롬프트는 aetherius_api 폴더에서 찾을 수 있습니다.
2023 년 1 월, 나는 Chatgpt 3.5 및 LLM에 대한 취임 경험을 보였습니다. 그 순간부터, 나는 AI에 깊은 집착을 해왔으며 매일 수많은 시간을 연구하고 실험에 헌신했습니다. Aetherius AI 조교는 그 연구의 정점입니다.
불화 : LibraryOfCelsus-> 오래된 사용자 이름 스타일 : Celsus#0262
메가 채팅 : https://mega.nz/c !pmnmeizq
