Libraryofcelsus.comによるAetherius AIアシスタント/エージェントのバージョン.05
インストールガイド
Aetherius使用ガイド
Changelogにスキップします
Discordサーバー
Aetheriusは、絶え間ない反復的な発達の状態にあります。使用しているバージョンが気に入ったら、バックアップを保持するか、フォークを作成してください。バグを期待してください。
私の健康に関する更新
6/07に、私は3回目の股関節手術を受けました。残念ながら、この状況は当初の予想よりも深刻で、骨関節炎の骨によるドナー軟骨が必要でした。この手術が成功しない場合、30歳になる前に股関節全体を交換する必要があるかもしれません。ラッキーミー!
明るいメモでは、私の手首は大幅な改善を示しています。それは私の頭の中にあるかもしれませんが、私の股関節に処方された薬は、瘢痕組織を制限し、私の大腿骨の骨の再成長を防ぐために私の手首に驚異的に働いていたようです。瘢痕組織の大きな塊がついに分裂し始め、私の手の長期使用中にはるかに少ない痛みを経験しますが、これは抗炎症薬に起因する可能性があります。とにかく、私はついにAI作業を再開できるポイントに到達しました。 aetheriusコードベースのリファクタリングから始めて、ゆっくりと始める予定です。時間が経つにつれて、Aetheriusの使いやすさは、現代のモデルと互換性がない時代遅れのプロンプト技術に依存しているため、大幅に低下しています。リファクタルが完了したら、Aetheriusは再び機能的なAIアシスタントになるはずです。
コードリファクタルの更新は、 Aetheriusがかなり複雑になっており、個々の側面に取り組むことを非常に面倒にしています。これを軽減し、開発プロセスを合理化するために、各手法を独自のリポジトリに分離することにしました。このアプローチにより、個別の改善が可能になり、興味のある人がコードを分析しやすくなります。すべての異なる部品が書き直され、強化されたら、それらをメインのエーテリウスプロジェクトに再統合します。
現在の個々のスクリプト:
最近の変更
•6/10開始コードリファクタリング
•6/10は、内部プロンプトの改善を開始しました
•6/10 Llama 3フォーマットを追加しました
•6/10 Koboldcppのサポートを追加しました
•6/10新しいAPIを使用するようにOobaboogaを更新しました
•6/10キャラクターカードV2を使用する機能を追加しました
•4/08新しいAPIスクリプトが追加されました。これには、Discordボットが組み込まれており、API_Settings.jsonで有効なトークンが検出された場合に自動的に起動します。 ngrokは、公共の対面URLに使用されており、現在Openaiフォーミングを使用しています。
•4/08画像処理を使用したバグを修正し、UIとAPIの両方のスクリプトで動作するようになりました。
•2/11固定応答印刷プレフィックス。
•2/09は、GPTビジョンをUIに追加しました。 TTSも追加しました。
•2/07 WebscrapeおよびファイルプロセスツールをUIに追加しました
•1/16更新されたUIの実験バージョンを追加しました。ツール、TTS、および音声入力を更新する必要があります。
•1/09新しい明示的なメモリ検索を使用してエージェントモードを更新しました
•1/08は、明示的なメモリ検索のためのランダムフォレストのようなアプローチを追加しました
•1/08固定ナレッジドメインの選択バグ
Aetheriusは、お客様のニーズに適応する多目的でモジュラーAIアシスタント/サブエージェントフレームワークです。その機能は、従来のチャットボットを超えて拡張されています。
リアルタイムデータ:Aetheriusは、エージェントモードでWebまたは独自のデータの検索にアクセスでき、ベースモデルに含まれていない情報を可能にします。
マルチエージェントフレームワーク:Aetheriusは、あなたが持っているあらゆるユースケースに対してサブエージェントを作成する機能を提供します。代わりに、代わりにPythonスクリプトをトリガーすることができます。
反射ジャーナル:あなたの心を自由に話し、判断や恐れなしに思慮深いフィードバックを受け取ります。
学習ツール:お気に入りのトピックを深く掘り下げ、知識を楽に強化します。
データ分析コンパニオン:あなたの側でAetheriusでデータの力を活用します。
認知オフロード:完全にプライベートな2番目の脳で、思考やアイデアを整理することを支援します。
コンテンツ生成:ファイルやWebScrapesに基づいてコンテンツを簡単に生成します。
現実的な記憶:エーテリウスは、より現実的なリコールと思考形成を提供することを目指して、人間の記憶のシミュレーションの周りに構築されています。
Aetheriusは、ローカルで操作されているAIアシスタント/マルチエージェントフレームワークであり、究極のコントロールを付与するように設計されています。あなたの同意なしにそれを変更することはできず、あなたのプライバシーを確保することはできません。
2023年に「オープン」AIでのリーダーシップの変更が試みられたように、閉鎖されたマネージドソリューションは信頼できません。リーダーシップを信頼していても、警告なしにすぐに変化する可能性があります。送信されたデータを実際に制御できません。
すべてをローカルで実行することで、この問題は回避できます。
Aetheriusの中心には、Aethernode API(Free Tier Colabが利用可能)、Oobabooga Text-UI、Koboldcpp、またはOpenaiのChatgptを使用して、オープンソースLLMSによって燃料を供給されるカスタムの長期メモリ(LLM)検索フレームワークがあります。さまざまなメモリタイプが抽出され、組み合わされて、他のチャットボットよりも現実的で創造的な思考プロセスを提供します。フレームワークであるため、Aetheriusは複数のホストを使用して、複数のマシンにコンピューティングをオフロードして計算時間を増やすことができます。
基本的なチャットボットとして機能するだけでなく、Aetheriusはサブエージェントを使用することもできます。これらにより、Aetheriusはその記憶をよりよく検索したり、外部データに接続したりできます。サブエージェントはスクリプトをトリガーすることで実行されるため、AetheriusはPythonによってトリガーできるほとんどのものを理論的に使用できます。 Aetheriusは、GPT-4 Visionのおかげで「見る」こともできます。
エーテリウスは、自由意志と決定論のバランスに関する私のAIと私の哲学的熟考から生まれました。自由意志はすべての個人に固有の属性であると信じていますが、平均的な人が自分の「真の自己」にサービスを提供するか、学ぶ時間を費やしたとは思いません。その結果、それらは外部の影響を受けやすくなり、簡単に揺れることができます。多くの場合、自己指導と見なされる決定は、外部刺激または過去の情報によって誤って形作られています。
この視点に基づいて、私は、多様な記憶のモダリティの細心の抽出と合成によって、人間の認知プロセスの表現を構築できると仮定します。そのようなシステムは伝統的な意味で「意識」を達成できないかもしれませんが、私はそれが人間の認知パフォーマンスをかなりの程度にエミュレートできると信じています。
十分な記憶が抽出されると、私の希望は、自律操作の制御方法として、またより小さく、それほど複雑でないエージェントを調整する方法として使用できる、人工的な「アートマン」または「真の自己」を作成できることです。
これは、Aetheriusという名前です。 「αἰθήρ」または「エーテル」、目に見えない古代の哲学的思考の5番目の要素または典型であるが、すべてに浸透している。および「IUS」ラテン語の接尾辞は、「派生」または「派生」のための。集合的な意見のエーテルから派生したAIアシスタント。
Aetheriusは進行中の研究プロジェクトです。バグがあり、物事が常に変化することを期待しています。
| ループ | 説明 |
|---|---|
| ユーザー入力 | 相互作用は、ユーザーがAetheriusにリクエストを送信することによって開始されます。 |
| 入力拡張 | データベース検索で意味を強化するために、会話履歴でユーザー入力を拡張します。 |
| 知識ドメイン抽出 | 明示的なメモリ検索の利用可能なオプションからナレッジドメインを選択します。 |
| セマンティック用語分離 | ユーザーの入力を同義語に分離して、微妙な意味をキャプチャします。 |
| 最初のメモリDB検索 | Aetheriusの記憶を検索して、内部の独白を生成します。 |
| 内部モノローグ生成 | 過去の経験を反映した内部モノローグを生成し、データベースの検索情報を統合し、ユーザー入力の意味を拡張します。 |
| 2番目のメモリDB検索 | Aetheriusの記憶をもう一度検索して、直感を策定します。 |
| 直観生成 | 記憶と内側の独白に基づいたアクションプランを作成します。自動チェーンの迅速な戦略として機能します。 |
| 暗黙のメモリ生成 | 内部プロセスから短期的な暗黙の記憶を生成します。 |
| マスタータスクリスト生成 | 利用可能なサブエージェントカテゴリを使用して、非同期タスクのリストを生成します。 |
| サブエージェントの選択 | タスクを完了するために、カテゴリからサブエージェントを選択します。 |
| 最終的な応答生成 | 内部の独白、会話の履歴、および完了したタスクを利用して、ユーザーに応答します。 |
| 明示的なメモリ生成 | 内部の独白と最終的な応答に基づいて、明示的な短期的な記憶を生成します。 |
| エピソードメモリ生成 | エピソードメモリストレージの現在の相互作用のタイムスタンプの概要を生成します。 |
| フラッシュバルブメモリ生成 | 定期的に長期的およびエピソード的な記憶を使用して、意味のある記憶/目標を形成します。 |
| 短期記憶統合 | 短期的な記憶を統合し、長期的な記憶としてアップロードする前に知識ドメインを割り当てます。 |
| 長期記憶協会 | 長期的なメモリを凝縮し、関連するトピックをクラスタリングすることにより、データベースサイズを管理します。 |
Aetheriusを使用すると、探索して使用するツールの武器があります。
Main Aetherius Chatbot :Aetheriusのカスタムサブエージェントの作成のためのフレームワーク。
現在のサブエージェント
古いUIチャットボット:現実的な長期的な記憶を持つあなたの個人的な仲間。
Aetheriusの開発は私の日常の仕事によって自己資金を提供しています。頻繁に使用し、開発速度が向上したい場合は、私をサポートすることを検討してください。
助けを求めて不一致に参加するか、より詳細な情報を取得してください!
Discord Server:https://discord.gg/pb5zcna7ze
Aetherius使用ガイド
ビデオチュートリアルについては、YouTubeを購読してください:https://www.youtube.com/@libraryofcelsus(まだ起動していないチャネル)
コードチュートリアルはhttps://www.libraryofcelsus.com/research/public/code-tutorials/で入手可能です
製造:https://github.com/libraryofcelsus
https://github.com/daveshap/に触発されました
•内部プロンプトの改善を続けます
•Aetherius使用ガイドを完成させます
•より良いドキュメント
•帳簿/ファイル要約ツール
•データセットジェネレーターツール
•AetheriusのカスタムLLMモデル
•AIチュートリアルYouTubeチャンネルを起動します
0.05
0.047b
•UIにGPTビジョンを追加しました。 TTSも追加しました。
•UIにWebScrapeおよびファイルプロセスツールを追加しました
0.047a
•更新されたUIの実験バージョンを追加しました。ツール、TTS、および音声入力を更新する必要があります。
0.046c
•明示的なメモリ検索のためのランダムフォレストのようなアプローチを追加しました
•知識ドメインの選択バグを修正しました
0.046b
•パーソナリティファイルを作成するときに、ユニコードエンコードエラーを修正しました。
•GPTビジョンをエージェントモードに追加しました。
•GPTビジョンサポートを追加しました。これにはDiscord Botを使用することをお勧めします。
•強制メモリアップロードモードを追加しました。
•さまざまなバックエンドの変更、今のところ追加の機能はありませんが、主に将来のものです。
•サブエージェントの選択バグを修正しました。
0.046a
•サブエージェント用の新しいカテゴリシステムを追加しましたが、今のところAsync APIスクリプトでのみ。
•バグを修正して、複数のカテゴリをカテゴリリストにロードします。また、空のプロンプトバグを修正しました。 Async APIバージョンのみ。
•メモリサブエージェントカテゴリに個別のスクリプトを追加しました。 Async APIバージョンのみ。
•明示的な長期記憶のための実験的知識ドメインを追加しました。 Async APIバージョンのみ。
•外部リソース検索用のコレクションバグを修正しました。 Async APIバージョンのみ。
•ナレッジドメインの選択に取り組みました。 Async APIバージョンのみ。
•他のUIがやり直されるまで、テストエージェントモード用の一時的なグラデーションUIを追加しました。ユーザー名とbotnameは、discord botを使用している場合、user_idをdiscordユーザー名に設定する必要があります。
0.045c
•ボットとユーザープロファイルの説明を追加しました。これは、API設定JSONで無効にすることができます。
•ファイルの設定をJSONに変換しました
•./aetherius_api/examplesのAPIを使用してDiscordボットスクリプトを追加しました
•Aetheriusをプログラムで使用するようにインポートできる基本的なAPIスクリプトを追加しました。 (まだ進行中の初期の作業)
•必要な情報が外部リソースDBにない場合は、メモリ検索サブエージェントと自律的なWeb検索を追加しました。
•サブエージェントスクリプトを追加しました。 Aetheriusの並列処理ループ用のカスタムサブエージェントを作成できるようになりました。
•Llama 2チャットボットを変換して、設定にJSONを使用しました。
•複数のホストを使用するためのより良いソート。
•さまざまなバグ修正
0.045c
•Oobaboogaで複数のホストを使用する機能を追加しました。
•ラマ2の内部プロンプトを改善しました
•いくつかのメモリタイプに重要なスコアを追加しました(まだ進行中の作業)
0.045b
•Llama 2ファイルスクレープツールにビデオ処理を追加しました。
•コキTTSで音声クローニングを追加しました。
0.045a
•llama 2チャットボットのカットオフアップロードを避けるために、メモリアップロードの句読点のチェックを追加しました。
•Llama 2 ChatbotのDB管理削除メニューに外部リソースの削除ボタンを追加しました。
•Llama 2エージェントモードとWebScrapeツールの内部プロンプトの改善。
•さまざまなバグ修正
0.044f
•GTTSまたは11のラボを使用して、ささやきとTTSを使用して音声入力を追加しました。 BarkTTSはまだ進行中の作業です。
0.044e
•コレクションを作成するときに埋め込みサイズが設定されていなかったバグを修正しました。
•コレクション名からメタデータにスイッチされたユーザー名。
0.044d
•埋め込み選択メニューが追加されました。今のところ、文の変圧器とハグの顔の埋め込みのみが利用可能です。
0.044C
•Aetheriusの新しいGUI。ほとんどのチャットボットモードは、1つのUIの下で統合されています。
0.044b
•Llama-2 GUIの外観と機能を更新しました
•FileProcessing ChatbotをEethersearchに統合しました
•パブリックAPIを使用するときに、通常のテキストではなくHTMLマークダウンが印刷されたバグを修正しました。
•GPUのない人向けのコラブノートブックを追加しました。
0.044a
•QDRANTによるより良い視覚化のための統合コレクション(QDRANTダッシュボードで利用可能)
•外部データスクレープのソースタグが追加されました
古いChangelogsはhttps://www.libraryofcelsus.com/aetherius/にあります
<>コードドロップダウンメニューを押して、プロジェクトzipフォルダーをダウンロードします。
1. Python 3.10.6をインストールして、パスに追加してください: https://www.python.org/downloads/Release/python-3106/
2。 「install_aetherius_client_windows.bat」を実行して、aetheriusクライアントをインストールします。
(要件のインストール時にエラーが発生した場合: python -m pipキャッシュパージ)
3.作成されたaetherius_apiフォルダー内のAPI_KEYSフォルダーにOpenAIおよびQDRANT API/URLキーをコピーします。 GPTビジョンにはOpenaiが必要です。
4. Google CSEキーとAPIキーをAPI_Keysフォルダーにコピーするか、chatbot_settings.jsonでfalseにweb_searchをfalseに設定します。
5. Openaiを使用する場合は、これをスキップできます。 Aetheriusをローカルに実行したい場合は、ITサポートのさまざまなAPIのいずれかをインストールする必要があります。
koboldcpp(推奨):https://github.com/lostruins/koboldcpp
oobabooga:https://github.com/oobabooga/text-generation-webui
aethernode:https://github.com/libraryofcelsus/aethernode
6. QDRANTをセットアップします
QDRANTクラウド:https://qdrant.to/cloud
ローカルQDRANTサーバーを使用するには、最初にDocker:https://www.docker.comをインストールします。
次のタイプ: Docker Pull Qdrant/QDrant:V1.5.1コマンドプロンプト。
ダウンロードが終了したら、 Docker run -P 6333:6333 QDRANT/QDRANT:V1.5.1と入力
参照:https://docs.docker.com/desktop/backup-and-restore/バックアップの作成方法については。
ローカルQDRANTサーバーが実行されると、Aetheriusによって自動検出される必要があります。
7.実行_*。バットファイルの1つでaetheriusを起動します。
(新しいAPIにDiscordが追加されました。有効なトークンが「api_settings.json」に入力されている場合、APIと一緒に自動的に実行されます。)
(ngrokを使用する場合、ngrok configでaetheriusという名前のトンネルを作成する必要があります。これは、 'ngrok config edit'を入力して 'run_aetherius_cmd.bat'で実行できます)静的ngrokアドレスを入手してください:https://dashboard.ngrok.com/cloud-edge/domains
ngrok config:region:us
バージョン: '2'
authtoken:leplage_with_ngrok_auth
トンネル:
aetherius:
Proto:http
ホスト名:静的ngrokドメインに置き換えます
ADDR:127.0.0.1:5000
8。ヒューリスティックをDBにアップロードし、ボット名、ユーザー名、およびuser_idを変更して、aetheriusとのチャットを開始します。
aethernodeで使用されるモデルを変更するには、aethernode/settings.jsonの「model_name_or_path」キーを目的のモデルに変更します。次に、aetherius_api/chatbot_settings.jsonの「model_backend」キーを目的の形式に変更する必要があります。現在、Llama-2-chatとAlpacaのみが利用可能です。
推奨モデル:thebloke/llama-2-13b-chat-gptq
thebloke/mythomax-l2-13b-gptq
設定とプロンプトは、aetherius_apiフォルダーにあります。
写真OCR(JPG、JPEG、PNG)には、テッセラクトが必要です:https://github.com/ub-mannheim/tesseract/wikiがインストールされたら、プログラムファイルから「aetherius_ai_assistant」フォルダーに「tesseract-ocr」フォルダーをコピーします。
Cudaを使用してWhisperを使用するには、コマンドを実行する必要があります。。
Aetherius使用ガイド
ボットコマンド
!エージェント
(Aetheriusのサブエージェントモードをアクティブにする)
!ヒューリスティック
(ヒューリスティックをアップロードできます)
!inclicitstm
(短期的な暗黙のメモリをアップロードすることを可能にします)
!rebricitstm
(短期的な明示的なメモリをアップロードすることを可能にします)
!inclicitltm
(長期的な暗黙のメモリをアップロードすることを可能にします)
!explicitltm(長期の明示的なメモリをアップロードできます)
写真付きガイドは[https://www.libraryofcelsus.com/aetherius-setup-guide/]にあります。
時代遅れの写真ガイド
1. gitのインストール: https://git-scm.com/ (greneコードボタンの下のzipファイルとしてリポジトリをダウンロードすることで、gitをスキップできます)
2。Python3.10.6をインストールして、パスに追加してください: https://www.python.org/downloads/release/python-3106/
3.プログラム「Git Bash」を開きます。
4。Gitクローンを実行: Gitクローンhttps://github.com/libraryofcelsus/aetherius_ai_assistant.git
5.管理者としてCMDを開く(コマンドパネル)
6.プロジェクトフォルダーへのナビゲート: CD PATH_TO_AETHERIUS_INSTALL
7.仮想環境を作成: Python -M Venv Venv
8。環境をアクティブにします: 。 venv scripts activate (これは毎回aetheriusを実行する前に実行する必要があります。run.batも自動的に行います。)
9。必要なパッケージをインストールします: PIPインストール-R Reportions.txt
(要件のインストール時にエラーが発生した場合:venvをアクティブにした後、 python -m pipキャッシュパージ)
10。numpyバージョンの更新: pipインストール-upgrade numpy == 1.24 (TTSからエラーが発生した場合は無視します。)
11。ffmpegをインストール: https://www.gyan.dev/ffmpeg/builds/
12.トーチをCUDAでインストール:ピップアンインストールTORCH TORCHVISION PIPインストールTorch TorchVision Torchaudio -F https://download.pytorch.org/whl/cu118/torch_stable.html
13。OpenaiAPIキーをkey_openai.txtにコピーします(Oobaboogaを使用している場合は、これをスキップできます。)
14. QDRANTクラウドを使用する場合、./API_Keysフォルダーのそれぞれの.txtファイルにAPIキーとURLをコピーします。 QDRANTクラウド:https://qdrant.to/cloud
15.ローカルQDRANTサーバーを使用するには、最初にDocker:https://www.docker.com/をインストールします。
16.今すぐ実行: Docker Pull Qdrant/Qdrant:V1.5.1 in CMD
17。次の実行: Docker Run -P 6333:6333 QDRANT/QDRANT:V1.5.1
18.ローカルQDRANTサーバーが実行されると、Aetheriusによって自動検出される必要があります。 QDrantサーバーが実行されていない場合、Aetheriusはディスクに保存します。
(参照:https://docs.docker.com/desktop/backup-and-restore/
(UIを使用する場合は、APIフォルダーの外側で設定を編集します。APIを使用する場合は、APIフォルダー内の設定を編集します。
19。GoogleAPIキーをkey_google.txtにコピーします(スクリプトファイルで外部リソースweb_searchを無効にすることができます。)
20。GoogleCSEIDをkey_google_cse.txtにコピーします
21. Photo OCR(JPG、JPEG、PNGテキスト認識)の使用を計画している場合、Tesseract:https://github.com/ub-mannheim/tesseract/wikiがインストールされたら、プログラムファイルから「aetherius_asistant」フォルダーに「tesseract-ocr」フォルダーをコピーします。写真は./upload/scansフォルダーに配置する必要があります。
22.Python experimental_UI_MENU.pyをCMDまたはrun.BATファイルの1つでaitheriusを開始することにより、aetheriusを実行します。 (run.batを使用すると、CMDの開口部と環境のアクティブをスキップできます。)
23. DB管理メニューからHeuristicをアップロードして、BOTのヒューリスティックをアップロードすることを選択します。このDBは、パーソナリティDBとして機能することもできます。これを行う方法の例は、configフォルダーの「pansional_db_input_examples.txt」にあります。
24. Chatbotのプロンプトを構成メニューで編集します。これにより、メイン、セカンダリ、グリーティングプロンプトを変更できます。フォントスタイルやサイズなどを変更することもできます。
25.ログインメニューのボット名とユーザー名を変更できます。これらのいずれかを変更すると、新しいチャットボットが作成されます。
26.バックアップを作成したら、「Auto」モードの使用を開始できます。このモードは、Aetheriusがそのメモリにアップロードするかどうかをそれ自体のために決定します。
27。カスタムAPIでaetheriusを実行するには、ダウンロードとインストール:https://github.com/libraryofcelsus/aethernode
これは、Aetheriusの新しいデフォルトAPIです。インストール手順はGitHubページにあります。
aethernodeで使用されるモデルを変更するには、aethernode/settings.jsonの「model_name_or_path」キーを目的のモデルに変更します。次に、aetherius_api/chatbot_settings.jsonの「model_backend」キーを目的の形式に変更する必要があります。現在、Llama-2-chatとAlpacaのみが利用可能です。
GPUをお持ちでない場合は、aethernode Google colab:
28。Oobaboogaを使用してAtheriusをローカルに実行するには、最初にweb-uiをhttps://github.com/oobabooga/text-generation-generation-generation/releases/tag/snapshot-2023-11-05にインストールします。
Oobabooga Text-UIは、APIの仕組みを変更しました。機能する最新バージョンはSnapshot-2023-11-05です。これはリリースメニューまたはgitクローンhttps://github.com/oobabooga/text-generation-webui -branch snapshot-2023-11-05
Public APIを使用してOobaboogaを使用してGoogle ColabでAetheriusを実行するには、「./colab Notebooks」フォルダーのノートブックファイルを使用します。 aetheriusでパブリックAPIを使用するには、設定JSONの「HOST_OOBABOOGA」を与えられた非ストリーミングURLに変更します。複数のホストを使用するには、スペースでそれらを分離します。
次に、[インターフェイスモード]タブの下で、[使用可能な拡張子]フィールドのみでAPIチェックボックスを有効にします。次に、[適用]をクリックしてインターフェイスを再起動します。
次に、[モデル]タブに移動します。 AutoLoad Modelsボックスをチェックしてから、「thebloke/llama-2-13b-chat-gptq」をダウンロードボックスに入力します(7bモデルはより速い結果を得るために使用できますが、形式を破壊し、物事を構成する傾向があります。事実データが必要な場合はお勧めしません)。他のモデルは機能するかもしれませんが、これはテストされたモデルです。
ダウンロードが完了したら、モデル選択メニューをリロードしてから、モデルを選択します。モデルローダーをExllamav2に変更し、max_seq_lenを「4096」に設定します。 GPUの最大VRAMの下で「GPU_SPLIT」を1 GBに設定します。
[ロード]ボタンをクリックして、モデルをロードします。
次に、aetherius_apiフォルダーのchatbot_settings.jsonファイルに移動し、aethernodeの代わりにapiをOobaboogaに変更します。 Aetheriusは今機能するはずです!
30.設定JSONとプロンプトは、aetherius_apiフォルダーにあります。
2023年1月、私は一般的にChATGPT 3.5とLLMSで初の経験がありました。その瞬間以来、私はAIに深く取りつかれており、毎日数え切れないほどの時間を勉強し、実践的な実験に捧げてきました。 Aetherius AIアシスタントは、その研究の集大成です。
Discord:Libraryofcelsus->古いユーザー名スタイル:Celsus#0262
Mega Chat:https://mega.nz/c!pmnmeizq