ragchat

ラグチャット

デモ検索は、オープンソースコンポーネントとSEMADBを使用してチャットボットAIを拡張しました。

インストール

Python依存関係をインストールします。

pip install -r requirements.txt

オラマをメインLLMとしてインストールします。

https://ollama.com/download/ollama-linux-amd64 -o ollama
chmod +x ollama

使用法

Ollamaサーバーを開始します：

ollama serve

目的のモデルをインストールします。

ollama pull llama2
# Test using
ollama run llama2

次に、SEMADB APIキーを使用してmain.pyエントリポイントを実行します。

SEMADB_API_KEY=... python3 main.py

で構築されています

• コンポーネントを接着するために使用されるLangchain
• グラデーションWebインターフェイス
• Ollama Main Large Language Model Library
• 文変換器埋め込みモデル