council

いらっしゃいませ

評議会は、Pythonに組み込まれた大規模な言語モデル（LLMS）を使用してアプリケーションを構築するためのオープンソースプラットフォームです。

評議会は、Openai、Anthropic、Google、OllamaなどのさまざまなLLMプロバイダーと協力するための統一されたインターフェイスを提供します。このフレームワークにより、一貫したインターフェイスと監視機能を維持しながら、プロバイダーを簡単に切り替えることができます。

評議会は、LLMアプリケーションのエンタープライズグレードの品質管理と監視を提供することを目指しています（貢献を歓迎します）。

重要な機能

• ？統合されたLLMインターフェイス：エラー処理と再試行が組み込まれているさまざまなLLMプロバイダー間で一貫したAPI
• プロバイダーの柔軟性：GROQとOllama経由のOpenai、Anthropic、Google Gemini、Local ModelsなどのLLMプロバイダー間の簡単な切り替え
• 使用型監視：組み込みの消費追跡と監視機能
• 構成管理：温度、最大トークンなどのLLMパラメーター用の柔軟な構成システム。
• エラー処理：生産用の堅牢なエラー処理と再試行メカニズム

重要な概念

LLMインターフェイス

評議会の中核は、異なる言語モデルプロバイダーと対話する統一された方法を提供するLLMインターフェイスです。これには次のものが含まれます。

• 柔軟な構成オプション
• プロバイダー間で一貫したメッセージフォーマット
• 組み込みの再試行メカニズム
• 使用法の追跡と監視

構成

評議会は、次のことを可能にする堅牢な構成システムを提供します。

• プロバイダー固有のパラメーターを設定します
• 再試行動作を構成します
• 温度、最大トークンなどの制御モデルパラメーター。
• API資格情報を管理します

監視

組み込みの監視機能は追跡に役立ちます：

• トークンの使用とコスト
• API呼び出しの数
• 応答時間

クイックスタート

インストール

複数の方法のいずれかで評議会をインストールします。

1. （推奨）PYPI経由でPIPを使用してインストール： pip install council-ai
2. git refのPIPとともにインストール： pip install git+https://github.com/chain-ml/council.git@<branch_name>
   • 詳細については、https：//pip.pypa.io/en/stable/topics/vcs-support/#git
3. ローカルコピーからのPIPをインストールします：
   • このリポジトリをクローンします
   • ローカルプロジェクトルートに移動し、 pip install -e git+https://github.com/chain-ml/council.git@<branch_name>.

アンpip uninstall council-ai

現在の安定バージョン

設定

必要なAPIキーを.envファイル（OpenAIなど）に設定します。例として.env.exampleを参照してください。

リナー

make lintを使用して、コードを確認します。

黒

black .ファイルを自動的に再フォーマットします。

ドキュメント

評議会の詳細な文書は、評議会で見つけることができます。

サポート

Githubの問題を提出してください。必要な場合は、Discordを介してチームに連絡してください。

貢献者

評議会は、積極的な開発中のプロジェクトです。すべての貢献、プルリクエスト、機能リクエスト、または報告された問題を歓迎します。