sample connector for bedrock

岩盤のサンプルコネクタ

これは、仮想キー、ログチャット、コストの管理を発行できる岩盤（およびAWSからのその他の生成AIツール）API転送ツールです。

ホストキーとAPIキーを定義できるOpenAIクライアントと互換性があります。

クイックリファレンス

クイックスタート

クイック展開

プロバイダー

Docker画像：DockerHub、Public ECR

LambdaのDocker画像：DockerHub、Public ECR

主な機能

サポートされているモデルとプラットフォーム

• 岩盤からのすべての現在および将来の大規模な言語モデルをサポートしています（岩盤の矛盾を通じてサポート）。
• Sagemaker LMI（部分モデル）を介して展開されたモデルをサポートします。
• Ollamaなどを含む他の形式のカスタムモデルをサポートしています。
• インターネット検索、AWSコマンドエグゼキューターなど、その他のAIワークフローアプリケーション。

APIキーとコスト管理

• APIキーを作成します。通常のユーザーと管理者向けにキーを作成できます。通常のユーザーはチャットできますが、管理者はAPIキーとコストを管理できます。
• 各通話のコストを記録し、コスト管理の基礎として使用します。
• コスト管理。各APIキーの毎月の割り当てとアカウント残高を設定できます。毎月のクォータまたはアカウント残高が不十分な場合、使用できません。
• 全体的なコストを計算します。

重要

このプロジェクトのコスト計算は、AWS請求の基礎として使用することはできません。実際の費用については、AWS請求書を参照してください。岩盤価格については、公式ウェブサイトを参照してください。

モデル管理

モデルとそのパラメーターは、バックエンドから定義できます。

定義されると、モデルはグループまたはAPIキーにバインドできます。

Changelogs

0.0.16

1. Bedrock-Converseの新しい構成オプションを追加しました：Maxtokens

0.0.15

1. NODBモードで俳句3.5モデルを追加しました。

2. 不要なログ出力を削除しました。

免責事項

このコネクタは、岩盤サービスを使用するためのプロキシサービスを提供することを目的としたオープンソースソフトウェアです。ソフトウェアのセキュリティと合法性を確保するために最善の努力をしますが、ユーザーの行動については責任を負いません。

コネクタは、個人的な学習と研究目的のみを目的としています。ユーザーは、ハッキング、違法情報の拡散などを含むがこれらに限定されない違法行為に使用してはなりません。そうでなければ、ユーザーはそれ自体で対応する法的責任を負担するものとします。ユーザーは、それぞれの管轄区域の法律と規制を遵守する責任があり、違法または非準拠の目的でコネクタを使用してはなりません。このソフトウェアの開発者とメンテナーは、このコネクタの使用から生じる紛争、損失、または法的負債について責任を負いません。

通知なしに、いつでもコネクタコードを変更または終了する権利を留保します。ユーザーは、関連するローカル法と規制を理解し、遵守することが期待されています。

この免責事項に関してご質問がある場合は、オープンソースチャンネルからお気軽にお問い合わせください。

安全

詳細については、貢献を参照してください。

ライセンス

このライブラリは、MIT-0ライセンスに基づいてライセンスされています。ライセンスファイルを参照してください。