llm chain

LLMチェーン

llm-chain 、チャットボット、エージェントなどの高度なLLMアプリケーションの作成に役立つように設計されたRust Cratesのコレクションです。包括的なLLM-Opsプラットフォームとして、クラウドとローカルホストの両方のLLMを強力にサポートしています。また、プロンプトテンプレートとマルチステップチェーンのプロンプトを一緒にチェーンするための堅牢なサポートを提供し、LLMが単一のステップで処理できない複雑なタスクを可能にします。また、ベクターストアの統合を提供して、モデルに長期的なメモリと主題の知識を簡単に提供できます。これにより、洗練されたアプリケーションを構築することができます。

例

開始するために、 llm-chain使用方法を示す例を以下に示します。リポジトリの例フォルダーで、より多くの例を見つけることができます。

 let exec = executor ! ( ) ? ;
let res = prompt ! (
    "You are a robot assistant for making personalized greetings" ,
    "Make a personalized greeting for Joe"
)
. run ( parameters ( ) ! , & exec )
. await ? ;
println ! ( "{}" , res ) ;

➡➡️チュートリアル：LLM-Chainを始めましょう➡§クイックスタート：テンプレートに基づいてプロジェクトを作成します

特徴 ？

• プロンプトテンプレート：LLMとの一貫した構造化された相互作用のために、再利用可能で簡単にカスタマイズ可能なプロンプトテンプレートを作成します。
• チェーン：LLMの潜在能力を最大限に活用して、より複雑なタスクを段階的に実行できるプロンプトの強力なチェーンを構築します。
• CHATGPTサポート：ChatGPTモデルをサポートし、将来OpenAIの他のモデルを追加する計画を立てています。
• Llamaサポート：Llamaモデルとのシームレスな統合を提供し、Facebookの研究モデルで自然言語の理解と生成タスクを可能にします。
• ALPACAサポート：スタンフォードのALPACAモデルのサポートを組み込み、高度なAIアプリケーションで利用可能な言語モデルの範囲を拡大します。
• llm.rsサポート： llm.rsのサポートを受けて、C ++コードに依存せずに錆でLLMSを使用する
• ツール：Bashコマンドの実行、Pythonスクリプトの実行、Web検索の実行など、さまざまなツールにアクセスできるようにすることにより、AIエージェントの機能を強化し、より複雑で強力なインタラクションを可能にします。
• 拡張性：拡張性を念頭に置いて設計されているため、エコシステムの成長に合わせて追加のLLMを簡単に統合できます。
• コミュニティ主導型： llm-chainの能力を改善および拡大するために、コミュニティからの貢献を歓迎し、奨励しています。

はじめる

llm-chainの使用を開始するには、 Cargo.toml （Rust 1.65.0以降が必要です）：

[ dependencies ]
llm-chain = " 0.12.0 "
llm-chain-openai = " 0.12.0 "

llm-chain-openaiの例では、このようにできるOPENAI_API_KEY環境変数を設定する必要があります。

 export OPENAI_API_KEY= " sk-YOUR_OPEN_AI_KEY_HERE "

次に、ドキュメントと例を参照して、プロンプトテンプレート、チェーンなどを作成する方法を学びます。

貢献？

みんなからの貢献を温かく歓迎します！ llm-chain改善を支援することに興味がある場合は、ガイドラインとベストプラクティスについては、 CONTRIBUTING.mdファイルをチェックしてください。

ライセンス？

llm-chain MITライセンスに基づいてライセンスされています。

私たちとつながります

ご質問、提案、またはフィードバックがある場合は、お気軽に問題を開いたり、コミュニティの不一致に参加してください。私たちは常にユーザーから聞いて、 llm-chainでのあなたの経験について学ぶことに興奮しています。

llm-chainを使用して、プロジェクトで大規模な言語モデルの最大限の可能性を解き放つことを楽しんでいただければ幸いです。ハッピーコーディング！ ？