llm chain

LLM鏈

llm-chain是一組Rust Crate的集合，旨在幫助您創建高級LLM應用程序，例如聊天機器人，代理等。作為一個全面的LLM-OPS平台，我們對雲和本地託管的LLM都有強有力的支持。我們還為及時的模板提供了強大的支持，並在多步鏈中將提示鏈在一起，從而實現了LLM無法在一個步驟中處理的複雜任務。我們還提供矢量商店集成，使您可以輕鬆地提供模型的長期記憶和主題知識。這使您能夠構建複雜的應用程序。

例子

為了幫助您入門，這是一個示例，展示瞭如何使用llm-chain 。您可以在存儲庫中的示例文件夾中找到更多示例。

 let exec = executor ! ( ) ? ;
let res = prompt ! (
    "You are a robot assistant for making personalized greetings" ,
    "Make a personalized greeting for Joe"
)
. run ( parameters ( ) ! , & exec )
. await ? ;
println ! ( "{}" , res ) ;

➡️教程：開始使用LLM鏈➡️快速啟動：基於我們的模板創建項目

特徵 ？

• 提示模板：創建可重複使用且易於自定義的提示模板，以與LLMS保持一致且結構化的交互。
• 鏈：建立強大的提示鏈，使您可以逐步執行更複雜的任務，從而利用LLM的全部潛力。
• CHATGPT支持：支持ChatGPT模型，併計劃將來添加OpenAI的其他型號。
• Llama支持：與Llama模型無縫集成，從而通過Facebook的研究模型實現自然語言理解和發電任務。
• 羊駝支持：納入對斯坦福大學羊駝模型的支持，擴大了用於高級AI應用程序的可用語言模型範圍。
• llm.rs支持：在RUST中使用LLM，而無需依賴於C ++代碼，我們對llm.rs的支持
• 工具：通過使他們可以訪問各種工具，例如運行bash命令，執行Python腳本或執行Web搜索，從而增強您的AI代理的功能，從而實現了更複雜和更強大的交互。
• 可擴展性：考慮到可擴展性的設計，使得隨著生態系統的增長，可以輕鬆整合其他LLM。
• 社區驅動：我們歡迎並鼓勵社區的貢獻，以幫助改善和擴大llm-chain的能力。

入門

要開始使用llm-chain ，請將其添加為Cargo.toml中的依賴項（您需要Rust 1.65.0或更新）：

[ dependencies ]
llm-chain = " 0.12.0 "
llm-chain-openai = " 0.12.0 "

llm-chain-openai的示例要求您設置OPENAI_API_KEY環境變量，您可以這樣做：

 export OPENAI_API_KEY= " sk-YOUR_OPEN_AI_KEY_HERE "

然後，請參閱文檔和示例，以了解如何創建及時的模板，鏈條等。

貢獻？

我們熱烈歡迎所有人的貢獻！如果您有興趣幫助改善llm-chain ，請查看我們的CONTRIBUTING.md文件以獲取準則和最佳實踐。

執照 ？

llm-chain已獲得MIT許可證的許可。

與我們聯繫

如果您有任何疑問，建議或反饋，請隨時打開問題或加入我們的社區不和諧。我們總是很高興收到用戶的來信，並了解您在llm-chain中的經歷。

我們希望您喜歡使用llm-chain來解鎖項目中大型語言模型的全部潛力。愉快的編碼！ ？