ModelMerge下載 - ModelMerge源代碼下載

ModelMerge

其他源碼

1.0.0

下載

Modelmerge

英語|中國人

ModelMerge是一個強大的圖書館，旨在簡化和統一使用不同的大型語言模型，包括GPT-3.5/4/4 Turbo/4O，O1-Preview/O1-Mini，Dall-E 3，Claude2/3/3.5，Gemini1.5 Pro/Flash，Pro/Flash，flash，flash，vertex ai（Claude，Gemini），duckduckgo go claude，duckduckgo和Groq和Groq。該庫支持GPT格式功能調用，並具有內置的Google搜索和URL摘要功能，從而大大提高了模型的實用性和靈活性。

特徵

多模型支持：整合各種最新的大型語言模型。
實時互動：支持實時查詢流，實時模型響應檢索。
功能擴展：使用內置功能調用支持，模型的功能可以輕鬆擴展，目前支持DuckDuckgo和Google搜索，內容摘要，Dalle-3圖，Arxiv Paper Summaries，當前時間，代碼解釋器等。
簡單接口：提供簡潔而統一的API接口，使調用和管理模型變得容易。

快速開始

以下是如何在Python項目中快速集成和使用Modelmerge的指南。

安裝

首先，您需要安裝Modelmerge。它可以直接通過PIP安裝：

pip install modelmerge

用法示例

以下是一個簡單的示例，演示如何使用Modelmerge請求GPT-4模型並處理返回的流數據：

 from ModelMerge import chatgpt

# Initialize the model, set the API key and the selected model
bot = chatgpt ( api_key = "{YOUR_API_KEY}" , engine = "gpt-4o" )

# Get response
result = bot . ask ( "python list use" )

# Send request and get streaming response in real-time
for text in bot . ask_stream ( "python list use" ):
    print ( text , end = "" )

# Disable all plugins
bot = chatgpt ( api_key = "{YOUR_API_KEY}" , engine = "gpt-4o" , use_plugins = False )

？環境變量

以下是與插件設置相關的環境變量的列表：

可變名稱	描述	必需的？
搜尋	啟用搜索插件。默認值是`True` 。	不
URL	啟用URL摘要插件。默認值是`True` 。	不
arxiv	是否啟用Arxiv紙抽象插件。默認值是`False` 。	不
代碼	是否啟用代碼解釋器插件。默認值是`False` 。	不
圖像	是否啟用圖像生成插件。默認值是`False` 。	不
日期	是否啟用日期插件。默認值是`False` 。	不

支持的模型

GPT-3.5/4/4 Turbo/4O
O1-preiview/O1-Mini
dall-e 3
Claude2/3/3.5
Gemini1.5 Pro/Flash
頂點AI（克勞德，雙子座）
谷
Duckduckgo（GPT-4O-Mini，Claude-3-Haiku，Meta-Llama-3.1-70B，Mixtral-8x7b）

？插件

該項目支持多個插件，包括：DuckDuckgo和Google搜索，URL摘要，Arxiv Paper摘要，Dalle-3圖紙和代碼解釋器等。您可以通過設置環境變量來啟用或禁用這些插件。

如何開發插件？

與插件相關的所有代碼都在此存儲庫中的git subpodule modelmerge中。 ModelMerge是一個獨立的存儲庫，我開發了用於處理API請求，對話歷史記錄管理和其他功能的獨立存儲庫。當您使用帶有GIT克隆的--recurse-submodules參數克隆此存儲庫時，ModelMerge將自動下載到您的本地計算機上。此存儲庫中的所有插件代碼都位於“相對路徑ModelMerge/src/ModelMerge/plugins上。您可以在此目錄中添加自己的插件代碼。插件開發過程如下：

在ModelMerge/src/ModelMerge/plugins目錄中創建一個新的Python文件，例如myplugin.py 。將您的插件導入ModelMerge/src/ModelMerge/plugins/__init__.py文件，例如， from .myplugin import MyPlugin 。
將您的插件OpenAI工具格式的請求主體添加到ModelMerge/src/ModelMerge/tools/chatgpt.py中的function_call_list變量。 Claude Gemini工具不需要額外的寫作，您只需要以OpenAI格式填寫工具請求主體，並且在請求Gemini或Claude API時，該程序將自動將其轉換為Claude/Gemini工具格式。 function_call_list是一本詞典，其中鍵是插件的名稱，值是插件的請求主體。請確保function_call_list字典中的密鑰名稱是唯一的，並且不復制現有插件鍵名。
將鍵值對添加到ModelMerge/src/ModelMerge/plugins/config.py中的PLUGINS字典中。關鍵是插件的名稱，值是插件的環境變量及其默認值。此默認值是插件的開關。如果默認值為True ，則默認情況下啟用插件。如果默認值為False ，則默認情況下禁用插件，並且需要在/info命令中的用戶手動啟用插件。
最後，在ModelMerge/src/ModelMerge/plugins/config.py函數get_tools_result_async中，添加插件調用代碼。當機器人需要調用插件時，它將調用此功能。您需要在此功能中添加插件調用代碼。