Download ModelMerge - Download do código fonte ModelMerge

ModelMerge

Outro código-fonte

1.0.0

Baixar

ModelMerge

Inglês | chinês

O ModelMerge é uma biblioteca poderosa projetada para simplificar e unificar o uso de diferentes modelos de idiomas grandes, incluindo GPT-3.5/4/4 TURBO/4O, O1-PREVELE/O1-MINI, DALL-E 3, CLAUDE2/3/3.5, GEMINI1.5 Pro/Flash AI (Claude, Gemini), Duckduckgo e Grog e Grog. A biblioteca suporta chamadas de função de formato GPT e possui recursos internos de pesquisa e resumo do URL, aprimorando bastante a praticidade e a flexibilidade dos modelos.

Características

Suporte de vários modelos : integre vários modelos de idiomas grandes mais recentes.
Interação em tempo real : suporta fluxos de consulta em tempo real, recuperação de resposta a modelos em tempo real.
Expansão da função : Com suporte de chamada de função interno, as funções do modelo podem ser facilmente expandidas, atualmente suportando plugins como DuckDuckgo e pesquisa do Google, resumo de conteúdo, desenho de Dalle-3, resumos de papel arxiv, horário atual, interpreper de código e muito mais.
Interface simples : fornece uma interface API concisa e unificada, facilitando a chamada e o gerenciamento do modelo.

Início rápido

A seguir, é apresentado um guia sobre como integrar e usar rapidamente o ModelMerge no seu projeto Python.

Instalar

Primeiro, você precisa instalar o ModelMerge. Pode ser instalado diretamente via PIP:

pip install modelmerge

Exemplo de uso

A seguir, é apresentado um exemplo simples, demonstrando como usar o ModelMerge para solicitar o modelo GPT-4 e lidar com os dados de streaming retornados:

 from ModelMerge import chatgpt

# Initialize the model, set the API key and the selected model
bot = chatgpt ( api_key = "{YOUR_API_KEY}" , engine = "gpt-4o" )

# Get response
result = bot . ask ( "python list use" )

# Send request and get streaming response in real-time
for text in bot . ask_stream ( "python list use" ):
    print ( text , end = "" )

# Disable all plugins
bot = chatgpt ( api_key = "{YOUR_API_KEY}" , engine = "gpt-4o" , use_plugins = False )

? Variáveis de ambiente

A seguir, é apresentada uma lista de variáveis de ambiente relacionadas às configurações de plug -in:

Nome variável	Descrição	Obrigatório?
PROCURAR	Ativar plug -in de pesquisa. O valor padrão é `True` .	Não
Url	Ativar plugin de resumo da URL. O valor padrão é `True` .	Não
Arxiv	Se deve habilitar o plug -in abstrato de papel arxiv. O valor padrão é `False` .	Não
CÓDIGO	Se deve habilitar o plugin de intérprete de código. O valor padrão é `False` .	Não
IMAGEM	Se deve habilitar o plug -in de geração de imagens. O valor padrão é `False` .	Não
DATA	Se deve habilitar o plug -in de data. O valor padrão é `False` .	Não

Modelos suportados

GPT-3.5/4/4 TURBO/4O
O1-Preview/O1-mini
Dall-e 3
Claude2/3/3.5
Gemini1.5 Pro/Flash
Vértice ai (claude, gêmeos)
Groq
Duckduckgo (GPT-4O-Mini, Claude-3-Haiku, Meta-Llama-3.1-70b, Mixtral-8x7b)

? Plugin

Este projeto suporta vários plugins, incluindo: PateDuckgo e Pesquisa do Google, resumo da URL, resumo do artigo ARXIV, desenho DALLE-3 e intérprete de código, etc. Você pode ativar ou desativar esses plugins definindo variáveis de ambiente.

Como desenvolver um plugin?

Todo o código relacionado aos plugins está no Modelmerge do submódulo Git dentro deste repositório. O ModelMerge é um repositório independente que desenvolvi para lidar com solicitações de API, gerenciamento de histórico de conversas e outras funções. Ao clonar este repositório usando o parâmetro --recurse-submodules com clone Git, o ModelMerge será baixado automaticamente para sua máquina local. Todo o código do plug -in deste repositório está localizado no Relativo Path ModelMerge/src/ModelMerge/plugins . Você pode adicionar seu próprio código de plug -in neste diretório. O processo de desenvolvimento de plug -in é o seguinte:

Crie um novo arquivo python no diretório ModelMerge/src/ModelMerge/plugins , por exemplo, myplugin.py . Importe seu plug -in no arquivo ModelMerge/src/ModelMerge/plugins/__init__.py , por exemplo, from .myplugin import MyPlugin .
Adicione seu corpo de solicitação formatado com ferramenta Open do plugin à variável function_call_list em ModelMerge/src/ModelMerge/tools/chatgpt.py . A ferramenta Claude Gemini não requer redação adicional, você só precisa preencher o corpo da solicitação de ferramentas no formato OpenAI e o programa o converterá automaticamente no formato da ferramenta Claude/Gemini ao solicitar a API Gemini ou Claude. function_call_list é um dicionário em que a chave é o nome do plug -in e o valor é o corpo de solicitação do plug -in. Verifique se os nomes de chave no dicionário function_call_list são únicos e não duplique os nomes de chaves do plug -in existentes.
Adicione pares de valor-chave ao dicionário de PLUGINS no ModelMerge/src/ModelMerge/plugins/config.py . A chave é o nome do plug -in e o valor é a variável de ambiente do plug -in e seu valor padrão. Esse valor padrão é o comutador para o plug -in; Se o valor padrão for True , o plug -in será ativado por padrão. Se o valor padrão for False , o plug -in será desativado por padrão e precisará ser ativado manualmente pelo usuário no comando /info .
Finalmente, nas funções ModelMerge/src/ModelMerge/plugins/config.py get_tools_result_async , adicione o código para invocação do plug -in. Quando o robô precisar chamar um plug -in, ele chamará essa função. Você precisa adicionar o código de invocação do plug -in nesta função.