Descargar ModelMerge - Descargar el código fuente ModelMerge

ModelMerge

Otro código fuente

1.0.0

Descargar

Modelmerge

Inglés | Chino

ModelMerge es una poderosa biblioteca diseñada para simplificar y unificar el uso de diferentes modelos de idiomas grandes, incluidos GPT-3.5/4/4 Turbo/4O, O1-Preview/O1-Mini, Dall-E 3, Claude2/3/3.5, Gemini1.5 Pro/Flash, VERTEX AI (Claude, Gemini), Duckgo y Groq. La biblioteca admite llamadas a la función de formato GPT y tiene características incorporadas de búsqueda de Google y resumen de URL, mejorando en gran medida la practicidad y la flexibilidad de los modelos.

Características

Soporte multimodelo : integrar varios modelos de idiomas más recientes.
Interacción en tiempo real : admite transmisiones de consultas en tiempo real, recuperación de respuesta al modelo en tiempo real.
Expansión de la función : con el soporte de llamadas de función incorporada, las funciones del modelo se pueden ampliar fácilmente, actualmente admite complementos como DuckDuckgo y Google Search, Resumen de contenido, dibujo Dalle-3, resúmenes de papel ARXIV, hora actual, intérprete de código y más.
Interfaz simple : proporciona una interfaz API concisa y unificada, lo que facilita llamar y administrar el modelo.

Comienzo rápido

La siguiente es una guía sobre cómo integrar y utilizar rápidamente ModelMerge en su proyecto Python.

Instalar

Primero, debe instalar ModelMerge. Se puede instalar directamente a través de PIP:

pip install modelmerge

Ejemplo de uso

El siguiente es un ejemplo simple que demuestra cómo usar ModelMerge para solicitar el modelo GPT-4 y manejar los datos de transmisión devueltos:

 from ModelMerge import chatgpt

# Initialize the model, set the API key and the selected model
bot = chatgpt ( api_key = "{YOUR_API_KEY}" , engine = "gpt-4o" )

# Get response
result = bot . ask ( "python list use" )

# Send request and get streaming response in real-time
for text in bot . ask_stream ( "python list use" ):
    print ( text , end = "" )

# Disable all plugins
bot = chatgpt ( api_key = "{YOUR_API_KEY}" , engine = "gpt-4o" , use_plugins = False )

? Variables de entorno

La siguiente es una lista de variables de entorno relacionadas con la configuración del complemento:

Nombre de variable	Descripción	¿Requerido?
BUSCAR	Habilitar el complemento de búsqueda. El valor predeterminado es `True` .	No
Url	Habilitar complemento de resumen de URL. El valor predeterminado es `True` .	No
Arxiv	Si habilita el complemento ARXIV Paper Abstract. El valor predeterminado es `False` .	No
CÓDIGO	Si habilita el complemento de intérprete de código. El valor predeterminado es `False` .	No
IMAGEN	Si habilita el complemento de generación de imágenes. El valor predeterminado es `False` .	No
FECHA	Si habilita el complemento de fecha. El valor predeterminado es `False` .	No

Modelos compatibles

GPT-3.5/4/4 Turbo/4o
O1 previa/o1-mini
Dall-E 3
Claude2/3/3.5
Gemini1.5 pro/flash
Vertex ai (Claude, Géminis)
Hacer surgimiento
Duckduckgo (GPT-4O-Mini, Claude-3-Haiku, Meta-llama-3.1-70b, Mixtral-8x7b)

? Complemento

Este proyecto admite múltiples complementos, que incluyen: búsqueda de Duckduckgo y Google, resumen de URL, resumen de papel ARXIV, dibujo Dalle-3 e intérprete de código, etc. Puede habilitar o deshabilitar estos complementos configurando variables de entorno.

¿Cómo desarrollar un complemento?

Todo el código relacionado con los complementos se encuentra en el ModelMerge Git Submodule dentro de este repositorio. ModelMerge es un repositorio independiente que desarrollé para manejar las solicitudes de API, la gestión del historial de conversaciones y otras funciones. Cuando clona este repositorio utilizando el parámetro --recurse-submodules con clon Git, ModelMerge se descargará automáticamente en su máquina local. Todo el código de complemento en este repositorio se encuentra en la ruta relativa ModelMerge/src/ModelMerge/plugins . Puede agregar su propio código de complemento en este directorio. El proceso de desarrollo de complementos es el siguiente:

Cree un nuevo archivo Python en el directorio ModelMerge/src/ModelMerge/plugins , por ejemplo, myplugin.py . Importe su complemento en el archivo ModelMerge/src/ModelMerge/plugins/__init__.py , por ejemplo, from .myplugin import MyPlugin .
Agregue el cuerpo de solicitud de la herramienta OpenAI del complemento a la variable function_call_list en ModelMerge/src/ModelMerge/tools/chatgpt.py . La herramienta Claude Gemini no requiere una escritura adicional, solo necesita completar el cuerpo de solicitud de herramienta en formato OpenAI, y el programa lo convertirá automáticamente en el formato de herramienta Claude/Gemini al solicitar la API Gemini o Claude. function_call_list es un diccionario donde la clave es el nombre del complemento y el valor es el cuerpo de solicitud del complemento. Asegúrese de que los nombres de clave en el diccionario function_call_list sean únicos y no dupliquen los nombres de teclas de complemento existentes.
Agregue pares de valor clave al diccionario de PLUGINS en ModelMerge/src/ModelMerge/plugins/config.py . La clave es el nombre del complemento, y el valor es la variable de entorno del complemento y su valor predeterminado. Este valor predeterminado es el conmutador para el complemento; Si el valor predeterminado es True , entonces el complemento está habilitado de forma predeterminada. Si el valor predeterminado es False , entonces el complemento está deshabilitado de forma predeterminada y debe ser habilitada manualmente por el usuario en el comando /info .
Finalmente, en ModelMerge/src/ModelMerge/plugins/config.py Functions get_tools_result_async , agregue el código para la invocación de complementos. Cuando el robot necesita llamar a un complemento, llamará a esta función. Debe agregar el código de invocación del complemento dentro de esta función.