ModelMerge

Modelmerge

Englisch | chinesisch

Modelmerge ist eine leistungsstarke Bibliothek, die die Verwendung verschiedener Großsprachenmodelle vereinfacht und vereint, einschließlich GPT-3,5/4/4 Turbo/4O, O1-Präview/O1-Mini, Dall-e 3, Claude2/3/3,5, Gemini1.5 Pro/Flash, Vertx Ai (Claude, Gemini), Duckduckgo und Groq. Die Bibliothek unterstützt die Aufrufe von GPT-Formatfunktionen und verfügt über integrierte Funktionen für Google Search und URL-Zusammenfassung, wodurch die Praktikabilität und Flexibilität der Modelle erheblich verbessert wird.

Merkmale

• Support für Multimodell : Integrieren Sie verschiedene neueste Großsprachmodelle.
• Echtzeit-Interaktion : Unterstützt Echtzeit-Abfragestreams, Echtzeit-Modellreaktionsabruf.
• Funktionserweiterung : Mit integrierter Funktionsunterstützung können die Funktionen des Modells leicht erweitert werden, was derzeit Plugins wie DuckDuckgo und Google-Suche, Inhaltsübersicht, Dalle-3-Zeichnung, Arxiv-Papierzusammenfassungen, aktuelle Zeit, Code-Interpreter und mehr unterstützt.
• Einfache Schnittstelle : Bietet eine kurze und einheitliche API -Schnittstelle, mit der das Modell einfach angerufen und verwaltet wird.

Schneller Start

Im Folgenden finden Sie eine Anleitung zum schnellen Integrieren und Verwenden von ModelMerge in Ihr Python -Projekt.

Installieren

Zunächst müssen Sie ModelMerge installieren. Es kann direkt über PIP installiert werden:

pip install modelmerge

Nutzungsbeispiel

Das Folgende ist ein einfaches Beispiel, das demonstriert, wie Sie mit ModelMerge das GPT-4-Modell anfordern und die zurückgegebenen Streaming-Daten bearbeiten:

 from ModelMerge import chatgpt

# Initialize the model, set the API key and the selected model
bot = chatgpt ( api_key = "{YOUR_API_KEY}" , engine = "gpt-4o" )

# Get response
result = bot . ask ( "python list use" )

# Send request and get streaming response in real-time
for text in bot . ask_stream ( "python list use" ):
    print ( text , end = "" )

# Disable all plugins
bot = chatgpt ( api_key = "{YOUR_API_KEY}" , engine = "gpt-4o" , use_plugins = False )

? Umgebungsvariablen

Im Folgenden finden Sie eine Liste von Umgebungsvariablen, die sich auf Plugin -Einstellungen beziehen:

Variabler Name	Beschreibung	Erforderlich?
SUCHEN	Aktivieren Sie das Such -Plugin. Standardwert ist True .	NEIN
URL	Aktivieren Sie das URL -Zusammenfassungs -Plugin. Der Standardwert ist True .	NEIN
Arxiv	Ob das Arxiv Paper abstrakte Plugin aktiviert werden soll. Der Standardwert ist False .	NEIN
CODE	Ob das Code -Interpreter -Plugin aktiviert werden soll. Der Standardwert ist False .	NEIN
BILD	Ob das Plugin der Bildgenerierung aktiviert werden soll. Der Standardwert ist False .	NEIN
DATUM	Ob das Datums -Plugin aktiviert werden soll. Der Standardwert ist False .	NEIN

Unterstützte Modelle

• GPT-3,5/4/4 Turbo/4o
• O1-Präview/O1-Mini
• Dall-e 3
• Claude2/3/3.5
• Gemini1.5 Pro/Flash
• Scheitelpunkt AI (Claude, Gemini)
• Groq
• Duckduckgo (GPT-4O-Mini, Claude-3-Haiku, Meta-Llama-3.1-70b, Mixtral-8x7b)

? Plugin

Dieses Projekt unterstützt mehrere Plugins, darunter: DuckDuckgo und Google Search, URL-Zusammenfassung, Arxiv-Papierübersicht, Dalle-3-Zeichnung und Code-Interpreter usw. Sie können diese Plugins aktivieren oder deaktivieren, indem Sie Umgebungsvariablen einstellen.

• Wie entwickle ich ein Plugin?

Der gesamte Code, der sich auf Plugins bezieht, befindet sich im GIT -Submodul -Modellverbesserungsmodell in diesem Repository. ModelMerge ist ein unabhängiges Repository, das ich entwickelt habe, um API -Anfragen, Konversationsgeschichte und andere Funktionen zu behandeln. Wenn Sie dieses Repository mit dem Parameter --recurse-submodules “ klonen, wird ModelMerge automatisch auf Ihre lokale Maschine heruntergeladen. Der gesamte Plugin -Code in diesem Repository befindet sich am relativen ModelMerge/src/ModelMerge/plugins . Sie können Ihren eigenen Plugin -Code in diesem Verzeichnis hinzufügen. Der Plugin -Entwicklungsprozess ist wie folgt:

1. Erstellen Sie eine neue Python -Datei im Verzeichnis ModelMerge/src/ModelMerge/plugins , z. myplugin.py . Importieren Sie Ihr Plugin in die ModelMerge/src/ModelMerge/plugins/__init__.py -Datei, z. B. from .myplugin import MyPlugin .

2. Fügen Sie Ihr Plugin OpenAI -Tool -Format -Anforderungskörper in die variable function_call_list in ModelMerge/src/ModelMerge/tools/chatgpt.py hinzu. Das Claude Gemini -Tool erfordert kein zusätzliches Schreiben. Sie müssen nur das Werkzeuganforderungskörper im OpenAI -Format ausfüllen, und das Programm wandelt es automatisch in das Claude/Gemini -Werkzeugformat um, wenn sie die Gemini- oder Claude -API anfordern. function_call_list ist ein Wörterbuch, in dem der Schlüssel der Name des Plugins ist und der Wert der Anforderungskörper des Plugins ist. Bitte stellen Sie sicher, dass die Schlüsselnamen im Wörterbuch function_call_list eindeutig sind und nicht vorhandene Pluginschlüsselnamen duplizieren.

3. Fügen Sie dem PLUGINS Dictionary in ModelMerge/src/ModelMerge/plugins/config.py Schlüsselwertpaare hinzu. Der Schlüssel ist der Name des Plugins, und der Wert ist die Umgebungsvariable des Plugins und der Standardwert. Dieser Standardwert ist der Schalter für das Plugin. Wenn der Standardwert True ist, ist das Plugin standardmäßig aktiviert. Wenn der Standardwert False ist, ist das Plugin standardmäßig deaktiviert und muss vom Benutzer im Befehl /info manuell aktiviert werden.

4. Schließlich fügen Sie in den ModelMerge/src/ModelMerge/plugins/config.py -Funktionen get_tools_result_async den Code für Plugin -Aufruf hinzu. Wenn der Roboter ein Plugin aufrufen muss, wird diese Funktion aufgerufen. Sie müssen den Plugin -Aufrufcode in diese Funktion hinzufügen.

Nachdem Sie die oben genannten Schritte ausgeschlossen haben, ist Ihr Plugin zur Verwendung bereit. ?

Lizenz

Dieses Projekt ist unter der MIT -Lizenz lizenziert.

Beitrag

Willkommen, um Verbesserungen beizutragen, indem Sie Probleme einreichen oder Anfragen über GitHub ziehen.

Kontaktinformationen

Wenn Sie Fragen haben oder Hilfe benötigen, kontaktieren Sie uns bitte unter [email protected].