Download ModelMerge - Unduh Kode Sumber ModelMerge

ModelMerge

Kode sumber lainnya

1.0.0

Unduh

ModelMerge

Bahasa Inggris | Cina

ModelMerge adalah perpustakaan yang kuat yang dirancang untuk menyederhanakan dan menyatukan penggunaan model bahasa besar yang berbeda, termasuk GPT-3.5/4/4 Turbo/4o, O1-preview/O1-Mini, Dall-E 3, Claude2/3/3.5, Gemini1.5 Pro/Flash, Vertex AI (Claude, Gemini), Gemini), Gemini), Duckgo, dan Vertex AI (Claude), Gemini), Gemini), Gemini), Gemini), Gemini), Gemini), Gemini), Gemini), Gemini), Gemini), Gemini), Gemini), Gemini), Gemini), Gemini), Gemini), Gemini), Gemini), Gemupgo. Perpustakaan mendukung panggilan fungsi format GPT dan memiliki fitur pencarian Google dan ringkasan URL bawaan, sangat meningkatkan kepraktisan dan fleksibilitas model.

Fitur

Dukungan Multi-Model : Mengintegrasikan berbagai model bahasa besar terbaru.
Interaksi real-time : Mendukung aliran kueri real-time, pengambilan respons model real-time.
Fungsi Ekspansi : Dengan dukungan panggilan fungsi bawaan, fungsi model dapat dengan mudah diperluas, saat ini mendukung plugin seperti DuckDuckgo dan Google Search, ringkasan konten, gambar Dalle-3, ringkasan kertas Arxiv, waktu saat ini, juru bahasa kode, dan banyak lagi.
Antarmuka Sederhana : Menyediakan antarmuka API yang ringkas dan terpadu, membuatnya mudah untuk menelepon dan mengelola model.

Awal yang cepat

Berikut ini adalah panduan tentang cara mengintegrasikan dan menggunakan ModelMerge dengan cepat dalam proyek Python Anda.

Memasang

Pertama, Anda perlu menginstal ModelMerge. Itu dapat diinstal langsung melalui PIP:

pip install modelmerge

Contoh Penggunaan

Berikut ini adalah contoh sederhana yang menunjukkan cara menggunakan ModelMerge untuk meminta model GPT-4 dan menangani data streaming yang dikembalikan:

 from ModelMerge import chatgpt

# Initialize the model, set the API key and the selected model
bot = chatgpt ( api_key = "{YOUR_API_KEY}" , engine = "gpt-4o" )

# Get response
result = bot . ask ( "python list use" )

# Send request and get streaming response in real-time
for text in bot . ask_stream ( "python list use" ):
    print ( text , end = "" )

# Disable all plugins
bot = chatgpt ( api_key = "{YOUR_API_KEY}" , engine = "gpt-4o" , use_plugins = False )

? Variabel Lingkungan

Berikut ini adalah daftar variabel lingkungan yang terkait dengan pengaturan plugin:

Nama variabel	Keterangan	Diperlukan?
MENCARI	Aktifkan plugin pencarian. Nilai default `True` .	TIDAK
Url	Aktifkan Plugin Ringkasan URL. Nilai standarnya `True` .	TIDAK
Arxiv	Apakah akan mengaktifkan plugin abstrak kertas arxiv. Nilai defaultnya `False` .	TIDAK
KODE	Apakah akan mengaktifkan plugin interpreter kode. Nilai defaultnya `False` .	TIDAK
GAMBAR	Apakah akan mengaktifkan plugin pembuatan gambar. Nilai defaultnya `False` .	TIDAK
TANGGAL	Apakah akan mengaktifkan plugin tanggal. Nilai defaultnya `False` .	TIDAK

Model yang didukung

GPT-3.5/4/4 Turbo/4o
O1-Preview/O1-Mini
Dall-E 3
Claude2/3/3.5
Gemini1.5 Pro/Flash
Vertex AI (Claude, Gemini)
Groq
Duckduckgo (GPT-4O-Mini, Claude-3-Haiku, Meta-Llama-3.1-70b, Mixtral-8x7b)

? Plugin

Proyek ini mendukung beberapa plugin, termasuk: Duckduckgo dan Google Search, Ringkasan URL, Ringkasan Kertas Arxiv, gambar Dalle-3, dan juru bahasa, dll. Anda dapat mengaktifkan atau menonaktifkan plugin ini dengan mengatur variabel lingkungan.

Bagaimana cara mengembangkan plugin?

Semua kode yang terkait dengan plugin ada di Git Submodule ModelMerge dalam repositori ini. ModelMerge adalah repositori independen yang saya kembangkan untuk menangani permintaan API, manajemen riwayat percakapan, dan fungsi lainnya. Saat Anda mengkloning repositori ini menggunakan parameter --recurse-submodules dengan Git Clone, ModelMerge akan secara otomatis diunduh ke mesin lokal Anda. Semua kode plugin dalam repositori ini terletak di jalur relatif ModelMerge/src/ModelMerge/plugins . Anda dapat menambahkan kode plugin Anda sendiri di direktori ini. Proses pengembangan plugin adalah sebagai berikut:

Buat file Python baru di direktori ModelMerge/src/ModelMerge/plugins , misalnya, myplugin.py . Impor plugin Anda di file ModelMerge/src/ModelMerge/plugins/__init__.py , misalnya, from .myplugin import MyPlugin .
Tambahkan Badan Permintaan Plugin OpenAi Anda yang diformat ke variabel function_call_list di ModelMerge/src/ModelMerge/tools/chatgpt.py . Alat Claude Gemini tidak memerlukan tulisan tambahan, Anda hanya perlu mengisi badan permintaan alat dalam format OpenAI, dan program akan secara otomatis mengonversinya ke format alat Claude/Gemini saat meminta API Gemini atau Claude. function_call_list adalah kamus di mana kunci adalah nama plugin dan nilainya adalah badan permintaan plugin. Harap pastikan nama -nama kunci dalam kamus function_call_list adalah unik dan jangan menduplikasi nama kunci plugin yang ada.
Tambahkan pasangan nilai kunci ke kamus PLUGINS di ModelMerge/src/ModelMerge/plugins/config.py . Kuncinya adalah nama plugin, dan nilainya adalah variabel lingkungan plugin dan nilai defaultnya. Nilai default ini adalah sakelar untuk plugin; Jika nilai default True , maka plugin diaktifkan secara default. Jika nilai default False , maka plugin dinonaktifkan secara default dan perlu diaktifkan secara manual oleh pengguna di perintah /info .
Akhirnya, dalam fungsi ModelMerge/src/ModelMerge/plugins/config.py get_tools_result_async , tambahkan kode untuk doa plugin. Ketika robot perlu memanggil plugin, itu akan memanggil fungsi ini. Anda perlu menambahkan kode doa plugin dalam fungsi ini.