ModelMerge
1.0.0
ภาษาอังกฤษ | ชาวจีน
ModelMerge เป็นห้องสมุดที่ทรงพลังที่ออกแบบมาเพื่อทำให้ง่ายขึ้นและรวมการใช้แบบจำลองภาษาขนาดใหญ่ที่แตกต่างกันรวมถึง GPT-3.5/4/4/4o, O1-Preview/O1-Mini, Dall-E 3, Claude2/3/3.5, Gemini1.5 Pro/Flash, Vertex AI (Claude, Gemini) ห้องสมุดรองรับการเรียกใช้ฟังก์ชั่นรูปแบบ GPT และมีคุณสมบัติการสรุปการค้นหาของ Google และ URL ในตัวช่วยเพิ่มความยืดหยุ่นและความยืดหยุ่นของโมเดลอย่างมาก
ต่อไปนี้เป็นคำแนะนำเกี่ยวกับวิธีการรวมและใช้ ModelMerge อย่างรวดเร็วในโครงการ Python ของคุณ
ก่อนอื่นคุณต้องติดตั้ง ModelMerge สามารถติดตั้งได้โดยตรงผ่าน PIP:
pip install modelmergeต่อไปนี้เป็นตัวอย่างง่ายๆที่สาธิตวิธีการใช้ ModelMerge เพื่อขอโมเดล GPT-4 และจัดการข้อมูลการสตรีมที่ส่งคืน:
from ModelMerge import chatgpt
# Initialize the model, set the API key and the selected model
bot = chatgpt ( api_key = "{YOUR_API_KEY}" , engine = "gpt-4o" )
# Get response
result = bot . ask ( "python list use" )
# Send request and get streaming response in real-time
for text in bot . ask_stream ( "python list use" ):
print ( text , end = "" )
# Disable all plugins
bot = chatgpt ( api_key = "{YOUR_API_KEY}" , engine = "gpt-4o" , use_plugins = False )ต่อไปนี้เป็นรายการตัวแปรสภาพแวดล้อมที่เกี่ยวข้องกับการตั้งค่าปลั๊กอิน:
| ชื่อตัวแปร | คำอธิบาย | ที่จำเป็น? |
|---|---|---|
| ค้นหา | เปิดใช้งานปลั๊กอินการค้นหา ค่าเริ่มต้นเป็น True | เลขที่ |
| url | เปิดใช้งานปลั๊กอินสรุป URL ค่าเริ่มต้นเป็น True | เลขที่ |
| arxiv | ไม่ว่าจะเปิดใช้งานปลั๊กอินบทคัดย่อกระดาษ arxiv หรือไม่ ค่าเริ่มต้นเป็น False | เลขที่ |
| รหัส | ไม่ว่าจะเปิดใช้งานปลั๊กอินโค้ดล่าม ค่าเริ่มต้นเป็น False | เลขที่ |
| ภาพ | ไม่ว่าจะเปิดใช้งานปลั๊กอินการสร้างภาพ ค่าเริ่มต้นเป็น False | เลขที่ |
| วันที่ | ไม่ว่าจะเปิดใช้งานปลั๊กอินวันที่ ค่าเริ่มต้นเป็น False | เลขที่ |
โครงการนี้รองรับปลั๊กอินหลายตัวรวมถึง: Duckduckgo และ Google Search, URL สรุป, สรุปกระดาษ Arxiv, การวาด Dalle-3 และล่ามโค้ด ฯลฯ คุณสามารถเปิดหรือปิดใช้งานปลั๊กอินเหล่านี้ได้โดยการตั้งค่าตัวแปรสภาพแวดล้อม
รหัสทั้งหมดที่เกี่ยวข้องกับปลั๊กอินอยู่ใน Git Submodule ModelMerge ภายในที่เก็บนี้ ModelMerge เป็นพื้นที่เก็บข้อมูลอิสระที่ฉันพัฒนาขึ้นเพื่อจัดการคำขอ API การจัดการประวัติการสนทนาและฟังก์ชั่นอื่น ๆ เมื่อคุณโคลนพื้นที่เก็บข้อมูลนี้โดยใช้พารามิเตอร์ --recurse-submodules ด้วย git clone, ModelMerge จะถูกดาวน์โหลดโดยอัตโนมัติไปยังเครื่องในเครื่องของคุณ รหัสปลั๊กอินทั้งหมดในที่เก็บนี้อยู่ที่ Path ModelMerge/src/ModelMerge/plugins คุณสามารถเพิ่มรหัสปลั๊กอินของคุณเองในไดเรกทอรีนี้ กระบวนการพัฒนาปลั๊กอินมีดังนี้:
สร้างไฟล์ Python ใหม่ในไดเรกทอรี ModelMerge/src/ModelMerge/plugins ตัวอย่างเช่น myplugin.py นำเข้าปลั๊กอินของคุณใน ModelMerge/src/ModelMerge/plugins/__init__.py ไฟล์เช่น from .myplugin import MyPlugin
เพิ่มปลั๊กอิน OpenAi Tool ที่มีการจัดรูปแบบตัวแปรตัวแปร function_call_list ใน ModelMerge/src/ModelMerge/tools/chatgpt.py เครื่องมือ Claude Gemini ไม่จำเป็นต้องมีการเขียนเพิ่มเติมคุณจะต้องกรอกข้อมูลในการร้องขอเครื่องมือในรูปแบบ OpenAI และโปรแกรมจะแปลงเป็นรูปแบบเครื่องมือ Claude/Gemini โดยอัตโนมัติเมื่อขอ Gemini หรือ Claude API function_call_list เป็นพจนานุกรมที่คีย์คือชื่อของปลั๊กอินและค่าคือเนื้อหาคำขอของปลั๊กอิน โปรดตรวจสอบให้แน่ใจว่าชื่อคีย์ในพจนานุกรม function_call_list นั้นไม่ซ้ำกันและไม่ซ้ำกันชื่อคีย์ปลั๊กอินที่มีอยู่
เพิ่มคู่คีย์-ค่าลงในพจนานุกรม PLUGINS ใน ModelMerge/src/ModelMerge/plugins/config.py คีย์คือชื่อของปลั๊กอินและค่าคือตัวแปรสภาพแวดล้อมของปลั๊กอินและค่าเริ่มต้น ค่าเริ่มต้นนี้คือสวิตช์สำหรับปลั๊กอิน หากค่าเริ่มต้นเป็น True ปลั๊กอินจะถูกเปิดใช้งานโดยค่าเริ่มต้น หากค่าเริ่มต้นเป็น False ปลั๊กอินจะถูกปิดใช้งานโดยค่าเริ่มต้นและจำเป็นต้องเปิดใช้งานโดยผู้ใช้ในคำสั่ง /info ด้วยตนเอง
ในที่สุดใน ModelMerge/src/ModelMerge/plugins/config.py ฟังก์ชั่น get_tools_result_async เพิ่มรหัสสำหรับการเรียกใช้ปลั๊กอิน เมื่อหุ่นยนต์ต้องการเรียกปลั๊กอินมันจะเรียกใช้ฟังก์ชันนี้ คุณต้องเพิ่มรหัสการเรียกใช้ปลั๊กอินภายในฟังก์ชั่นนี้
หลังจากทำตามขั้นตอนข้างต้นแล้วปลั๊กอินของคุณจะพร้อมใช้งาน -
โครงการนี้ได้รับใบอนุญาตภายใต้ใบอนุญาต MIT
ยินดีต้อนรับสู่การปรับปรุงการปรับปรุงโดยการส่งปัญหาหรือดึงคำขอผ่าน GitHub
หากคุณมีคำถามหรือต้องการความช่วยเหลือโปรดติดต่อเราที่ [email protected]
