OpenPipe

ملاحظة: لقد توقفنا مؤقتًا عن التطوير على الإصدار المفتوح المصدر من OpenPipe لدمج بعض رمز الطرف الثالث. نأمل أن نجعل الأجزاء غير المبرحة من المستودع مفتوحة مرة أخرى تحت نموذج أساسي مفتوح بمجرد أن يكون لدينا النطاق الترددي للقيام بذلك!

OpenPipe

منصة الضبط المفتوح ومصادر الاستضافة.

Demo - تشغيل محليًا - مستندات

استخدم LLMs قوية ولكن باهظة الثمن لضبط النماذج الأصغر والأرخص مناسبة لاحتياجاتك الدقيقة. الاستعلام عن طلباتك السابقة وتقييم النماذج ضد بعضها البعض. التبديل بين Openai والنماذج المضبوطة مع سطر واحد من التعليمات البرمجية.

سمات

• سهلة التكامل مع SDK Openai في كل من Python و TypeScript.
  • بيثون SDK
  • TypeScript SDK
• Openai المتوافق مع الدردشة الانتهاء من نقطة النهاية.
• نماذج GPT 3.5 و MISTRAL و LLAMA 2. استضيف على المنصات أو قم بتنزيل الأوزان.
  • إخراج النموذج متوافق مع Openai.
  • يتطلب التبديل من GPT 4 إلى نموذج MISTRAL الذي تم ضبطه فقط تغيير اسم النموذج.
• سجلات الاستعلام باستخدام مرشحات قوية مدمجة.
• استيراد مجموعات البيانات في ملفات JSONL المتوافقة مع OpenAI.
• تقليم قطع كبيرة من النص المكررة مثل مطالبات النظام.
• قارن دقة الإخراج مقابل النماذج الأساسية مثل GPT-3.5 توربو.

نماذج قاعدة مدعومة

• MISTRALAI/MIXTRAL-8X7B-instruct-V0.1
• OpenPipe/Mistral-FT-PTINTIMISTED-1227
• meta-llama/llama-3-8b
• meta-llama/llama-3-70b
• GPT-3.5-TURBO-0613
• GPT-3.5-TURBO-1106
• GPT-3.5-TURBO-0125

الوثائق

• انظر المستندات

الجري محليا

1. تثبيت postgresql.
2. تثبيت Nodejs 20 (من المحتمل جدًا أن تعمل الإصدارات السابقة ولكن لا يتم اختبارها).
3. تثبيت pnpm : npm i -g pnpm
4. استنساخ هذا المستودع: git clone https://github.com/openpipe/openpipe
5. تثبيت التبعيات: cd openpipe && pnpm install
6. قم بإنشاء ملف .env ( cd app && cp .env.example .env ) وأدخل OPENAI_API_KEY .
7. إذا قمت للتو بتثبيت Postgres وترغب في استخدام DATABASE_URL قم بتشغيل الأوامر التالية:

psql postgres
CREATE ROLE postgres WITH LOGIN PASSWORD ' postgres ' ;
ALTER ROLE postgres SUPERUSER ;

8. قم بتحديث DATABASE_URL إذا لزم الأمر للإشارة إلى مثيل postgres الخاص بك وتشغيل pnpm prisma migrate dev في دليل app لإنشاء قاعدة البيانات.
9. قم بإنشاء تطبيق github oauth ، وقم بتعيين عنوان URL للاتصال على <your local instance>/api/auth/callback/github ، على سبيل المثال http://localhost:3000/api/auth/callback/github .
10. قم بتحديث قيم GITHUB_CLIENT_ID و GITHUB_CLIENT_SECRET من تطبيق github oauth (ملاحظة: العلاقات العامة لجعل المصادقة اختيارية عند التشغيل محليًا سيكون مساهمة كبيرة!).
11. لبدء تشغيل التطبيق pnpm dev في دليل app .
12. انتقل إلى http: // localhost: 3000

باستخدام محليا

import os
from openpipe import OpenAI

client = OpenAI(
    api_key= " Your API Key " ,
    openpipe={
        " api_key " : " Your OpenPipe API Key " ,
        " base_url " : " http://localhost:3000/api/v1 " , # Local OpenPipe instance
    }
)

completion = client.chat.completions.create(
    model= " gpt-3.5-turbo " ,
    messages=[{ " role " : " system " , " content " : " count to 10 " }],
    openpipe={
        " tags " : { " prompt_id " : " counting " },
        " log_request " : True
    },
)

الاختبار محليا

1. انسخ ملف .env إلى .env.test .
2. قم بتحديث DATABASE_URL للحصول على اسم قاعدة بيانات مختلفة عن اسم التطوير الخاص بك
3. تشغيل DATABASE_URL=[your new datatase url] pnpm prisma migrate dev --skip-seed --skip-generate
4. تشغيل pnpm test