council

مرحباً

المجلس هو منصة مفتوحة المصدر لبناء التطبيقات مع نماذج لغة كبيرة (LLMS) - بنيت في بيثون.

يوفر المجلس واجهة موحدة للعمل مع مزودي LLM المختلفين مثل Openai و Anthropic و Google و Ollama. يجعل الإطار من السهل التبديل بين مقدمي الخدمات مع الحفاظ على واجهات متسقة وقدرات المراقبة.

يهدف المجلس إلى توفير مراقبة الجودة على مستوى المؤسسة ومراقبتها لتطبيقات LLM (المساهمات موضع ترحيب).

الميزات الرئيسية

• ؟ واجهة LLM الموحدة : API متسقة عبر مختلفين مختلفين LLM مع معالجة الأخطاء المدمجة وإعادة محاكاتها
• مرونة المزود : سهلة التبديل بين مقدمي LLM مثل Openai و Anthropic و Google Gemini والموديلات المحلية عبر Groq و Ollama
• مراقبة الاستخدام : إمكانات تتبع ومراقبة الاستهلاك المدمجة
• إدارة التكوين : نظام التكوين المرن لمعلمات LLM مثل درجة الحرارة ، الرموز القصوى وما إلى ذلك.
• معالجة الأخطاء : آليات قوية معالجة الأخطاء وإعادة المحاولة لاستخدام الإنتاج

المفاهيم الرئيسية

واجهة LLM

جوهر المجلس هو واجهة LLM التي توفر طريقة موحدة للتفاعل مع مزودي نموذج اللغة المختلفة. وهذا يشمل:

• خيارات التكوين المرنة
• تنسيق رسائل متسقة عبر مقدمي الخدمات
• آليات إعادة المحاولة المدمجة
• تتبع الاستخدام والمراقبة

إعدادات

يوفر المجلس نظام تكوين قوي يتيح لك:

• تعيين المعلمات الخاصة بالمزود
• تكوين سلوك إعادة المحاولة
• معلمات النموذج التحكم مثل درجة الحرارة ، الرموز القصوى وما إلى ذلك.
• إدارة بيانات اعتماد API

يراقب

تساعد إمكانيات المراقبة المدمجة على تتبع:

• استخدام الرمز المميز والتكاليف
• عدد مكالمات API
• أوقات الاستجابة

Quickstart

تثبيت

تثبيت المجلس بإحدى الطرق المتعددة:

1. (موصى به) التثبيت مع PIP عبر PYPI: pip install council-ai
2. تثبيت مع PIP من GIT Ref: pip install git+https://github.com/chain-ml/council.git@<branch_name>
   • المزيد من الوثائق هنا: https://pip.pypa.io/en/stable/topics/vcs-support/#git
3. تثبيت مع PIP من نسخة محلية:
   • استنساخ هذا المستودع
   • انتقل إلى جذر المشروع المحلي وتثبيته عبر pip install -e git+https://github.com/chain-ml/council.git@<branch_name>.

قم بإلغاء التثبيت مع: pip uninstall council-ai

نسخة مستقرة الحالية

يثبت

قم بإعداد مفاتيح API المطلوبة في ملف .env (على سبيل المثال Openai). الرجوع إلى .env.example كمثال.

لينتر

استخدم make lint للتحقق من الكود الخاص بك.

أسود

استخدم black . لإعادة تنسيق الملفات تلقائيًا.

الوثائق

يمكن العثور على وثائق مفصلة للمجلس في المجلس.

يدعم

يرجى تقديم مشكلة github إذا كنت بحاجة إلى أي مساعدة أو التواصل مع الفريق عبر Discord.

المساهمين

المجلس هو مشروع تحت التطوير النشط. نرحب بجميع المساهمات أو طلبات السحب أو طلبات الميزات أو المشكلات المبلغ عنها.