الصفحة الرئيسية>المتعلقة بالبرمجة>شفرة المصدر الأخرى
تنزيل

راج GPT

قم بتشغيل نظام خدمة عملاء ذكي بسرعة مع Flask و LLM و RAG ، بما في ذلك الواجهة الأمامية ، والخلفية ، و CONSOLE.
عرض حي

محتويات

  • سمات
  • بنية استرجاع عبر الإنترنت
  • نشر خدمة Rag-GPT
    • الخطوة 1: تنزيل رمز المستودع
    • الخطوة 2: تكوين متغيرات .env
      • باستخدام Openai كقاعدة LLM
      • باستخدام zhipuai كقاعدة LLM
      • باستخدام Deepseek كقاعدة LLM
      • باستخدام Moonshot كقاعدة LLM
      • باستخدام LLMs المحلية
    • الخطوة 3: نشر rag-gpt
      • نشر RAG-GPT باستخدام Docker
      • نشر RAG-GPT من رمز المصدر
        • قم بإعداد بيئة تشغيل Python
          • إنشاء وتفعيل بيئة افتراضية
          • تثبيت التبعيات مع PIP
        • إنشاء قاعدة بيانات SQLite
        • ابدأ الخدمة
  • تكوين وحدة التحكم في المسؤول
    • تسجيل الدخول إلى وحدة التحكم في المسؤول
    • استيراد بياناتك
      • استيراد مواقع الويب
      • استيراد عناوين URL المعزولة
      • استيراد الملفات المحلية
    • اختبر chatbot
    • التضمين على موقع الويب الخاص بك
    • لوحة القيادة للطلب التاريخي للمستخدم
  • الواجهة الأمامية من وحدة التحكم في المشرف و chatbot
    • وحدة التحكم
    • chatbot

سمات

  • دعم LLM المدمج : دعم LLMs المستندة إلى السحابة و LLMs المحلية.
  • الإعداد السريع : يتيح نشر روبوتات خدمة المحادثة على مستوى الإنتاج في غضون خمس دقائق فقط.
  • تكامل قاعدة المعرفة المتنوعة : يدعم أنواعًا متعددة من قواعد المعرفة ، بما في ذلك مواقع الويب وعناوين URL المعزولة والملفات المحلية.
  • التكوين المرن : يوفر الواجهة الخلفية سهلة الاستخدام مجهزة بإعدادات قابلة للتخصيص للإدارة المبسطة.
  • واجهة المستخدم الجذابة : تتميز بواجهة مستخدم قابلة للتخصيص وجذابة بصريًا.

بنية استرجاع عبر الإنترنت

نشر خدمة Rag-GPT

الخطوة 1: تنزيل رمز المستودع

استنساخ المستودع: 

git clone https://github.com/open-kf/rag-gpt.git && cd rag-gpt

الخطوة 2: تكوين متغيرات .env

قبل بدء خدمة Rag-GPT ، تحتاج إلى تعديل التكوينات ذات الصلة للبرنامج لتهيئة بشكل صحيح.

باستخدام Openai كقاعدة LLM 

cp env_of_openai .env

المتغيرات في .env 

LLM_NAME= " OpenAI "
OPENAI_API_KEY= " xxxx "
GPT_MODEL_NAME= " gpt-4o-mini "
MIN_RELEVANCE_SCORE=0.4
BOT_TOPIC= " xxxx "
URL_PREFIX= " http://127.0.0.1:7000/ "
USE_PREPROCESS_QUERY=1
USE_RERANKING=1
USE_DEBUG=0
USE_LLAMA_PARSE=0
LLAMA_CLOUD_API_KEY= " xxxx "
USE_GPT4O=0
  • لا تعدل LLM_NAME
  • تعديل OPENAI_API_KEY مع المفتاح الخاص بك. يرجى تسجيل الدخول إلى موقع Openai لمشاهدة مفتاح API الخاص بك.
  • قم بتحديث إعداد GPT_MODEL_NAME ، واستبدال gpt-4o-mini باستخدام gpt-4-turbo أو gpt-4o إذا كنت تريد استخدام GPT-4.
  • تغيير BOT_TOPIC لتعكس اسم الروبوت الخاص بك. هذا مهم للغاية ، حيث سيتم استخدامه في Prompt Construction . يرجى محاولة استخدام كلمة موجزة وواضحة ، مثل OpenIM ، LangChain .
  • اضبط URL_PREFIX لمطابقة مجال موقع الويب الخاص بك. هذا أساسًا لإنشاء روابط URL التي يمكن الوصول إليها للملفات المحلية التي تم تحميلها. مثل http://127.0.0.1:7000/web/download_dir/2024_05_20/d3a01d6a-90cd-4c2a-b926-9cda12466caf/openssl-cookbook.pdf .
  • اضبط USE_LLAMA_PARSE إلى 1 إذا كنت ترغب في استخدام LlamaParse .
  • تعديل LLAMA_CLOUD_API_KEY مع المفتاح الخاص بك. يرجى تسجيل الدخول إلى موقع LlamaCloud لموقع مفتاح API الخاص بك.
  • اضبط USE_GPT4O إلى 1 إذا كنت ترغب في استخدام وضع GPT-4o .
  • لمزيد من المعلومات حول معاني واستخدامات الثوابت ، يمكنك التحقق من server/constant .

باستخدام zhipuai كقاعدة LLM

إذا لم تتمكن من استخدام خدمات API الخاصة بـ Openai ، ففكر في استخدام Zhipuai كبديل. 

cp env_of_zhipuai .env

المتغيرات في .env 

LLM_NAME= " ZhipuAI "
ZHIPUAI_API_KEY= " xxxx "
GLM_MODEL_NAME= " glm-4-air "
MIN_RELEVANCE_SCORE=0.4
BOT_TOPIC= " xxxx "
URL_PREFIX= " http://127.0.0.1:7000/ "
USE_PREPROCESS_QUERY=1
USE_RERANKING=1
USE_DEBUG=0
USE_LLAMA_PARSE=0
LLAMA_CLOUD_API_KEY= " xxxx "
  • لا تعدل LLM_NAME
  • تعديل ZHIPUAI_API_KEY مع المفتاح الخاص بك. يرجى تسجيل الدخول إلى موقع zhipuai لعرض مفتاح API الخاص بك.
  • قم بتحديث إعداد GLM_MODEL_NAME ، قائمة النماذج هي ['glm-3-turbo', 'glm-4', 'glm-4-0520', 'glm-4-air', 'glm-4-airx', 'glm-4-flash'] .
  • تغيير BOT_TOPIC لتعكس اسم الروبوت الخاص بك. هذا مهم للغاية ، حيث سيتم استخدامه في Prompt Construction . يرجى محاولة استخدام كلمة موجزة وواضحة ، مثل OpenIM ، LangChain .
  • اضبط URL_PREFIX لمطابقة مجال موقع الويب الخاص بك. هذا أساسًا لإنشاء روابط URL التي يمكن الوصول إليها للملفات المحلية التي تم تحميلها. مثل http://127.0.0.1:7000/web/download_dir/2024_05_20/d3a01d6a-90cd-4c2a-b926-9cda12466caf/openssl-cookbook.pdf .
  • اضبط USE_LLAMA_PARSE إلى 1 إذا كنت ترغب في استخدام LlamaParse .
  • تعديل LLAMA_CLOUD_API_KEY مع المفتاح الخاص بك. يرجى تسجيل الدخول إلى موقع LlamaCloud لموقع مفتاح API الخاص بك.
  • لمزيد من المعلومات حول معاني واستخدامات الثوابت ، يمكنك التحقق من server/constant .

باستخدام Deepseek كقاعدة LLM

إذا لم تتمكن من استخدام خدمات API الخاصة بـ Openai ، ففكر في استخدام Deepseek كبديل.

ملحوظة

لا توفر Deepseek Embedding API ، لذلك نستخدم هنا Embedding API Zhipuai. 

cp env_of_deepseek .env

المتغيرات في .env 

LLM_NAME= " DeepSeek "
ZHIPUAI_API_KEY= " xxxx "
DEEPSEEK_API_KEY= " xxxx "
DEEPSEEK_MODEL_NAME= " deepseek-chat "
MIN_RELEVANCE_SCORE=0.4
BOT_TOPIC= " xxxx "
URL_PREFIX= " http://127.0.0.1:7000/ "
USE_PREPROCESS_QUERY=1
USE_RERANKING=1
USE_DEBUG=0
USE_LLAMA_PARSE=0
LLAMA_CLOUD_API_KEY= " xxxx "
  • لا تعدل LLM_NAME
  • تعديل ZHIPUAI_API_KEY مع المفتاح الخاص بك. يرجى تسجيل الدخول إلى موقع zhipuai لعرض مفتاح API الخاص بك.
  • تعديل DEEPKSEEK_API_KEY مع المفتاح الخاص بك. يرجى تسجيل الدخول إلى موقع Deepseek لموقع API الخاص بك.
  • قم بتحديث إعداد DEEPSEEK_MODEL_NAME إذا كنت تريد استخدام نماذج أخرى من DeepSeek.
  • تغيير BOT_TOPIC لتعكس اسم الروبوت الخاص بك. هذا مهم للغاية ، حيث سيتم استخدامه في Prompt Construction . يرجى محاولة استخدام كلمة موجزة وواضحة ، مثل OpenIM ، LangChain .
  • اضبط URL_PREFIX لمطابقة مجال موقع الويب الخاص بك. هذا أساسًا لإنشاء روابط URL التي يمكن الوصول إليها للملفات المحلية التي تم تحميلها. مثل http://127.0.0.1:7000/web/download_dir/2024_05_20/d3a01d6a-90cd-4c2a-b926-9cda12466caf/openssl-cookbook.pdf .
  • اضبط USE_LLAMA_PARSE إلى 1 إذا كنت ترغب في استخدام LlamaParse .
  • تعديل LLAMA_CLOUD_API_KEY مع المفتاح الخاص بك. يرجى تسجيل الدخول إلى موقع LlamaCloud لموقع مفتاح API الخاص بك.
  • لمزيد من المعلومات حول معاني واستخدامات الثوابت ، يمكنك التحقق من server/constant .

باستخدام Moonshot كقاعدة LLM

إذا لم تتمكن من استخدام خدمات API الخاصة بـ Openai ، ففكر في استخدام Moonshot كبديل.

ملحوظة

لا يوفر Moonshot Embedding API ، لذلك نستخدم هنا Embedding API Zhipuai. 

cp env_of_moonshot .env

المتغيرات في .env 

LLM_NAME= " Moonshot "
ZHIPUAI_API_KEY= " xxxx "
MOONSHOT_API_KEY= " xxxx "
MOONSHOT_MODEL_NAME= " moonshot-v1-8k "
MIN_RELEVANCE_SCORE=0.4
BOT_TOPIC= " xxxx "
URL_PREFIX= " http://127.0.0.1:7000/ "
USE_PREPROCESS_QUERY=1
USE_RERANKING=1
USE_DEBUG=0
USE_LLAMA_PARSE=0
LLAMA_CLOUD_API_KEY= " xxxx "
  • لا تعدل LLM_NAME
  • تعديل ZHIPUAI_API_KEY مع المفتاح الخاص بك. يرجى تسجيل الدخول إلى موقع zhipuai لعرض مفتاح API الخاص بك.
  • قم بتعديل MOONSHOT_API_KEY مع المفتاح الخاص بك. يرجى تسجيل الدخول إلى موقع Moonshot على الويب لعرض مفتاح API الخاص بك.
  • قم بتحديث إعداد MOONSHOT_MODEL_NAME إذا كنت تريد استخدام نماذج أخرى من Moonshot.
  • تغيير BOT_TOPIC لتعكس اسم الروبوت الخاص بك. هذا مهم للغاية ، حيث سيتم استخدامه في Prompt Construction . يرجى محاولة استخدام كلمة موجزة وواضحة ، مثل OpenIM ، LangChain .
  • اضبط URL_PREFIX لمطابقة مجال موقع الويب الخاص بك. هذا أساسًا لإنشاء روابط URL التي يمكن الوصول إليها للملفات المحلية التي تم تحميلها. مثل http://127.0.0.1:7000/web/download_dir/2024_05_20/d3a01d6a-90cd-4c2a-b926-9cda12466caf/openssl-cookbook.pdf .
  • اضبط USE_LLAMA_PARSE إلى 1 إذا كنت ترغب في استخدام LlamaParse .
  • تعديل LLAMA_CLOUD_API_KEY مع المفتاح الخاص بك. يرجى تسجيل الدخول إلى موقع LlamaCloud لموقع مفتاح API الخاص بك.
  • لمزيد من المعلومات حول معاني واستخدامات الثوابت ، يمكنك التحقق من server/constant .

باستخدام LLMs المحلية

إذا كانت قاعدة المعرفة الخاصة بك تتضمن معلومات حساسة وتفضل عدم استخدام LLMs المستندة إلى مجموعة النظراء ، ففكر في استخدام Ollama لنشر نماذج كبيرة محليًا.

ملحوظة

أولاً ، ارجع إلى Ollama لتثبيت Ollama ، وتنزيل نموذج التضمين mxbai-embed-large ونموذج LLM مثل llama3 . 

cp env_of_ollama .env

المتغيرات في .env 

LLM_NAME= " Ollama "
OLLAMA_MODEL_NAME= " xxxx "
OLLAMA_BASE_URL= " http://127.0.0.1:11434 "
MIN_RELEVANCE_SCORE=0.4
BOT_TOPIC= " xxxx "
URL_PREFIX= " http://127.0.0.1:7000/ "
USE_PREPROCESS_QUERY=1
USE_RERANKING=1
USE_DEBUG=0
USE_LLAMA_PARSE=0
LLAMA_CLOUD_API_KEY= " xxxx "
  • لا تعدل LLM_NAME
  • قم بتحديث إعداد OLLAMA_MODEL_NAME ، حدد نموذجًا مناسبًا من مكتبة Ollama.
  • إذا قمت بتغيير IP:PORT عند بدء تشغيل Ollama ، فيرجى تحديث OLLAMA_BASE_URL . يرجى إيلاء اهتمام خاص ، فقط أدخل IP (المجال) والمنفذ هنا ، دون إلحاق URI.
  • تغيير BOT_TOPIC لتعكس اسم الروبوت الخاص بك. هذا مهم للغاية ، حيث سيتم استخدامه في Prompt Construction . يرجى محاولة استخدام كلمة موجزة وواضحة ، مثل OpenIM ، LangChain .
  • اضبط URL_PREFIX لمطابقة مجال موقع الويب الخاص بك. هذا أساسًا لإنشاء روابط URL التي يمكن الوصول إليها للملفات المحلية التي تم تحميلها. مثل http://127.0.0.1:7000/web/download_dir/2024_05_20/d3a01d6a-90cd-4c2a-b926-9cda12466caf/openssl-cookbook.pdf .
  • اضبط USE_LLAMA_PARSE إلى 1 إذا كنت ترغب في استخدام LlamaParse .
  • تعديل LLAMA_CLOUD_API_KEY مع المفتاح الخاص بك. يرجى تسجيل الدخول إلى موقع LlamaCloud لموقع مفتاح API الخاص بك.
  • لمزيد من المعلومات حول معاني واستخدامات الثوابت ، يمكنك التحقق من server/constant .

الخطوة 3: نشر rag-gpt

نشر RAG-GPT باستخدام Docker

ملحوظة

عند الانتشار مع Docker ، انتبه بشكل خاص إلى مضيف url_prefix في ملف .env . في حالة استخدام Ollama ، إيلاء اهتمام خاص لمضيف Ollama_base_url في ملف .env . إنهم بحاجة إلى استخدام عنوان IP الفعلي للجهاز المضيف. 

docker-compose up --build

نشر RAG-GPT من رمز المصدر

ملحوظة

يرجى استخدام Python الإصدار 3.10.x أو أعلى.

قم بإعداد بيئة تشغيل Python

يوصى بتثبيت التبعيات ذات الصلة بايثون في بيئة افتراضية بيثون لتجنب التأثير على تبعيات المشاريع الأخرى.

إنشاء وتفعيل بيئة افتراضية

إذا لم تقم بإنشاء بيئة افتراضية بعد ، فيمكنك إنشاء واحدة مع الأمر التالي: 

python3 -m venv myenv

بعد الخلق ، قم بتفعيل البيئة الافتراضية: 

 source myenv/bin/activate
تثبيت التبعيات مع PIP

بمجرد تنشيط البيئة الافتراضية ، يمكنك استخدام pip لتثبيت التبعيات المطلوبة. 

pip install -r requirements.txt
إنشاء قاعدة بيانات SQLite

تستخدم خدمة Rag-GPT SQLite كـ DB التخزين. قبل بدء خدمة Rag-GPT ، تحتاج إلى تنفيذ الأمر التالي لتهيئة قاعدة البيانات وإضافة التكوين الافتراضي لوحدة التحكم في المسؤول. 

python3 create_sqlite_db.py
ابدأ الخدمة

إذا كنت قد أكملت الخطوات أعلاه ، فيمكنك محاولة بدء خدمة Rag-GPT من خلال تنفيذ الأمر التالي.

  • ابدأ عملية واحدة: 
python3 rag_gpt_app.py
  • بدء عمليات متعددة: 
sh start.sh

ملحوظة

  • منفذ الخدمة لـ RAG-GPT هو 7000 . أثناء الاختبار الأول ، يرجى محاولة عدم تغيير المنفذ حتى تتمكن من تجربة عملية المنتج بأكملها بسرعة.
  • نوصي ببدء خدمة Rag-GPT باستخدام start.sh في وضع متعدد العمليات لتجربة مستخدم أكثر سلاسة.

تكوين وحدة التحكم في المسؤول

تسجيل الدخول إلى وحدة التحكم في المسؤول

قم بالوصول إلى وحدة التحكم من خلال الرابط http://your-server-ip:7000/open-kf-admin/ للوصول إلى صفحة تسجيل الدخول. اسم المستخدم وكلمة المرور الافتراضية هما admin و open_kf_AIGC@2024 (يمكن التحقق منه في create_sqlite_db.py ).

بعد تسجيل الدخول بنجاح ، ستتمكن من رؤية صفحة التكوين لوحدة التحكم في المسؤول.

في الصفحة http://your-server-ip:7000/open-kf-admin/#/ ، يمكنك تعيين التكوينات التالية:

  • اختر قاعدة LLM ، حاليًا فقط يتوفر خيار gpt-3.5-turbo ، والذي سيتم توسيعه تدريجياً.
  • الرسائل الأولية
  • الرسائل المقترحة
  • رسالة نائبة
  • صورة الملف الشخصي (تحميل صورة)
  • اسم العرض
  • أيقونة الدردشة (تحميل صورة)

استيراد بياناتك

استيراد مواقع الويب

بعد إرسال عنوان URL لموقع الويب ، بمجرد استرداد الخادم قائمة جميع عناوين URL لصفحات الويب عبر الزحف ، يمكنك تحديد عنوان URL لصفحة الويب التي تحتاجها كقاعدة المعرفة (كلها محددة افتراضيًا). يتم Recorded Status الأولية.

يمكنك تحديث الصفحة http://your-server-ip:7000/open-kf-admin/#/source في متصفحك للحصول على تقدم معالجة عنوان URL لصفحة الويب. بعد زحف محتوى عنوان URL لصفحة الويب ، ويتم الانتهاء من حساب التضمين وتخزينه ، يمكنك رؤية Size المقابل في وحدة التحكم في المسؤول ، وسيتم تحديث Status أيضًا إلى Trained .

يكشف النقر فوق عنوان URL الخاص بصفحة الويب عن عدد الصفحات الفرعية التي تنقسمها صفحة الويب إليها ، وحجم النص لكل صفحة فرعية.

يتيح لك النقر على صفحة فرعية عرض محتوى النص الكامل. سيكون هذا مفيدًا للغاية للتحقق من التأثيرات أثناء عملية اختبار التجربة.

استيراد عناوين URL المعزولة

جمع عناوين URL لصفحات الويب المطلوبة. يمكنك إرسال ما يصل إلى 10 عناوين URL لصفحة الويب في وقت واحد ، ويمكن أن تكون هذه الصفحات من مجالات مختلفة.

استيراد الملفات المحلية

تحميل الملفات المحلية المطلوبة. يمكنك تحميل ما يصل إلى 10 ملفات في وقت واحد ، ولا يمكن أن يتجاوز كل ملف 30MB . يتم دعم أنواع الملفات التالية حاليًا: [".txt", ".md", ".pdf", ".epub", ".mobi", ".html", ".docx", ".pptx", ".xlsx", ".csv"] .

اختبر chatbot

بعد استيراد بيانات موقع الويب في وحدة التحكم في المسؤول ، يمكنك تجربة خدمة chatbot من خلال الرابط http://your-server-ip:7000/open-kf-chatbot/ .

التضمين على موقع الويب الخاص بك

من خلال ارتباط Console Console http://your-server-ip:7000/open-kf-admin/#/embed ، يمكنك رؤية البرنامج التعليمي التفصيلي لتكوين iFrame في موقع الويب الخاص بك.


Openim chatbot

لوحة القيادة للطلب التاريخي للمستخدم

من خلال ارتباط Console Admin http://your-server-ip:7000/open-kf-admin/#/dashboard ، يمكنك عرض سجلات الطلبات التاريخية لجميع المستخدمين ضمن نطاق زمني محدد.

الواجهة الأمامية من وحدة التحكم في المشرف و chatbot

تدمج خدمة Rag-GPT وحدتي الواجهة الأمامية ، ومعلومات رمز المصدر الخاصة بهم هي كما يلي:

وحدة التحكم

كود مستودع

واجهة المسؤول المستند إلى الويب البديهية لخدمة ضمان الجودة الذكية ، توفر تحكمًا شاملاً في المحتوى والتكوين وتفاعلات المستخدم. يتيح الإدارة دون عناء لقاعدة المعرفة ، والمراقبة في الوقت الفعلي للاستعلامات والتعليقات ، والتحسين المستمر بناءً على رؤى المستخدم.

chatbot

كود مستودع

واجهة HTML5 لخدمة ضمان الجودة الذكية المصممة لسهولة التكامل في مواقع الويب عبر IFRAME ، مما يوفر للمستخدمين الوصول المباشر إلى قاعدة المعرفة المصممة خصيصًا دون مغادرة الموقع ، وتعزيز الوظائف ودقة الاستعلام الفورية.

يوسع
معلومات إضافية
تطبيقات ذات صلة
نوصي لك
أخبار ذات صلة الكل