sanic web

مساعد بيانات النموذج الكبير

؟ مقدمة المشروع

مشروع تطبيق خفيف الوزن وكامل وسهل التطوير الثانوي على نطاق واسع

مشروع تطوير تطبيقات النموذج الكبير واحد مبني على التقنيات مثل Divy و Ollama & VLLM و Sanic و Text2SQL ، باستخدام Vue3 و TypeScript و Vite 5 لإنشاء واجهة مستخدم حديثة. وهو يدعم إجابات البيانات الرسومية بناءً على نماذج كبيرة من خلال Echarts؟ ، ولديه القدرة على معالجة أسئلة وأجوبة جدول ملف CSV. في الوقت نفسه ، قد يكون من المريح الاتصال بأنظمة استرجاع نظام خرقة المصدر المفتوحة من الطرف الثالث ، وما إلى ذلك لدعم مجموعة واسعة من أسئلة وأجوبة المعرفة العامة.

كمشروع لتطوير تطبيقات النموذج الخفيف الوزن ، يدعم Sanic-Web التكرار والتوسع السريع ، مما يساعد مشاريع نموذجية كبيرة على تنفيذها بسرعة.

؟ عرض حي
التجربة عبر الإنترنت على وشك إطلاقها ، لذا ترقبوا!

حل العمارة

؟ خاصية

• مكدس التكنولوجيا الأساسية : DISY + OLLAMA + RAG + LLM + TEXT2SQL
• إطار واجهة المستخدم : Vue 3 + TypeScript + Vite 5
• أسئلة وأجوبة في البيانات : نموذج ECHARTS المتكامل لتحقيق شاشة رسومية رسومية خفيفة الوزن TEXT2SQL
• الجدول سؤال وجواب : يدعم تحميل ملفات تنسيق CSV والمعالجة المسبقة بناءً على ملخص النموذج الكبير وبيانات جدول Text2SQL Q&A
• عام أسئلة وأجوبة عامة : يدعم نموذج البيانات العام Q&A استنادًا إلى إرساء نظام خرقة ثلاثة أحزاب + وضع استرجاع الشبكة العامة
• بنية التطبيق : باعتباره إطارًا لتطوير التطبيقات على نطاق واسع من طراز واحد ، توسع وتطبيق مناسب
• نشر مرن : يدعم تبعيات تطوير التطبيقات على نطاق واسع من مختلف المكونات Docker-Corm مع نقرة واحدة لنشر تكوين الصفر بسرعة

تأثير الجري

متطلبات تكوين البيئة

قبل البدء ، تأكد من أن بيئة التطوير الخاصة بك تلبي متطلبات التكوين الدنيا التالية:

• نظام التشغيل : Windows 10/11 ، سلسلة MacOS M ، CentOS/Ubuntu
• GPU : استخدم Ollama للنشر محليًا ، ويوصى باستخدام بطاقة رسومات NVIDIA أو وضع وحدة المعالجة المركزية.
• الذاكرة : 8 جيجابايت+

؟ الشروط المسبقة

• بيثون 3.8+
• الشعر 1.8.3+
• اختلاف 0.7.1+
• MySQL 8.0+
• node.js 18.12.x+
• PNPM 9.x

نشر نموذج كبير

• الرجوع إلى نشر Ollama
• النموذج: Qwen2.5

تكوين البيئة المختلفة

1. استخدم البرامج النصية للمشروع لتثبيت التبادل افتراضيًا

   • من أجل مراعاة الطلاب الذين يتعرضون لتطبيقات النماذج الكبيرة لأول مرة ، يوفر هذا المشروع تكوين خدمة Divy Zero بنقرة واحدة وأيضًا بدء طريقة الخدمة لتسهيل الجميع لتجربة ذلك بسرعة.
   • اختلاف عنوان الوصول المحلي: http: // localhost حساب: [email protected] كلمة المرور: admin123

    # 拉起内置的dify服务
   cd docker/dify/docker
   docker-compose up -d
   

2. إذا تم تثبيت البيئة المختلفة

   • إذا كان لديك بالفعل بيئة مختلفة ، فيمكنك تعديل الكود المصدري محليًا فقط في هذه الحالة لبدء الخدمة !!!
   • الخطوة الأولى هي استيراد Docker/VINSY/DATA مباشرة في الدليل الجذر للمشروع.
   • والخطوة الثانية هي تعديل مفتاح Database_QA في تعداد الرمز المصدري ( يتم الحصول على مفتاح من قماشية عملية التصفح )
   • الخطوة الثالثة هي تعديل ملف .env في دليل جذر المشروع وتعديل عنوان واجهة خدمة الراحة الفعلية وفقًا للبيئة.
   • الخطوة 4 تعديل تكوين httprequest في قماش مختلف وتعديل عنوان عنوان URL إلى عنوان خدمة Sanic-Web المحدد

3. تثبيت أحدث إصدار من الاختلاف

   • إذا كنت بحاجة إلى تثبيت أحدث إصدار من VIDY ، فيمكنك الرجوع إلى المستند الرسمي الرسمي للوثيقة الرسمية.

تجربة سريعة

• الخطوات المحددة هي كما يلي:
• الخطوة الأولى هي استنساخ الرمز إلى المنطقة المحلية
• والخطوة الثانية هي الرجوع إلى نشر النموذج الكبير أعلاه. أول تثبيت Ollama لنشر نموذج QWEN2.5.
• والخطوة الثالثة هي الرجوع مباشرة إلى تكوين البيئة المتبادلة في تكوين البيئة المذكور أعلاه. في الحالة الأولى ، [استخدام البرامج النصية للمشروع لتثبيت الاختلاف بشكل افتراضي] أمر مهم للغاية !!!
• الخطوات المحددة لبدء الخدمة في الخطوة الرابعة هي كما يلي:

1. استنساخ المستودع

   git clone https://github.com/apconw/sanic-web.git
   

2. ابدأ الخدمة

    # 拉起前后端服务和中间件
   cd docker
   docker compose up -d
   

3. تهيئة البيانات

    cd docker
   ./init.sh
   
   或执行
   
   cd docker
   python3 ../common/initialize_mysql.py
   

4. خدمات الوصول

• الخدمة الأمامية: http: // localhost: 8081

التنمية المحلية

• الخطوة الأولى هي استنساخ الرمز إلى المنطقة المحلية
• والخطوة الثانية هي الرجوع إلى نشر النموذج الكبير أعلاه. أول تثبيت Ollama لنشر نموذج QWEN2.5.
• والخطوة الثالثة هي تكوين بيئة بيئة التنمية المحلية. يرجى الرجوع إلى تكوين البيئة المبين أعلاه. يمكنك اختيار المواقف الأولى أو الثانية بنفسك.
• الخطوة 4: تحرير ملف .env في دليل جذر المشروع ، وتعديل ENV = DEV ، ومعلومات تكوين قاعدة البيانات.
• الخطوة 5: تثبيت تبعيات المشروع الأمامي والخلفي وابدأ الخدمات الأمامية والخلفية. الخطوات المحددة هي كما يلي:

1. تركيب التبعية الخلفية
   • توثيق الشعر المرجعي لتثبيت الشعر الوثائق الرسمية

    # 安装poetry
   pip install poetry
   
   # 安装依赖根目录执行
   # 设置国内仓库
   poetry source add --priority=default mirrors https://pypi.tuna.tsinghua.edu.cn/simple/
   poetry install
   

2. تثبيت قاعدة البيانات

   docker run --name mysql-local 
   -p 13006:3306 
   -v /Users/lihuan/docker-mount/mysql:/var/lib/mysql 
   -e MYSQL_ROOT_PASSWORD=1 
   -d mysql:latest
   

3. تهيئة قاعدة البيانات

• إذا كنت تستخدم البيئة المحلية MySQL ، فأنت بحاجة إلى تعديل الكود المصدري initial_mysql عند تهيئة البيانات وتعديل معلومات اتصال قاعدة البيانات.

   cd docker
  ./init.sh
  
  或执行
  
  cd docker
  python3 ../common/initialize_mysql.py
  

4. تثبيت التبعية في الواجهة الأمامية

   • يعتمد الواجهة الأمامية على مشاريع مفتوحة المصدر. يمكنك الرجوع إلى chatgpt-vue3-Light-MVP لتثبيت الافتتاح الثاني.

    # 安装前端依赖&启动服务
   cd web
   
   #安装依赖
   npm install -g pnpm
   
   pnpm i
   
   #启动服务
   pnpm dev
   

5. بدء خدمة الخلفية

    #启动后端服务
   python serv.py

6. خدمات الوصول

• الخدمة الأمامية: http: // localhost: 2048

؟ بناء مرآة

• قم بتحرير ملف .env في دليل جذر المشروع ، وتعديل ENV = اختبار ، وحفظ.
• تنفيذ أمر الإنشاء:

   # 构建前端镜像 
  make web-build
  
  # 构建后端镜像
  make server-build
  
  

؟ يدعم

إذا أعجبك هذا المشروع أو تجده مفيدًا ، فيمكنك النقر فوق Star في الزاوية اليمنى العليا لدعمه. دعمك هو قوتنا الدافعة للتحسين المستمر ، شكرًا لك! ^_^

إذا وجدت هذا المشروع مفيدًا لك ، أو كنت تحب ما نقوم به ، فيرجى النقر فوق الزر [️ Star] في الزاوية اليمنى العليا لدعمنا! كل نجم لك هو تشجيع كبير لنا وهو أيضًا القوة الدافعة لتحسيننا وتطويرنا المستمر. شكرا لك على دعمك! ^_^

بالإضافة إلى ذلك ، إذا كان لديك أي اقتراحات أو ترغب في المشاركة في تطوير المشروع ، فنحن نرحب أيضًا بالاتصال بنا من خلال الطرق التالية:

• إرسال المشكلة - إذا وجدت أي مشكلات أو لديك اقتراحات للتحسين ، فيمكنك إرسالها في القضايا.
• انضم إلى المناقشة - يمكنك إضافة إلى مجموعة المناقشة الخاصة بنا للتواصل والمناقشة. المشاركة في المناقشة.
• رمز المساهمة - إذا كنت مهتمًا بالمساهمة ، فيمكنك الرجوع إلى دليل المساهمة.

شكرا لك مرة أخرى لدعمك!

مجموعة الاتصالات QA

• مرحبًا بك في مجموعة Exchange Big Model ، مرحبًا بك للانضمام إلى المجموعة لمناقشة الخبرة ومشاركتها
• اتبع الحساب الرسمي أدناه وانقر على قائمة WeChat Group لإضافة WeChat لإحضارك إلى المجموعة

مجموعة WeChat

رخصة

رخصة معهد ماساتشوستس للتكنولوجيا | حقوق الطبع والنشر © 2024-AIADVENTURER