الصفحة الرئيسية>المتعلقة بالبرمجة>شفرة المصدر الأخرى
تنزيل

Android Remote GPT بواسطة Jonathan Germain Copyright 2023 تم إصداره تحت إصدار GNU GPL 3

مقدمة

Androidremotegpt هو واجهة Android لـ chatbots تعمل على الخوادم البعيدة. إنه Miniapp Android/Termux يوفر طريقة مريحة للوصول إلى chatbot أو محرك الاستدلال الآخر الذي يعمل على خادم بعيد عبر SSH. يستهدف مستخدمي نماذج الذكاء الاصطناعي مفتوح المصدر مثل تلك المقدمة عبر GPT4All.

تثبيت

يتطلب AndroidremoteGPT كل من Android و Termux. كما يتطلب Termux: واجهة المستخدم الرسومية. نظرًا لمشكلة مستمرة في توقيع حزمة F-Droid Termux: GUI ، يجب عليك استخدام إصدار GitHub Termux بدلاً من إصدار F-Droid Termux. لا ينبغي أبدًا استخدام إصدارات Termux من Google Play لأنها غير آمنة ولن يتم تصحيحها.

تم تصميم هذا البرنامج لنموذج العميل/الخادم. يتطلب خادمًا يحدث فيه الاستدلال. اعتبارًا من ديسمبر 2023 ، هناك مجموعة متنوعة من النماذج والبنية المفتوحة المصدر المتاحة التي يمكن تشغيلها على Linux. سيتم توفير التعليمات لـ GPT4All ، ولكن يمكن استخدام الواجهة الأمامية مع العديد من الخلفية المختلفة.

التثبيت على جهاز Android

  1. إذا تم تثبيت Termux أو Termux: تم تثبيت API من F-Droid أو Google Play ، فقم بإزالتها تمامًا. سيؤدي وجود أي تطبيق Termux المثبت من مصدر غير جيثوب إلى منع التثبيت من GitHub.
  2. قم بتنزيل وتثبيت Termux من Github. تم اختبار هذا التطبيق مع Termux 118.
  3. تنزيل وتثبيت Termux: واجهة المستخدم الرسومية من Github. تم اختبار هذا التطبيق باستخدام Termux: واجهة المستخدم الرسومية 0.16
  4. قم بتشغيل Termux ودعها تكوين نفسها.
  5. في Termux ، قم بتشغيل "تحديث PKG". إذا فشل هذا ، قم بتشغيل "Termux-Change-Repo" وحاول مرة أخرى.
  6. في Termux ، قم بتشغيل "PKG Install Openssh"
  7. في Termux ، قم بتشغيل "PKG تثبيت Python3"
  8. في Termux ، قم بتشغيل "Pip Install Termuxgui"
  9. نسخ Androidremotegpt.py من أي مكان قمت بحفظه إلى دليل Termux Home
  10. نسخ ".androidgpt" إلى دليل Termux Home
  11. في Termux ، قم بتشغيل "mkdir .ssh ؛ chmod 700 .ssh"
  12. قم بإنشاء مفتاح SSH وقم بإعداد المصادقة المستندة إلى المفاتيح مع خادم SSH الخاص بك
  13. قم بإعداد ملف تكوين SSH. على سبيل المثال ، قد يحتوي الملف في .ssh/config 
 host yourserver
user aiuser
hostname yourserver.com
identityfile ~/.ssh/id
  1. SSH في الخادم للتأكد من أنه يعمل والحصول على مفتاح المضيف.

التثبيت اكتمل. الآن ، يمكنك تشغيل "Python Androidremotegpt.py"

مثال على إعداد SSH Server لـ GPT4ALL

  1. كجذر ، قم بإنشاء مستخدم جديد يدعى Aiuser. قم أيضًا بإنشاء دليل منزلي لهذا المستخدم والتأكد من أن المستخدم لديه ملكية لهذا الدليل. 
 useradd aiuser
mkdir /home/aiuser
chown aiuser.aiuser /home/aiuser
  1. تأكد من تثبيت Python. على Ubuntu ، قم بتشغيل "Apt -y install Python3"
  2. هل جزء الخادم من إعداد المصادقة المستندة إلى المفاتيح.
  3. ضع "*" في جزء كلمة المرور من إدخال /etc /shadow لـ Aiuser
  4. سو إلى Aiuser Run "Su Aiiuser"
  5. تثبيت GPT4ALL. نبدأ بتثبيت GPT4ALL عبر PIP لتثبيت أي تبعيات ، ولكن الإصدار في PIP قديم ، لذلك نقوم بإزالته وتجميع/تثبيت أحدث إصدار. 
 pip install gpt4all
pip uninstall gpt4all
pip install typer

git clone --recurse-submodules https://github.com/nomic-ai/gpt4all

cd gpt4all/gpt4all-backend/
mkdir build
cd build
cmake ..
cmake --build . --config Release
cd ~/gpt4all/gpt4all-bindings/python/
pip install -e .
  1. قم بتنزيل النماذج الخاصة بك. يمكن تنزيل النماذج من gpt4all.io.
  2. ربط النماذج الخاصة بك إلى حيث يمكن لـ GPT4ALL العثور عليها. 
 mkdir ~/.cache
mkdir ~/.cache/gpt4all
cd ~/.cache/gpt4all
ln -s /where/you/store/your/models/* .
  1. واجهة وحدة التحكم لـ GPT4ALL هي ~/GPT4ALL/GPT4ALL-Bindings/CLI/APP.PY
  2. قم بإنشاء برنامج نصي Shell لتشغيل النموذج الخاص بك 
 #!/bin/sh
python3 ~/gpt4all/gpt4all-bindings/cli/app.py repl --model /wherever/you/put/your/model.gguf

اختياريا ، يمكنك تضمين "-T (# من المواضيع)" و "-D GPU" أو "-d nvidia" إذا كان لديك بطاقة فيديو ترغب في استخدامها.

  1. اختبر نص shell
  2. اختياري: إعداد إدخال المفتاح العام في ~/.ssh/election_keys مع `command ="/home/aiuser/your_script.sh

الاستخدام

أولاً ، قم بالوصول إلى صفحة التكوين وتأكد من صحة معلومات الخادم الخاصة بك. مؤشر الأوامر التالي (NCI) وتسلسل بدء التشغيل مهمان بشكل خاص. تسلسل بدء التشغيل هو قائمة بأوامر Shell التي يتم تشغيلها على الخادم من أجل الوصول إلى واجهة الاستدلال. يخبر NCI الواجهة الأمامية عندما ينتهي Chatbot عن إجابته. بالنسبة لـ GPT4ALL الإصدار 1.0.2 ، فإن NCI هو الحرف الفردي "⇢"

ثم ، عد إلى الصفحة الرئيسية وانقر فوق "Connect".

يجب أن تظهر شاشة المقدمة. يمكنك بعد ذلك إدخال استعلامك في المربع في الجزء العلوي من الشاشة وانقر فوق طلب لإرسال الاستعلام. لاحظ أنه يجب عليك النقر فوق "طلب" ؛ الضغط على Enter وحده لن يرسل الاستعلام.

أسئلة

  1. لماذا تعتمد على Termux؟ لماذا لا تستخدم إحدى مكتبات SSH المختلفة المتاحة لنظام Android وجعل هذا التطبيق مستقلًا؟

التواصل الآمن معقد. Openssh هي واحدة من أكثر البرامج التي تم اختبارها بكثافة في هذا المجال ؛ أخشى أن يقوم أي تطبيق SSH الذي تم اختباره بشكل كبير بتقديم الأخطاء المتعلقة بالأمان التي لا أملك عرض النطاق الترددي لإدارتها.

  1. هل يمكنني استخدام هذا مع أنظمة أخرى غير GPT4ALL؟

نعم. إذا كنت تقوم بسحب النماذج من Huggingface وكتابة البرامج النصية الخاصة بك لتشغيل الاستدلال أو استخدام نماذج أخرى غير chatbots ، فإن هذا سيعمل. فقط تأكد من تغيير مؤشر الأمر التالي عند تغيير الأنظمة.

خطط

  1. جميل الواجهة
  2. أضف أيقونة بحيث يمكن إطلاق AndroidRemoteGPT من Android مباشرة دون تحميل Termux الأول
  3. أضف نصًا إلى كلام
  4. أضف خيار الاستدلال على الأجهزة للأشخاص الذين لديهم ذاكرة الوصول العشوائي 8 جيجابايت على أجهزة Android الخاصة بهم
  5. السماح SSH كلمات مرور؟
يوسع
معلومات إضافية
تطبيقات ذات صلة
نوصي لك
أخبار ذات صلة الكل