الصفحة الرئيسية>المتعلقة بالبرمجة>كود الذكاء الاصطناعي
تنزيل

nanogpt (روبية)

هذا هو تطبيق الصدأ لنموذج nanogpt من Video yt Andrej Karpathy: https://www.youtube.com/watch؟v=KCC8FMEB1NY&t=12S

مع بعض المساعدة من: https://github.com/laurentmazare/tch-rs/blob/main/mamples/min-gpt/main.rs و https://github.com/karpathy/nanogpt/blob/master/model.py.

يثبت

إنشاء بيئة micromamba (أو كوندا): 

micromamba env create -f environment.yml

تنشيط البيئة: 

micromamba activate nanogptrs
 export LD_LIBRARY_PATH=/opt/conda/lib/python3.10/site-packages/torch/lib/: $LD_LIBRARY_PATH

Run - توليد من GPT -2 pretrained 

./data/download.sh
./models/download.sh gpt2
cargo run --release -- --device=cuda --restore-from models/gpt2/model.safetensors generate --max-len 32 --prompt " Once upon a time " gpt2

Run - Train Nano -GPT 

cargo run --release -- --device=cuda train --n-epochs=3 --final-checkpoint-path=models/nanogptrs.safetensors nano-gpt

يجب في نهاية المطاف (~ 5H على Titan XP) إنتاج شيء مثل هذا: 

 DUCHESS OF YORK:
Here comes already.

EXTOLY:
O, by the means of your crown?

KING HENRY VI:
Brother, that my lord, change thou givest queen.

KING RICHARD II:
Mine honour, because I am advertised
The queen our is not your voice. Would thy sight
Next Rome, among, insible express to dictliffe:
For ere for goings
Abova drunking redel her food pain soul to every it.

QUEEN MARGARET:
I took! O, if you so, good and the Montague of slave,
That he's breathing which holy a holy brats.
يوسع
معلومات إضافية
تطبيقات ذات صلة
نوصي لك
أخبار ذات صلة الكل