الصفحة الرئيسية>المتعلقة بالبرمجة>ج/ج++
تنزيل

مثال الشبكة العصبية CUDA

شعار

العديد من الأمثلة البسيطة لمجموعات أدوات الشبكة العصبية (Pytorch ، TensorFlow ، إلخ) استدعاء مشغلي CUDA المخصصين.

نحن نقدم عدة طرق لتجميع نواة CUDA وأغلفة CPP الخاصة بهم ، بما في ذلك JIT و Setuptools و Cmake.

نقدم أيضًا العديد من رموز Python للاتصال بـ Cuda Kernels ، بما في ذلك إحصائيات وقت kernel والتدريب النموذجي.

لإحصائيات الوقت الأكثر دقة ، من الأفضل استخدام NVProf أو NSYS لتشغيل الرمز.

البيئات

  • سائق Nvidia: 418.116.00
  • كودا: 11.0
  • بيثون: 3.7.3
  • Pytorch: 1.7.0+CU110
  • TensorFlow: 2.4.1
  • Cmake: 3.16.3
  • النينجا: 1.10.0
  • GCC: 8.3.0

لا يمكن ضمان تشغيل النجاح في بيئات أخرى.

هيكل الكود 

├── include
│   └── add2.h # header file of add2 cuda kernel
├── kernel
│   └── add2_kernel.cu # add2 cuda kernel
├── pytorch
│   ├── add2_ops.cpp # torch wrapper of add2 cuda kernel
│   ├── time.py # time comparison of cuda kernel and torch
│   ├── train.py # training using custom cuda kernel
│   ├── setup.py
│   └── CMakeLists.txt
├── tensorflow
│   ├── add2_ops.cpp # tensorflow wrapper of add2 cuda kernel
│   ├── time.py # time comparison of cuda kernel and tensorflow
│   ├── train.py # training using custom cuda kernel
│   └── CMakeLists.txt
├── LICENSE
└── README.md

Pytorch

تجميع CPP و CUDA

جيت
تشغيل مباشرة رمز بيثون.

setuptools 

python3 pytorch/setup.py install

cmake 

mkdir build
cd build
cmake ../pytorch
make

تشغيل بيثون

قارن وقت تشغيل kernel 

python3 pytorch/time.py --compiler jit
python3 pytorch/time.py --compiler setup
python3 pytorch/time.py --compiler cmake

نموذج القطار 

python3 pytorch/train.py --compiler jit
python3 pytorch/train.py --compiler setup
python3 pytorch/train.py --compiler cmake

Tensorflow

تجميع CPP و CUDA

cmake 

mkdir build
cd build
cmake ../tensorflow
make

تشغيل بيثون

قارن وقت تشغيل kernel 

python3 tensorflow/time.py --compiler cmake

نموذج القطار 

python3 tensorflow/train.py --compiler cmake

تفاصيل التنفيذ (باللغة الصينية)

pytorch 自定义 cuda 算子教程与运行时间分析 详解 pytorch 编译并调用自定义 cuda 算子的三种方式 三分钟教你如何 pytorch 自定义反向传播

التعليمات

Q. المستورد: libc10.so: لا يمكن فتح ملف الكائن المشترك: لا يوجد مثل هذا الملف أو الدليل
أ. يجب عليك القيام import torch قبل import add2 .

Q. Tensorflow.python.framework.errors_impl.notfounderror: build/libadd2.so: رمز غير محدد: _ztin10tensorflow8opkernele
A. تحقق مما إذا كان ${TF_LFLAGS} في CmakeLists.txt صحيح.

يوسع
معلومات إضافية
تطبيقات ذات صلة
نوصي لك
أخبار ذات صلة الكل