atomgrad

атомград

Atomgrad-это простой двигатель Autograd, который стремится находиться между микроградом и крошечным, который выполняет Autodiff на векторных и скалярных тензорах (атомы) в сочетании с библиотекой API нейронной сети.

Функции

• Поддерживает Pytorch-подобные векторные и скалярные тензоры.
• Поддерживает основные Unary Ops, Binary Ops, уменьшайте OPS и Movement Ops IE (Activn Funcs, sum , exp , reshape , randint , uniform и т. Д.).
• Поддерживает функции активации, такие как relu , sigmoid , tanh и т. Д.
• Поддерживает binary_cross_entropy & binary_accuracy .
• Поддерживает визуализации графика.

Установка

Вы можете установить Atomgrad с помощью PIP:

pip install atomgrad==0.3.0

Использование

Вот простой пример использования Atomgrad для вычисления градиента функции:

 from atomgrad . atom import Atom
from atomgrad . graph import draw_dot


# create two tensors with gradients enabled
x = Atom ( 2.0 , requires_grad = True )
y = Atom ( 3.0 , requires_grad = True )

# define a function
z = x * y + x ** 2

# compute the backward pass
z . backward ()

# print the gradients
print ( x . grad ) # 7.0
print ( y . grad ) # 2.0

draw_dot ( z )

Вот простой пример использования Atomgrad для обучения однозначной нейронной сети с скрытой 16-узлом для бинарной классификации.

 import numpy as np
from atomgrad . atom import Atom
from atomgrad . nn import AtomNet , Layer
from atomgrad . optim import SGD
from atomgrad . metrics import binary_cross_entropy , binary_accuracy

# create a model
model = AtomNet (
  Layer ( 2 , 16 ),
  Layer ( 16 , 16 ),
  Layer ( 16 , 1 )
)
# create an optimizer
optim = SGD ( model . parameters (), lr = 0.01 )

# load some data
x = [[ 2.0 , 3.0 , - 1.0 ],
  [ 3.0 , - 1.0 , 0.5 ],
  [ 0.5 , 1.0 , 1.0 ],
  [ 1.0 , 1.0 , - 1.0 ],
  [ 0.0 , 4.0 , 0.5 ],
  [ 3.0 , - 1.0 , 0.5 ]]
y = [ 1 , 1 , 0 , 1 , 0 , 1 ]

x = Atom ( x )
y = Atom ( y )

model . fit ( x , y , optim , binary_cross_entropy , binary_accuracy , epochs = 100 )

#output
'''
...
epoch: 30 | loss: 0.14601783454418182  | accuracy: 100.0%
epoch: 35 | loss: 0.11600304394960403  | accuracy: 100.0%
epoch: 40 | loss: 0.09604986757040024  | accuracy: 100.0%
epoch: 45 | loss: 0.0816292017698288  | accuracy: 100.0%
''' 

Демо

Пример простого Autodiff и четырех двоичных классификаторов, включая набор данных make_moons и набор данных MNIST Digits, находится в записной книжке examples/demos.ipynb .

Примечание. Хотя atom.nn включает активацию softmax и cat_cross_entropy , результаты модели довольно разочаровывают и, вероятно, связаны с какой -то ошибкой (plz LMK, если вы найдете!). В результате модель AtomNet лучше всего подходит для бинарной классификационной нейронной сети.

Подтверждение

• Микрограда для идеи и вставьте всех!
• Tinygrad
• Робинград