atomgrad

Atomgrad

O AtomGrad é um mecanismo de autogrado simples que visa estar entre Micrograd e Tinygrad que executa o Autodiff em tensores com valor vetorial e com valor escalar (átomos), juntamente com uma biblioteca de API de rede neural.

Características

• Suporta tensores com valor vetorial e com valor escalar e com valor escalar.
• Suporta operações unárias básicas, operações binárias, reduz as operações e operações de movimento, ou seja, (atividades de funções, sum , exp , reshape , randint , uniform , etc.).
• Suporta funções de ativação como relu , sigmoid , tanh , etc.
• Suporta binary_cross_entropy & binary_accuracy .
• Suporta visualizações de gráficos.

Instalação

Você pode instalar o AtomGrad usando PIP:

pip install atomgrad==0.3.0

Uso

Aqui está um exemplo simples de usar o AtomGrad para calcular o gradiente de uma função:

 from atomgrad . atom import Atom
from atomgrad . graph import draw_dot


# create two tensors with gradients enabled
x = Atom ( 2.0 , requires_grad = True )
y = Atom ( 3.0 , requires_grad = True )

# define a function
z = x * y + x ** 2

# compute the backward pass
z . backward ()

# print the gradients
print ( x . grad ) # 7.0
print ( y . grad ) # 2.0

draw_dot ( z )

Aqui está um exemplo simples de usar o AtomGrad para treinar uma rede neural de camada oculta de 16 nós para classificação binária.

 import numpy as np
from atomgrad . atom import Atom
from atomgrad . nn import AtomNet , Layer
from atomgrad . optim import SGD
from atomgrad . metrics import binary_cross_entropy , binary_accuracy

# create a model
model = AtomNet (
  Layer ( 2 , 16 ),
  Layer ( 16 , 16 ),
  Layer ( 16 , 1 )
)
# create an optimizer
optim = SGD ( model . parameters (), lr = 0.01 )

# load some data
x = [[ 2.0 , 3.0 , - 1.0 ],
  [ 3.0 , - 1.0 , 0.5 ],
  [ 0.5 , 1.0 , 1.0 ],
  [ 1.0 , 1.0 , - 1.0 ],
  [ 0.0 , 4.0 , 0.5 ],
  [ 3.0 , - 1.0 , 0.5 ]]
y = [ 1 , 1 , 0 , 1 , 0 , 1 ]

x = Atom ( x )
y = Atom ( y )

model . fit ( x , y , optim , binary_cross_entropy , binary_accuracy , epochs = 100 )

#output
'''
...
epoch: 30 | loss: 0.14601783454418182  | accuracy: 100.0%
epoch: 35 | loss: 0.11600304394960403  | accuracy: 100.0%
epoch: 40 | loss: 0.09604986757040024  | accuracy: 100.0%
epoch: 45 | loss: 0.0816292017698288  | accuracy: 100.0%
''' 

Demos

Um exemplo de simples classificadores do Autodiff e quatro binários, incluindo o conjunto de dados make_moons e o conjunto de dados do MNIST Digits está no notebook examples/demos.ipynb .

Nota: Embora atom.nn inclua a ativação softmax e cat_cross_entropy , os resultados do modelo são bastante decepcionantes e provavelmente são devido a algum bug (PLZ LMK se você o encontrar!). Como resultado, o modelo AtomNet é mais adequado para tarefas de rede neural de classificação binária.

Reconhecimento

• Micrograd para a ideia e insprime a todos!
• Tinygrad
• Robingrado