kiwigrad

Kiwigrad

Apesar de não ter a capacidade de voar pelos céus como Pytorch e Tensorflow , o Kiwigrad ainda é um pássaro formidável que está repleto de potencial inexplorado esperando para ser descoberto.

• Kiwigrad
• Instalar
• Funcionalidades
  • Exemplos
• Teste de execução

Kiwigrad? Sim, é outra versão do MicroRrad que foi criada apenas para diversão e experimentação.

Instalar

Para instalar a versão atual,

 pip install kiwigrad==0.28 

Funcionalidades

Kiwigrad é uma versão modificada dos pacotes MicroRrad e Minigrad com recursos adicionais. Os principais recursos adicionados a Kiwigrad são:

• O treinamento é mais rápido devido à implementação C do objeto Value.
• As funcionalidades de rastreamento como o pacote de micrograd original foram adicionadas. Um exemplo disso pode ser visto no notebook OPS.
• Métodos para salvar e carregar os pesos de um modelo treinado.
• Suporte para RNN (1) Redes neurais de feedforward.

Exemplos

• Na pasta Exemplos, você pode encontrar exemplos de modelos treinados usando a biblioteca Kiwigrad.
• Um exemplo de declaração de uma rede MLP usando Kiwigrad:

 from kiwigrad import MLP , Layer

class PotNet ( MLP ):
    def __init__ ( self ):
        layers = [
            Layer ( nin = 2 , nout = 16 , bias = True , activation = "relu" ),
            Layer ( nin = 16 , nout = 16 , bias = True , activation = "relu" ),
            Layer ( nin = 16 , nout = 1 , bias = True , activation = "linear" )
        ]
        super (). __init__ ( layers = layers )

model = PotNet ()

• Kiwigrad como MicroRrad vem com suporte para várias operações possíveis:

 from kiwigrad import Value , draw_dot

a = Value ( - 4.0 )
b = Value ( 2.0 )
c = a + b
d = a * b + b ** 3
c += c + Value ( 1. )
c += Value ( 1. ) + c + ( - a )
d += d * Value ( 2 ) + ( b + a ). relu ()
d += Value ( 3. ) * d + ( b - a ). relu ()
e = c - d
f = e ** 2
g = f / Value ( 2.0 )
g += Value ( 10.0 ) / f
print ( f' { g . data :.4f } ' ) # prints 24.7041, the outcome of this forward pass
g . backward ()
print ( f' { a . grad :.4f } ' ) # prints 138.8338, i.e. the numerical value of dg/da
print ( f' { b . grad :.4f } ' ) # prints 645.5773, i.e. the numerical value of dg/db

draw_dot ( g )

Teste de execução

 cd test 
pytest .