pytorch_RVAE

Pytorch Variacional recurrente Autoencoder

Modelo:

Esta es la implementación de las oraciones generadoras de Samuel Bowman desde un espacio continuo con los modelos de lenguaje neuronal consciente de Kim que incrustan para tokens

Ejemplos de muestreo:

the new machine could be used to increase the number of ventures block in the company 's <unk> shopping system to finance diversified organizations

Los funcionarios del gobierno de los Estados Unidos también dijeron que estarían dispuestos a considerar si la propuesta podría usarse como instancias y programas

Los hombres creen que tuvieron que ir a porque sus eran importantes importantes

Las compañías insistieron en que el conjunto de colores podría incluirse en el programa.

Uso

Antes del entrenamiento modelo, es necesario entrenar incrustaciones de palabras:

 $ python train_word_embeddings.py

Esta palabra del tren de guiones se definió en Mikolov et al. Representaciones distribuidas de palabras y frases

Parámetros:

--use-cuda

--num-iterations

--batch-size

--num-sample –– Número de muestras de tokens de ruido

Para entrenar el uso del modelo:

 $ python train.py

Parámetros:

--use-cuda

--num-iterations

--batch-size

--learning-rate

--dropout –– la probabilidad de que las unidades sean a cero en la entrada del decodificador

--use-trained –– Use entrenado antes del modelo

Para probar datos después del uso del entrenamiento:

 $ python sample.py

Parámetros:

--use-cuda

--num-sample