TextGAN PyTorch Download - TextGAN PyTorch Sourced Code скачать

TextGAN PyTorch

Другой исходный код

1.0.0

Скачать

Textgan-Pytorch

Textgan - это структура Pytorch для генеративных моделей генерации текста, основанных на генеративных состязательных сетях (GANS), включая модели генерации общих текстов и модели генерации текста категории. Textgan служит платформой для сравнения для поддержки исследований моделей генерации текста на основе GAN. Поскольку большинство моделей генерации текста на основе GAN реализуются TensorFlow, Textgan может помочь тем, кто привык к Pytorch быстрее ввести поле генерации текста.

Если вы найдете какую -либо ошибку в моей реализации, пожалуйста, дайте мне знать! Кроме того, пожалуйста, не стесняйтесь вносить свой вклад в этот репозиторий, если вы хотите добавить другие модели.

Требования

Pytorch> = 1,1,0
Python 3.6
Numpy 1.14.5
CUDA 7,5+ (для GPU)
NLTK 3.4
TQDM 4.32.1
Kenlm (https://github.com/kpu/kenlm)

Чтобы установить, запустите pip install -r requirements.txt . В случае проблем с CUDA проконсультируйтесь с официальным руководством Pytorch.

Установка Kenlm

Скачать стабильный релиз и Unzip: http://kheafield.com/code/kenlm.tar.gz
Нужно повысить> = 1,42,0 и bjam
- Ubuntu: sudo apt-get install libboost-all-dev
- Mac: brew install boost; brew install bjam

Запустите в каталоге Kenlm:

mkdir -p build
cd build
cmake ..
make -j 4

pip install https://github.com/kpu/kenlm/archive/master.zip
Для получения дополнительной информации о Kenlm см.: Https://github.com/kpu/kenlm и http://kheafield.com/code/kenlm/

Внедренные модели и оригинальные бумаги

Общее генерация текста

Seqgan - Seqgan: последовательность генеративных состязательных сетей с градиентом политики
Leakgan - Длинное генерация текста с помощью состязательного обучения с просочившейся информацией
Малиган - максимально -правдоподобие дополненные дискретные генеративные состязательные сети
JSDGAN - Совместная генерация дискретных последовательностей без явных нейронных сетей в качестве дискриминаторов
Relgan - Relgan: реляционные генеративные состязательные сети для генерации текста
DPGAN -DP-GAN: Центральная состязательная сеть, способствующая разнообразию, для создания информативного и диверсифицированного текста
DGSAN - DGSAN: дискретная генеративная самозащитная сеть
COT - COP: совместное обучение для генеративного моделирования дискретных данных

Категория генерация текста

Sentigan - Sentigan: генерирование сентиментальных текстов с помощью сетей смеси.
Catgan (наш) - Catgan: Generative Advare Aware Generative Adversarial Networks с иерархическим эволюционным обучением для генерации текста категории

Начните

Начните

git clone https://github.com/williamSYSU/TextGAN-PyTorch.git
cd TextGAN-PyTorch

Для реальных экспериментов по данным все наборы данных ( Image COCO , EMNLP NEWs , Movie Review , Amazon Review ) могут быть загружены отсюда.
Запустить с конкретной моделью

 cd run
python3 run_[model_name].py 0 0	# The first 0 is job_id, the second 0 is gpu_id

# For example
python3 run_seqgan.py 0 0

Функции

Инструктор
Для каждой модели весь процесс выполнения определяется у instructor/oracle_data/seqgan_instructor.py . (Например, принять Seqgan в эксперименте с синтетическими данными). Некоторые основные функции, такие как init_model() и optimize() определены в базовом классе BasicInstructor в instructor.py . Если вы хотите добавить новую модель генерации текста на основе GAN, пожалуйста, создайте нового инструктора под instructor/oracle_data и определите процесс обучения для модели.
Визуализация
Используйте utils/visualization.py для визуализации файла журнала, включая показатели потерь и метрики. Пользовательствует ваши файлы журнала в log_file_list , не более чем len(color_list) . Имя файла журнала должно исключить .txt .
Регистрация
Textgan-Pytorch использует модуль logging в Python для записи процесса работы, таких как потеря и показатели метрических показателей генератора. Для удобства визуализации было бы два одинаковых файла журнала, сохраненных в log/log_****_****.txt и save/**/log.txt соответственно. Кроме того, код автоматически сохранит DICT состояния моделей и размером с партийного размера образцов генератора в ./save/**/models и ./save/**/samples Samples Per Log, где ** зависит от ваших гиперпараметров.
Работающий сигнал
Вы можете легко контролировать процесс обучения с помощью Signal класса (пожалуйста, обратитесь к utils/helpers.py ) на основе словарного файла run_signal.txt .
Для использования Signal просто отредактируйте локальный файл run_signal.txt и установите, например, pre_sig в Fasle , программа остановит процесс предварительного обучения и вступит в следующую фазу обучения. Это удобно для ранней остановки обучения, если вы думаете, что текущего обучения достаточно.
AutomatiaClly выберите GPU
В config.py программа автоматически выберет устройство GPU с наименьшим GPU-Util в nvidia-smi . Эта функция включена по умолчанию. Если вы хотите вручную выбрать устройство графического процессора, пожалуйста, расстройте аргументы --device в run_[run_model].py и укажите устройство GPU с командой.