تنزيل cnn text classification pytorch - cnn text classification pytorch

cnn text classification pytorch

بايثون

1.0.0

تنزيل

مقدمة

هذا هو تنفيذ الشبكات العصبية التلافيفية لكيم لتصنيف الجملة في Pytorch.

تنفيذ كيم للنموذج في ثيانو: https://github.com/yoonkim/cnn_sentence
Denny Britz لديه تنفيذ في TensorFlow: https://github.com/dennybritz/cnn-text-lassification-tf
تطبيق ألكساندر راخلين في كيراس ؛ https://github.com/alexander-rakhlin/cnn-for-sentence-classification-in-keras

متطلبات

بيثون 3
Pytorch> 0.1
Torchtext> 0.1
numpy

نتيجة

لقد جربت للتو مجموعة بيانات ، السيد و SST.

مجموعة البيانات	حجم الفصل	أفضل نتيجة	نتيجة ورقة كيم
السيد	2	77.5 ٪ (CNN-RAND-Static)	76.1 ٪ (CNN-RAND-FUNSTATION)
SST	5	37.2 ٪ (CNN-RAND-Static)	45.0 ٪ (CNN-RAND-FUNSTIC)

لم أقم بتعديل المعلمات المفرطة لـ SST على محمل الجد.

الاستخدام

 ./main.py -h

أو

 python3 main.py -h

سوف تحصل على:

 CNN text classificer

optional arguments:
  -h, --help            show this help message and exit
  -batch-size N         batch size for training [default: 50]
  -lr LR                initial learning rate [default: 0.01]
  -epochs N             number of epochs for train [default: 10]
  -dropout              the probability for dropout [default: 0.5]
  -max_norm MAX_NORM    l2 constraint of parameters
  -cpu                  disable the gpu
  -device DEVICE        device to use for iterate data
  -embed-dim EMBED_DIM
  -static               fix the embedding
  -kernel-sizes KERNEL_SIZES
                        Comma-separated kernel size to use for convolution
  -kernel-num KERNEL_NUM
                        number of each kind of kernel
  -class-num CLASS_NUM  number of class
  -shuffle              shuffle the data every epoch
  -num-workers NUM_WORKERS
                        how many subprocesses to use for data loading
                        [default: 0]
  -log-interval LOG_INTERVAL
                        how many batches to wait before logging training
                        status
  -test-interval TEST_INTERVAL
                        how many epochs to wait before testing
  -save-interval SAVE_INTERVAL
                        how many epochs to wait before saving
  -predict PREDICT      predict the sentence given
  -snapshot SNAPSHOT    filename of model snapshot [default: None]
  -save-dir SAVE_DIR    where to save the checkpoint

يدرب

 ./main.py

سوف تحصل على:

 Batch[100] - loss: 0.655424  acc: 59.3750%
Evaluation - loss: 0.672396  acc: 57.6923%(615/1066)

امتحان

إذا كنت قد بنيت مجموعة اختبار ، فأنت تقوم بإجراء اختبار مثل:

 /main.py -test -snapshot="./snapshot/2017-02-11_15-50-53/snapshot_steps1500.pt

يعني خيار اللقطة من أين يتم تحميل النموذج الخاص بك. إذا لم تقم بتعيينه ، فسيبدأ النموذج من نقطة الصفر.

يتنبأ

مثال 1

 ./main.py -predict="Hello my dear , I love you so much ." 
           -snapshot="./snapshot/2017-02-11_15-50-53/snapshot_steps1500.pt"

سوف تحصل على:

 Loading model from [./snapshot/2017-02-11_15-50-53/snapshot_steps1500.pt]...
 
 [Text]  Hello my dear , I love you so much .
 [Label] positive

مثال 2

 ./main.py -predict="You just make me so sad and I have to leave you ."
           -snapshot="./snapshot/2017-02-11_15-50-53/snapshot_steps1500.pt"

سوف تحصل على:

 Loading model from [./snapshot/2017-02-11_15-50-53/snapshot_steps1500.pt]...
 
 [Text]  You just make me so sad and I have to leave you .
 [Label] negative

يجب فصل النص الخاص بك عن طريق الفضاء ، وحتى علامات الترقيم. وينبغي أن النص الخاص بك أطول ثم حجم kernel الأقصى.