nlp nnabla

การใช้การเรียนรู้อย่างลึกซึ้งสำหรับ NLP ด้วย NNABLA

การใช้แบบจำลองการเรียนรู้เชิงลึกเล็ก ๆ น้อย ๆ สำหรับ NLP กับ Nnabla ของ Sony

สภาพแวดล้อมที่ผ่านการทดสอบ

• Python 3.7.2
• nnabla v1.0.11

แบบจำลอง

รูปแบบภาษา

• โมเดลภาษาเครือข่ายนิวรัลวานิลลา ( language-models/rnnlm/ )
• รูปแบบภาษา LSTM ( language-models/lstmlm/ )
• รูปแบบภาษา LSTM ระดับอักขระ ( language-models/char-cnn-lstmlm/ )
• โมเดลกระเป๋าต่อเนื่อง (CBOW) ( language-models/cbow/ )

การฝังคำ

• โมเดล GLOVE ( word-embeddings/glove/ )
• Poincaré Embeddngs ( word-embeddings/poincare-embeddings/ )

รุ่น SEQ2SEQ

• encoder-decoder ( seq2seq/encoder-decoder/ )
• Encoder-Decoder + Global Attention ( seq2seq/encoder-decoder-with-attention/ )

ตัวแยกประเภทข้อความ

• FastText ( text-classifications/fasttext/ )
• ความสนใจในตนเอง ( text-classifications/self_attention/ )
• LSTM classifier ( text-classifications/lstm-classifier/ )

งานในอนาคต

• Skip-Gram Model
• Peephole LSTM
• กรุ
• หม้อแปลงไฟฟ้า
• เอล์โม
• เป็นต้น