text cnn tensorflow

텍스트 -cnn

이 코드는 문장 분류 모델을위한 Convolutional Neural Networks를 구현합니다.

• 그림 1 : 문장 분류를위한 CNN 아키텍처 그림

요구 사항

• 파이썬 3.6
• 텐서 플로 1.4
• HB-Config (Singleton Config)
• TQDM
• 요청
• Slacking Incoming Webhook URL

프로젝트 구조

HB-Base의 Init Project

 .
├── config                  # Config files (.yml, .json) using with hb-config
├── data                    # dataset path
├── notebooks               # Prototyping with numpy or tf.interactivesession
├── scripts                 # download or prepare dataset using shell scripts
├── text-cnn                # text-cnn architecture graphs (from input to logits)
    ├── __init__.py             # Graph logic
├── data_loader.py          # raw_date -> precossed_data -> generate_batch (using Dataset)
├── hook.py                 # training or test hook feature (eg. print_variables)
├── main.py                 # define experiment_fn
├── model.py                # define EstimatorSpec
└── predict.py              # test trained model       

참조 : HB-Config, DataSet, Experiments_FN, Estimatorspec

• 데이터 세트 : RT-Polarity, 영화 리뷰에 대한 감정 분석

TODO

• embed_type를 적용하십시오
  • CNN-Rand
  • CNN 정적
  • CNN-NONSTATIC
  • CNN-Multichannel

구성

예 : Kaggle_movie_review.yml

 data :
  type : ' kaggle_movie_review '
  base_path : ' data/ '
  raw_data_path : ' kaggle_movie_reviews/ '
  processed_path : ' kaggle_processed_data '
  testset_size : 25000
  num_classes : 5
  PAD_ID : 0

model :
  batch_size : 64
  embed_type : ' rand '     # (rand, static, non-static, multichannel)
  pretrained_embed : " " 
  embed_dim : 300
  num_filters : 256
  filter_sizes :
    - 2
    - 3
    - 4
    - 5
  dropout : 0.5

train :
  learning_rate : 0.00005
  
  train_steps : 100000
  model_dir : ' logs/kaggle_movie_review '
  
  save_checkpoints_steps : 1000
  loss_hook_n_iter : 1000
  check_hook_n_iter : 1000
  min_eval_frequency : 1000
  
slack :
  webhook_url : " "   # after training notify you using slack-webhook 

용법

요구 사항을 설치하십시오.

pip install -r requirements.txt

그런 다음 데이터 세트를 준비하고 교육하십시오.

 sh prepare_kaggle_movie_reviews.sh
python main.py --config kaggle_movie_review --mode train_and_evaluate

훈련 후, predict.py 사용하여 원하는 문장을 입력 할 수 있습니다.

python python predict.py --config rt-polarity

예측 예를 예측하십시오

 python predict.py --config rt-polarity
Setting max_seq_length to Config : 62
load vocab ...
Typing anything :)

> good
1
> bad
0

실험 모드

✅ : 일합니다
◽ : 아직 테스트되지 않았습니다.

• ✅ evaluate : 평가 데이터를 평가합니다.
• ◽ extend_train_hooks : 훈련을 위해 고리를 확장합니다.
• reset_export_strategies : New_Export_Strategies와 함께 내보내기 전략을 재설정합니다.
• run_std_server : 텐서 플로우 서버를 시작하고 서빙 스레드에 가입합니다.
• test test : 단일 단계에 대한 추정기 평가, 평가 및 수출 테스트.
• train : 훈련 데이터를 사용하여 추정기를 장착하십시오.
• train_and_evaluate : 인터리브 교육 및 평가.

텐서 보드

tensorboard --logdir logs

• 카테고리 색상

• RT-Polarity (이진 분류)

• kaggle_movie_review (멀티 클래스 분류)

참조

• Denny Britz의 Tensorflow에서 텍스트 분류를위한 CNN 구현
• 종이 - 문장 분류를위한 컨볼 루션 신경 네트워크 (2014) y kim
• 종이 - 문장 분류를위한 컨볼 루션 신경 네트워크 (2015) Y Zhang의 민감도 분석 (및 실무자 안내서)