BERT NER Pytorch

Bertを使用した中国のner

中国のnerのためのバート。

更新：其他一些可以参考、包括biaffine、グローバルポインター等：例

データセットリスト

1. CNER：データセット/cner
2. Cluener：https：//github.com/cluebenchmark/cluener

モデルリスト

1. bert+softmax
2. bert+crf
3. bert+span

要件

1. 1.1.0 = <Pytorch <1.5.0
2. cuda = 9.0
3. Python3.6+

入力形式

入力形式（BIOSタグスキームを優先）、各文字が1行のラベルを持つ。文はヌル線で分割されます。

美	B-LOC
国	I-LOC
的	O
华	B-PER
莱	I-PER
士	I-PER

我	O
跟	O
他	O

コードを実行します

1. run_ner_xxx.pyまたはrun_ner_xxx.shの構成情報を変更します。
2. sh scripts/run_ner_xxx.sh

注：モデルのファイル構造

 ├── prev_trained_model
|  └── bert_base
|  |  └── pytorch_model.bin
|  |  └── config.json
|  |  └── vocab.txt
|  |  └── ......

クルーナーの結果

DevのBertの全体的なパフォーマンス：

	精度（エンティティ）	リコール（エンティティ）	F1スコア（エンティティ）
bert+softmax	0.7897	0.8031	0.7963
bert+crf	0.7977	0.8177	0.8076
bert+span	0.8132	0.8092	0.8112
bert+span+adv	0.8267	0.8073	0.8169
Bert-Small（6層）+SPAN+KD	0.8241	0.7839	0.8051
bert+span+focal_loss	0.8121	0.8008	0.8064
bert+span+label_smoothing	0.8235	0.7946	0.8088

クルーナーのためのアルバート

Albert on Devの全体的なパフォーマンス：

モデル	バージョン	精度（エンティティ）	リコール（エンティティ）	F1（エンティティ）	トレーニング時間/エポック
アルバート	base_google	0.8014	0.6908	0.7420	0.75x
アルバート	large_google	0.8024	0.7520	0.7763	2.1x
アルバート	xlarge_google	0.8286	0.7773	0.8021	6.7x
バート	グーグル	0.8118	0.8031	0.8074	-----
アルバート	base_bright	0.8068	0.7529	0.7789	0.75x
アルバート	large_bright	0.8152	0.7480	0.7802	2.2x
アルバート	xlarge_bright	0.8222	0.7692	0.7948	7.3x

Cnerの結果

Dev（テスト）のBertの全体的なパフォーマンス：

	精度（エンティティ）	リコール（エンティティ）	F1スコア（エンティティ）
bert+softmax	0.9586（0.9566）	0.9644（0.9613）	0.9615（0.9590）
bert+crf	0.9562（0.9539）	0.9671（ 0.9644 ）	0.9616（0.9591）
bert+span	0.9604（ 0.9620 ）	0.9617（0.9632）	0.9611（ 0.9626 ）
bert+span+focal_loss	0.9516（0.9569）	0.9644（0.9681）	0.9580（0.9625）
bert+span+label_smoothing	0.9566（0.9568）	0.9624（0.9656）	0.9595（0.9612）