รุ่น Pytorch Nezha ปรับตัวเข้ากับ Transformers
ที่อยู่ดาวน์โหลดกระดาษ: Nezha: การเป็นตัวแทนบริบททางประสาทสำหรับความเข้าใจภาษาจีน
หากคุณต้องการเรียกใช้ สคริปต์เคส คุณต้องติดตั้งโมดูลต่อไปนี้:
TensorFlow Version Weight Weight ที่อยู่อย่างเป็นทางการ: Huawei-noah
ที่อยู่ดาวน์โหลดน้ำหนักได้รับการแปลงเป็นเวอร์ชัน Pytorch:
Nezha-Cn-Base Baidu Network Disk Link Extraction Code: HCKQ
Nezha-Large-ZH Baidu Network Disk Link Extraction Code: QKS2
Nezha-Base-WWM Baidu Network Disk Link Extraction Code: YSG3
Nezha-Large-WWM Baidu Netdisk Link Extraction Code: 8DIG
หมายเหตุ : หากน้ำหนักรุ่นที่โหลดคือน้ำหนักรุ่น Pytorch ที่ดาวน์โหลดจาก Baidu Netdisk ต่อไปนี้คุณต้องตรวจสอบให้แน่ใจว่าคบเพลิงเวอร์ชัน> = 1.6.0
ดำเนินการคำสั่ง:
sh scripts/run_task_text_classification_chnsenti.sh ข้อความยาวสามารถใช้งานได้โดยการตั้งค่าพารามิเตอร์ config.max_position_embeddings โดยมีค่าเริ่มต้นที่ 512 เช่น:
config . max_position_embeddings = args . train_max_seq_length| Nezha (base-wwm) | chnsenti |
|---|---|
| เทนเซอร์โฟลว์ | 94.75 |
| pytorch | 94.92 |