nlp_chinese_corpus
version 1.0
【Langya Bang】 -Chinese Big Big Model Arena Khusus, Model Terkemuka Yang Anda Peduli Ada Semua Di Sini
Daftar Mockups Cina terbaru
Superclue: Model Umum China Benchmark Penilaian Komprehensif
*** memperbarui ****
Evaluasi Benchmark Tugas Tiongkok, 10 Tugas Utama & 9 Model Berjalan dalam satu klik, evaluasi terperinci:
Benchmark Evaluasi Pemahaman Bahasa untuk Cina (Petunjuk Benchmark): Jalankan 10 tugas & 9 baseline dengan satu baris kode, perbandingan kinerja dengan detail.
Melepaskan model pra-terlatih Albert_chinese:
Pelatihan dengan 30g+ corpus Cina mentah, xxlarge, versi kecil dan banyak lagi, target untuk mencocokkan kinerja canggih dalam bahasa Cina dengan parameter 30% lebih sedikit, 2019-OCT-7, selama Hari Nasional Tiongkok!
Corpus akan terus berkembang. . .
Target Fase I: 10 juta corpus Tiongkok & corpus Cina tingkat 3 juta (1 Mei 2019)
Target Fase II: 30 juta corpus Tiongkok & korpus Cina tingkat 10 juta & 100 juta jutaan korpus Cina (31 Desember 2019)
UPDATE: Menambahkan Versi Tanya Jawab Komunitas Berkualitas Tinggi (WebText2019ZH), yang dapat digunakan untuk melatih model NLP skala super besar; Tambahkan 5,2 juta corpus yang diterjemahkan (Translation2019Zh).
Informasi Cina ada di mana -mana, tetapi tidak mudah dan terkadang sangat sulit untuk mendapatkan sejumlah besar korpus Cina. Saat ini di awal 2019,
Praktisi biasa, peneliti atau siswa tidak memiliki saluran yang baik untuk mendapatkan sejumlah besar korpus Cina. Penulis ingin melatih vektor kata Cina.
Setelah mencari di Baidu dan GitHub untuk waktu yang lama, saya mendapatkan sangat sedikit: baik besarnya korpus terlalu kecil, data terlalu tua, atau pemrosesan yang dibutuhkan terlalu rumit.
Saya ingin tahu apakah Anda juga mengalami masalah seperti itu?
Proyek kami adalah berkontribusi sedikit upaya untuk menyelesaikan masalah ini.
Unduh Google Drive atau Baidu Cloud Drive
可以做为通用中文语料，做预训练的语料或构建词向量，也可以用于构建知识问答。
{"id":<id>,"url":<url>,"title":<title>,"text":<text>} 其中，title是词条的标题，text是正文；通过"nn"换行。
{"id": "53", "url": "https://zh.wikipedia.org/wiki?curid=53", "title": "经济学", "text": "经济学nn经济学是一门对产品和服务的生产、分配以及消费进行研究的社会科学。西方语言中的“经济学”一词源于古希腊的。nn经济学注重的是研究经济行为者在一个经济体系下的行为，以及他们彼此之间的互动。在现代，经济学的教材通常将这门领域的研究分为总体经济学和个体经济学。微观经济学检视一个社会里基本层次的行为，包括个体的行为者（例如个人、公司、买家或卖家）以及与市场的互动。而宏观经济学则分析整个经济体和其议题，包括失业、通货膨胀、经济成长、财政和货币政策等。..."}
经济学
经济学是一门对产品和服务的生产、分配以及消费进行研究的社会科学。西方语言中的“经济学”一词源于古希腊的。
经济学注重的是研究经济行为者在一个经济体系下的行为，以及他们彼此之间的互动。在现代，经济学的教材通常将这门领域的研究分为总体经济学和个体经济学。微观经济学检视一个社会里基本层次的行为，包括个体的行为者（例如个人、公司、买家或卖家）以及与市场的互动。而宏观经济学则分析整个经济体和其议题，包括失业、通货膨胀、经济成长、财政和货币政策等。
其他的对照还包括了实证经济学（研究「是什么」）以及规范经济学（研究「应该是什么」）、经济理论与实用经济学、行为经济学与理性选择经济学、主流经济学（研究理性-个体-均衡等）与非主流经济学（研究体制-历史-社会结构等）。
经济学的分析也被用在其他各种领域上，主要领域包括了商业、金融、和政府等，但同时也包括了如健康、犯罪、教育、法律、政治、社会架构、宗教、战争、和科学等等。到了21世纪初，经济学在社会科学领域各方面不断扩张影响力，使得有些学者讽刺地称其为「经济学帝国主义」。
在现代对于经济学的定义有数种说法，其中有许多说法因为发展自不同的领域或理论而有截然不同的定义，苏格兰哲学家和经济学家亚当·斯密在1776年将政治经济学定义为「国民财富的性质和原因的研究」，他说：
让-巴蒂斯特·赛伊在1803年将经济学从公共政策里独立出来，并定义其为对于财富之生产、分配、和消费的学问。另一方面，托马斯·卡莱尔则讽刺的称经济学为「忧郁的科学」（Dismal science），不过这一词最早是由马尔萨斯在1798年提出。约翰·斯图尔特·密尔在1844年提出了一个以社会科学定义经济学的角度：
.....
Unduh Google Drive atau Unduh Baidu Cloud Drive, Kata Sandi: K265
Ini berisi 2,5 juta artikel berita. Sumber berita mencakup 63.000 media, termasuk judul, kata kunci, deskripsi, dan teks.
Divisi Dataset: Data dideklikasikan dan dibagi menjadi tiga bagian. Set Pelatihan: 2,43 juta; Set Verifikasi: 77.000; Tes set, puluhan ribu, tidak ada unduhan yang disediakan.
可以做为【通用中文语料】，训练【词向量】或做为【预训练】的语料；
也可以用于训练【标题生成】模型，或训练【关键词生成】模型（选关键词内容不同于标题的数据）；
亦可以通过新闻渠道区分出新闻的类型。
{'news_id': <news_id>,'title':<title>,'content':<content>,'source': <source>,'time':<time>,'keywords': <keywords>,'desc': <desc>, 'desc': <desc>}
其中，title是新闻标题，content是正文，keywords是关键词，desc是描述，source是新闻的来源，time是发布时间
{"news_id": "610130831", "keywords": "导游，门票","title": "故宫淡季门票40元 “黑导游”卖外地客140元", "desc": "近日有网友微博爆料称，故宫午门广场售票处出现“黑导游”，专门向外地游客出售高价门票。昨日，记者实地探访故宫，发现“黑导游”确实存在。窗口出售", "source": "新华网", "time": "03-22 12:00", "content": "近日有网友微博爆料称，故宫午门广场售票处出现“黑导游”，专门向外地游客出售高价门票。昨日，记者实地探访故宫，发现“黑导游”确实存在。窗口出售40元的门票，被“黑导游”加价出售，最高加到140元。故宫方面表示，请游客务必通过正规渠道购买门票，避免上当受骗遭受损失。目前单笔门票购买流程不过几秒钟，耐心排队购票也不会等待太长时间。....再反弹”的态势，打击黑导游需要游客配合，通过正规渠道购买门票。"}
Unduh Google Drive atau Unduh Baidu Cloud Drive, Kata Sandi: FU45
Berisi 1,5 juta pertanyaan dan jawaban pra-filter, berkualitas tinggi, yang masing-masing termasuk dalam kategori. Ada 492 kategori secara total, di mana 434 kategori telah mencapai atau melebihi 10 kali.
Divisi Dataset: Data dideklikasikan dan dibagi menjadi tiga bagian. Set Pelatihan: 1,425 juta; Set verifikasi: 45.000; Tes set, puluhan ribu, tidak ada unduhan yang disediakan.
可以做为通用中文语料，训练词向量或做为预训练的语料；也可以用于构建百科类问答；其中类别信息比较有用，可以用于做监督训练，从而构建
更好句子表示的模型、句子相似性任务等。
{"qid":<qid>,"category":<category>,"title":<title>,"desc":<desc>,"answer":<answer>}
其中，category是问题的类型，title是问题的标题，desc是问题的描述，可以为空或与标题内容一致。
{"qid": "qid_2540946131115409959", "category": "生活知识", "title": "冬天进补好一些呢，还是夏天进步好啊？ ", "desc": "", "answer": "你好！rr当然是冬天进补好的了，夏天人体的胃处于收缩状态，不适宜大量的进补，所以我们有时候说：“夏天就要吃些清淡的，就是这个道理的。”rr不过，秋季进补要注意“四忌” 一忌多多益善。任何补药服用过量都有害。认为“多吃补药，有病治病，无病强身”是不的。过量进补会加重脾胃、肝脏负担。在夏季里，人们由于喝冷饮，常食冻品，多有脾胃功能减弱的现象，这时候如果突然大量进补，会骤然加重脾胃及肝脏的负担，使长期处于疲弱的消化器官难于承受，导致消化器官功能紊乱。 rr二忌以药代食。重药物轻食物的做法是不科学的，许多食物也是好的滋补品。如多吃荠菜可治疗高血压；多吃萝卜可健胃消食，顺气宽胸；多吃山药能补脾胃。日常食用的胡桃、芝麻、花生、红枣、扁豆等也是进补的佳品。rr三忌越贵越好。每个人的身体状况不同，因此与之相适应的补品也是不同的。价格昂贵的补品如燕窝、人参之类并非对每个人都适合。每种进补品都有一定的对象和适应症，应以实用有效为滋补原则，缺啥补啥。 rr四忌只补肉类。秋季适当食用牛羊肉进补效果好。但经过夏季后，由于脾胃尚未完全恢复到正常功能，因此过于油腻的食品不易消化吸收。另外，体内过多的脂类、糖类等物质堆积可能诱发心脑血管病。"}
Selamat datang untuk melaporkan keakuratan model pada set validasi. Tugas 1: Prediksi Kategori.
Laporan meliputi: #1) Keakuratan pada set verifikasi; #2) model, deskripsi metode, mode operasi yang digunakan, 1 halaman pdf; #3) kode sumber yang dapat dijalankan (opsional)
Berdasarkan #2 dan #3, kami akan melakukan tes pada set tes dan melaporkan keakuratan pada set tes; Hanya tim dengan #1 dan #2 yang disediakan, dan hasil pada set verifikasi masih dapat ditampilkan, tetapi akan ditandai sebagai tidak diverifikasi.
Unduh Google Drive
Berisi 4,1 juta pertanyaan dan tanggapan yang pra-filter, berkualitas tinggi. Setiap pertanyaan milik [topik], dengan total 28.000 topik, dan topiknya semuanya mencakup.
Dari 14 juta T&J asli, memfilter jawaban yang menerima setidaknya 3 suka berarti bahwa konten balasan relatif baik atau menarik, sehingga mendapatkan set data berkualitas tinggi.
Selain sesuai dengan suatu topik, deskripsi pertanyaan, dan satu atau lebih balasan untuk setiap pertanyaan, setiap balasan juga memiliki tag seperti nomor, ID balasan, dan balasan.
Divisi Dataset: Data dideklikasikan dan dibagi menjadi tiga bagian. Set Pelatihan: 4,12 juta; Set verifikasi: 68.000; Tes set A: 68.000; Tes set B, tidak ada unduhan yang disediakan.
1）构建百科类问答：输入一个问题，构建检索系统得到一个回复或生产一个回复；或根据相关关键词从，社区问答库中筛选出你相关的领域数据
2）训练话题预测模型：输入一个问题(和或描述)，预测属于话题。
3）训练社区问答(cQA)系统：针对一问多答的场景，输入一个问题，找到最相关的问题，在这个基础上基于不同答案回复的质量、
问题与答案的相关性，找到最好的答案。
4）做为通用中文语料，做大模型预训练的语料或训练词向量。其中类别信息也比较有用，可以用于做监督训练，从而构建更好句子表示的模型、句子相似性任务等。
5）结合点赞数量这一额外信息，预测回复的受欢迎程度或训练答案评分系统。
{"qid":<qid>,"title":<title>,"desc":<desc>,"topic":<topic>,"star":<star>,"content":<content>,
"answer_id":<answer_id>,"answerer_tags":<answerer_tags>}
其中，qid是问题的id，title是问题的标题，desc是问题的描述，可以为空；topic是问题所属的话题，star是该回复的点赞个数，
content是回复的内容，answer_id是回复的ID,answerer_tags是回复者所携带的标签
{"qid": 65618973, "title": "AlphaGo只会下围棋吗？阿法狗能写小说吗？", "desc": "那么现在会不会有智能机器人能从事文学创作？<br>如果有，能写出什么水平的作品？", "topic": "机器人", "star": 3, "content": "AlphaGo只会下围棋，因为它的设计目的，架构，技术方案以及训练数据，都是围绕下围棋这个核心进行的。它在围棋领域的突破，证明了深度学习深度强化学习MCTS技术在围棋领域的有效性，并且取得了重大的PR效果。AlphaGo不会写小说，它是专用的，不会做跨出它领域的其它事情，比如语音识别，人脸识别，自动驾驶，写小说或者理解小说。如果要写小说，需要用到自然语言处理（NLP））中的自然语言生成技术，那是人工智能领域一个", "answer_id": 545576062, "answerer_tags": "人工智能@游戏业"}
Tugas 1: Prediksi Topik.
Laporan meliputi: #1) Keakuratan pada set verifikasi; #2) model, deskripsi metode, mode operasi yang digunakan, 1 halaman pdf; #3) kode sumber yang dapat dijalankan (opsional)
Berdasarkan #2 dan #3, kami akan melakukan tes pada set tes dan melaporkan keakuratan pada set tes; Hanya tim dengan #1 dan #2 yang disediakan, dan hasil pada set verifikasi masih dapat ditampilkan, tetapi akan ditandai sebagai tidak diverifikasi.
Tugas 2: Melatih Sistem T&J Komunitas (CQA).
Persyaratan: Indikator evaluasi mengadopsi peta, membangun set tes yang cocok untuk masalah penyortiran, dan melaporkan efek pada set tes.
Tugas 3: Gunakan dataset ini (WebText2019ZH), lihat OpenAi's GPT-2, melatih model penulisan teks Cina, menguji efek nol-shot pada set data lain, atau mengevaluasi efek model bahasa.
Unduh Google Drive
5,2 juta pasang korpus paralel dalam bahasa Cina dan Inggris. Setiap pasangan berisi satu bahasa Inggris dan Cina yang sesuai. Dalam bahasa Cina atau Inggris, sebagian besar waktu itu adalah kalimat lengkap dengan tanda baca.
Untuk pasangan Cina-Inggris paralel, ada 36 karakter dalam bahasa Cina rata-rata dan 19 kata dalam bahasa Inggris rata-rata (kata-kata seperti "dia")
Divisi Dataset: Data dideklikasikan dan dibagi menjadi tiga bagian. Set Pelatihan: 5,16 juta; Set Verifikasi: 39.000; Tes set, puluhan ribu, tidak ada unduhan yang disediakan.
可以用于训练中英文翻译系统，从中文翻译到英文，或从英文翻译到中文；
由于有上百万的中文句子，可以只抽取中文的句子，做为通用中文语料，训练词向量或做为预训练的语料。英文任务也可以类似操作；
{"english": <english>, "chinese": <chinese>}
其中，english是英文句子，chinese是中文句子，中英文一一对应。
{"english": "In Italy, there is no real public pressure for a new, fairer tax system.", "chinese": "在意大利，公众不会真的向政府施压，要求实行新的、更公平的税收制度。"}
Untuk menyumbangkan corpus Cina, silakan kirim email ke [email protected]
Untuk bersama-sama mendirikan korpus Cina terbuka dan berbagi skala besar untuk mempromosikan pengembangan bidang pemrosesan bahasa alami Cina, korpus apa pun yang disediakan dan diadopsi ke dalam proyek,
Selain mendaftarkan daftar kontributor (opsional), kami akan memilih 20 siswa teratas berdasarkan kualitas dan besarnya korpus, dan mengirimkan keyboard, mouse, dan
Layar tampilan, headphone nirkabel, speaker pintar atau item lain dengan nilai setara untuk menyatakan terima kasih kepada kontributor.
Tambahkan corpus Cina Anda di sini dengan mengirimi kami email
Jika ada masalah mengenai data, Anda juga dapat menghubungi kami, kami akan memprosesnya dalam satu minggu.
Terima kasih atas pengertian Anda.
@misc{bright_xu_2019_3402023,
author = {Bright Xu},
title = {NLP Chinese Corpus: Large Scale Chinese Corpus for NLP },
month = sep,
year = 2019,
doi = {10.5281/zenodo.3402023},
version = {1.0},
publisher = {Zenodo},
url = {https://doi.org/10.5281/zenodo.3402023}
}
Harap juga kirim email kepada kami judul kertas Anda atau kerjakan dataset proyek ini
Untuk menyumbangkan korpus Cina, silakan kirim email: [email protected];
Eksperimen dalam Membangun Model Vektor Kata Corpus Cina Wiki Menggunakan Python
Alat untuk mengekstraksi teks biasa dari wikipedia dumps
Open Chinese Croning (Opencc) dalam Python murni: Open Chinese bertobat
Dump of Wiki, terbaru dalam bahasa Cina
