awesome bert

Este repositorio es recopilar recursos relacionados con Bert.

AD: Un repositorio de redes convolucionales gráficas en https://github.com/jiakui/awesome-gcn (Recursos para redes convolucionales gráficas （图卷积神经网络相关资源）).

Papeles:

1. ARXIV: 1810.04805, Bert: Prerreinamiento de transformadores bidireccionales profundos para la comprensión del lenguaje, Autores: Jacob Devlin, Ming-Wei Chang, Kenton Lee, Kristina Toutanova

Haga clic para ver más

2. ARXIV: 1812.06705, Aumento contextual de Bert condicional, Autores: Xing Wu, Shangwen LV, Liangjun Zang, Jizhong Han, Songlin Hu

3. ARXIV: 1812.03593, SDNET: red profunda basada en la atención contextualizada para la respuesta de preguntas conversacionales, autores: Chenguang Zhu, Michael Zeng, Xuegong Huang

4. ARXIV: 1901.02860, Transformer-XL: modelos de lenguaje atento más allá de un contexto de longitud fija, Autores: Zihang Dai, Zhilin Yang, Yiming Yang, William W. Cohen, Jaime Carbonell, Quoc V. Le y Ruslan Salakhutdinov.

5. ARXIV: 1901.04085, Passage Re-Ranking con Bert, Autores: Rodrigo Nogueira, Kyunghyun Cho

6. ARXIV: 1902.02671, Bert y Pals: capas de atención proyectadas para una adaptación eficiente en el aprendizaje de tareas múltiples, Autores: Asa Cooper Stickland, Iain Murray

7. ARXIV: 1904.02232, Bert posterior al entrenamiento para la comprensión de lectura de revisión y análisis de sentimientos basados ​​en aspectos, autores: Hu XU, Bing Liu, Lei Shu, Philip S. Yu, [Código]

Repositorios de Github:

Implemento oficial:

1. Google-Research/Bert, Código de FlowFlow of Officical y modelos previamente capacitados para Bert,

Implemento de Bert además de TensorFlow:

1. Codertimo/Bert-Pytorch, Google AI 2018 Bert Pytorch Implementación,

2. Huggingface/Pytorch-Prethered-Bert, una implementación de Pytorch del modelo Bert de Google AI con script para cargar los modelos previamente capacitados de Google,

3. DMLC/Gluon-NLP, Gluon + MXNET Implementación que reproduce el pretréngase de BERT y el fino en la referencia de pegamento, el escuadrón, etc., etc.

4. DBIIR/UER-PY, UER-PY es un kit de herramientas para la capacitación previa en el corpus de dominio general y el ajuste fino en la tarea aguas abajo. Uer-PY mantiene la modularidad del modelo y apoya la extensibilidad de la investigación. Facilita el uso de diferentes modelos de pre-entrenamiento (por ejemplo, BERT), y proporciona interfaces para que los usuarios se extienda aún más.
   

5. Brikerman/Kashgari, marco NLP multilingüe simple, con Keras, le permite construir sus modelos en 5 minutos para el reconocimiento de entidad nombrado (NER), el etiquetado de parte de voz (POS) y las tareas de clasificación de texto. Incluye Bert, GPT-2 y Word2Vec Incrustación.

6. Kaushaltrivedi/Fast-Bert, súper fácil biblioteca para modelos NLP basados ​​en Bert,

Haga clic para ver más

7. Separius/bert-kinas, implementación de Keras de Bert con pesos previamente capacitados,

8. Soskek/bert-chainer, implementación de "Bert: pretruento de transformadores bidireccionales profundos para la comprensión del lenguaje",

9. innodatalabs/tbert, puerto de Pytorch del modelo Bert ML

10. Guotong1988/Bert-Tensorflow, Bert: pretruamiento de transformadores bidireccionales profundos para la comprensión del lenguaje

11. DreamGonfly/Bert-Pytorch, implementación de Pytorch de Bert en "Bert: pretración de transformadores bidireccionales profundos para la comprensión del lenguaje"

12. Cyberzhg/Keras-Bert, Implementación de Bert que podría cargar modelos oficiales previamente capacitados para la extracción y predicción de características

13. Soskek/Bert-Chainer, implementación de "Bert: pretruamiento de transformadores bidireccionales profundos para la comprensión del lenguaje"

14. Mazhiyuanbuaa/bert-tf1.4.0, bert-tf1.4.0

15. Dhlee347/Pytorchic-Bert, Pytorch Implementación de Google Bert,

16. KPOT/Keras-Transformer, Transformadores de la Biblioteca Keras para la construcción (Universal), facilitando modelos Bert y GPT,

17. Mirozzyx/bert_with_keras, una versión de Keras del modelo Bert de Google,

18. Conda-Forge/Pytorch pretratado-Bert-Feedstock, un repositorio de conda-smithy para Pytorch-pretavate-Bert. ,

19. Rshcaroline/bert_pytorch_fastnlp, una implementación de Pytorch & Fastnlp del modelo BERT de Google AI.

20. Nghuyong/Ernie-Pytorch, Versión de Ernie Pytorch,

Pesos de Bert previos a la aparición:

1. Brightmart/Roberta_Zh, Roberta para chino, 中文预训练 Roberta 模型,

2. ymcui/chino-bert-wwm, pre-entrenamiento con enmascaramiento de palabras enteras para bert chino （中文 bert-wwm 预训练模型） https://arxiv.org/abs/1906.08101,

3. Thunlp/OpenClap, Abrir zoológico modelo de capacitación de idioma chino, OpenClap: 多领域开源中文预训练语言模型仓库,

4. ymcui/chino pretavenado-xlet, priorizado chino xlnet （中文 xlnet 预训练模型）,

5. BrightMart/xlnet_zh, 中文预训练 xlnet 模型: chino pre-entrenado xlnet_large,

Mejora sobre Bert:

1. Thunlp/Ernie, código fuente y conjunto de datos para el documento de ACL 2019 "Ernie: representación del lenguaje mejorado con entidades informativas", Impulsar Bert con fusión de información heterogénea.

2. Paddlepaddle/Lark, Kit de representaciones de idiomas, implementación de Paddlepaddle de Bert. También contiene una versión mejorada de Bert, Ernie, para tareas chinas de PNL. Bert 的中文改进版 Ernie,

3. Zihangdai/xlnet, xlnet: pre -stretratening autorregresivo generalizado para la comprensión del lenguaje,

4. KimiYoung/Transformer-XL, Transformer-XL: modelos de lenguaje atento más allá de un contexto de longitud fija, este repositorio contiene el código tanto en Pytorch como en TensorFlow para nuestro documento.

5. Gaopeng97/transformer-xl-chinese, transformer xl 在中文文本生成上的尝试。（ transformer xl para la generación de texto de chino）,

6. Paddlepaddle/Ernie, una implementación de Ernie para la comprensión del lenguaje (incluidos los modelos de pre-entrenamiento y las herramientas de ajuste) Bert 的中文改进版 Ernie,

7. Pytorch/Fairseq, Facebook AI Research Sequence-to Sequence Toolkit escrito en Python. ROBERTA: Un enfoque de prepertimiento de Bert con sólidamente optimizado,

8. FacebookResearch/Spanbert, código para usar y evaluar Spanbert. , Este repositorio contiene código y modelos para el documento: Spanbert: Mejora de la capacitación previa al representar y predecir los tramos.,

9. BrightMart/Albert_Zh, 海量中文预训练 Albert 模型, un Bert Lite para el aprendizaje auto-supervisado de representaciones de idiomas https://arxiv.org/pdf/1909.11942.pdf,,

10. LonePatient/Albert_Pytorch, un lite bert para representaciones de lenguaje de aprendizaje auto-supervisado,

11. KPE/Bert-For-TF2, una implementación Keras Tensorflow 2.0 de Bert, Albert y Adapter-Bert. https://github.com/kpe/bert-for-tf2,

Otros recursos para Bert:

1. BrightMart/Bert_Language_Enderstanding, pretración de transformadores bidireccionales profundos para la comprensión del lenguaje: Textcnn previo al entrenamiento,

2. Y1ran/nlp-bert-chinosessionsion, 谷歌自然语言处理模型 bert ： 论文解析与 python 代码,

Haga clic para ver más

3. Yangbisheng2009/CN-Bert, Bert 在中文 NLP 的应用, 语法检查

4. Jayyip/bert-multiple-gpu, una versión de soporte de GPU múltiple de Bert,

5. Highcwu/keras-bert-tpu, implementación de Bert que podría cargar modelos oficiales previamente capacitados para la extracción y predicción de características en TPU,

6. Willyoung2017/bert_attempt, pytorch pretranado bert,

7. Pydataman/bert_examples, algunos ejemplos de bert, run_classifier.py 是基于谷歌 bert 实现了 quora insincer preguntas clasificación 二分类比赛。run_ner.py 是基于瑞金医院 ai 大赛 第一赛季数据和 bert 写的一个命名实体识别。

8. Guotong1988/Bert-Chinese, Bert: prioridad de transformadores bidireccionales profundos para la comprensión del lenguaje 中文 汉语

9. ZhongyunueSestc/bert_multitask, 多任务 tarea

10. Microsoft/Azureml-Bert, caminar de extremo a extremo para ajustar a Bert usando Azure Machine Learning,

11. Bigboned3/bert_Serving, Modelo de exportación Bert para servir,

12. yoheikikuta/bert-japonese, bert con piezas de oración para texto japonés.

13. whqwill/seq2seq-keyphrase-bert, agregue bert a la parte del codificador para https://github.com/memray/seq2seq-keyphrase-pytorch,

14. Algteam/Bert-Examples, Bert-Demo,

15. Cedrickchee/Awesome-Bert-NLP, una lista curada de recursos de PNL centrado en Bert, mecanismo de atención, redes de transformadores y aprendizaje de transferencia.

16. cnfive/cnbert, 中文注释一下 bert 代码功能,

17. BrightMart/Bert_Customized, Bert con características personalizadas,

18. Jayyip/Bert-Multitask-Learning, Bert para el aprendizaje multitarea,

19. Yuanxiaosc/bert_paper_chinese_translation, Bert: pretronabrilamiento de transformadores bidireccionales profundos para la comprensión del lenguaje 论文的中文翻译。 论文的中文翻译。 论文的中文翻译。 论文的中文翻译。 论文的中文翻译。 论文的中文翻译。Chinese Translation! https://yuanxiaosc.github.io/2018/12/…,

20. yaserkl/bertvsulmfit, comparando los resultados de la clasificación de texto utilizando la incrustación de Bert y la incrustación de Ulmfit,

21. KPOT/Keras-Transformer, Transformadores de la Biblioteca Keras para la construcción (Universal), facilitando modelos Bert y GPT,

22. 1234560O/BERT-MODEL-CODEPRETACIÓN, 解读 TensorFlow 版本 Bert 中 Modeling.py 数据流

23. Cdathuraliya/Bert-Inference, una clase de ayuda para Google Bert (Devlin et al., 2018) para apoyar la predicción en línea y la tuberías del modelo.

24. GameOfDimension/Java-Bert-predicto, convierta el punto de control de Bert Pretrain en modelo guardado para una demostración de extracción de características en Java

25. 1234560O/BERT-MODEL-CODEPRETACIÓN, 解读 TensorFlow 版本 Bert 中 Modeling.py 数据流

Bert específico del dominio:

1. Allenai/Scibert, un modelo Bert para texto científico. https://arxiv.org/abs/1903.10676,

2. Merajat/SolvingalMostanythingwithbert, Biobert Pytorch

3. KEXINHUANG12345/Clinicalbert, Clinicalbert: modelado de notas clínicas y predecir el reingreso hospitalario https://arxiv.org/abs/1904.05342

4. EmilyalSentzer/Clinicalbert, Repositorio de Incruscaciones clínicas de Bert disponibles públicamente

Trucos de implementación de Bert:

1. Zhihu/Cubert, implementación rápida de la inferencia de Bert directamente en NVIDIA (CUDA, CUBLAS) e Intel MKL

2. XMXOXO/BERT-TRAIN2DePloy, Bert Model Training and Deploy, Bert 模型从训练到部署,

3. https://github.com/nvidia/deeplearningingexamples/tree/master/tensorflow/languagemodeling/bert, bert para tensorflow, este repositorio proporciona un guión y una receta para capacitar a Bert para lograr la precisión del estado, y es probada y mantenida por Nvidia.

4. Qiangsiwei/Bert_Distill, Bert Destilación （基于 Bert 的蒸馏实验））））

5. Kevinmtian/Distill-Bert, Destilación del conocimiento de Bert,

Tarea de Bert QA y RC:

1. Sogou/SmrcToolkit, este kit de herramientas fue diseñado para el desarrollo rápido y eficiente de los modelos modernos de comprensión de la máquina, incluidos los modelos publicados y los prototipos originales.

2. Benywon/Chinesebert, este es un modelo chino de Bert específico para responder preguntas,

3. Matthew-Z/R-Net, R-Net en Pytorch, con Bert y Elmo,

4. NYU-DL/DL4MARCO-Bert, pasaje re-raneando con Bert,

5. XZP27/Bert-for-Chines-Question-Respuesta,

6. Chiayewken/Bert-Qa, Bert para la respuesta a las preguntas que comienza con Hotpotqa,

7. ankit-ai/bertqa-Atention-on-esteroides, bertqa-atención sobre esteroides,

8. NovIscl/Bert-Race, este trabajo se basa en la implementación de Pytorch de Bert (https://github.com/huggingface/pytorch-petRained-bert). Adapté el modelo Bert original para que funcione en la comprensión de la máquina de opción múltiple.

9. EVA-N27/Bert-for-Chines-Question-Respuesta,

10. Allenai/Allennlp-Bert-Qa-Wrapper, este es un envoltorio simple encima de los modelos de control de calidad de Bert pretrinidos de Pytorch-pretured-Bert para hacer archivos del modelo Allennlp, para que pueda servir demostraciones de Allennlp.

11. Edmondchensj/Chineseqa-With-Bert, EECS 496: Temas avanzados en el aprendizaje profundo Proyecto final: preguntas chinas Respondiendo con Bert (conjunto de datos de Baidu Dureader)

12. Graykode/Toeicbert, Toeic (Prueba de inglés para la comunicación internacional) Resolviendo el modelo Pytorch-Prethered-Bert.

13. Graykode/Korquad-Beginner, https://github.com/graykode/korquad-beginner

14. Krishna-Sharma19/SBU-QA, este repositorio utiliza incrustaciones de Bert Pretrain para el aprendizaje de transferencia en el dominio de control de calidad

15. Basketballandlearn/Dureader-Bert, Bert Dureader 多文档阅读理解 排名第七 排名第七 排名第七 排名第七 排名第七 排名第七 排名第七 排名第七 排名第七 机器阅读理解 单模型代码。 单模型代码。 单模型代码。 单模型代码。 单模型代码。

Tarea de clasificación de Bert:

1. ZHPMATRIX/KAGGLE-QUORA-INSINGERE-QUESTIONSIFICACIÓN, KAGGLE 新赛 (BASE DE BASE)-基于 BERT 的 FALLA 方案+基于 Tensor2Tensor 的 Coder de transformador 方案

2. MAKSNA/BERT-FINE-ANTING-FOR-CHINESE-MULTLASS-Clasificación, use el modelo de pre-entrenamiento de Google BERT para ajustar la clasificación multiclase china

3. Nlpscott/bert-china-classification-tars, Bert 中文分类实践,

4. SocialBird-Ailab/Bert-Classification-Tutorial,

5. Foosynaptic/bert_classifer_trial, Bert Trial for Chinese Corpus Classfication

6. Xiaopingzhong/Bert-Finetune-For-Classfier, 微调 Bert 模型, 同时构建自己的数据集实现分类

7. Pengming617/bert_classification, 利用 Bert 预训练的中文模型进行文本分类,

8. xieyufei1993/bert-pytorch-chines-textlassification, Pytorch Bert Finetune en la clasificación de texto chino,

9. liyibo/text-classification-demos, modelos neuronales para la clasificación de texto en tensorflow, como CNN, DPCNN, FastText, Bert ...,

10. Circlepi/bert_chinese_text_class_by_pytorch, un pytorch implementos de la clase de texto chino basado en bert_preadrein_model,

11. Kaushaltrivedi/bert-tóxico-multilabel, clasificación multilabel para desafío de comentarios tóxicos usando Bert,

12. LonePatient/Bert-chines-text-classification-Pytorch, este repositorio contiene una implementación de Pytorch de un modelo BERT previsto para la clasificación de texto.

Análisis de sentimientos de Bert

1. Chung-i/Douban-oralusis-análisis, análisis de sentimientos en el conjunto de datos de comentarios breves de la película Douban usando Bert.

2. Lynnna-Xu/Bert_SA, Bert Sentiment Analysis TensorFlow Sirviendo con API RESTful

3. HSLCY/Absa-Bert-Pair, utilizando BERT para el análisis de sentimientos basado en aspectos mediante la construcción de oraciones auxiliares (NAACL 2019) https://arxiv.org/abs/1903.09588,

4. Songyouwei/Absa-Pytorch, análisis de sentimientos basado en el aspecto, implementaciones de Pytorch. 基于方面的情感分析 使用 使用 Pytorch 实现。,

5. Howardhsu/Bert-For-RRC-ABSA, Código para nuestro documento NAACL 2019: "Bert Post-Training for Review Review Reading Comprensión y análisis de sentimientos basados ​​en aspectos",

6. BrightMart/Sentiment_analysis_fine_Grain, clasificación de múltiples etiquetas con bert; Análisis de sentimientos de grano fino de AI Challenger,

Tarea Bert Ner:

1. ZHPMATRIX/BERT-SECHINACIÓN, 基于 Bert 的中文序列标注

2. Kyzhouhzau/Bert-Ger, usa Google Bert para hacer conll-2003 ner! ,

3. King-Menin/Ner-Bert, solución de tareas NER (bert-bi-lstm-crf) con Google bert https://github.com/google-research.

4. MACANV/BERT-BILSMT-CRF-NER, TensorFlow Solución de la tarea NER utilizando el modelo BILSTM-CRF con Google Bert Fine-Tuning,

5. FUYANZHE2/Name-Entity-Recognition, LSTM-CRF, Lattice-CRF, Bert-Ger 及近年 ner 相关论文 Sigue,

6. MHCAO916/NER_BASED_ON_BERT, este proyecto se basa en el modelo Google Bert, que es un ner chino

7. Prohiryu/bert-chinese-gana, 使用预训练语言模型 bert 做中文 ner,

8. Sberbank-Ai/Ner-Bert, Bert-Ger (Nert-Bert) con Google Bert,

9. Kyzhouhzau/Bert-Bilstm-CRF, este modelo base en Bert como servicio. Estructura del modelo: Bert Bilstm CRF. ,

10. Hoiy/Berserker, Berserker - Bert Chinese Word Tokenizer, Berserker (Bert Chinese Word Tokenizer) es un tokenizador chino construido sobre el modelo Bert de Google. ,

11. Kyubyong/Bert_ner, ner con Bert,

12. Jiangpinglei/bert_chineseswordsegment, un modelo de segmento de palabras chino basado en Bert, F1-Score 97%,

13. Yanwii/Chineener, 基于 Bi-Gru + CRF 的中文机构名、人名识别 中文实体识别, 支持 Google Bert 模型

14. Lemonhu/Ner-Bert-Pytorch, Solución de Pytorch de la tarea NER utilizando el modelo BERT previamente entrenado de Google AI.

Tarea de resumen de texto de Bert:

1. nlpyang/bertsum, código para el papel fino de papel bert para resumen extractivo,

2. santhoshkolloju/abstractive-sumarización con transferencia-aprendizaje, resumen abstracto utilizando Bert como codificador y decodificador de transformadores,

3. NAYEON7LEE/BERT-SUMMARIZACIÓN, Implementación de 'Generación de lenguaje natural basada en el pretrete para resumen de texto', documento: https://arxiv.org/pdf/1902.09243.pdf

4. DMMiller612/Lecture-Summarizer, resumen de conferencias con Bert

Tarea de generación de texto de Bert:

1. Asyml/Texar, Toolkit para la generación de texto y más allá de https://texar.io, Texar es un kit de herramientas de generación de texto de propósito general, también ha implementado Bert aquí para aplicaciones de generación de clasificación y texto mediante la combinación con los otros módulos de Texar.

2. Voidful/bertGenerate, ajuste de Bert para la generación de texto, Bert 做 文本生成 的一些實驗 的一些實驗 的一些實驗 的一些實驗 的一些實驗 的一些實驗

3. TIIIGER/BERT_SCORE, BERT SCORE para la generación de idiomas,

Tarea del gráfico de conocimiento de Bert:

1. Lvjianxin/Knowledge-Extraction, 基于中文的知识抽取 ， Base: Bi-LSTM+CRF 升级版 ： Bert 预训练

2. Sakuranew/Bert-attributeExtraction, utilizando Bert para la extracción de atributos en KnowledgeGraph. ajuste fino y extracción de características. 使用基于 Bert 的微调和特征提取方法来进行知识图谱百度百科人物词条属性抽取。,

3. aditity-ai/información-retrieval-system-using-bert,

4. JKSZW2014/BERT-KBQA-NLPCC2017, una prueba de KBQA basada en Bert para NLPCC2016/2017 Tarea 5 (基于 Bert 的中文知识库问答实践 ， 代码可跑通） ， 博客介绍 博客介绍 博客介绍 博客介绍 博客介绍 博客介绍 博客介绍 博客介绍 博客介绍 博客介绍 博客介绍 博客介绍 博客介绍 博客介绍 博客介绍 博客介绍 博客介绍 博客介绍 博客介绍86707844

5. Yuanxiaosc/basado en esquema-conocimiento-extracción, código para http://lic2019.ccf.org.cn/kg 信息抽取。使用基于 bert 的实体抽取和关系抽取的端到端的联合模型。（将在比赛结束后 完善代码和使用说明）,

6. Yuanxiaosc/Entidad-relación-extracción, entidad y extracción de relación basada en el flujo tensor. 基于 Tensorflow 的管道式实体及关系抽取 ， 2019 语言与智能技术竞赛信息抽取任务解决方案（比赛结束后完善代码）。 Extracción de conocimiento basada en Schema, SKE 2019 http://lic2019.ccf.org.cn,

7. Wenrichard/Kbqa-Bert, 基于知识图谱的问答系统 ， 做命名实体识别和句子相似度 做命名实体识别和句子相似度 做命名实体识别和句子相似度 分为 和 和 和 模式 模式 博客介绍 博客介绍 博客介绍 https://zhuanlan.zhihu.com/p/62946533,

8. ZHPMATRIX/BERTEM, ACL2019 论文实现《 Combinación de los espacios en blanco: similitud distributiva para el aprendizaje de relaciones》,

Resolución de Bert Coreference

1. Ianycxu/rgcn-with-bert, redes convolucionales de gráficos con relieve (RGCN) con Bert para la tarea de resolución de coreferencia

2. IsabelleBouchard/bert_for_gap-coreference, Bert Finetuning para la resolución del pronombre imparcial

Kit de herramientas de visualización de Bert:

1. Jessevig/Bertviz, herramienta para visualizar la atención de Bert,

Bert Chatbot:

1. Gaoq1/rasa_nlu_gq, convierta el lenguaje natural en datos estructurados (支持中文 ， 自定义了 n 种模型 ， 支持不同的场景和任务),

2. Gaoq1/Rasa_chatbot_cn, 基于 Rasa-nlu 和 Rasa-Core 搭建的对话系统 Demo,

3. Gaoq1/Rasa-Bert-Finetune, 支持 Rasa-nlu 的 Bert Finetune,

4. Geodge831012/bert_robot, 用于智能助手回答问题的训练 ， 基于 bert 模型进行训练改造

5. Yuanxiaosc/Bert-for-secuence-marcado y clasificación de texto, este es el código de plantilla para usar BERT para la secuencia de clasificación y clasificación de texto, para facilitar Bert para más tareas. Actualmente, el código de plantilla ha incluido la identificación de entidad con nombres de Conll-2003, el llenado de ranuras de recortes y la predicción de la intención.

6. Guillaume-Chevalier/Reubert, un chatbot de preguntas sobre preguntas, simplemente.

Modelo de lenguaje Bert e incrustación:

1. Hanxiao/Bert-as-Service, mapeando una oración de longitud variable a un vector de longitud fija utilizando el modelo Bert pretrés,

2. Yc-wind/incrusting_study, 中文预训练模型生成字向量学习 ， 测试 bert ， elmo 的中文效果,

3. Kyubyong/Bert-Token-Embeddings, berts de token previamente pretrados

4. Xu-Song/bert_as_language_model, Bert como modelo de idioma, bifurca desde https://github.com/google-research/bert,

5. Yuanxiaosc/Deep_Dynamic_Word_Representation, código TensorFlow y modelos previamente capacitados para la representación de palabras dinámicas profundas (DDWR). Combina el modelo Bert y la representación de palabras de contexto profundo de Elmo.

6. Imgarylai/Bert-Embedding, incrustaciones de nivel de token del modelo BERT en MXNET y Gluonnlp http://bert-embedding.readthedocs.io/,

7. Terrifyzhao/Bert-Utils, Bert 生成句向量 生成句向量 做文本分类、文本相似度计算 做文本分类、文本相似度计算

8. Fennudetudou/bert_implement, 使用 bert 模型进行文本分类 ， 相似句子判断 以及词性标注 以及词性标注 以及词性标注

9. whqwill/seq2seq-keyphrase-bert, agregue bert a la parte del codificador para https://github.com/memray/seq2seq-keyphrase-pytorch,

10. Charles9n/Bert-Sklearn, un envoltorio de Sklearn para el modelo Bert de Google,

11. NVIDIA/MEGATRON-LM, Modelos de lenguaje de transformador de capacitación de investigación continua a escala, incluyendo: Bert,

12. Hankcs/bert-token-nivel incrustado, generar el nivel de token de Bert incrustando sin dolor

13. FacebookResearch/Lama, Lama: Análisis de modelos de idiomas, Lama es un conjunto de conectores a modelos de idiomas previamente capacitados.

Bert Text Match:

1. Pengming617/bert_textmatching, 利用预训练的中文模型实现基于 bert 的语义匹配模型 数据集为 lcqmc 官方数据

2. Brokenwind/Bertsimilarity, calculando la similitud de dos oraciones con el algoritmo Bert de Google

3. Policema/China_Bert_Similarity, Bert Similitud china

4. LonePatient/Bert-Sentence-Similarity-Pytorch, este repositorio contiene una implementación de Pytorch de un modelo BERT previsto para la tarea de similitud de oraciones.

5. Nouhadziri/diálogo, la implementación del documento "Evaluación de la coherencia en los sistemas de diálogo utilizando la implicación" https://arxiv.org/abs/1904.03371

6. UKPLAB / TRANSFORMADORES DE ARRIENTES, INCURSOS DE ARENDIDOS CON BERT & XLNET, transformadores de oraciones: incrustaciones de oraciones usando Bert / Roberta / XLNet con Pytorch,

Tutoriales de Bert:

1. Graykode/NLP-Tutorial, Tutorial de procesamiento de lenguaje natural para investigadores de aprendizaje profundo https://www.reddit.com/r/machinelearn…,

2. dragen1860/tensorflow-2.x-tutorials, tensorflow 2.x Los tutoriales y ejemplos de la versión, incluidos CNN, RNN, GaN, Auto-Enners, FasterRcnn, GPT, Bert Ejemplos, etc. TF 2.0 版入门实例代码 实战教程。, 实战教程。,