awesome bert

Este repositório é coletar recursos relacionados ao BERT.

AD: Um repositório para redes convolucionais de gráficos em https://github.com/jiakui/awesome-gcn (Recursos para redes convolucionais de gráficos （图卷积神经网络相关资源).

Papéis:

1. ARXIV: 1810.04805, Bert: Pré-treinamento de transformadores bidirecionais profundos para entendimento de idiomas, autores: Jacob Devlin, Ming-Wei Chang, Kenton Lee, Kristina Toutanova

Clique para ver mais

2. ARXIV: 1812.06705, Aumentação contextual condicional de Bert, Autores: Xing Wu, Shangwen LV, Liangjun Zang, Jizhong Han, Songlin Hu

3. ARXIV: 1812.03593, SDNET: Rede profunda contextualizada baseada em atenção para a resposta de perguntas de conversação, autores: Chenguang Zhu, Michael Zeng, Xuedong Huang

4. ARXIV: 1901.02860, Transformer-xl: modelos de linguagem atentos além de um contexto de comprimento fixo, autores: Zihang Dai, Zhilin Yang, Yiming Yang, William W. Cohen, Jaime Carbonell, Quoc V. Le e Ruslan Salakhutdinov.

5. ARXIV: 1901.04085, Passagem Reanking com Bert, Autores: Rodrigo Nogueira, Kyunghyun Cho

6. ARXIV: 1902.02671, Bert e PALS: Camadas de atenção projetadas para adaptação eficiente em aprendizado de várias tarefas, autores: Asa Cooper Stickland, Iain Murray

7. ARXIV: 1904.02232, Bert Pós-treinamento para compreensão de leitura de revisão e análise de sentimentos baseados em aspectos, Autores: Hu Xu, Bing Liu, Lei Shu, Philip S. Yu, [Código]

Repositórios do Github:

Implemento oficial:

1. Google-Research/Bert, código de tensorflow oficial e modelos pré-treinados para Bert,

Implemento de Bert além do TensorFlow:

1. Codertimo/Bert-Pytorch, Google AI 2018 Bert Pytorch Implementação,

2. Huggingface/Pytorch-Preserd-Bert, uma implementação de Pytorch do modelo BERT do Google AI com script para carregar os modelos pré-treinados do Google,

3. DMLC/GLUON-NLP, Gluon + MXNET Implementação que reproduz Bert Pré-Trerendo e Finetuning na referência de cola, esquadrão, etc.

4. DBIIR/UER-PY, UER-PY é um kit de ferramentas para pré-treinamento em corpus de domínio geral e ajuste fino na tarefa a jusante. O UER-PY mantém a modularidade do modelo e suporta extensibilidade de pesquisa. Ele facilita o uso de diferentes modelos de pré-treinamento (por exemplo, Bert) e fornece interfaces para os usuários se estenderem ainda mais.
   

5. Brikerman/Kashgari, simples e movido a estrutura de NLP multilíngues de Keras, permite criar seus modelos em 5 minutos para tarefas de reconhecimento de entidade nomeadas (NER), marcação de parte do discurso (POS) e classificação de texto. Inclui incorporação BERT, GPT-2 e Word2VEC.

6. Kaushaltrivedi/Fast-Bert, biblioteca super fácil para modelos de PNL baseados em Bert,

Clique para ver mais

7. Separius/Bert-Keras, implementação de Keras de Bert com pesos pré-treinados,

8. Soskek/Bert-Chainer, implementação da cadeia de "Bert: pré-treinamento de transformadores bidirecionais profundos para entendimento de idiomas",

9. Innodatalabs/tbert, porta Pytorch do modelo Bert ML

10. Guotong1988/Bert-TensorFlow, Bert: Pré-treinamento de transformadores bidirecionais profundos para entendimento da linguagem

11. Dreamgonfly/Bert-Pytorch, implementação de Pytorch de Bert em "Bert: pré-treinamento de transformadores bidirecionais profundos para compreensão da linguagem"

12. Cyberzhg/Keras-Bert, Implementação de Bert que poderia carregar modelos pré-treinados oficiais para extração e previsão de recursos

13. Soskek/Bert-Chainer, implementação da cadeia de "Bert: pré-treinamento de transformadores bidirecionais profundos para a compreensão da linguagem"

14. Mazhiyuanbuaa/bert-tf1.4.0, bert-tf1.4.0

15. Dhlee347/Pytorchic-Bert, implementação de Pytorch do Google Bert,

16. Kpot/Keras-Transformer, Biblioteca Keras para Building (Universal) Transformers, facilitando os modelos Bert e GPT,

17. miroozyx/bert_with_keras, uma versão Keras do modelo Bert do Google,

18. Conde-Forge/Pytorch pretendido-Bert-Feedstock, um repositório de conda-sitia para Pytorch, pretendido a Bert. , Assim,

19. Rshcaroline/bert_pytorch_fastnlp, uma implementação Pytorch & FastNLP do modelo BERT do Google AI.

20. Nghuyong/Ernie-Pytorch, versão Ernie Pytorch,

Pesos pré -tenhados Bert:

1. Brightmart/Roberta_zh, Roberta para chinês, 中文预训练 Roberta 模型,

2. Ymcui/chinês-bert-wwm, pré-treinamento com mascaramento de palavras inteiras para o chinês Bert （中文 Bert-wwm 预训练模型））））））））））））））））））））））））））））））））））） https://arxiv.org/abs/1906.08101,

3. thunlp/OpenClap, Open Chinese Language Pré-treinado Zoológico, OpenClap ： 多领域开源中文预训练语言模型仓库,

4. Ymcui/chinês pretendido-xlnet, xlnet chinês pré-treinado （中文 xlnet 预训练模型）,,

5. Brightmart/xlnet_zh, 中文预训练 xlnet 模型: xlnet_large chinês pré-treinado,

Melhoria sobre Bert:

1. Thunlp/Ernie, código -fonte e conjunto de dados para o artigo da ACL 2019 "Ernie: representação aprimorada de linguagem com entidades informativas", Imporove Bert com fusão de informações heterogêneas.

2. Paddlepaddle/Lark, kit de representações de idiomas, implementação de Paddlepddle de Bert. Ele também contém uma versão aprimorada de Bert, Ernie, para tarefas chinesas de PNL. Bert 的中文改进版 Ernie,

3. zihangdai/xlnet, xlnet: pré -treinamento auto -regressivo generalizado para compreensão da linguagem,

4. Kimiyoung/Transformer-xl, transformador-xl: modelos de linguagem atenciosos além de um contexto de comprimento fixo, este repositório contém o código em pytorch e tensorflow para o nosso artigo.

5. Gaopeng97/Transformer-Xl-Chinese, Transformer XL 在中文文本生成上的尝试。 （Transformador XL para geração de texto de chinês),

6. Paddlepaddle/Ernie, uma implementação de Ernie para o entendimento de idiomas (incluindo modelos pré-treinamento e ferramentas de ajuste fino) Bert 的中文改进版 Ernie,

7. Pytorch/Fairseq, Facebook AI Research Sequence-to Sevencence Toolkit escrito em Python. Roberta: Uma abordagem de pré -treinamento de Bert robustamente otimizada,

8. FacebookResearch/Spanbert, código para usar e avaliar Spanbert. , Este repositório contém código e modelos para o artigo: Spanbert: melhorando o pré-treinamento, representando e prevendo vãos.,,

9. Brightmart/Albert_zh, 海量中文预训练 Albert 模型, um Lite Bert para o aprendizado auto-supervisionado de representações de idiomas https://arxiv.org/pdf/1909.11942.pdf,

10. Lonepaciente/Albert_pytorch, um Lite Bert para representações de idiomas de aprendizagem auto-supervisionadas,

11. KPE/Bert-For-TF2, uma implementação do Keras Tensorflow 2.0 de Bert, Albert e Adaptador-Bert. https://github.com/kpe/bert-for-tf2,

Outros recursos para Bert:

1. Brightmart/bert_language_understanding, pré-treinamento de transformadores bidirecionais profundos para entendimento da linguagem: Textcnn pré-trep,

2. Y1RAN/NLP-Bert-Chineseversion, 谷歌自然语言处理模型 Bert ： 论文解析与 Python 代码,

Clique para ver mais

3. yangbisheng2009/cn-bert, bert 在中文 nlp 的应用, 语法检查

4. Jayyip/Bert-Multiple-GPU, uma versão de suporte de GPU múltiplas de Bert,

5. Highcwu/keras-bert-tpu, implementação de Bert que poderia carregar modelos pré-treinados oficiais para extração e previsão de recursos na TPU,

6. Willyoung2017/bert_attemp, pytorch pré -teriaido Bert,

7. Pydataman/bert_examples, alguns exemplos de bert, run_classifier.py 是基于谷歌 Bert 实现了 Quora Classificação de perguntas insinceras 二分类比赛。run_ner.py 是基于瑞金医院 ai 大赛 bert 写的一个命名实体识别。

8. guotong1988/bert-chinese, bert: pré-treinamento de transformadores bidirecionais profundos para entendimento de idiomas 中文 汉语

9. Zhongyunuestc/bert_multiTask, 多任务 tarefa

10. Microsoft/Azureml-Bert, caminhada de ponta a ponta para obter Bert de ajuste fino usando o Azure Machine Learning,

11. bigboned3/bert_serving, exportar modelo Bert para servir,

12. Yoheikikuta/Bert-Japanese, Bert com peça de frase para texto japonês.

13. WHQWILL/SEQ2SEQ-TEYPHRASE-BERT, Adicione Bert à parte do codificador para https://github.com/memray/seq2seq-keyphrase-pytorch,

14. Exemplos de Algteam/Bert, Bert-Demo,

15. Cedrickchee/Awesome-Bert-NLP, uma lista com curadoria de recursos de PNL focados em Bert, mecanismo de atenção, redes de transformador e aprendizado de transferência.

16. cnfive/cnbert, 中文注释一下 bert 代码功能,

17. Brightmart/bert_customized, bert com recursos personalizados,

18. Jayyip/Bert-MultitaSk-Learning, Bert para aprendizado multitarefa,

19. yuanxiaosc/bert_paper_chinese_translation, bert: pré-treinamento de transformadores bidirecionais profundos para entendimento da linguagem 论文的中文翻译。 Tradução da China! https://yuanxiaosc.github.io/2018/12/…,

20. Yaserkl/bertvsulmfit, comparando os resultados da classificação de texto usando a incorporação de Bert e a incorporação do UlMFit,

21. Kpot/Keras-Transformer, Biblioteca Keras para Building (Universal) Transformers, facilitando os modelos Bert e GPT,

22. 1234560O/Bert-modelo-código-interpretação, 解读 Tensorflow 版本 Bert 中 Modeling.py 数据流

23. Inferência de CDATHURALIYA/BERT, uma classe auxiliar para o Google Bert (Devlin et al., 2018) para apoiar a previsão on-line e a pipelinização de modelos.

24. Gameofdimension/java-bert-prdict, transformar o ponto de verificação de pré-pretain Bert em modelo salvo para uma demonstração de extração de recursos em java

25. 1234560O/Bert-modelo-código-interpretação, 解读 Tensorflow 版本 Bert 中 Modeling.py 数据流

Domínio específico Bert:

1. Allenai/Scibert, um modelo Bert para texto científico. https://arxiv.org/abs/1903.10676,

2. Merajat/SolvingAlManythingWithbert, BioBert Pytorch

3. Kexinhuang12345/Clinicalbert, Clinicalbert: Modelando Notas Clínicas e previsão de readmissão hospitalar https://arxiv.org/abs/1904.05342

4. EmilyalsEntzer/Clinicalbert, repositório para incorporação clínica de Bert clínica disponível ao público

Bert implantam truques:

1. Zhihu/Cubert, Implementação rápida da inferência de Bert diretamente em Nvidia (CUDA, CUBLAS) e Intel MKL

2. XMXOXO/BERT-TRAIN2DEMPLO, Treinamento e implantação de modelos Bert, Bert 模型从训练到部署,

3. https://github.com/nvidia/deeplearnningexamples/tree/master/tensorflow/languageModeling/bert, Bert para tensorflow, este repositório fornece um script e uma receita para treinar Bert para alcançar a precisão da arte e é testada e mantida por NVIDIA.

4. qiangsiwei/bert_distill, destilação de bert （基于 bert 的蒸馏实验）,

5. Kevinmtian/Destill-Bert, destilação de conhecimento de Bert,

Tarefa Bert QA e RC:

1. SOGOU/SMRCTOOLKIT, este kit de ferramentas foi projetado para o desenvolvimento rápido e eficiente de modelos modernos de compreensão de máquinas, incluindo modelos publicados e protótipos originais.,,

2. Benywon/Chinesbert, este é um modelo chinês de Bert específico para resposta a perguntas,

3. Matthew-Z/R-Net, R-Net em Pytorch, com Bert e Elmo,

4. NYU-DL/DL4MARCO-BERT, PASSAGEM RANKING COM BERT,

5. xzp27/bert-for-chinese-question -nswering,

6. Chiayewken/Bert-Qa, Bert para resposta a perguntas A partir de Hotpotqa,

7. Ankit-AI/Bertqa-Attention-on-Steroids, Bertqa-Atenção em esteróides,

8. NOVICL/BERT-RACE, este trabalho é baseado na implementação de Pytorch de Bert (https://github.com/huggingface/pytorch-pretring-bert). Adaptei o modelo Bert original para trabalhar na compreensão de máquinas de múltipla escolha.

9. EVA-N27/BERT-PARA-PERGUNTA-PERGUNTA-PERGUNTA,

10. Allenai/Allennlp-Bert-qa-Wrapper, este é um invólucro simples em cima dos modelos de controle de qualidade baseados em Bert, com base em Pytorch, para fazer arquivos de modelos Allennlp, para que você possa servir demos da Allennlp.

11. Edmondchensj/Chineseqa-With-Bert, EECS 496: Tópicos avançados no Projeto Final de Aprendizagem Deep: Resposta de Perguntas Chinesas com Bert (DataSet Baidu Dureader)

12. Graykode/Toeicbert, Toeic (Teste de Inglês para Comunicação Internacional) Solução usando Modelo Pytorch-Preted-Bert.,

13. Graykode/Korquad-Beginner, https://github.com/graykode/korquad-beginner

14. Krishna-sharma19/sbu-qa, este repositório usa incorporações pré-train bert para aprendizado de transferência no domínio de controle de qualidade

15. Basketballndlearn/Dureader-Bert, Bert Dureader 多文档阅读理解 排名第七, 2019 Dureader 机器阅读理解 单模型代码。,, 单模型代码。,, 单模型代码。,

Tarefa de classificação Bert:

1. ZhpMatrix/Kaggle-Quora-Inserido-Classificação, Kaggle 新赛 (linha de base)-基于 Bert 的 Ajuste fino 方案+基于 Tensor2tensor 的 Codificador do transformador 方案

2. Classificação Maksna/Bert-Fine-Tuning-For-Chinese-Multiclass, use o modelo de pré-treinamento do Google Bert para ajustar fino para a classificação multiclasse chinesa

3. NLPscott/Bert-Chinese-Classification-Task, Bert 中文分类实践,

4. SocialBird-Aailab/Bert-Classification-Tutorial,

5. FOOSINAPTIC/BERT_CLASSIFER_TRIL, BERT TEMS para Classication Chinese Corpus

6. Xiaopingzhong/Bert-Finetune para Classfier, 微调 Bert 模型, 同时构建自己的数据集实现分类

7. Pengming617/bert_classification, 利用 bert 预训练的中文模型进行文本分类,

8. xieyufei1993/bert-pytorch-chinese-textclassification, pytorch bert finetune na classificação de texto chinês,

9. Liyibo/classificação de texto-demos, modelos neurais para classificação de texto em tensorflow, como CNN, DPCNN, FastText, Bert ...,

10. Circlepi/bert_chinese_text_class_by_pytorch, um pytorch implementos da classe de texto chinês baseado em bert_pretringen_model,

11. Kaushaltrivedi/Bert-Toxic-Commments-Multilabel, Classificação Multilabel para Comentários Tóxicos Desafio usando Bert,

12. Classificação Loneppiente/Bert-Chinese-Text-Pytorch, este repo contém uma implementação de Pytorch de um modelo BERT pré-treinado para classificação de texto.,

Análise de sentimentos de Bert

1. CHUNG-I/DOUBAN-SIGUNDO-análise, análise de sentimentos sobre o conjunto de dados de comentários curtos de filmes de Douban usando Bert.

2. Lynnna-xu/bert_sa, Bert Sentiment Analysis Tensorflow Serving com API RESTful

3. HSLCY/Absa-Bert-Pair, utilizando Bert para análise de sentimentos baseados em aspectos por meio da construção de sentença auxiliar (NAACL 2019) https://arxiv.org/abs/1903.09588,

4. Songyouwei/Absa-Pytorch, Análise de sentimentos baseados em aspectos, implementações de Pytorch. 基于方面的情感分析 ， 使用 pytorch 实现。,

5. Howardhsu/Bert-For-RRC-ABSA, Código para o nosso artigo NAACL 2019: "Bert pós-treinamento para compreensão de leitura de revisão e análise de sentimento baseado em aspectos",

6. Brightmart/Sentiment_analysis_fine_grain, classificação de vários rótulos com Bert; Análise de sentimentos de granulação fina de AI Challenger,

Tarefa de Bert Ner:

1. ZhpMatrix/Bert-sequence marcando, 基于 Bert 的中文序列标注

2. Kyzhouhzau/Bert-ner, use o Google Bert para fazer Conll-2003 ner! , Assim,

3. Solução de tarefas King-Menin/Ner-Bert, NER (Bert-Bi-lstm-Crf) com o Google Bert https://github.com/google-research.

4. Macanv/Bert-Bilsmt-Crf -ner, Solução TensorFlow da tarefa NER usando o modelo BILSTM-CRF com o ajuste fino do Google Bert,

5. Fuyanzhe2/Nome-entidade-reconhecimento, LSTM-CRF, Lattice-Crf, Bert-energia 及近年 Ner 相关论文 Siga,

6. MHCAO916/NER_BASED_ON_BERT, este projeto é baseado no modelo do Google Bert, que é um nerd chinês

7. Prohiryu/bert-chinese-ner, 使用预训练语言模型 bert 做中文 ner,

8. Sberbank-AI/Ner-Bert, Bert-Er (Nert-Bert) com o Google Bert,

9. Kyzhouhzau/Bert-Bilstm-CRF, esta base de modelos em Bert-As-Service. Estrutura do modelo: bilstm CRF. , Assim,

10. Hoiy/Berserker, Berserker - Bert Chinese Word Tokenizer, Berserker (Bert Chinese Word Tokenizer) é um tokenizador chinês construído sobre o modelo Bert do Google. , Assim,

11. Kyubyong/bert_ner, nerd com bert,

12. Jiangpinglei/bert_chinesewordsement, um modelo de segmento de palavras chinês baseado em Bert, f1-escore 97%,

13. Yanwii/Chinesener, 基于 Bi-Gru + CRF 的中文机构名、人名识别 中文实体识别, 支持 Google Bert 模型

14. Lemonhu/Ner-Bert-Pytorch, solução Pytorch de tarefa NER usando o modelo BERT pré-treinado do Google AI.

Tarefa de resumo de texto Bert:

1. nlpyang/bertsum, código para papel tune tune bert para resumo extrativo,

2. Santhoshkolloju/abstrato-humilização com resumo abstrato e abstrato usando Bert como codificador e decodificador do transformador,

3. Nayeon7lee/Bert-SMARIZAÇÃO, implementação de 'geração de linguagem natural baseada em pré-treinamento para resumo de texto', artigo: https://arxiv.org/pdf/1902.09243.pdf

4. dmmiller612/palestra-verão, resumizador de palestras com bert

Tarefa de geração de texto Bert:

1. ASYML/TEXAR, Toolkit para geração de texto e além de https://texar.io, o texas é um kit de ferramentas de geração de texto de uso geral, também implementou Bert aqui para classificação e aplicativos de geração de texto combinando com os outros módulos do Texas.

2. anulado/bertgenerate, ajuste fino Bert para geração de texto, Bert 做 文本生成 的一些實驗

3. Tiiiger/bert_score, pontuação Bert para geração de idiomas,

Tarefa de gráfico de conhecimento Bert:

1. lvjianxin/conhecimento-extração, 基于中文的知识抽取 ， linha de base ： Bi-LSTM+CRF 升级版: Bert 预训练

2. SakuraNew/Bert-Attributextraction, usando BERT para extração de atributos no conhecimento. Ajuste fino e extração de recursos. 使用基于 Bert 的微调和特征提取方法来进行知识图谱百度百科人物词条属性抽取。,

3. aditya-ai/informação-revieval-sistema-using-bert,

4. jkszw2014/bert-kbqa-NLPCC2017, A trial of kbqa based on bert for NLPCC2016/2017 Task 5 (基于BERT的中文知识库问答实践，代码可跑通），博客介绍 https://blog.csdn.net/ai_1046067944/article/details/86707784 ,

5. yuanxiaosc/esquema baseado em exclusão, código para http://lic2019.ccf.org.cn/kg 信息抽取。使用基于 bert 的实体抽取和关系抽取的端到端的联合模型。 （将在比赛结束后 ， 完善代码和使用说明）,,

6. Yuanxiaosc/Extração de Extração, Entidade e Relacionamento de Relação de Entidade, baseada no Tensorflow. 基于 Tensorflow 的管道式实体及关系抽取 ， 2019 语言与智能技术竞赛信息抽取任务解决方案 （比赛结束后完善代码））。 Extração de conhecimento baseada em schema, Ske 2019 http://lic2019.ccf.org.cn,

7. Wenrichard/Kbqa-Bert, 基于知识图谱的问答系统 ， Bert 做命名实体识别和句子相似度 ， Online 和 Dreios 模式 ， 博客介绍 https://zhuanlan.zhihu.com/p/62946533,

8. ZHPMatrix/Bertem, ACL2019 论文实现《 Combinando os espaços em branco: similaridade distributiva para aprendizado de relação》,

Resolução de Coreferência de Bert

1. Ianycxu/rgcn-with-bert, redes convolucionais de gráfico-relatório (RGCN) com BERT para tarefa de resolução de núcleo

2. Isabellebouchard/bert_for_gap-coreference, Bert Finetuning para resolução de pronome imparcial de gap

Bert Visualization Toolkit:

1. Jessevig/Bertviz, ferramenta para visualizar a atenção de Bert,

Bert Chatbot:

1. Gaoq1/rasa_nlu_gq, transforme a linguagem natural em dados estruturados (支持中文 ， 自定义了 n 种模型 ， 支持不同的场景和任务),),

2. Gaoq1/rasa_chatbot_cn, 基于 rasa-nlu 和 rasa-core 搭建的对话系统 demonstração,

3. Gaoq1/Rasa-Bert-Finetune, 支持 Rasa-nlu 的 Bert Finetune,

4. Geodge831012/bert_robot, 用于智能助手回答问题的训练 ， 基于 bert 模型进行训练改造

5. Classificação Yuanxiaosc/Bert-For-Sequence-Rabeling e Texto, este é o código do modelo para usar o BERT para a lança de sequência e a classificação de texto, a fim de facilitar o BERT para obter mais tarefas. Atualmente, o código do modelo incluiu a Identificação de entidade nomeada Conll-2003, preenchimento de slots e previsão de intenções.

6. Guillaume-Chevalier/Reubert, um chatbot de resposta à pergunta, simplesmente.

Modelo de linguagem Bert e incorporação:

1. Hanxiao/Bert-AS Serviço, mapeando uma frase de comprimento de variável para um vetor de comprimento fixo usando modelo BERT pré-treinado,

2. Yc-wind/embedding_study, 中文预训练模型生成字向量学习 ， 测试 bert ， elmo 的中文效果,

3. Kyubyong/Bert-Tokenbeddings, Bert INCORMAÇÕES TOKEN PRENTRETRIEND,

4. xu-song/bert_as_language_model, bert como modelo de idioma, garfo de https://github.com/google-research/bert,

5. Yuanxiaosc/Deep_dynamic_word_representation, código Tensorflow e modelos pré-treinados para representação de palavras dinâmicas profundas (DDWR). Combina o modelo Bert e a representação profunda de palavras de contexto de Elmo.,

6. IMGARYLAI/BERT-EMBEDDIGEM, INCEDIÇÕES NÍVEIS DE TOKEN do Modelo Bert no MxNet e Gluonnlp http://bert-embedding.readthedocs.io/,

7. aterrifiquezhao/bert-utils, bert 生成句向量 ， bert 做文本分类、文本相似度计算,

8. Fennudetudou/bert_implement, 使用 bert 模型进行文本分类 ， ， ， 以及词性标注,

9. WHQWILL/SEQ2SEQ-TEYPHRASE-BERT, Adicione Bert à parte do codificador para https://github.com/memray/seq2seq-keyphrase-pytorch,

10. Charles9n/Bert-Sklearn, um invólucro Sklearn para o modelo Bert do Google,

11. NVIDIA/MEGATRON-LM, Treinando de pesquisa em andamento Modelos de idiomas em escala, incluindo: Bert,

12. Hankcs/Bert-Tooken-Le-LeBebedding, gerar Bert Token Nível Incorporar sem dor

13. FacebookResearch/LAMA, LAMA: Análise de modelos de idiomas, o LAMA é um conjunto de conectores para modelos de idiomas pré-treinados.

Match de texto Bert:

1. Pengming617/bert_textMatching, 利用预训练的中文模型实现基于 bert 的语义匹配模型 数据集为 lcqmc 官方数据

2. BrokenWind/BertSimilaridade, Computação Similaridade de duas frases com o algoritmo Bert do Google

3. policeme/chinês_bert_similaridade, similaridade chinesa Bert

4. Somiilaridade de LONEPACIENTE/BERT-SENTENÇÃO Pytorch, este repo contém uma implementação de Pytorch de um modelo BERT pré-treinado para tarefa de similaridade de sentença.

5. Nouhadziri/Dialogentilment, a implementação do artigo "Avaliando a coerência em sistemas de diálogo usando a falta" https://arxiv.org/abs/1904.03371

6. UKPLAB / Sentença-transformadores, incorporações de sentença com Bert & Xlnet, Transformadores de sentença: incorporações de sentença usando Bert / Roberta / XLNet com Pytorch,

Tutoriais de Bert:

1. Graykode/NLP-Tutorial, tutorial de processamento de idiomas natural para pesquisadores de aprendizado profundo https://www.reddit.com/r/machinelearn…,

2. dragen1860/tensorflow-2.x-tutoriais, TensorFlow 2.x Tutoriais e exemplos da versão, incluindo CNN, RNN, GAN, Oncoders automáticos, Fasterrcnn, GPT, Bert Exemplos, etc. TF 2.0 版入门实例代码 ，, 实战教程。,,