taishan1994/bert_mrc_ner_chinese

基于bert_mrc的中文命名实体识别

你好，我是西西嘛呦. 👋

• 🌱 博客园地址：西西嘛呦
• 👯 微信公众号：西西嘛呦
• 
• 🔭 知乎：西西嘛呦
• 🤔 目前从事于自然语言处理相关工作，喜欢探索不同的技术
• ⚡ 定制化arxiv，每日更新NLP相关论文：https://taishan1994.github.io/xiximayou-arxiv/
• 😄 联系我-微信号：gongoubo

ChatGPT

• ChatGPT进行情感分析
• ChatGPT进行可控文本生成
• 你也可以动手ChatGPT
• ChatGLM-LoRA-Tuning
• Chinese-LLaMA-Alpaca-LoRA-Tuning
• Chinese-BELLE-LoRA-Tuning
• qlora-chinese-LLM
• baichuan-Qlora-Tuning
• langchain-learning
• llama3-finetuning

以下三个是一个系列：怎么让英文大语言模型支持中文

• sentencepiece_chinese_bpe
• chinese_llm_pretrained
• chinese_llm_sft

图神经网络

• 异构图神经网络
• DGL中文文档
• 图注意力神经网络

分布式训练

• pytorch分布式训练

中文信息抽取

基于pipe的信息抽取：

• BERT-BILSTM-CRF：中文实体识别
• BERT-Relation-Extraction：中文关系抽取
• BERT-ABSA：中文方面级情感分析
• BERT-Event-Extraction 中文事件抽取

基于指针网络的信息抽取：实体识别、关系抽取、事件抽取：

• PointerNet_Chinese_Information_Extraction

基于GlobalPointer的信息抽取：实体识别、关系抽取、事件抽取：

• chinese_information_extraction

命名实体识别

• pytorch_bert_bilstm_crf实体识别
• 中文命名实体识别综述
• TPLinker实体识别
• GlobalPointer实体识别
• pytorch版本的百度UIE信息抽取
• OneVersusRest实体识别
• 多头选择实体识别
• 级联命名实体识别
• albert属性抽取
• W2NER实体识别
• 基于MRC的实体识别
• pytorch_bilstm_crf实体识别
• 三种架构进行实体识别
• tensorflow_bilstm_crf实体识别
• 文言文实体识别
• 百度UIE细粒度实体识别
• 基于biaffine进行实体识别
• 融合字形+拼音信息的bert中文实体识别
• 基于bert的英文实体识别

关系抽取

• 三元组抽取：实体识别+关系抽取
• GlobalPointer三元组抽取
• CaseRel三元组抽取
• OneRel中文关系抽取
• 关系抽取综述
• 基于bert的关系抽取
• 基于LTP的三元组抽取
• pytorch百度UIE关系抽取
• SpERT中文关系抽取
• 文言文关系抽取

事件抽取

• 多标签分类+事件抽取

文本分类

• bert中文文本分类
• 基于Lightning的分本分类
• fasttext细粒度情感分析
• 不平衡文本分类
• EDA文本分类数据增强
• 基于bert的多标签分类
• 中文文本分类-各种CNN/RNN模型
• tensorflow中文文本分类
• 基于prompt的中文文本分类

句子相似度

• simcse句子表征
• 中文句向量表征
• sentence-transformer句子相似度

实体链接

• 基于bert的实体链接

指代消解

• 基于bert的指代消解

意图识别和槽位填充

• 意图识别和槽位填充

知识图谱

• 基于英雄联盟知识图谱的问答
• 基于医疗知识图谱的问答

文本生成

• 文本生成-T5/Unilm
• 基于RNN的中文写诗
• 基于seq2seq的英译中
• 使用genius进行生成

中文关键词提取

• 关键词提取

机器问答

• albert机器问答
• QANet机器问答
• 基于TFIDF的检索式问答
• 基于lstm的多项选择

中文文本纠错

• 基于bert的中文拼写纠错
• seq2edit文本纠错
• 中文文本纠错综述

模型压缩

• 知识蒸馏

其它

• python公共代码
• 中文成语接龙
• doccano标注工具
• 地址解析
• 斗破苍穹新词发现
• 恶意域名识别
• 像sklearn一样使用bert
• 训练词、字、拼音向量
• 使用自己的数据训练bert
• 更直接的bert代码
• 中文笔画向量
• CNN/RNN/Transformer特征提取器
• transformer实例

bert_mrc_ner_chinese's Issues

环境依赖

请问python和torch的版本是多少？

The loaded data set is too complex. Can it be simplified to make it easy to replace the data

I want the training data format to be TXT or CSV

OSError: Unable to load weights from pytorch checkpoint file for '/content/BERT_MRC_NER_chinese/pretrained_model/hfl_chinese-roberta-wwm-ext/pytorch_model.bin'

你好，我下载pytorch_model.bin好像有点问题？请问该怎么解决？我是在colab跑的，删除transformers也无法解决这个问题。真的非常非常感谢您的回答！！！

网盘数据下载

网盘转存数据链接会显示转存错误

query = labels['default']

你好!我想请问一下‘default'是什么？在zh_msra.json中并未出现这个key，我一直报错KeyError: 'default'，是我的zh_msra.json有问题吗？非常感谢您的回答！！！

数据转换为mrc格式

请问如何将json数据转换为mrc格式呢

span的问题

你好，这里span的值都为1
span_pred_lst = [[[1] * len(start_pred_lst[0])] * len(start_pred_lst[0])] * len(start_pred_lst)
span_gold_lst = [[[1] * len(start_gold_lst[0])] * len(start_gold_lst[0])] * len(start_gold_lst)

后续在判断的时候
if span_labels[tmp_start][tmp_end] >= threshold:
这里不是都为True 这个就是成了找最小的end，没啥意义了

为啥model.py中把这部分代码删掉： # self.span_embedding = MultiNonLinearClassifier(config.hidden_size*2, 1, config.dropout)，我看香浓代码里这部分代码好像是用于匹配起始结束标签的，为啥也能删除捏？