利用BERT-TextCNN模型、BERT-BiLSTM-CRF模型完成金融新闻事件的自动抽取。将非结构化的文本转化为结构化的数据,为后续知识图谱的构建打下了基础。本文可以得到以下三个结论:第一,在事件分类方面,融合预训练BERT的BERT-TextCNN模型的F1值能够达到85%,分类效果好于TextCNN模型、FastText模型。BERT-TextCNN模型在F1值...
1、鉴于上述技术问题,为了克服上述现有技术的不足,本发明提出了一种基于bert-bilstm-crf的命名实体识别方法,结合了预训练的bert表示和序列建模能力,能够更好地处理各种实体类型和文本结构。 2、本发明提供一种基于bert-bilstm-crf的日志实体识别方法,包括步骤: 3、s1、获取日志数据并进行数据预处理得到文本序列; 4...
基于BERT-CRF 模型的中文事件检测方法研究 田梓函，李 欣 中国人民公安大学信息网络安全学院，北京100038 摘 要：事件抽取是自然语言处理中信息抽取的关键任务之一。事件检测是事件抽取的第一步，事件检测的目标是 识别事件中的触发词并为其分类。现有的中文事件检测存在由于分词造成的误差传递，导致触发词提取不准确。...
(4)为了验证bigru比bilstm更适合刑事案件要素识别任务,设置了bert-bilstm-a-crf与bert-bigru-a-crf的对比实验,同样使用刑事案件新闻语料进行实验,实验结果如表6所示。 表6bigru比bilstm对比实验结果 从表6看出使用bigru识别效果稍好于bilstm,因为bigru是bilstm的简化版,需要训练的参数的较少,训练时间短,但是性能不...
4)基于 BiLSTM-CRF 的政府微博舆论观点抽取与焦点呈现 1,范例简介 标题: 基于LDA与BERT-BiLSTM-Attention模型的突发公共卫生事件网络舆情演化分析 作者: 曾子明 陈思语 作者单位: 1. 武汉大学信息管理学院 2. 武汉大学信息资源研究中心 关键词:网络舆情;演化分析;LDA;BERT-BiLSTM-Attention;病毒变异; ...
目的:提出一种基于医疗知识图谱的BERT-BiLSTM-CRF命名实体识别模型(MKG-BERT-BiLC),用于解决BERT类语言模型在处理医疗电子病历命名实体识别任务时,由于缺乏一定医疗领域背景知识而导致无法充分发挥其作用的问题.方法:将医疗知识图谱中的三元组信息集成到BERT-BiLSTM-CRF模型中,可实现为模型配备相应的医疗领域知识,进而增...
基于ALBERT+BiLSTM+CRF的事件抽取模型 针对现有事件抽取模型事件数据集规模较小,存在开销与性能不平衡问题,采用AL-BERT预训练语言模型生成词向量,将其输入BiLSTM+CRF模型完成句子级事件的特征向量提取,抽取... 韩娜,张昊洋 - 《黑龙江科技学院学报》 被引量: 0发表: 2022年 面向流调对象轨迹的实体抽取方法 鉴于原始...
选取不同来源和结构的数据作为基础,构建原始文档库;S2标签迁移:对电力通信网络原始知识数据进行标注,并以标注信息为基础,进行标签迁移;S3语义特征提取:基于BERT模型进行训练实现电力通信网络结构化文档数据的语义特征提取;S4构建知识图谱:基于BiLSTM‑CRF模型对所提取的语义特征进行命名实体识别,提取知识概念以及相互联系,...
基于BERT-BiLSTM-CRF的突发公共卫生事件抽取研究 针对突发公共卫生事件的结构化抽取,首先定义了突发公共卫生事件的8种子类型及其结构,在此基础上提出基于BERT-BiLSTM-CRF的事件抽取模型.模型利用了BERT的多头自注意力... 石磊,李敬明,朱家明 - 《哈尔滨师范大学自然科学学报》 被引量: 0发表: 2022年 基于BERT-BILS...
与现有技术相比,本发明具有的有益效果是:该基于bert加上bilstm-crf实体识别模型的电力通信网络知识图谱构建方法将bert加上bilstm-crf模型引入电力通信网络知识图谱构建问题中,以bert方法充分提取术语上下文中隐藏的语义信息,降低术语歧义,提升识别准确度;最终提升整个知识图谱中概念以及关联关系的准确性。