改进BERT算法在石墨烯专利实体抽取中的应用与演化分析

需积分: 3 1 下载量 94 浏览量 更新于2024-08-04 收藏 1.55MB PDF 举报
本文主要探讨了在专利实体抽取领域如何利用改进的BERT算法进行更高效和精确的信息挖掘,特别是针对石墨烯技术这类关键领域的专利。作者李建、靖富营和刘军来自电子科技大学经济与管理学院以及重庆工商大学国家智能制造服务国际科技合作基地,他们针对传统实体关系抽取方法的串行限制,提出了一种创新的研究思路。 首先,他们提出了基于改进的BERT-BiLSTM-CRF命名实体识别算法,这个算法融合了中文特征和句法语义特征。BERT(Bidirectional Encoder Representations from Transformers)原本是一种预训练语言模型,BiLSTM(Bi-directional Long Short-Term Memory)则增强了模型对上下文的理解能力,CRF(Conditional Random Field)则用于序列标注,提高实体识别的准确性。这种结合使得算法能够更好地理解和解析专利文本中的实体及其关系。 其次,他们还设计了一种新的算法,即注意力机制与语义结合的实体关系抽取算法,该算法引入了注意力机制,可以根据上下文的重要性动态调整特征权重,进一步提升了算法在复杂专利文本中的表现。注意力机制使得算法能更聚焦于关键信息,有助于提取出更有价值的实体关系。 研究中,通过将这两种改进的BERT算法应用于石墨烯制备技术的专利数据集上,作者展示了它们在实际应用中的有效性。实验结果表明,这些算法不仅提高了专利实体抽取的效率,而且能够深入分析专利内容,揭示出石墨烯企业在技术研发和专利策略上的动态演变过程。这对于专利检索、新颖性评估以及产业技术趋势分析具有重要意义。 这篇文章的核心贡献在于提出并验证了基于改进BERT算法的专利实体抽取方法,这为专利信息处理和知识产权分析提供了新的工具和技术支持,对于推动石墨烯等相关领域的技术创新和发展具有实际应用价值。关键词包括演化分析、实体抽取、石墨烯技术以及专利,文章发表在《xxxxx》杂志,被引用文献标识码为Ad,doi为10.12178/1001-0548.2020132。