[Pattern Recognition]:国际知名SCI期刊Pattern Recognition录用CCIIP实验室2019级研究生王赞博同学论文“Position-Aware Self-Attention based Neural Sequence Labeling”!

来源: 浏览量: 日期:2020-09-08

CCIIP实验室2019级研究生王赞博同学(2019年9月入学,导师:魏巍)论文“Position-Aware Self-Attention based Neural Sequence Labeling”被国际知名SCI期刊Pattern Recognition(PR)录用。PR期刊是模式识别领域的知名期刊,在CCF学术推荐列表中认定为B类刊物,最新影响因子为7.196。

序列标注(Sequence Labeling)是自然语言处理中的一项基本任务,并且已被广泛研究。近些年基于RNN的序列标注模型越来越受到关注,尽管RNN在学习序列中元素长期依赖关系的能力使其获得卓越的性能,但这种按序依次处理输入的方式可能会限制其捕获句子中词语的非连续关系的能力。为了解决这个问题,本文集中于如何有效地建模序列中元素的离散依赖性(Discrete Dependencies),以增强序列标注任务的性能。具体而言,本文提出了一种基于位置感知的自注意力机制(Position-aware Self-attention)以及自注意力上下文融合网络(Self-attentional Context Fusion Network),以探索输入的相对位置信息并捕获元素间的潜在关系。在序列标注领域的三个经典任务(即词性标注,命名实体识别和短语分块)上的实验结果表明,我们提出的模型在F1-score、Accuracy等指标上超越目前已知的基线模型。