CCIIP实验室2023级研究生张圣哲同学（导师：魏巍）的论文“Modeling Historical Relevant and Local Frequency Context for Representation-Based Temporal Knowledge Graph Forecasting”以及23级研究生彭献书同学（导师：魏巍）的论文“CNEQ: Incorporating numbers into Knowledge Graph Reasoning” 被国际自然语言处理顶会（EMNLP 2024）长文全文录用2024年国际自然语言处理会议（EMNLP 2024）计划于2024年11月12日-11月14日在美国佛罗里达州召开。EMNLP是中国计算机学会CCF推荐的B类国际学术会议，中国人工智能学会和清华大学计算机学院推荐的A类会议，在人工智能及自然语言处理领域享有较高学术声誉。
1. 论文标题：Modeling Historical Relevant and Local Frequency Context for Representation-Based Temporal Knowledge Graph Forecasting（Findings of EMNLP 2024）
作者：Shengzhe Zhang, Wei Wei*, Rikui Huang, Wenfeng Xie, Dangyang chen
内容简介：时态知识图预测（TKGF）旨在利用历史知识图谱序列来预测未来事实，然而现有时态知识图谱预测模型主要利用全部历史事实为不同候选项建模相同时态语境，而忽略了其内在差异性而导致同质性预测及信息损失。因此，提出了一种新的TKGF表征学习模型CRAFT，从历史相关性和局部频率差异性两个方面差异化建模不同候选项的时态语境， 即我们通过设计一个具有双注意力机制的历史相关语境编码器，对候选对象的历史相关路径编码，并利用局部频率语境编码器建模重复事实中的局部频率特征，然后利用语境增强解码器对之前生成信息进行预测，从而有效提升模型在预测未来事实的准确性。通过在六个基准数据集上实验验证了所提模型有效性，同时进一步分析发现CRAFT利用时态语境信息可以准确提升其在差异性预测上的性能。
图1 CRAFT模型架构图
2. 论文标题：CNEQ: Incorporating numbers into Knowledge Graph Reasoning（Findings of EMNLP 2024）
论文作者：Xianshu Peng, Wei Wei *, Kaihe xu, Dangyang Chen
内容简介：目前，在知识图谱上进行复杂逻辑推理对于许多下游应用尤为关键，因此近年来受到普遍关注。然而，目前已有基于知识图谱的复杂推理模型通常将数值信息建模成普通实体，而往往忽略其中蕴含的丰富语义信息（例如，大小、单位和分布），导致模型在处理数值类复杂推理时性能不佳。因此，提出了一种用于解决蕴含数值复杂逻辑推理的查询模型CNEQ，其对数值类实体从结构和语义两个层面进行建模。具体来说，其主要包含两个模块，即数值-实体预测器和实体过滤器，前者用于独立学习实体和数值的结构和语义特征，以便更好地预测实体和数值；后者主要比较或计算数值，以过滤出满足特定数值约束的实体。通过在三个主流在知识图谱上进行复杂逻辑查询的评测数据集（FB15K、DB15K和YAGO15K）上生成不同种类多跳复杂逻辑查询（含数值型）显示，所提方法有效提升了（含数值型）多跳复杂逻辑查询性能。
图2 CNEQ整体框架图