NGAT：基于广度和深度探索注意力机制的半监督图表示学习

2022年第23卷第3期

摘要

关键词

相关研究

回顶部

《信息与电子工程前沿（英文）》 >> 2022年第23卷第3期 doi: 10.1631/FITEE.2000657

NGAT：基于广度和深度探索注意力机制的半监督图表示学习

浙江大学计算机科学与技术学院，中国杭州市，310027

收稿日期： 2020-11-22 录用日期： 2022-03-22 发布日期： 2022-03-22

HTML130 PDF 23 收藏 0

摘要

近年来图神经网络（GNN）在图结构数据表示学习方面取得显著成绩。然而，随着网络层数增加，由于过度平滑问题，基于邻域信息聚合策略的GNN性能恶化，这也是GNN应用于真实图的主要瓶颈。研究人员对直连节点的特征信息聚合过程进行了许多改进，即广度探索。然而，这些模型仅在层数为3或更少的情况下才表现最佳，而在深层情况下性能迅速下降。为缓解过度平滑，本文提出一种嵌套的图注意网络，即基于双重注意力机制的多尺度特征融合模型NGAT，该网络可以半监督形式工作。除广度探索，k层NGAT运用注意力机制引导的分层聚合策略，选择性地利用来自k阶邻域的信息特征，即深度探索。即使对于10层或更深的架构，NGAT也能平衡保留局部性（包括根节点特征和局部结构）和从大型邻域聚合信息的需求。本文在公开数据集上对比了现有图神经网络模型，实验表明本文提出的NGAT模型具备更强的节点嵌入学习能力。

关键词

图学习 ; 半监督学习 ; 节点分类 ; 注意力机制