超图计算

高跃 ,  吉书仪 ,  韩向敏 ,  戴琼海

工程(英文) ›› 2024, Vol. 40 ›› Issue (9) : 202 -215.

PDF (4662KB)
工程(英文) ›› 2024, Vol. 40 ›› Issue (9) : 202 -215. DOI: 10.1016/j.eng.2024.04.017
研究论文

超图计算

作者信息 +

Hypergraph Computation

Author information +
文章历史 +
PDF (4773K)

摘要

在互联网、社交网络和生物网络等现实场景中,数据稀缺和关联复杂的挑战限制了人工智能的应用。图结构是表示这种关联关系的典型工具,但其无法对系统中不同对象之间的高阶关联进行建模,因此难以充分捕捉对象之间的复杂关联。针对上述两个挑战,超图计算通过超边建模数据、知识和规则之间的高阶关联,并利用这些高阶关联来增强数据。此外,超图计算可以基于数据和高阶关联实现协同计算,从而提升模型应用的灵活性。本文介绍了三种类型的超图计算方法:①超图结构建模;②超图语义计算;③高效超图计算。然后以三维对象识别等任务为例,详细说明了如何在特定领域任务中应用超图计算方法。实验结果显示,与传统基于数据的方法相比,超图计算在实现同等性能的同时可以减少80%的数据需求,或在相同数据条件下将任务性能提高52%。本文进一步全面概述了超图计算在智慧医学和计算机视觉领域的广泛应用。最后,本文介绍了一个开源的深度学习库DeepHypergraph(DHG),为超图计算的实际应用提供了有力支撑。

Abstract

Practical real-world scenarios such as the Internet, social networks, and biological networks present the challenges of data scarcity and complex correlations, which limit the applications of artificial intelligence. The graph structure is a typical tool used to formulate such correlations, it is incapable of modeling high-order correlations among different objects in systems; thus, the graph structure cannot fully convey the intricate correlations among objects. Confronted with the aforementioned two challenges, hypergraph computation models high-order correlations among data, knowledge, and rules through hyperedges and leverages these high-order correlations to enhance the data. Additionally, hypergraph computation achieves collaborative computation using data and high-order correlations, thereby offering greater modeling flexibility. In particular, we introduce three types of hypergraph computation methods: ① hypergraph structure modeling, ② hypergraph semantic computing, and ③ efficient hypergraph computing. We then specify how to adopt hypergraph computation in practice by focusing on specific tasks such as three-dimensional (3D) object recognition, revealing that hypergraph computation can reduce the data requirement by 80% while achieving comparable performance or improve the performance by 52% given the same data, compared with a traditional data-based method. A comprehensive overview of the applications of hypergraph computation in diverse domains, such as intelligent medicine and computer vision, is also provided. Finally, we introduce an open-source deep learning library, DeepHypergraph (DHG), which can serve as a tool for the practical usage of hypergraph computation.

关键词

高阶相关 / 超图结构建模 / 超图语义计算 / 高效超图计算 / 超图计算框架

Key words

High-order correlation / Hypergraph structure modeling / Hypergraph semantic computing / Efficient hypergraph computing / Hypergraph computation framework

Highlight

• Hypergraph computation is a methodology for modeling complex high-order correlations.

• Hypergraph structure modeling, semantic computing, and efficient computing are introduced.

• The applications of hypergraph computation in diverse domains are summarized.

• An open-source library DHG for learning hypergraph neural networks is introduced.

引用本文

引用格式 ▾
高跃,吉书仪,韩向敏,戴琼海. 超图计算[J]. 工程(英文), 2024, 40(9): 202-215 DOI:10.1016/j.eng.2024.04.017

登录浏览全文

4963

注册一个新账户 忘记密码

1 引言

在现实世界的许多领域,大数据分析已成为研究和应用的主流趋势。然而,在特定场景下仍存在有效数据不足、数据内部和数据之间关联复杂的挑战。这些挑战主要来自于数据采集与标注困难、隐私保护需求以及数据结构的固有复杂性。因此,深入了解数据的内在特性,理解数据中包含的复杂关联,并采用新的计算范式来解决数据稀缺和关联复杂难题是至关重要的。

人类大脑的思考和记忆过程就是一个典型的复杂关联场景。当思考一个问题时,大脑会激活不同内容之间的各种相关性,在不同的实体之间生成多维关联。我们有时很难回忆起某件事,但我们可以通过检索相关的信息(如时间、地点、人、颜色或声音)来触发我们的记忆。这些信息通过共同的属性连接起来,例如,它们可能发生在同一位置或同一时间。这些属性可以帮助我们找回遗失的记忆。

上述例子展示了看似不相关的对象是如何通过潜在的内在特征联系起来。这种联系是复杂且隐式存在的,已有研究表明这种关联关系在现实世界中是无处不在的和必不可少的。例如,Milo等[1]揭示了物种间高阶相互作用对稳定生态系统多样性的重要性;Benson等[2]指出,高阶连接模式可以更好地代表数据的内在特征和趋势(如生物化学和神经生物学网络)。

本质上,这种复杂的高阶关联可以在不同的尺度上分为两组:个体内部高阶关联[图1(右上)]和个体之间高阶关联[图1(右下)]。这两种类型概述如下:

(1)个体之间的高阶关联。此类关联在多个个体之间构建高阶关联。如图2(a)所示,社交媒体网络中的每个人都可以看作是一个节点,人之间复杂的互动表明了他们的共同兴趣、公众情绪、观点等信息。如图2(b)所示,将医学诊断中的每个患者作为一个个体,个体之间的相关性有助于推断他们患病与否。

(2)个体内部的高阶关联。这种类型的关系通过其内部组成单元间的交互来捕获个体高阶特征。以场景理解任务为例,图像块之间的相互关联可以形成高阶图像特征表示。如图3所示,病理图像中复杂高阶关联可以反映肿瘤微环境、生物标志物等重要信息。在此类个体表征构建过程中,个体内部组成单元的特征以及它们之间的相互作用都需要进行精确刻画以获得个体的高阶表征。

个体之间的高阶关联和个体内部的高阶关联共同构建了观测数据与目标任务之间的桥梁。在实际应用中,由各种传感器或平台收集的数据构成了待分析对象的观测表征(即观测数据),而诸如图像中猫狗识别、点云配准、个体患者健康状况诊断等实际问题则构成目标任务。此类场景的核心挑战在于:如何有效利用多模态、多类型表征,并深入挖掘数据背后的复杂关联关系,以实现对象的精准建模与分析。

过去数十年间,研究人员在关联建模领域开展了大量探索,典型方法包括图结构、随机场、马尔可夫链等。其中,图结构是最主流的建模范式,通过建立两两对象之间的二元关系来刻画多对象间的关联特性,已被广泛应用于许多传统的人工智能方法中。例如著名的图割算法(Graph-Cut)正是通过图最优分割实现数据聚类、分割等任务。以该数据库领域为例,近年来涌现的NebulaGraph、Neo4j等图数据库,便是为更好处理数据关联关系而设计的专用系统,此类数据库可基于图结构实现高效的内容索引和查询。近年来,随着深度学习的快速发展,图神经网络(graph neural network, GNN)也受到了广泛关注。从图注意力模型到图对比学习等系列研究都为图像处理、数据挖掘等任务提供了新的理论方法支撑。

在实际应用中,图结构对对象关系的表征适配是一个关键问题。图结构虽然可以显式地刻画对象的二阶关系,但无法直接表征更高阶的复杂关联。如图4所示,图结构在高阶复杂关联建模中存在明显的局限性:其虽可自然描述两两对象间的关联,却难以直接建模涉及三个及以上对象的高阶关联关系。在此背景下,如何有效建模对象间的高阶复杂关联已成为亟待突破的重要挑战。

为应对这一挑战,基于超图的方法已发展多年,在数据分析领域的应用中取得显著进展。本文提出超图计算(hypergraph computation)的框架,其核心在于通过高阶关联增强数据表征,并实现数据与关联的协同计算,从而达成对对象的精准解析与理解。以三维(3D)物体识别为例,超图计算可在任务性能相当的前提下减少80%的数据需求,或在同等数据规模下将识别错误率降低52%。

本文结构安排如下:第2节系统论证了基于超图建模高阶关系的必要性;第3节从三个维度阐述超图计算框架,分别是超图结构建模、超图语义计算、高效超图计算;第4节通过智慧医疗与计算机视觉领域的具体应用任务,展示了超图计算的应用方式;第5节介绍了自主研发的超图计算开源工具;第6节展望了该领域的未来研究方向。

2 我们为什么需要超图结构建模?

图5展示了基于数据的传统计算范式和超图计算范式之间的区别。在传统计算范式中,映射函数 f ( X )直接学习数据到目标之间的映射关系,这类范式高度依赖于充足的训练数据。而面对数据稀缺和关联复杂的挑战,超图计算范式通过超边建模数据、知识和规则之间的高阶关联 R,并利用高阶关联 R来增强数据 X。此外,超图计算实现了数据 X与高阶关联 R的协同计算 f ( X , R ),从而提供了更强的建模灵活性。

图结构与超图结构的对比如图6所示。由图可知超图结构在表示高阶关联方面具有显著的优势。在超图中,每条超边可以连接一组具有相似特征的顶点。

相比之下,图中的一条边只能连接两个顶点,因此在多模态数据建模等复杂关联场景中存在固有局限。通过可扩展的超边机制,多模态/多类型数据可以直接统一到同一个超图中。在一定的约束条件下,图结构可以通过将二阶关联扩展为高阶关联来近似地建模多阶关联。例如,在标签传播任务中,当顶点权重与超边无关时,超图上的标签传播可等价转换为加权图上的传播过程;但当顶点权重与超边有关时,则不可等价转化。下面提供了一个简单的证明。

引理1. 给定一个不可约马尔可夫链 M,有限状态空间 S x ,   y S的转移概率表示为 p x , y。当且仅当存在顶点集 S的加权无向图 G,使得 G上的随机游走等价于 M,该马尔可夫链可逆[3]。

定理1. 给定一个超图 G i n d = { V ,   E , W i n d },其中 V E分别表示顶点和超边的集合, W i n d是与超边无关的顶点权重,则存在一个加权无向图 G,使得在 G上的随机游走等价于在 G i n d上的随机游走。

定理1的证明如下:

(1)根据Kolmogorov准则[3],对任意有限顶点序列 v 1 , v 2 , , v n S,马尔可夫链可逆的充要条件是其转移概率满足 p v 1 , v 2 × p v 2 , v 3 × × p v n , v 1 = p v 1 , v n × p v n , v n - 1 × p v 2 , v 1

(2)超图 G i n d上的随机游走等价于可逆马尔可夫链上的随机游走。

(3)根据引理1,可逆马尔可夫链上的随机游走等价于加权无向图 G上的随机游走,如图7(a)所示。其计算过程可表述为:

p v 1 , v 2 × p v 2 , v 3 × p v 3 , v 1 = 0.389 × 0.111 × 0.333 = 0.0143
p v 1 , v 3 × p v 3 , v 2 × p v 2 , v 1 = 0.111 × 0.333 × 0.389 = 0.0143

定理2.给定一个具有边依赖权值 W d e p的超图 G d e p = { V ,   E , W d e p , γ },其中 γ是表示顶点在超边中权值的超参数。在此条件下,不存在任何加权无向图 G,使得在 G上的随机游走等价于在 G d e p上的随机游走。

图7(b)给出了定理2的证明示意图:在 G d e p上的随机游走与可逆马尔可夫链上的随机游走不等价。计算过程可表述为:

p v 1 , v 2 × p v 2 , v 3 × p v 3 , v 1 = 0.422 × 0.022 × 0.400 = 0.0037
p v 1 , v 3 × p v 3 , v 2 × p v 2 , v 1 = 0.022 × 0.533 × 0.444 = 0.0052

根据定理1证明(3),显然0.0037 ≠ 0.0052,故定理2得证。

在实际应用中,对象(即超图的顶点)在不同群组级关联中常扮演不同的角色。例如,个体(表征为顶点)在足球、吉他、计算机科学等领域的专长水平具有差异性,其在不同领域(超边)中的角色权重应动态调整。因此,现实数据中的顶点权重通常具有超边依赖性。如前述分析,在此条件下超图上的标签传播无法等效转换为通过超图扩展生成的图结构上的传播过程,从数学原理上印证了超图建模的必要性。

3 超图计算

3.1 综述

在本文中,我们介绍了超图计算的概念,专门针对多维度、复杂且高阶关联的建模问题加以研究。超图计算旨在准确地建模和表示对象之间及其内部的复杂高阶关联,并进一步支持目标识别等多种下游任务。超图计算范式包含三个关键模块:超图结构建模、超图语义计算以及高效超图计算。其整体架构如图8所示。

给定多维度或多模态数据,超图结构建模的本质在于基于任务需求构建对象之间及其内部的高阶复杂关联结构。然而在实际场景中,信息关系往往更为复杂且时刻演化,固定的超图结构难以全面捕捉这种动态变化。因此,有必要研究关联关系的动态演化机制。此外,多维数据切片(如时空切片)常常存在观测不完整、信息欠定及数据噪声问题,进而限制了关联结构的建模性能。因此,探索复杂关系演化的内在规律显得尤为关键。一旦建立了对象之间的高阶复杂关系(即超图结构),如何基于此结构准确地表征对象则是进行超图语义计算的关键步骤。为此,研究人员设计了各类超图神经网络,通过专门的超图卷积算子实现结构化语义表示学习。在实际应用中,基于结构的方法(如图方法和超图方法)往往面临大规模数据带来的高计算复杂度挑战。针对这一问题,高效超图计算主要关注面向大规模数据的高阶关联建模以及计算加速技术。

下面,我们将依次详细阐述这三大关键组成。

3.2 超图结构建模

超图计算的首要步骤是构建待研究对象的超图结构,在单模态数据类型内、不同模态数据之间以及不同来源数据之间挖掘其内在蕴含的高阶关联。超图结构建模主要分为两大类:知识和规则驱动的建模方法、数据驱动的建模方法。前者通过基于网络和基于属性的方法对知识和规则中的高阶关联进行建模,而后者采用基于拓扑距离和表征的方法从数据中对高阶关联进行建模。为此,必须建立一个超图结构的概念框架,其中每个节点(记为 v)用来表示一个研究对象,每个超边(记为 e)则表示多个节点之间的关系。

例如,在视觉对象分类任务中,可将每幅图像视作节点,超边则连接具有某种内在联系的多张图像。在医学辅助诊断任务中,可将每位受试者视为节点,超边则根据其病历信息将具有相似特点的个体连接在一起。在病理图像的存活预测任务中,可将单幅全切片病理图像按图像块划分为多个节点,超边则表示各图像块间的相互关联关系。

在具体应用中,数据、知识和规则的形式多样,既可能是来自不同传感器的多模态数据,也可能是带有时序、空间、气候等属性的信息,或是文本描述。因此,需要针对不同数据性质设计相应的超图结构建模方法。表1 [434]列举了相关文献中常见的各类建模方法。

基于知识与规则的超图建模旨在充分利用已有的结构信息,为研究对象构建能够反映其高阶关联的超图。在此过程中,通常会引入两类超边:属性型超边和网络型超边。首先,对于属性型超边,如果若干对象在地理位置、时间、颜色、形状等属性上具有相似性或一致性,则可依据这些属性将对应节点通过超边相连(图9)。在此情形下,同一超边所连节点共享相似或相同的属性,并在超边层面体现该属性特征。其次,当研究对象自身具备空间分布或拓扑连接等初始网络结构时,则可构建网络型超边。此类超边既保留了原始的一阶关联,又可沿现有网络结构扩展为k-hop多跳连接以刻画更丰富的关系模式(图9)。

相比于知识与规则驱动的超图建模,数据驱动的超图建模通过预定义的机制自动化地生成隐式超边,主要包括两大类:基于距离的超边和基于表示的超边。对于前者,首先在特征空间中采用特定的距离度量[如k-最近邻(KNN)、ε-球或聚类算法]计算对象间距离,然后将彼此接近的节点以超边相连;对于后者,则基于节点在特征空间中的线性表示系数来刻画关联关系,将能够相互线性重构的节点组合为同一超边。

通过上述方法构建的超边可以高效地集成,进而形成一个统一的超图结构,以支持对象关系的全面建模并实现复杂高阶关联的精确表征。在实际应用中,超图的节点类型往往多样,此时便需要引入异构超图建模。其核心思想是将不同实体类型视为异构节点,并针对具体场景与任务设计相应的相似度策略来生成超边。例如,在文献-作者-期刊的书目网络中,可通过网络型超边将合作发表的文献、其作者及相应期刊连接在一起;亦可通过属性型超边,将属于同一研究领域(如计算机科学)的多篇文献聚合,以体现它们在学科属性上的高阶关联。

在实际应用中,为了兼顾不同实体类型与关系模式,往往需要构建异构超图:将文献、作者、期刊等异构实体分别视为不同类型节点,并依据场景需求定制相似度策略。例如,既可基于网络拓扑将文献与其作者及发表期刊连接(网络型超边),也可基于研究领域属性将归属同一学科(如计算机科学)的文献连接(属性型超边)。随着数据源的多样化,将不同来源的超图整合为单一的统一结构,有助于挖掘跨数据集的全局高阶关联。这一过程通常通过添加跨图超边来实现,同时需要对齐各超图的节点与超边,在考虑其语义及属性差异的基础上,借助归一化技术或加权融合方法来进行优化[35]。

然而,无论传感器或数据源如何先进,所得观测始终受限于空间和时间采样范围,难以覆盖所有多维关联,导致信息欠定与特征不精确,使得生成的超图结构不能充分契合特定任务需求。为此,面向任务的超图结构优化尤为关键。在此背景下,贝叶斯超图建模(Bayesian Hypergraph Modeling, BHGM)应运而生:它将超图结构的获取过程视作黑箱优化问题,基于后验推断框架逐步逼近不同任务、模型与数据集所需的目标结构。

更进一步地,我们可以将所有超图结构看作一个带有度量和线性运算的数学空间。首先,通过定义满足度量三条公理的距离函数来衡量不同超图之间的相似性,并利用度量空间中的压缩映射原理及不动点方法,从分析学角度对结构演化的稳定性与收敛性进行研究;另一方面,若在超图结构集合上引入线性组合运算,则可构建完备的线性空间,通过优化基超图的组合系数来获得最优结构,从代数视角系统地探讨超图的演化与表示。

值得注意的是,任意超图结构均可视为超图结构集合中的一个元素。为此,我们可在该集合上引入合理的数学结构(如线性结构与度量结构),从而构建“超图空间”。在此空间中,超图结构之间的关系可借助与其他结构的关联进行分析。具体而言,通过对相邻结构进行线性组合或局部微调,便可生成新的超图结构,为超图演化研究提供了可行路径。首先,需要选取满足度量公理的相似性度量,用以刻画两个超图之间的距离。在度量空间框架下,结构演化的稳定性即对应于该空间的完备性以及相应序列的收敛性;而度量空间中压缩映射原理所蕴含的不动点方法,则为从解析学角度研究超图结构动态优化的收敛性提供了强有力的数学工具。另一方面,在“超图空间”上合理定义线性运算后,可构建完备的线性表示空间:通过将若干基超图按线性组合方式重构,任意超图结构均可在该空间中得到表示;进一步,通过优化组合系数,即可获得任务或数据驱动下的最优超图结构,从而为从代数视角探讨超图结构演化奠定坚实的理论基础。

然而,尽管超图建模在捕获复杂高阶关联方面表现卓越,尤其适用于样本规模有限的场景,但在某些特定条件下并非最佳选择,例如面向大规模数据的实时计算任务。超图通过超边连接多个节点,其表达能力远超仅考虑成对连接的传统图模型。正因如此,在建模复杂交互的同时,也不可避免地带来了较高的计算开销。当需要在动态环境中对大规模数据进行实时分析时,超图模型的计算需求往往超出现有计算架构的承载能力,从而限制了其在即时数据处理和决策场景中的适用性。这一挑战催生了对高效超图计算与推理方法的持续探索,以进一步拓宽超图在实际应用中的适用性。

3.3 超图语义计算

在获得研究对象的高阶复杂关联结构后,需进行超图语义计算以精确地表征节点语义。超图神经网络(Hypergraph Neural Networks, HGNN)将超图的建模能力与神经网络的表示能力相结合,通过设计超图卷积算子进行结构化语义学习。现有HGNN方法主要分为谱域方法和空域方法两大类,如表2所示[1719,26,3645]。

基于谱域的超图神经网络通常包含两个步骤:首先,利用超图傅里叶变换将空间域信号映射到频谱域,并在该域中定义相应的卷积算子;其后,对频谱域信号进行卷积运算,再通过逆超图傅里叶变换将处理结果投回空间域。典型方法包括:HGNN [18],将传统的图拉普拉斯算子与图傅里叶变换推广至超图框架以推导谱域超图卷积;Hyper-Atten [17],在 HGNN 的谱卷积基础上融入注意力机制,以自适应地学习超边内节点的重要性;以及 HyperGCN [36],先按预定义规则将超图转化为等价图,然后在该图上应用标准的图卷积网络(graph convolutional network, GCN)。虽然将超图简化为图能够借助成熟的图嵌入技术和优化框架提升计算效率,但此转换不可避免地将原本蕴含的多节点高阶关联压缩为成对关联,可能导致部分复杂关联信息的丢失。

基于空域的方法通过聚合相邻节点的表示来生成中心节点的新特征,有别于基于谱域的方法。典型代表方法是 HGNN+ [4],该方法引入“超路径”概念,以促进超图中的高阶消息传递。与简单图中仅由节点序列构成的路径不同,超路径由节点与超边交替组成。HGNN+ 采用两阶段卷积范式:消息首先自中心节点传播至其连接的超边,再由超边传递至相邻节点(图 10)。由于其在每个阶段均可灵活定义卷积与聚合操作,且支持有向超图的扩展,HGNN+ 在可扩展性方面表现优异。相比之下,HGNN 依赖谱域理论,需使用对称矩阵作为拉普拉斯变换的傅里叶基,其扩展能力则相对受限。

我们进一步从谱域(以 HGNN 为代表)和空域(以 HGNN+ 为代表)两个视角,对超图神经网络与GNN进行了比较分析。谱域角度下,已有研究证明:若假设每条超边仅连接两个顶点且所有超边权值相同,则 GNN 可被视为 HGNN 的一种特殊情形。此时,超图退化为2-均匀超图,并可等价表示为一个简单图;在该前提下,基于谱域的超图卷积与 GCN [46] 中的图卷积形式完全一致。因而,HGNN 不仅能够有效处理简单图中的成对关联,还可进一步捕获并建模超图所固有的高阶关联。空域角度下,仍以该2-均匀超图及其等价的简单图为例,可借助一棵有根子树对 HGNN+ 与 GNN 展开对比。GNN 在单阶段卷积过程中仅聚合相邻顶点特征;而 HGNN+ 采用分层架构,引入多次消息交互机制,其两阶段空域卷积使得高阶关联的建模与提炼更加全面。因此,HGNN+在结构设计上具有天然优势,可对复杂高阶关系实现更深层次、更细粒度的表达。

超图神经网络能否避免随着超图卷积层的增加而出现性能不稳定和下降的问题,这是超图神经网络和 GNN 的共同问题,仍有待研究。为解决这一问题,我们应该从数学的角度探索新的稳定计算方法。超图动力系统[38]是一种可能的解决方案,但仍需研究。

在异构超图场景下,为齐次超图设计的超图神经网络模型无法直接迁移应用,其中的核心挑战在于如何将多类型节点及其关系有效映射至统一的潜在空间。为解决这一问题,Li等[45]提出了超图变换神经网络,通过引入注意力机制,自适应地调整异构超图中各类超边的权重,并对隐式语义信息进行深度编码,从而实现对异构结构的高效建模。

3.4 高效超图计算

互联网的快速增长导致了数据量的指数级增长。在实际应用中,由这些数据构造的超图可能包含数百万甚至数十亿个顶点。例如,社交媒体平台上的社交网络可能有数百万个顶点,而电子商务平台上的用户-商品网络可能有数十亿个顶点。在这种情况下,迫切需要高效的超图建模方法,能够在可接受的时间和空间复杂度内处理大规模数据。

一般来说,高效的超图建模可以通过四种方式实现:超图分解、超图采样、分层超图建模和分布式超图建模。基于因子分解的方法通常使用二维关联矩阵来表示顶点和超边之间的相关性。然而,关联矩阵的空间复杂度[ O N M]随着顶点( V = N)和超边( E = M)的数量增加而呈指数增长。在这种情况下,传统的转导式超图计算方法在处理这种大规模数据方面受到了限制。这个问题可以通过基于因式分解的超图建模来解决。基于因式分解的超图建模方法通过两个子关联矩阵将顶点和超边之间的相关性编码为不同的低维潜在空间,即“归属”嵌入空间和“包含”嵌入空间。这样,该模型就可以尽可能地拟合初始的超图结构。因子分解后的嵌入维数远低于顶点或超边的维数;因此,基于因式分解的方法可以处理大规模数据。

基于采样的超图建模是另一种处理大规模数据的方法。传统的转导式超图计算方法通常需要全批次训练。也就是说,给定大规模的数据,必须基于这些数据构建一个大的超图,并将其整合到每一轮的训练中。随着数据量的增加,所构造的超图中的超边的数量也会增加,这可能会由于空间需求而导致硬件限制。为解决这一问题,通过超图采样,可以将原始的大尺度超图分解为多个较小的子超图。这可以通过对每个目标顶点的多层邻居进行预先采样,或者在每个超图卷积层开始之前将子超图采样为较小批次来实现。超图采样能够对大规模数据进行高效的小批量计算,并支持归纳式超图计算范式。

在数据被分配分层标签的情况下,可以使用分层超图建模来处理大规模数据。首先将数据划分为多个子集,并使用KNN等方法为每个子集构造一个子超图。然后对所有子超图进行超图学习,得到潜在空间中的局部高阶表示。随后应用多个聚合算子进行分层标签学习,并通过融合局部高阶表示获得全局表示。

在实际应用中,在大规模数据上训练超图神经网络时,单个设备有限的计算资源往往成为瓶颈。利用并行策略进行分布式超图学习是一种有效的解决方案。一般情况下,数据首先分布到几个分区中,然后通过分布超图神经网络模型进行优化。在此过程中,需要顶点的远程邻居之间进行通信和同步,并通过聚合梯度来更新模型参数。

除了上述方法外,超图结构压缩和知识提取是提高超图计算效率的两种前沿方法。利用超图同构[47],我们可以分析结构等价性来减少求解器空间的维数。在超图知识提取方面,可以利用拓扑感知提取方法[48]将复杂的高阶关系嵌入到推理高效的浅层网络模型中,从而加快计算速度。

4 超图计算的应用

近年来,智慧医学和计算机视觉领域的数据量激增,这些数据集涉及多层次、多维度、多模态和异构的数据。超图计算由于其强大的复杂高阶关联建模能力,在许多任务中得到了广泛的应用。在此,我们总结了超图计算在智慧医学和计算机视觉中的应用。

4.1 智慧医学中的超图

图11所示,智慧医学数据具有复杂的高阶关联、多模态异质性和多维度的特征,如多基因相互作用和群体层面的高阶交互网络。基于其对复杂高阶关联的建模能力,超图计算适用于智慧医学中的大多数任务。

4.1.1 蛋白质、药物和疾病超图

超图计算能够模拟蛋白质[49]之间的高阶相互作用,其中蛋白质作为节点,蛋白质-蛋白质相互作用(protein-protein interactions, PPI)作为超边。PPI有助于预测蛋白质的结构和属性。此外,PPI还可用于设计具有特定功能的新型蛋白质(如酶[50])。同样,药物可以作为节点,不同药物之间的协同作用和拮抗作用可通过超边[5152]表示。超图能够有效捕捉复杂的药物相互作用,降低昂贵的实验成本,并缓解药物研发中的组合爆炸问题。此外,蛋白质和药物还可用于构建异构超图网络,从而模拟药物、药物靶蛋白与PPI之间复杂的高阶关联。文献[4952]可为研究人员识别潜在药物靶点和加速新药研发提供参考。

4.1.2 细胞和组织超图

超图计算非常适合捕捉医学图像和数据中的复杂生物结构。它不仅能够解析组织内部复杂的结构关联及多细胞间的相互作用[5355],从而揭示其复杂的生物学功能,还能提升疾病诊断的准确性。例如,十亿像素级别的病理图像包含有关细胞形态和肿瘤微环境的高分辨率数字信息。单个细胞或组织区域可视为节点,空间和拓扑关联或这些节点间的特征距离可定义为超边。因此,超图计算能够有效揭示细胞形态与细胞间复杂的高阶关联,这对于癌症的分级、分期及患者生存预测[5657]具有重要意义。

4.1.3 器官超图

超图计算是建模器官[5861]内部不同区域或组织之间复杂相互作用的有效工具,可进一步刻画复杂的功能连接与相互作用。例如,大脑由无数神经元及功能各异的大脑区域[62]组成。超图计算能够精准捕捉神经元与脑区之间的复杂关联,并有效识别激活的脑区及其对应的脑功能。此外,超图计算还可用于比较不同个体之间的大脑网络结构,从而准确区分正常与异常的大脑连接。

4.1.4 生物系统超图

在临床实践中,医生通常借助人类表型本体论(human phenotype ontology, HPO)对疾病进行表征,使得每一种疾病均可视为若干表型的集合。通过将HPO作为节点,并基于其相关性构建超边[6364],超图能够模拟不同表型之间的复杂相互作用。这一方法不仅有助于揭示多种疾病间的共同表型特征,进而推断其潜在的致病机制或基因突变,还在新生物标志物的发现及疾病机制解析中发挥着关键作用。超图分析已被证实在阐明疾病间表型相关性、揭示其共性与差异方面具有重要价值,从而进一步支持潜在疾病亚型及复杂疾病关联的识别。此外,通过异构超图对疾病和药物进行建模,有助于挖掘药物与疾病之间的深层关联。例如,利用超图可揭示药物间相互作用与特定疾病之间的关系,进而为预测潜在药物副作用提供理论依据。

4.1.5 群体超图

超图计算能够用于分析来自不同患者的临床数据以及多种跨模态和多视角信息,如个人生活习惯、遗传特征、环境因素、教育水平和医疗服务等[6566]。通过这种方法,可以识别整个人群[6768]的健康趋势与疾病流行特征,从而为公共卫生决策和资源分配提供更加精准的依据。此外,超图计算能够整合多个数据源的复杂关联信息,为健康与疾病分析提供更为全面的视角。

在此基础上,通过融合群体层面和个体层面的数据,可以构建一个同时整合对象间与对象内相关性的统一超图框架。这种跨维度的超图计算方法为下游临床任务(如疾病诊断、生存预测等)提供了更加丰富和系统的方法支持。

4.2 计算机视觉中的超图

计算机视觉不仅是通向人工智能的重要入口,也是现代智能系统中的关键组成部分。如图12所示,超图已被证明是一种高度灵活的计算框架,能够有效分析各类计算机视觉任务中的复杂高阶关联,包括动作识别、深度估计、图像配准、3D识别与检索、场景理解及目标检测等。

4.2.1 基于超图的动作识别

在动作识别任务中,超图为编码身体姿态、动作序列以及主体与对象之间的交互[6971]等复杂的时空相关性提供了先进的分析框架。通过高阶结构封装这些复杂关联,超图不仅提升了动作识别的预测精度,也显著提高了计算效率。与传统方法相比,超图能够突破仅依赖底层特征或局部数据的局限,实现对动作及其序列的全方位理解。这些优势使超图在安全监控、行为分析、人机交互等多个领域展现出不可替代的重要价值。

4.2.2 基于超图的深度估计

基于超图的深度估计方法有效克服了现有方法的局限性,尤其是在全局上下文信息利用方面的不足[72],即能够捕捉像素与其更广泛空间环境之间的复杂关联。因此,采用超图模型进行深度估计有助于显著提升深度图的质量。例如,在自动驾驶汽车中,精准的深度信息对于决策制定和路径规划至关重要,而传统深度估计方法难以应对复杂交通场景的挑战。相比之下,超图能够整合来自不同传感器和视角的信息,实现更全面、更精确的深度估计,从而提升系统的安全性。在增强现实与虚拟现实等应用中,高质量的深度信息同样对于为用户营造更加真实、沉浸的体验具有决定性作用。

4.2.3 基于超图的配准方法

超图配准方法能够高效处理高阶关联与复杂空间的变换,突破了传统配准方法仅能处理像素到像素或区域到区域相关性的局限。超图通过捕捉多级关联,实现了更为精确的配准效果[7375]。以点云数据配准为例,超图算法能够分析点云之间的高阶几何与拓扑关系,显著提升了在自动驾驶、机器人导航和3D建模等应用中的配准性能。此外,超图在应对大范围遮挡或高噪声的图像与点云数据时同样表现优异。在此类复杂场景下,传统配准方法通常依赖烦琐的数据预处理,而超图方法则可实现端到端模型训练,极大提升了配准的准确性与效率。

4.2.4 基于超图的3D识别和检索

在3D对象识别与检索任务中,超图计算能够深入分析3D模型中的高阶几何与拓扑关联,实现快速且精确的模型匹配[27,7677]。例如,在工业制造领域,超图方法可用于精确匹配和识别机器零部件,显著提升生产效率与产品质量。在电子游戏开发和数字娱乐行业,超图促进了对复杂3D环境的高效识别与渲染,为用户带来更加沉浸式的体验。此外,超图还可应用于文化遗产保护与考古研究,通过对3D数据的深度分析,帮助专家实现对文物的快速识别与分类。

4.2.5 基于超图的理解场景

传统的场景理解方法多侧重于局部特征和二维图像数据,难以捕捉复杂场景中的高阶关联与相互依赖性。相比之下,超图能够深入挖掘场景中的高阶关联,为整体场景提供更全面的理解。例如,在智能交通和城市规划领域,超图可用于分析各类交通参与者(如汽车、行人和自行车)与周边环境(包括交通信号、标志及道路布局)[7880]之间的复杂关联。这不仅有助于更有效地预测和解释交通流量,还能支持城市管理者更精准地分配资源、提升公共安全水平。此外,超图同样适用于自然灾害应急管理和环境监测[81]。在洪水或森林火灾等紧急事件中,超图能够快速分析多种影响因素,包括天气、地形和植被分布,并模拟灾害的扩散路径和影响区域,从而为决策者制定更为有效的应对策略提供支持。

4.2.6 基于超图的目标检测

在包含复杂背景、多个目标类别及遮挡情况的目标检测场景中,超图通过分析对象与其周围环境[82]之间的复杂关联,展现出优于传统方法的检测能力。具体而言,超图能够从对象与环境在相对位置、运动模式、颜色和纹理等多个维度的关系进行深入建模,从而有效提升目标检测的准确性。例如,在自动驾驶应用中,超图可同时分析多种动态与静态目标(如其他车辆、行人和交通标志),以预测其行为和潜在风险,从而为安全驾驶提供有力保障。

表3 [26,4978,8199]总结了超图的应用,超图的应用可分为三类:智慧医学、计算机视觉和其他领域。

4.3 实验与讨论

为评估超图计算的有效性,本研究以3D对象识别任务为例,选用3D对象数据集ModelNet40作为评测基准。我们比较了典型的超图计算方法HGNN [18]与基于数据的群视图卷积神经网络(GVCNN)[100]。在实验设置中,训练数据比例分别为完整训练集的6%、8%、10%、20%、30%、40%、50%、60%、70%、80%、90%和100%,以评估HGNN在不同训练集规模下的性能表现。实验结果如图13所示,主要结论如下:

首先,在使用全部训练数据的情况下,超图计算方法HGNN的误差率为3.30%,相比GVCNN降低了52%。随着训练数据量的减少,HGNN的性能略有下降。值得注意的是,HGNN仅需约20%的训练数据即可实现与GVCNN完整训练集相当的性能,这意味着同等性能条件下,超图计算可以降低80%的数据需求。以上实验结果充分证明了超图计算在降低数据需求和提升模型性能方面的显著优势。

5 超图计算工具

DeepHypergraph(DHG)[101]是第一个建立在PyTorch之上的、用以支持超图计算[4]的开源深度学习库。图14图15分别显示了DHG的架构和功能库。

图14所示,DHG不仅支持在图结构中进行成对消息传递,还支持在超图结构中实现群组消息传递。此外,DHG提供了便捷的图与超图相互转换功能,使用户能够充分挖掘潜在的高阶关联关系,进而提升模型性能。DHG还将常用的拉普拉斯矩阵与消息传递函数集成到图和超图结构中,用户在构建结构后即可轻松调用这些函数以支持模型开发。

图15展示了基于PyTorch构建的DHG主要功能库,该库支持集成任何基于PyTorch的模型,并内置了功能强大的图与超图可视化工具。DHG包含丰富的拉普拉斯矩阵和消息传递函数,便于构建基于谱域或空域的各类模型。同时,DHG为图和超图结构提供了直观、便捷的可视化支持。值得一提的是,DHG还内置了随机图/超图生成器、各类先进卷积层与模型、大量公开数据集以及多种评估指标。此外,DHG集成了Optuna库,能够自动化地优化结构和模型参数,助力基于自动机器学习(Auto-ML)方法[102]的高效调优,在构建和训练图/超图模型时自动寻找最优配置与超参数。

6 结论

本文介绍了超图计算框架,用于建模复杂数据的高阶关联,并实现数据与高阶关联的协同计算。首先,本文论证了利用超图表示高阶关联的必要性,并给出了详细的理论证明。随后,系统介绍了超图结构建模、超图语义计算以及高效超图计算等关键技术。通过对超图神经网络与传统图神经网络的对比分析,论证了超图神经网络不仅能有效处理简单图中的成对关联,还能够捕捉并建模超图固有的高阶关联特征。本文还系统总结了超图计算在智慧医疗和计算机视觉等领域的应用,论述了如何基于超图计算实现任务间与任务内高阶关联建模。以3D对象识别为例,实验结果表明,与传统基于数据的方法相比,超图计算可以在实现同等性能的同时减少80%的数据需求,或在相同数据条件下将任务性能提高52%。最后,本文介绍了基于PyTorch的开源深度学习库DHG,这是一个同时支持低阶和高阶关系建模的通用超图计算框架。

尽管超图计算已取得重要进展,但仍有多个研究方向亟待探索。近年来,大型语言模型(Large Language Model, LLM)在理解和生成类人文本方面表现出显著优势,受到了学术界的广泛关注。在此背景下,将超图计算与LLM相结合是一个极具前景的研究方向。LLM虽然擅长处理文本数据,但对于超图数据所蕴含的复杂高阶结构信息仍有一定局限。将超图计算与LLM结合,有望提升LLM对复杂结构化信息的理解能力,弥合文本理解与高阶关联建模之间的鸿沟。另一个值得关注的话题是大型超图模型。随着数据获取愈加便捷,发现复杂模式与关联的机会也随之增加,因此开发能够高效利用超图丰富关联信息的大型模型尤为重要。这类模型有助于推动各类任务性能的提升。然而,此类方法仍存在计算复杂度与存储成本较高的不足。未来的研究应聚焦于进一步优化超图计算的效率与存储方式,以支持超大规模数据下的高效建模。

参考文献

[1]

Milo R, Shen-Orr S, Itzkovitz S, Kashtan N, Chklovskii D, Alon U. Network motifs: simple building blocks of complex networks. Science 2002;298(5594):824‒7. . 10.1126/science.298.5594.824

[2]

Benson AR, Abebe R, Schaub MT, Jadbabaie A, Kleinberg J. Simplicial closure and higher-order link prediction. Proc Natl Acad Sci USA 2018;115(48): E11221‒30. . 10.1073/pnas.1800683115

[3]

Kelly FP. Reversibility and stochastic networks. Cambridge: Cambridge University Press; 2011.

[4]

Gao Y, Feng Y, Ji S, Ji R. HGNN+: general hypergraph neural networks. IEEE Trans Pattern Anal Mach Intell 2022;45(3):3181‒99. . 10.1109/tpami.2022.3182052

[5]

Huang J, Liu X, Song Y. Hyper-path-based representation learning for hypernetworks. In: Proceedings of the 28th International Conference on Information & Knowledge Management; 2019 Nov 3‒7; Beijing, China. New York City: Association for Computing Machinery; 2019. p. 449‒58. . 10.1145/3357384.3357871

[6]

Kim J, Oh S, Hong S. Transformers generalize deepsets and can be extended to graphs & hypergraphs. In: Ranzato M, Beygelzimer A, Dauphin Y, Liang PS, Vaughan JW, editors. Advances in neural information processing systems. New York City: NeurIPS; 2021.

[7]

Vijaikumar M, Hada D, Shevade S. HyperTeNet: hypergraph and transformer-based neural network for personalized list continuation. In: Proceedings of the 2021 IEEE International Conference on Data Mining; 2021 Dec 7‍‒‍10; Auckland, New Zealand. New York City: IEEE; 2021. p. 1210‒5. . 10.1109/icdm51629.2021.00146

[8]

Li Y, Chen H, Sun X, Sun Z, Li L, Cui L, et al. Hyperbolic hypergraphs for sequential recommendation. In: Proceedings of the 30th ACM International Conference on Information & Knowledge Management; 2021 Nov 1‍‒‍5; CoastGold, QLD, Australia. New York City: The Association for Computing Machinery; 2021. p. 988‒97. . 10.1145/3459637.3482351

[9]

Yu J, Yin H, Li J, Wang Q, Hung NQV, Zhang X, et al. Self-supervised multichannel hypergraph convolutional network for social recommendation. In: Proceedings of the Web Conference 2021; 2021 Apr 19‍‒‍23; Ljubljana, Slovenia. New York City: The Association for Computing Machinery; 2021. p. 413‒24. . 10.1145/3442381.3449844

[10]

Zhang J, Gao M, Yu J, Guo L, Li J, Yin H. Double-scale self-supervised hypergraph learning for group recommendation. In: Proceedings of the 30th ACM International Conference on Information & Knowledge Management; 2021 Nov 1‍‒‍5; CoastGold, QLD, Australia. New York City: The Association for Computing Machinery; 2021. p. 2557‒67. . 10.1145/3459637.3482426

[11]

Huang S, Elhoseiny M, Elgammal AM, Yang D. Learning hypergraph-regularized attribute predictors. In: Proceedings of the IEEE Conference on Computer Vision and Pattern Recognition; 2015 Jun 7‒12; Boston, MA, USA. New York City: IEEE; 2015. p. 409‒17. . 10.1109/cvpr.2015.7298638

[12]

Nagy L, Ruppert T, Löcklin A, Abonyi J. Hypergraph-based analysis and design of intelligent collaborative manufacturing space. J Manuf Syst 2022;65:88‒103. . 10.1016/j.jmsy.2022.08.001

[13]

Fu Y, Hospedales TM, Xiang T, Gong S. Transductive multi-view zero-shot learning. IEEE Trans Pattern Anal Mach Intell 2015;37(11):2332‒45. . 10.1109/tpami.2015.2408354

[14]

Lin M, Li W, Lu S. Balanced influence maximization in attributed social network based on sampling. In: Proceedings of the 13th International Conference on Web Search and Data Mining; 2020 Feb 3‒7; Houston, TX, USA. New York City: The Association for Computing Machinery; 2020. p. 375‒83. . 10.1145/3336191.3371833

[15]

Sun X, Yin H, Liu B, Chen H, Cao J, Shao Y, et al. Heterogeneous hypergraph embedding for graph classification. In: Proceedings of the 14th ACM International Conference on Web Search and Data Mining; 2021 Mar 8‍‒‍12; online. New York City: The Association for Computing Machinery; 2021. p. 725‒33. . 10.1145/3437963.3441835

[16]

Fang Y, Zheng Y. Metric learning based on attribute hypergraph. In: Proceedings of the 2017 IEEE International Conference on Image Processing; 2017 Sep 17‒20; Beijing, China. New York City: IEEE; 2017. p. 3440‒4. . 10.1109/icip.2017.8296921

[17]

Bai S, Zhang F, Torr PH. Hypergraph convolution and hypergraph attention. Pattern Recognit 2021;110:107637. . 10.1016/j.patcog.2020.107637

[18]

Feng Y, You H, Zhang Z, Ji R, Gao Y. Hypergraph neural networks. Proc Conf AAAI Artif Intell 2019;33(1):3558‒65. . 10.1609/aaai.v33i01.33013558

[19]

Ji S, Feng Y, Ji R, Zhao X, Tang W, Gao Y. Dual channel hypergraph collaborative filtering. In: Proceedings of the 26th ACM SIGKDD International Conference on Knowledge Discovery & Data Mining; 2020 Jul 6‒10; online. New York City: The Association for Computing Machinery; 2020. p. 2020‒9. . 10.1145/3394486.3403253

[20]

Huang J, Chen C, Ye F, Hu W, Zheng Z. Nonuniform hyper-network embedding with dual mechanism. Acm T Inform Syst 2020;38(3):1‒18. . 10.1145/3388924

[21]

Zu C, Gao Y, Munsell B, Kim M, Peng Z, Zhu Y, et al. Identifying high order brain connectome biomarkers via learning on hypergraph. In: Proceedings of the 7th International Workshop on Machine Learning in Medical Imaging (MICCAI 2016); 2016 Oct 17; Athens, Greece. Berlin: Springer; 2016. p. 1‒9. . 10.1007/978-3-319-47157-0_1

[22]

Klamt S, Haus UU, Theis F. Hypergraphs and cellular networks. PLOS Comput Biol 2009;5(5):e1000385. . 10.1371/journal.pcbi.1000385

[23]

Fang Q, Sang J, Xu C, Rui Y. Topic-sensitive influencer mining in interest-based social media networks via hypergraph learning. IEEE Trans Multimed 2014;16(3):796‒812. . 10.1109/tmm.2014.2298216

[24]

Agarwal S, Sawhney R, Thakkar M, Nakov P, Han J, Derr T. Think: temporal hypergraph hyperbolic network. In: Proceedings of the 2022 IEEE International Conference on Data Mining; 2022 Nov 28‒Dec 1; Orlando, FL, USA. New York City: IEEE; 2022. p. 849‒54. . 10.1109/icdm54844.2022.00096

[25]

Li H, Wang J, Du X, Hu Z, Yang S. KBHN: a knowledge-aware bi-hypergraph network based on visual-knowledge features fusion for teaching image annotation. Inf Process Manage 2023;60(1):103106. . 10.1016/j.ipm.2022.103106

[26]

Bai J, Gong B, Zhao Y, Lei F, Yan C, Gao Y. Multi-scale representation learning on hypergraph for 3D shape retrieval and recognition. IEEE Trans Image Process 2021;30:5327‒38. . 10.1109/tip.2021.3082765

[27]

Trung HT, Van Vinh T, Tam NT, Jo J, Yin H, Hung NQV. Learning holistic interactions in LBSNs with high-order, dynamic, and multi-role contexts. IEEE Trans Knowl Data Eng 2022;35(5):5002‒16.

[28]

Yang D, Qu B, Yang J, Cudre-Mauroux P. Revisiting user mobility and social relationships in LBSNs: a hypergraph embedding approach. In: Proceedings of the World Wide Web Conference; 2019 May 13‒17; FranciscoSan, CA, USA. New York City: The Association for Computing Machinery; 2019. p. 2147‒57. . 10.1145/3308558.3313635

[29]

Yang D, Qu B, Yang J, Cudre-Mauroux P. LBSN2Vec++: heterogeneous hypergraph embedding for location-based social networks. IEEE Trans Knowl Data Eng 2020;34(4):1843‒55.

[30]

Zhu Y, Guan Z, Tan S, Liu H, Cai D, He X. Heterogeneous hypergraph embedding for document recommendation. Neurocomputing 2016;216:150‒62. . 10.1016/j.neucom.2016.07.030

[31]

Liu Q, Sun Y, Wang C, Liu T, Tao D. Elastic net hypergraph learning for image clustering and semi-supervised classification. IEEE Trans Image Process 2017;26(1):452‒63. . 10.1109/tip.2016.2621671

[32]

Jin T, Yu Z, Gao Y, Gao S, Sun X, Li C. Robust l 2-hypergraph and its applications. Inf Sci 2019;501:708‒23. . 10.1016/j.ins.2019.03.012

[33]

Li Y, Zhang S, Cheng D, He W, Wen G, Xie Q. Spectral clustering based on hypergraph and self-re-presentation. Multimedia Tools Appl 2017;76(16):17559‒76. . 10.1007/s11042-016-4131-6

[34]

He W, Cheng X, Hu R, Zhu Y, Wen G. Feature self-representation based hypergraph unsupervised feature selection via low-rank representation. Neurocomputing 2017;253:127‒34. . 10.1016/j.neucom.2016.10.087

[35]

Xi H. Data-driven optimization technologies for MaaS. In: Zhang H, Song X, Shibasaki R, editors. Big data and mobility as a service. Amsterdam: Elsevier; 2022. . 10.1016/b978-0-323-90169-7.00006-3

[36]

Yadati N, Nimishakavi M, Yadav P, Nitin V, Louis A, Talukdar P, et al. A new method for training graph convolutional networks on hypergraphs. In: Proceedings of the 2019 Advances in Neural Information Processing Systems; 2019 Dec 8‒14; Vancouver, BC, Canada. New York City: NeurIPS; 2019. p. 1‒12. . 10.1145/3340531.3411870

[37]

Zhang J, Li F, Xiao X, Xu T, Rong Y, Huang J, et al. Hypergraph convolutional networks via equivalency between hypergraphs and undirected graphs. In: Proceedings of the 2022 ICML Workshop; 2022 Jul 17‍‒‍23; Baltimore, MD, USA. San Diego: The International Conference on Machine Learning; 2022. p. 1‒36.

[38]

Yan J, Feng Y, Ying S, Gao Y. Hypergraph dynamic system. In: Proceedings of the 2024 International Conference on Learning Representations; 2024 May 7‒11; Vienna, Austria; 2024.

[39]

Zhang R, Zou Y, Ma J. Hyper-SAGNN: a self-attention based graph neural network for hypergraphs. In: Proceedings of the 2020 International Conference on Learning Representations; 2020 Apr 26‍‒‍May 1; online. Trier: the dblp computer science bibliography; 2020.

[40]

Jiang J, Wei Y, Feng Y, Cao J, Gao Y. Dynamic hypergraph neural networks. In: Proceedings of the 28th International Joint Conference on Artificial Intelligence; 2019 Aug 10‒16; Macao, China. San Francisco: International Joint Conferences on Artifical Intelligence; 2019. p. 2635‒41. . 10.24963/ijcai.2019/366

[41]

Dong Y, Sawin W, Bengio Y. HNHN: hypergraph networks with hyperedge neurons. In: Proceedings of the Graph Representation Learning and Beyond Workshop at ICML 2020; 2020 Jul 13‒18; online. San Diego: The International Conference on Machine Learning; 2020. p. 1‒11.

[42]

Huang J, Yang J. UniGNN: a unified framework for graph and hypergraph neural networks. In: Proceedings of the 30th International Joint Conference on Artificial Intelligence; 2021 Aug 19‍‒‍27; online. San Francisco: International Joint Conferences on Artifical Intelligence; 2021. p. 2563‒9. . 10.24963/ijcai.2021/353

[43]

Chien E, Pan C, Peng J, Milenkovic O. You are allset: a multiset function framework for hypergraph neural networks. In: Proceedings of the 10th International Conference on Learning Representations; 2022 Apr 25‒29; online. Trier: the dblp computer science bibliography; 2022.

[44]

Wang P, Yang S, Liu Y, Wang Z, Li P. Equivariant hypergraph diffusion neural operators. In: Proceedings of the 11th International Conference on Learning Representations; 2023 May 1‍‒‍5; Kigali, Rwanda. Trier: the dblp computer science bibliography; 2023. . 10.1109/iccv51070.2023.01102

[45]

Li M, Zhang Y, Li X, Zhang Y, Yin B. Hypergraph transformer neural networks. ACM Trans Knowl Discov Data 2023;17(5):1‒22. . 10.1145/3565028

[46]

Kipf TN, Welling M. Semi-supervised classification with graph convolutional networks. In: Proceedings of the 5th International Conference on Learning Representations; 2017 Apr 24‍‒‍26; Toulon, France. Trier: the dblp computer science bibliography; 2017. p. 1‒14.

[47]

Feng Y, Han J, Ying S, Gao Y. Hypergraph isomorphism computation. IEEE Trans Pattern Anal Mach Intell. 2023;46(5):3880‒96. . 10.1109/tpami.2024.3353199

[48]

Feng Y, Luo Y, Ying S, Gao Y. LightHGNN: distilling hypergraph neural networks into MLPs for 100x faster inference. In: Proceedings of the 12th International Conference on Learning Representations; 2024 May 7‍‒‍11; Vienna, Austria; 2024. . 10.1109/tnnls.2025.3542176

[49]

Jiang Y, Wang R, Feng J, Jin J, Liang S, Li Z, et al. Explainable deep hypergraph learning modeling the peptide secondary structure prediction. Adv Sci 2023;10(11):2206151. . 10.1002/advs.202206151

[50]

Dotson A, Chen C, Lindsly S, Cicalo A, Dilworth S, Ryan C, et al. Deciphering multi-way interactions in the human genome. Nat Commun 2022;13:5498. . 10.1038/s41467-022-32980-z

[51]

Saifuddin KM, Bumgardner B, Tanvir F, Akbas E. HyGNN: drug‍‒‍drug interaction prediction via hypergraph neural network. In: Proceedings of the 2023 IEEE 39th International Conference on Data Engineering; 2023 Apr 3‒7; Acaheim, CA, USA. New York City: IEEE; 2023. p. 1503‒16. . 10.1109/icde55515.2023.00119

[52]

Nguyen DA, Nguyen CH, Mamitsuka H. Central-smoothing hypergraph neural networks for predicting drug‒drug interactions. IEEE Trans Neural Netw Learn Syst. In press. . 10.1109/tnnls.2023.3261860

[53]

Vinas R, Joshi CK, Georgiev D, Lin P, Dumitrascu B, Gamazon ER, et al. Hypergraph factorization for multi-tissue gene expression imputation. Nat Mach Intell 2023;5:739‒53. . 10.1038/s42256-023-00684-8

[54]

Bakht B, Javed S, AlMarzouqi H, Khandoker A, Werghi N. Colorectal cancer tissue classification using semi-supervised hypergraph convolutional network. In: Proceedings of the 2021 IEEE 18th International Symposium on Biomedical Imaging; 2021 Apr 13‍‒‍16; Nice, France. New York City: IEEE; 2021. p. 1306‒9. . 10.1109/isbi48211.2021.9434036

[55]

Zhang R, Zhou T, Ma J. Multiscale and integrative single-cell Hi-C analysis with Higashi. Nat Biotechnol 2022;40(2):254‒61. . 10.1038/s41587-021-01034-y

[56]

Di D, Zhang J, Lei F, Tian Q, Gao Y. Big-hypergraph factorization neural network for survival prediction from whole slide image. IEEE Trans Image Process 2022;31:1149‒60. . 10.1109/tip.2021.3139229

[57]

Di D, Zou C, Feng Y, Zhou H, Ji R, Dai Q, et al. Generating hypergraph-based high-order representations of whole-slide histopathological images for survival prediction. IEEE Trans Pattern Anal Mach Intell 2022;45(5):5800‒15.

[58]

Ji J, Ren Y, Lei M. FC‒HAT: hypergraph attention network for functional brain network classification. Inf Sci 2022;608:1301‒16. . 10.1016/j.ins.2022.07.041

[59]

Xiao L, Wang J, Kassani PH, Zhang Y, Bai Y, Stephen JM, et al. Multi-hypergraph learning-based brain functional connectivity analysis in fMRI data. IEEE Trans Med Imaging 2019;39(5):1746‒58. . 10.1109/tmi.2019.2957097

[60]

Song X, Wu K, Chai L. Brain network analysis of schizophrenia patients based on hypergraph signal processing. IEEE Trans Image Process 2023;32:30. . 10.1109/tip.2023.3307975

[61]

Pan J, Lei B, Shen Y, Liu Y, Feng Z, Wang S. Characterization multi-modal connectivity of brain network by hypergraph GAN for Alzheimer’s disease analysis. In: Proceedings of the 4th Chinese Conference on Pattern Recognition and Computer Vision; 2021 Dec 19‒21; Zhuhai, China. Berlin: Springer; 2021. p. 467‒78. . 10.1007/978-3-030-88010-1_39

[62]

Fan J, Fang L, Wu J, Guo Y, Dai Q. From brain science to artificial intelligence. Engineering 2020;6(3):248‒52. . 10.1016/j.eng.2019.11.012

[63]

Wang M, Shao W, Huang S, Zhang D. Hypergraph-regularized multi-modal learning by graph diffusion for imaging genetics based Alzheimer’s disease diagnosis. Med Image Anal 2023;89:102883. . 10.1016/j.media.2023.102883

[64]

Jiao CN, Gao YL, Yu N, Liu JX, Qi LY. Hyper-graph regularized constrained NMF for selecting differentially expressed genes and tumor classification. IEEE J Biomed Health Inform 2020;24(10):3002‒11. . 10.1109/jbhi.2020.2975199

[65]

Sun L, Rao Y, Zhang X, Lan Y, Yu S. MS-HGAT: memory-enhanced sequential hypergraph attention network for information diffusion prediction. Proc Conf AAAI Artif Intell 2022;36(4):4156‒64. . 10.1609/aaai.v36i4.20334

[66]

Xia L, Huang C, Xu Y, Zhao J, Yin D, Huang J. Hypergraph contrastive collaborative filtering. In: Proceedings of the 45th International ACM SIGIR Conference on Research and Development in Information Retrieval; 2022 Jul 11‒15; Madrid, Spain. New York City: Association for Computing Machinery; 2022. p. 70‒9. . 10.1145/3477495.3532058

[67]

Rafferty J, Lee A, Bennett E, Lyons J, Jalali-Najafabadi F, Dhafari TB, et al. Analysis of disease clusters and patient outcomes in people with multiple long term conditions using hypergraphs. Int J Popul Data Sci 2022;7(3). . 10.23889/ijpds.v7i3.2028

[68]

Cai D, Sun C, Song M, Zhang B, Hong S, Li H. Hypergraph contrastive learning for electronic health records. In: Proceedings of the 2022 SIAM International Conference on Data Mining; 2022 Apr 28‍‒‍30; Alexandria, VA, USA. Philadelphia: Society for Industrial and Applied Mathematics; 2022. p. 127‒35. . 10.1137/1.9781611977172.15

[69]

Zhu Y, Huang G, Xu X, Ji Y, Shen F. Selective hypergraph convolutional networks for skeleton-based action recognition. In: Proceedings of the 2022 International Conference on Multimedia Retrieval; 2022 Jun 27‍‒‍30; Newark, NJ, USA. New York City: Association for Computing Machinery; 2022. p. 518‒26. . 10.1145/3512527.3531367

[70]

Lu Z, Peng Y, Ip HH. Spectral learning of latent semantics for action recognition. In: Proceedings of the 2011 International Conference on Computer Vision; 2011 Nov 6‍‒‍13; Barcelona, Spain. New York City: IEEE; 2011. p. 1503‒10. . 10.1109/iccv.2011.6126408

[71]

Hu X, Wei D, Wang Z, Shen J, Ren H. Hypergraph video pedestrian reidentification based on posture structure relationship and action constraints. Pattern Recognit 2021;111:107688. . 10.1016/j.patcog.2020.107688

[72]

Lv X, Wang X, Wang Q, Yu J. 4D light field segmentation from light field super-pixel hypergraph representation. IEEE Trans Vis Comput Graph 2020;27(9):3597‒610. . 10.1109/tvcg.2020.2982158

[73]

Zhang X, Ma R, Zou C, Zhang M, Zhao X, Gao Y. View‒aware geometry-structure joint learning for single-view 3D shape reconstruction. IEEE Trans Pattern Anal Mach Intell 2021;44(10):6546‒61. . 10.1109/tpami.2021.3090917

[74]

Wang Y, Yan C, Feng Y, Du S, Dai Q, Gao Y. STORM: structure-based overlap matching for partial point cloud registration. IEEE Trans Pattern Anal Mach Intell 2022;45(1):1135‒49. . 10.1109/tpami.2022.3148308

[75]

Yao R, Du S, Cui W, Ye A, Wen F, Zhang H, et al. Hunter: exploring high-order consistency for point cloud registration with severe outliers. IEEE Trans Pattern Anal Mach Intell 2023;45(12):14760‒76. . 10.1109/tpami.2023.3312592

[76]

Gao Y, Wang M, Tao D, Ji R, Dai Q. 3D object retrieval and recognition with hypergraph analysis. IEEE Trans Image Process 2012;21(9):4290‒303. . 10.1109/tip.2012.2199502

[77]

Hao X, Li J, Guo Y, Jiang T, Yu M. Hypergraph neural network for skeleton-based action recognition. IEEE Trans Image Process 2021;30:2263‒75. . 10.1109/tip.2021.3051495

[78]

Harrod S. Modeling network transition constraints with hypergraphs. Transport Sci 2011;45(1):81‒97. . 10.1287/trsc.1100.0337

[79]

Luo X, Peng J, Liang J. Directed hypergraph attention network for traffic forecasting. IET Intell Transp Syst 2022;16(1):85‒98. . 10.1049/itr2.12130

[80]

Wang J, Zhang Y, Wei Y, Hu Y, Piao X, Yin B. Metro passenger flow prediction via dynamic hypergraph convolution networks. IEEE Trans Intell Transp Syst 2021;22(12):7891‒903. . 10.1109/tits.2021.3072743

[81]

Rajesh K, Ramaswamy V, Kannan K, Arunkumar N. Satellite cloud image classification for cyclone prediction using dichotomous logistic regression based fuzzy hypergraph model. Future Gener Comput Syst 2019;98:688‒96. . 10.1016/j.future.2018.12.042

[82]

Liu ZY, Liu JW. Hypergraph attentional convolutional neural network for salient object detection. Vis Comput 2023;39(7):2881‒907. . 10.1007/s00371-022-02499-x

[83]

Pearcy N, Crofts JJ, Chuzhanova N. Hypergraph models of metabolism. Int J Biol Vet Agric Food Eng 2014;8(8):752‒6.

[84]

Kajino H. Molecular hypergraph grammar with its application to molecular optimization. In: Proceedings of the ICML 2019: 36th International Conference on Machine Learning; 2019 Jun 10‒15; Long Beach, CA, USA. Trier: the dblp computer science bibliography; 2019. p. 3183‒91.

[85]

Liu M, Zhang J, Yap PT, Shen D. View-aligned hypergraph learning for Alzheimer’s disease diagnosis with incomplete multi-modality data. Med Image Anal 2017;36:123‒34. . 10.1016/j.media.2016.11.002

[86]

Shao W, Peng Y, Zu C, Wang M, Zhang D, Initiative ADN, et al. Hypergraph based multi-task feature selection for multi-modal classification of Alzheimer’s disease. Comput Med Imaging Graph 2020;80:101663. . 10.1016/j.compmedimag.2019.101663

[87]

Rajesh K, Sarala D, Venkataraman V, Kannan K. Hypergraph-based algorithm for segmentation of weather satellite imagery. Indian J Sci Technol 2016;9(36):36. . 10.17485/ijst/2016/v9i36/91215

[88]

Li X, Li Y, Shen C, Dick A, Van Den Hengel A. Contextual hypergraph modeling for salient object detection. In: Proceedings of the 2013 IEEE International Conference on Computer Vision;2013 Dec 1‒8; Sydney, NSW, Australia. New York City: IEEE; 2013. p. 3328‒35. . 10.1109/iccv.2013.413

[89]

Liang Z, Chi Z, Fu H, Feng D. Salient object detection using content-sensitive hypergraph representation and partitioning. Pattern Recognit 2012;45(11):3886‒901. . 10.1016/j.patcog.2012.04.017

[90]

Sawhney R, Agarwal S, Wadhwa A, Shah RR. Spatiotemporal hypergraph convolution network for stock movement forecasting. In: Proceedings of the 2020 IEEE International Conference on Data Mining; 2020 Nov 17‍‒‍20; Sorrento, Italy. New York City: IEEE; 2020. p. 482‒91. . 10.1109/icdm50108.2020.00057

[91]

Sawhney R, Agarwal S, Wadhwa A, Derr T, Shah RR. Stock selection via spatiotemporal hypergraph attention network: a learning to rank approach. Proc Conf AAAI Artif Intell 2021;35(1):497‒504. . 10.1609/aaai.v35i1.16127

[92]

Ma X, Zhao T, Guo Q, Li X, Zhang C. Fuzzy hypergraph network for recommending top-k profitable stocks. Inf Sci 2022;613:239‒55. . 10.1016/j.ins.2022.09.010

[93]

Li X, Cui C, Cao D, Du J, Zhang C. Hypergraph-based reinforcement learning for stock portfolio selection. In: Proceedings of the 2022 IEEE International Conference on Acoustics, Speech and Signal Processing; 2022 May 22‍‒‍27; online. New York City: IEEE; 2022. p. 4028‒32. . 10.1109/icassp43922.2022.9747138

[94]

He Y, Tai W, Zhou F, Yang Y. Exploring hypergraph of earnings call for risk prediction. Proc Conf AAAI Artif Intell 2023;37(13):16226‒7. . 10.1609/aaai.v37i13.26973

[95]

Konstantinova EV, Skorobogatov VA. Application of hypergraph theory in chemistry. Discrete Math 2001;235(1‒3):365‒83.

[96]

Jost R, Mulas Mulas R., Hypergraph Laplace operators for chemical reaction networks. Adv Math 2019;351:870‒96. . 10.1016/j.aim.2019.05.025

[97]

Yadati N, Nitin V, Nimishakavi M, Yadav P, Louis A, Talukdar P. NHP: neural hypergraph link prediction. In: Proceedings of the 29th ACM International Conference on Information & Knowledge Management; 2020 Oct 19‍‒‍23; online. New York City: Association for Computing Machinery; 2020. p. 1705‒14. . 10.1145/3340531.3411870

[98]

Xia L, Zheng P, Huang X, Liu C. A novel hypergraph convolution network-based approach for predicting the material removal rate in chemical mechanical planarization. J Intell Manuf 2022;33(8):2295‒306. . 10.1007/s10845-021-01784-1

[99]

Wu T, Ling Q. Self-supervised heterogeneous hypergraph network for knowledge tracing. Inf Sci 2023;624:200‒16. . 10.1016/j.ins.2022.12.075

[100]

Feng Y, Zhang Z, Zhao X, Ji R, Gao Y. GVCNN: group-view convolutional neural networks for 3D shape recognition. In: Proceedings of the 2018 IEEE/CVF Conference on Computer Vision and Pattern Recognition; 2018 Jun 18‒23; Salt Lake City, UT, USA. New York City: IEEE; 2018. . 10.1109/cvpr.2018.00035

[101]

iMoonLab. DeepHypergraph (DHG) [Internet]. San Francisco: GitHub, Inc; c2024 [cited 2024 Apr 12]. Available from:

[102]

Hutter F, Kotthoff L, Vanschoren J. Automated machine learning: methods, systems, challenges. Cham: Springer Nature; 2019. . 10.1007/978-3-030-05318-5

AI Summary AI Mindmap
PDF (4662KB)

14219

访问

0

被引

详细

导航
相关文章

AI思维导图

/