Porous-DeepONet——一种快速求解多孔介质中反应输运方程的深度学习框架

黄盼 ,  冷依霏 ,  练成 ,  刘洪来

工程(英文) ›› 2024, Vol. 39 ›› Issue (8) : 94 -103.

PDF (3479KB)
工程(英文) ›› 2024, Vol. 39 ›› Issue (8) : 94 -103. DOI: 10.1016/j.eng.2024.07.002
研究论文

Porous-DeepONet——一种快速求解多孔介质中反应输运方程的深度学习框架

作者信息 +

Porous-DeepONet: Learning the Solution Operators of Parametric Reactive Transport Equations in Porous Media

Author information +
文章历史 +
PDF (3562K)

摘要

多孔介质中的反应输运方程在诸多科学和工程领域中起着至关重要的作用。然而,当探索不同情况(如不同的多孔结构、初始条件或边界条件)时,求解这些方程的计算成本可能极为高昂。目前,深度算子网络(DeepONet)已成为一种流行的深度学习框架,用于求解参数化偏微分方程。尽管如此,将DeepONet应用于多孔介质仍面临重大挑战,原因是其在从复杂结构中提取代表性特征方面的能力有限。为解决此问题,我们提出了Porous-DeepONet,这是DeepONet框架的一种简单高效扩展。它利用卷积神经网络(CNN)来学习多孔介质中参数化反应输运方程的解算子。通过结合CNN,DeepONet能够高效捕捉多孔介质的复杂特征,从而更精确有效地学习解算子。我们以五个示例验证了Porous-DeepONet在准确快速地学习具有不同边界条件、多相和多物理场的参数化反应输运方程解算子方面的有效性。与传统有限元方法相比,该方法可大幅降低计算成本,计算时间可缩短到原来的1/1000~1/50。总的来说,本文的工作为求解多孔介质中的参数化反应输运方程提供了一种替代方案,为探索多孔介质中的复杂现象提供理论工具。

Abstract

Reactive transport equations in porous media are critical in various scientific and engineering disciplines, but solving these equations can be computationally expensive when exploring different scenarios, such as varying porous structures and initial or boundary conditions. The deep operator network (DeepONet) has emerged as a popular deep learning framework for solving parametric partial differential equations. However, applying the DeepONet to porous media presents significant challenges due to its limited capability to extract representative features from intricate structures. To address this issue, we propose the Porous-DeepONet, a simple yet highly effective extension of the DeepONet framework that leverages convolutional neural networks (CNNs) to learn the solution operators of parametric reactive transport equations in porous media. By incorporating CNNs, we can effectively capture the intricate features of porous media, enabling accurate and efficient learning of the solution operators. We demonstrate the effectiveness of the Porous-DeepONet in accurately and rapidly learning the solution operators of parametric reactive transport equations with various boundary conditions, multiple phases, and multi-physical fields through five examples. This approach offers significant computational savings, potentially reducing the computation time by 50-1000 times compared with the finite-element method. Our work may provide a robust alternative for solving parametric reactive transport equations in porous media, paving the way for exploring complex phenomena in porous media.

关键词

多孔介质 / 反应输运 / 解算子 / DeepONet / 神经网络

Key words

Porous media / Reactive transport / Solution operator / DeepONet / Neural network

引用本文

引用格式 ▾
黄盼,冷依霏,练成,刘洪来. Porous-DeepONet——一种快速求解多孔介质中反应输运方程的深度学习框架[J]. 工程(英文), 2024, 39(8): 94-103 DOI:10.1016/j.eng.2024.07.002

登录浏览全文

4963

注册一个新账户 忘记密码

1 引言

多孔介质在广泛的工业领域中发挥着关键作用[12],其中包括新能源[3]、石油化工[4]、光催化[5]和生物医药[6]等领域。这是因为多孔介质具有复杂的孔隙网络和可观的比表面积。在工业产品的设计和优化过程中,多孔介质内的传输和反应现象是影响储能效率、催化性能和吸附率等基本参数的关键因素[79]。为了准确地描述这些复杂的输运和反应过程,我们必须使用偏微分方程(PDE)对其进行建模[10]。然而,在工业研究领域,研究人员面临着一个重大挑战,即如何快速准确地求解参数化偏微分方程[1113]。这些特殊的偏微分方程涉及系数、域几何、初始条件(IC)和边界条件(BC)等参数,而这些参数在一定范围内是可变的[14]。然而,传统的方法[如有限元法(FEM)]需要大量的计算资源,因为必须对每个参数变化进行独立的模拟。此外,网格划分和非线性数值计算的复杂性更进一步加剧了这些挑战,特别是在处理复杂多孔结构内的多物理场相互作用时。因此,我们迫切需要创新的方法来加快对多孔介质中参数化偏微分方程的求解。通过克服传统方法的局限性,这种新颖的策略有可能显著提高工业产品开发的迭代速度,从而促进工业研究和应用的进步。

目前,基于神经网络(NN)的深度学习技术为解决数值模拟技术中的正向和逆向问题提供了一条有前景的途径,可能会给该领域带来革命性的变化[1516]。神经网络可以通过逼近满足给定约束的非线性函数来求解方程。各种网络架构,包括循环神经网络(RNN)[17]、卷积神经网络(CNN)[18]、残差网络(ResNet)[19]、物理信息神经网络(PINN)[11]和衍生架构[2021],已被应用于求解偏微分方程。然而,现有的神经网络在适应输入参数变化(如域几何形状的变化)的能力上存在一定的限制,并且需要重新训练以适应新的约束。为了解决这一限制,神经网络必须学习算子而不是函数,一个不太为人所知但非常强大的定理证明了神经网络可以近似连续非线性算子[22]。基于这一概念,Lu等[23]提出了深度算子网络(DeepONet),旨在从数据中学习显式和隐式算子,如积分、分数阶拉普拉斯算子,以及确定性和随机微分方程。目前,DeepONet已经成功应用于求解简单一维(1D)域几何中的参数化偏微分方程,并在量子化学[24]、流体力学[2526]、电池技术[27]、电网分析[28]、生物建模[29]和传染动力学[30]等多个领域取得了突破。此外,研究人员还扩展了DeepONet框架,以解决更复杂的参数化偏微分方程[3132],处理低精度数据[3334],甚至在没有数据的情况下训练神经网络[11,35]。例如,Cai等[31]开发了DeepM&Mnet,通过耦合多个预训练的DeepONet来模拟体相中的多物理场问题。而Wang等[11]则提出了受PINN启发的基于物理信息的DeepONet,以减轻数据需求。这些进展凸显了DeepONet和相关框架在彻底改变工业和科学领域中体相参数化偏微分方程的高效求解方面的潜力。

尽管DeepONet展现了令人印象深刻的求解能力,但在学习复杂几何形状(如多孔介质)中参数化偏微分方程解算子时,仍面临挑战。这些框架难以从复杂多孔结构中提取具有代表性的特征,从而限制了它们在此情况下求解参数化偏微分方程的有效性。虽然一些开创性研究[34,3638]已将DeepONet应用于复杂域几何结构,但所研究的三角形和五角星等结构仍与真实多孔介质有所偏离[34]。为克服这一挑战,我们借鉴卷积神经网络(CNN)在图像处理方面的强大能力[39]。例如,Cawte和Bazylak [40]成功利用三维CNN从多孔纤维材料图像数据中准确预测了气体扩散层材料的渗透率。他们的成功凸显了CNN从复杂多孔结构中提取有用特征的潜力,为求解多孔介质中参数化偏微分方程开辟了有前景的途径。

在这项工作中,我们提出了DeepONet框架的创新扩展,称为Porous-DeepONet。该框架通过将CNN整合到DeepONet架构中,专门用于求解多孔介质中的参数化偏微分方程,重点关注参数化反应输运方程。我们首先以Fick扩散方程作为代表性示例,通过其在复杂且随机的多孔结构中的学习解算子的应用,证明了Porous-DeepONet的有效性。随后,通过改变多孔介质表面边界条件的类型(如是否存在反应、是否存在边界层、是否具有渗透性等),进一步展示了Porous-DeepONet的强大求解能力。我们研究的方程包括Fick扩散方程、Fick扩散和表面反应方程、平流方程和热传导方程。为了提高Porous-DeepONet在求解多物理场耦合方程方面的通用性,我们将Porous-DeepONet与DeepM&Mnet相结合,利用求解Poisson-Nernst-Planck(PNP)方程来预测多孔电极中的充电过程。为了评估Porous-DeepONet在识别非真实多孔结构解方面的泛化性能,我们使用简化的多孔模型生成验证数据。此外,我们还比较了Porous-DeepONet和FEM的求解速度,证明了Porous-DeepONet的高计算效率。最后,我们讨论了采用物理信息驱动的Porous-DeepONet的可行性,并指出了利用领域知识进一步提高模型性能的潜力。

2 研究方法

在随后的章节中,我们首先介绍基于算子的广义通用逼近定理的DeepONet。随后,我们探讨DeepONet的扩展版Porous-DeepONet,用于学习多孔介质中参数化偏微分方程的解算子。此外,我们概述将Porous-DeepONet与其他DeepONet框架耦合的方法。最后,我们阐述数据生成过程,包括真实多孔结构与简化多孔模型的生成,以及FEM的数值细节。

2.1 应用于多孔介质的DeepONet:Porous-DeepONet

2.1.1 算子的广义通用逼近定理

假设 ( 𝒰 ,   𝒱 ,   𝒮 )是Banach空间的三元组,并且 𝒩 :   𝒰 × 𝒮 𝒱是线性或非线性微分算子。假设输入函数表示为 u 𝒰,参数化偏微分方程的解表示为 s 𝒮。因此,参数化偏微分方程的一般形式可以表示为 𝒩 u , s = 0。对于特定的IC和BC,我们认为存在 𝒩 u , s = 0的唯一解 s = s ( u ) 𝒮。然后,可以将解算子 G :   𝒰 𝒮定义为 G ( u ) = s ( u )。根据广义通用逼近定理[23],对于任何正数 ε,非线性连续算子 G满足以下不等式:

G ( u )   ( y ) - g u ( x 1 ) , u ( x 2 ) , . . . , u ( x m ) , f y < ε

式中, 是绝对值; , R p中的点积;并且 g :   R m R p f :   R d R p是连续向量函数; x 1 x 2 x m d维向量, y G u域中的点。然而,这个定理只是告诉我们是否可以学习算子 G,并没有指出如何有效地学习 G

2.1.2 DeepONet

DeepONet是一个灵活而强大的深度学习框架,它封装了算子的广义通用逼近定理[11,23]。DeepONet由两个子网络组成:一个主干网络和一个分支网络。主干网络负责提取时空坐标 y = t , x , y的潜在表示,其中 t是时间, x y是空间位置,而分支网络则以离散化点的形式输入函数 u = u x 1 ,   u x 2 , ,   u x m。主干网络和分支网络的输出分别为 t = t 1 , t 2 , , t q T b = b 1 , b 2 , , b q T。更具体地说,在 y处的函数 u的解算子 G可以表示为

G ( u )   ( y ) i = 1 q b i u ( x 1 ) , u ( x 2 ) , . . . , u ( x m ) B r a n c h . t i ( y ) T r u n k

为了降低DeepONet的泛化误差,在最后阶段添加了一个偏差 b 0 R,即 G u y i = 1 q b i i + b 0。值得注意的是,对于特征 x y的位置抽样,我们没有加以约束。具体而言,可采用随机抽样或等距抽样的方式。针对随机抽样情况,一种可行的方案是采用全连接神经网络(FNN)作为主干网络和分支网络[23]。

2.1.3 Porous-DeepONet

要学习多孔介质中参数化偏微分方程的解算子,应将多孔介质的各种结构作为函数 u输入分支网络中。这些结构可以被认为是具有等距网格的类似图像的数据。然而,由于这些结构的复杂性和随机性,DeepONet中常用的FNN [25,27,30]可能无法很好地编码多孔结构的局部特征信息。因此,可以考虑使用其他NN架构。CNNs具有强大的图像处理能力,已成功应用于预测多孔介质的输运特性和将图片重构为多孔结构[41]。受DeepONet和CNN的启发,我们提出了一种用于求解多孔介质中参数化偏微分方程的框架,称为Porous-DeepONet,如图1(a)所示。通过输入多孔结构和时空坐标,我们得到了相应解函数域内的输出。例如,如果我们旨在求解不同多孔结构中的Fick扩散方程,则Porous-DeepONet的输入和输出是多孔结构的图像 u x , y、时空坐标 y = t , x , y和相应的浓度 s = G u y。此外,还可通过添加分支网络,将其他参数 θ(如扩散系数)并入Porous-DeepONet框架[37]。尽管已经有一些工作[29,42]将CNNs引入DeepONet,但这种基于CNNs的DeepONet尚未应用于求解多孔介质中的参数化偏微分方程。例如,Kontolati等[42]使用基于CNN的DeepONet来模拟两种物质之间的自催化化学反应,从而求解了体相中具有不确定性源的2D时间依赖性布鲁塞尔反应-扩散系统。在这种情况下,CNN的功能是提取空间依赖性不确定性源的代表性特征,而不是多孔介质的代表性特征。

在训练时,假设我们从函数空间 𝒰中采样 N个多孔结构 u N个其他参数;此外,对于每个输入 u i θ i,我们收集 P个点[即 y u , j j]来评估解函数。因此,训练样本的总数应为 N × P。值得注意的是,Porous-DeepONet通过分别采用Adamax和Huber损失( L H u b e r)作为优化器和损失函数进行训练:

L H u b e r = 1 2 1 N P i = 1 N j = 1 P G u i , θ i y u , j i - G ^ u i , θ i y u , j i 2               f o r   s - s ^ δ δ 1 N P i = 1 N j = 1 P G u i , θ i y u , j i - G ^ u i , θ i y u , j i - 1 2 δ 2     o t h e r w i s e

式中, δ为超参数, G ^为真实的解算子,并且 s ^ = G ^ u , θ y是真实的解。Huber损失结合了均方误差(MSE)损失和平均绝对误差(MAE)损失的优异性能,实现了快速收敛速度和良好的鲁棒性[43]。绝对误差的绝对值的平均值被选为测试数据集的性能指标:

ε t e s t = 1 N i = 1 N s i - s ^ i

式中, s i为Porous-DeepONet预测的结果; s ^ i为FEM计算的真实结果。Porous-DeepONet框架是使用Python包PyTorch 实现的。最后,分别使用NVIDIA GeForce RTX 3090图形处理单元(GPU)和Intel® Xeon® Platinum 9242中央处理器(CPU)进行Porous-DeepONet的训练和结果预测。

2.2 将Porous-DeepONet与其他框架耦合

2.2.1 Porous-DeepM&Mnet

虽然Porous-DeepONet在学习单一物理场的解算子方面表现卓越,但物理场之间存在的耦合效应有时会影响预测的精度。为解决这一挑战,Cai等[31]提出了DeepM&Mnet,它通过耦合多个预训练的DeepONet,从而准确求解了电对流多物理场耦合方程。将Porous-DeepONet与DeepM&Mnet相结合,为准确求解多孔介质中多物理场耦合方程,提供了一种强大而高效的混合框架方法。在图1(b)[31]所示的混合框架中,我们利用Porous-DeepM&Mnet来处理多孔介质中不同物理场(如 s 1 s 2 s 3)之间的耦合作用。为了解释 s 2 s 3 s 1的影响,这些物理场在预测过程中被视为输入参数 θ。同样的方法也适用于 s 2 s 3。使用预训练的Porous-DeepONet时会出现一个限制,因为它需要 s 1 s 2 s 3的可用性,这在实践中可能并不总是可行的。为了解决这个问题,Porous-DeepM&Mnet引入了一个NN来近似 s 1 s 2 s 3,同时在求解过程中利用预训练的Porous-DeepONet作为约束。最后,计算这些预训练的Porous-DeepONet的输出(如 s 1 * s 2 * s 3 *)与真实值之间的差值作为训练损失函数。这种框架确保预测的准确性,同时整合了从预训练模型中学到的知识。有关DeepM&Mnet框架及其应用的更深入信息,读者可以参考Cai等[31]的原始文献。

2.2.2 Porous-PI-DeepONet

在处理复杂的多孔介质时,涉及DeepONet中表示函数空间所需的样本数量可能非常庞大,这会导致训练过程中对内存的需求增加。为了解决这个问题并减少对数据的依赖,我们拓展了Wang等[11]提出的一个基于物理信息的DeepONet框架,即Porous-PI-DeepONet,如图1(c)所示。Porous-PI-DeepONet将基于物理的约束原则融入训练过程,使网络能够学习底层物理定律,并减少对大量数据的依赖。在Porous-PI-DeepONet框架中,使用自动微分技术,将控制方程( N)、BCs和ICs( B)的残差表述为正则化损失或约束。这种方法不仅促进了物理规律的学习,而且减轻了对大量数据的需求,使其特别适用于涉及复杂多孔介质的场景。有兴趣深入研究PI-DeepONet框架及其实现细节的读者可以参考Wang等[11]的原始文献。

2.3 数据生成

2.3.1 多孔结构的生成和简化

为了验证Porous-DeepONet在处理复杂多孔介质结构方面的有效性,我们选择了无序的多孔结构作为模型体系。尽管计算机断层扫描(CT)和扫描电子显微镜(SEM)等实验表征技术可以提供非破坏性的方法来获取这些结构[13],但这些方法的高成本使得采用随机生成算法成为更可行的选择。因此,我们使用Python包PoreSpy生成了5000个具有不同孔隙率、形态和随机种子的无序结构[44],如图2(a)~(d)所示。这些结构的生成设置详见附录A中的表S1。除了这些随机生成的结构外,我们还考虑了一种简化的多孔模型,称为堆叠电极模型[9,45]。通过改变板的数量和位置,可以修改无序多孔电极的结构。我们在图2(e)中展示了该模型的一个示例。通过考虑无序结构和简化结构,我们展示了Porous-DeepONet如何有效地处理各种多孔介质结构。这样的选择使得我们能够全面评估该模型在不同结构条件下的表现,并验证其在多样化多孔介质中的适用性。

2.3.2 FEM的数值细节

使用COMSOL Multiphysics 5.3中FEM求解器求解控制方程及其相关的BC和IC。用于计算的直接求解器是并行直接稀疏矩阵求解器(PARDISO),而全耦合求解器则使用自动牛顿求解器。为求解器设置了相对容差因子 10 - 3。在网格生成过程中,使用常规尺寸的单元来离散化多孔结构,如附录A中的图S1所示。堆叠电极模型的网格方案遵循文献[45]中详述的方法。所有的FEM计算都是在一台配备Intel® Xeon® Platinum 9242 CPU的服务器上进行的。

3 结果与讨论

如下所述,我们进行了一系列全面的数值研究,以证明Porous-DeepONet在求解与反应输运过程相关的各种类型的参数化偏微分方程方面的有效性。表1总结了所考虑的不同示例,而相关的训练详情可在附录A的S1节、表S2和表S3中找到。通过评估它们在这些不同示例中的性能,我们证明了Porous-DeepONet在处理与多孔介质结构相关的复杂偏微分方程方面的广泛适用性。这种全面的方法强调了Porous-DeepONet作为强大工具的潜力,可以促进我们对多孔介质行为的理解,并改进相关技术的设计和优化。

3.1 Fick扩散方程

本研究的首个示例旨在展示Porous-DeepONet处理多孔介质复杂结构的能力。在这个背景下,我们考虑了多种多孔结构中的瞬态Fick扩散方程。Fick扩散方程通常用于模拟分子、离子和其他物质在多孔介质(如沸石、膜和细胞)中的扩散。图2(a)展示了Fick扩散方程在多孔介质中的典型应用场景,如海水淡化。图中,白色区域代表孔隙,黑色区域代表固体材料。入口浓度 c i n和出口浓度 c o u t随时间变化保持恒定。此外,多孔介质的表面、顶部边界和底部边界是不可渗透的。随着时间的推移,多孔介质中的物质从高浓度区域扩散到低浓度区域,直到达到平衡。描述该现象的瞬态Fick扩散方程可表示为

c t = D 2 c

使用以下IC和BC:

c 0 = 1000   m o l m - 3
c i n = 2000   m o l m - 3 ,   c o u t = 1000   m o l m - 3 ,   - n J s u r f a c e / t o p / b o t t o m = 0   m o l ( m 2 s ) - 1

式中, c为扩散物质的浓度; D为扩散系数; 为哈密顿算子; c 0为初始浓度; n为表面的单位法向量; J s u r f a c e为表面摩尔通量,计算公式为 J s u r f a c e = - D c | c = c s u r f a c e J t o p J b o t t o m分别为顶部和底部摩尔通量。这些参数的具体值请参考表S1。

我们使用Porous-DeepONet将解算子从多孔结构 u x , y映射到Fick扩散方程的时空解 c ( t , x , y )。将Porous-DeepONet预测的解与FEM计算的精确解进行比较,发现从初始状态(即 10 - 2   s)到平衡状态(即 10   s),都非常一致,如图3所示。预测误差主要集中在浓度梯度陡峭的地方,这与Wang等[11]的观察结果一致。附录A中的图S9提供了Porous-DeepONet在其他不同输入多孔结构的预测情况。此外,训练数据集和测试数据集中绝对误差的分布表明,绝对误差值大多在-25~25 mol∙m-3的一定范围内,得到的测试误差 ε t e s t为6.6 mol∙m-3,如附录A中的图S10所示。基于这些观察结果,可以得出结论,Porous-DeepONet是一种有效的扩展,可以增强DeepONet在求解多孔介质中的参数化偏微分方程的能力。

3.2 Fick扩散和表面反应方程

本示例展示了稳态Fick扩散和表面反应方程,涉及具有不同反应速率的情况。多孔介质的表面形态对表面反应产生影响,这种反应比体相反应更为复杂。图2(b)描绘了反应物在多孔介质中的扩散以及其在表面上的反应,这是催化剂和吸附剂中的关键现象。在此情况下,我们假设反应速率符合幂指数函数形式。需要注意的是,为了更真实地捕捉扩散-反应过程,出口浓度并非固定。相应的方程可以表示如下:

D 2 c = 0

具有以下BC:

c i n = 100   m o l m - 3 ,   n D c o u t = 0   m o l m 2 s - 1 , - n J s u r f a c e = k c n ,   - n J t o p / b o t t o m = 0   m o l m 2 s - 1

式中 , k为反应速率常数; n为反应级数。通过调整 k n的值以及多孔结构,式(8)式(9)可以有效地模拟各种催化剂或吸附剂中的扩散和反应现象。这些参数的具体值和允许范围详见表S1。

图4展示了应用Porous-DeepONet学习将多孔结构 u x , y和反应参数 k n映射到解 c ( x , y )的解算子得到的结果,包括测试数据集中四个具有代表性的输入[即 u x , y k c n]。图4展示了一系列浓度分布,从上到下反映了反应进度逐渐降低的趋势。这种趋势导致出口浓度逐渐增加。将Porous-DeepONet的预测结果与真实结果进行了比较,表明在不同情景下其具有良好的一致性,能够捕捉从大反应速率和复杂结构到小反应速率和简单结构的过渡。然而,在浓度表现出显著梯度的区域中,我们观察到了一些不准确之处,类似于前面讨论的Fick扩散的例子。

为了评估Porous-DeepONet模型的性能,附录A中的图S11(a)展示了训练和测试数据集中绝对误差的分布。测试误差 ε t e s t为2.4 mol∙m-3,表明Porous-DeepONet可以作为具有复杂和可变通量BC的偏微分方程的有效替代。这一发现凸显了Porous-DeepONet在各种具有挑战性的条件下准确捕获系统行为的能力,展示了其在模拟具有不同反应参数和BC的复杂多孔介质方面的实际应用潜力。

3.3 平流方程

为了进一步证明Porous-DeepONet处理边界层的能力,考虑了平流方程,如图2(c)所示。在这种情况下,不同结构的入口速度不同,出口压力设置为大气压。多孔介质的表面受到无滑移BC的影响。此外,为了准确模拟入口处的速度变化,假设多孔介质与体相相连。对应的平流方程如下:

ρ u u = - p I + K
ρ u = 0
K = μ u + u T

具有以下BC:

u i n = - u i n n ,   p o u t = p a t m ,   u s u r f a c e / t o p / b o t t o m = 0

式中, u为速度; u为速度的大小; ρ为质量密度; p为压力; I为单位矩阵; K为黏性阻力; μ为黏度。式(10)式(13)可以捕捉到与质量传递相关的复杂现象,这对于理解和优化燃料电池和反应塔的性能至关重要。表S1中列出了这些方程中涉及的参数的值和范围。

利用Porous-DeepONet,通过输入多孔结构 u x , y和入口速度的大小 u i n来预测速度的分布 u,如图5所示。结果表明,经过训练的Porous-DeepONet与FEM解总体上表现出极好的一致性,即使某些表面部分的速度不为零。绝对误差的分布进一步表明,测试误差 ε t e s t为0.0012 m∙s-1,如附录A中的图S11(b)所示。这一发现强调了Porous-DeepONet在有效求解带有BC [不仅与通量有关,而且与变量参数(如 u)有关]的参数化偏微分方程方面的能力。

3.4 热传导方程

本例旨在探索Porous-DeepONet在求解多相参数化偏微分方程方面的潜力,如图2(d)所示。与前面的示例相比,让我们考虑一个可以在两相之间传递热量的场景。更具体地说,我们假设当入口温度高于出口温度时,多孔介质中的两相之间没有热阻。为了清楚地区分这两个相,我们将第一相指定为导热系数低的空气,将第二相指定为导热系数高的金属。下面提供了相应的公式:

λ 1 2 T = 0 ,       λ 2 2 T = 0

具有以下BC:

T i n = 313.15   K ,    T o u t = 293.15   K ,   - n Q t o p / b o t t o m = 0   W m - 2
- n Q s u r f a c e , 1 + - n Q s u r f a c e , 2 = 0   W m - 2 ,   T s u r f a c e , 1 = T s u r f a c e , 2

式中, λ为热导率; T为温度; Q为热通量,由式 Q = - λ T给出式(14)至式(16)中的具体值见表S1。

图6表明,经过训练的Porous-DeepONet模型可以预测测试数据集中任何给定的第二相的热导率 λ 2和多孔结构 u x , y的热传导方程的解 T x , y。附录A中的图S11(c)表明测试误差 ε t e s t为0.020 K。有趣的是,与前面讨论的单相示例不同,最大误差不会发生在梯度最大的地方,而是发生在表面上。这一现象表明,在学习多孔结构中参数偏微分方程的解时,需要特别注意梯度陡峭的区域和多孔结构的表面。这些发现强调了在使用Porous-DeepONet求解多孔结构中的偏微分方程时,准确建模和捕获具有显著梯度的表面和区域行为的重要性。

3.5 PNP方程

最后一个示例旨在使用Porous-DeepM&Mnet求解多孔介质中的多物理场参数偏微分方程。此外,我们还探索了将Porous-DeepM&Mnet与其他多孔模型相结合的可能性,通过用多孔模型替换真实多孔结构。考虑到模型的代表性和偏微分方程的复杂性,我们选择了堆叠电极模型[9,45]和PNP方程,以研究多孔电极中的充电过程。简化真实多孔电极的过程如图2(e)所示。简化的多孔结构可以被视为一维图像,轻松地被输入到Porous-DeepONet和Porous-DeepM&Mnet中。在施加电位到正负极后,阴离子和阳离子从两块板的中心和体相扩散到板附近。随后,它们吸附在板上形成双电层。以下是描述这种现象的偏微分方程:

c ± t + J ± = 0
J ± = - D ± ( c ± + z ± F c ± R T ϕ )
ε 0 ε r ( - ϕ )   =   F q

使用以下IC和BC:

c + , 0 = c - , 0 = 100   m o l m - 3
ϕ c a t h o d e = 0.01   V ,   ϕ a n o d e = - 0.01   V ,   - n J l e f t / r i g h t = 0

式中, ±代表阳离子和阴离子;而 z为离子的化合价。此外, ϕ为电势, q对应于空间电荷浓度(由式 q = z + c + + z - c -给出), R为摩尔气体常量, F为法拉第常量。 ε 0 ε r分别表示真空和相对介电常数。需要注意的是,改变板的数量和位置会产生不同的多孔结构。此外, D + D -是用于表示阳离子和阴离子的各种组合的变量。表S1中提供了更详细的信息。

图7显示了由基于Porous-DeepONet的Porous-DeepM&Mnet预测的 ϕ c + c -的结果。显示结果取自测试数据集中随机选择的一个结构(更多的可视化结果可以在附录A的图S12中找到)。这些结果表明,Porous-DeepM&Mnet可以有效地捕捉吸附在电极板上的双电层的细节。附录A中的图S11(d)~(f)表明 ϕ c + c -的测试误差 ε t e s t分别为8.1 × 10-6 V、0.015 mol∙m-3和0.014 mol∙m-3。因此,Porous-DeepONet可以与其他DeepONet框架无缝集成,以求解更复杂的参数化偏微分方程。

3.6 Porous-DeepONet和FEM的计算时间比较

为了验证Porous-DeepONet在求解方程上的高效性,我们对比了它与FEM在Intel Xeon® Platinum 9242 CPU上求解相同示例时所需的时间,具体数据见图8。Porous-DeepONet的求解时间包括加载经过训练的模型和进行推断,而FEM的求解时间则包括导入多孔结构、进行网格划分、组装矩阵和求解过程。研究结果显示,在解决相同问题时,Porous-DeepONet相较于传统的FEM方法快了三个数量级 𝒪 10 3。此外,当Porous-DeepM&Mnet基于Porous-DeepONet来求解PNP方程时,求解速度提高了约50倍。需要注意的是,由于考虑了时间t的因素,第一个和最后一个示例所需的时间要比其他示例更长,因为这需要进行更多的推断操作。为了减少推理时间,可以在CPU或GPU上并行使用Porous-DeepONet进行推断操作。

4 结论

本工作提出了Porous-DeepONet,这是一个深度学习框架,旨在学习多孔介质中参数化偏微分方程的解算子,重点是反应输运方程。我们使用了CNN对DeepONet进行了扩展,从而创造了一种简单而高效的方法来处理复杂的域几何形状。相比传统的FEM,这种扩展可以显著提高求解效率。为了评估Porous-DeepONet的准确性和适用性,我们求解了各种反应输运方程,包括Fick扩散方程、Fick扩散和表面反应方程、平流方程和热传导方程。结果表明,Porous-DeepONet能够高效求解具有复杂边界条件的单相和多相参数化偏微分方程,其计算时间比传统的有限元方法快三个数量级。此外,我们还将Porous-DeepONet与DeepM&Mnet相结合,以应对求解多物理场耦合PNP方程的挑战,从而将计算时间大幅缩短为原来的1/50。经过我们的改进和优化,Porous-DeepONet成为了一个强大的工具,可用于解决多孔介质中参数化偏微分方程的求解问题,尤其在处理复杂域几何形状和多物理场耦合方程时表现出色。这一研究为相关领域的进一步探索和应用提供了有力支持。

除了上述示例外,Porous-DeepONet在涉及多孔介质的各个科学和工程领域也可能有广泛的应用,包括量子化学和社会科学。尽管初步结果令人鼓舞,但我们仍需进一步研究解决其中的一些技术挑战。首先,为了解决梯度区域和近表面的不准确性,我们可以考虑在Porous-DeepONet中集成自注意力机制或利用数据增强技术。这些方法有望改善模型的精确度。其次,Porous-DeepONet需要大量的成对输入-输出观测值,这可能带来较高的成本。为此,另一种探索途径是将Porous-DeepONet从数据驱动转变为物理信息驱动,正如PI-DeepONet所证明的那样[11]。然而,考虑到多孔介质中边界条件的复杂性以及PINN损失函数的收敛性,探索Porous-PI-DeepONet仍然具有重要的研究价值。再次,目前Porous-DeepONet仅限于求解固定尺寸多孔结构中的参数化偏微分方程。为了使其适应更复杂的输入多孔结构(例如,从数据库分割后尺寸随机的SEM图像),我们需要将高级架构如fully CNN等集成到Porous-DeepONet中,以提高其适应性和灵活性。最后,由于GPU内存受限以及训练时间的限制,Porous-DeepONet在使用RTX 3090显卡处理超大型3D结构时会面临一些限制。借鉴PNP方程等示例,我们可以采用简化的多孔模型(如堆叠电极模型[45]和孔隙网络模型[46])作为Porous-DeepONet的替代输入,以解决这一问题。解决这些技术挑战不仅可以提高Porous-DeepONet的性能,还可以将其作为求解不同结构中偏微分方程的有潜力的FEM替代方案。这将进一步推动多孔介质研究领域的发展和应用。

参考文献

[1]

Cai G, Yan P, Zhang L, Zhou HC, Jiang HL. Metal‒organic framework-based hierarchically porous materials: synthesis and applications. Chem Rev 2021;121(20):12278‒326. . 10.1021/acs.chemrev.1c00243

[2]

Sun MH, Huang SZ, Chen LH, Li Y, Yang XY, Yuan ZY, et al. Applications of hierarchically structured porous materials from energy storage and conversion, catalysis, photocatalysis, adsorption, separation, and sensing to biomedicine. Chem Soc Rev 2016;45(12):3479‒563. . 10.1039/c6cs00135a

[3]

Zhou J, Wang B. Emerging crystalline porous materials as a multifunctional platform for electrochemical energy storage. Chem Soc Rev 2017;46(22):6927‒45. . 10.1039/c7cs00283a

[4]

Perego C, Millini R. Porous materials in catalysis: challenges for mesoporous materials. Chem Soc Rev 2013;42(9):3956‒76. . 10.1039/c2cs35244c

[5]

Wang X, Chen L, Chong SY, Little MA, Wu Y, Zhu WH, et al. Sulfone-containing covalent organic frameworks for photocatalytic hydrogen evolution from water. Nat Chem 2018;10(12):1180‒9. . 10.1038/s41557-018-0141-5

[6]

Yuk H, Zhang T, Lin S, Parada GA, Zhao X. Tough bonding of hydrogels to diverse non-porous surfaces. Nat Mater 2016;15(2):190‒6. . 10.1038/nmat4463

[7]

Pan H, Shao Y, Yan P, Cheng Y, Han KS, Nie Z, et al. Reversible aqueous zinc/manganese oxide energy storage from conversion reactions. Nat Energy 2016;1(5):16039. . 10.1038/nenergy.2016.39

[8]

Tian S, Wang B, Gong W, He Z, Xu Q, Chen W, et al. Dual-atom Pt heterogeneous catalyst with excellent catalytic performances for the selective hydrogenation and epoxidation. Nat Commun 2021;12(1):3181. . 10.1038/s41467-021-23517-x

[9]

Lian C, Janssen M, Liu H, van Roij R. Blessing and curse: how a supercapacitor’s large capacitance causes its slow charging. Phys Rev Lett 2020;124(7):076001. . 10.1103/physrevlett.124.076001

[10]

Tao H, Lian C, Liu H. Multiscale modeling of electrolytes in porous electrode: from equilibrium structure to non-equilibrium transport. Green Energy Environ 2020;5(3):303‒21. . 10.1016/j.gee.2020.06.020

[11]

Wang S, Wang H, Perdikaris P. Learning the solution operator of parametric partial differential equations with physics-informed DeepONets. Sci Adv 2021;7(40):eabi8605. . 10.1126/sciadv.abi8605

[12]

Lu L, Meng X, Mao Z, Karniadakis GE. DeepXDE: a deep learning library for solving differential equations. SIAM Rev 2021;63(1):208‒28. . 10.1137/19m1274067

[13]

Bostanabad R, Zhang Y, Li X, Kearney T, Brinson LC, Apley DW, et al. Computational microstructure characterization and reconstruction: review of the state-of-the-art techniques. Prog Mater Sci 2018;95:1‒41. . 10.1016/j.pmatsci.2018.01.005

[14]

Quarteroni A, Rozza G, Manzoni A. Certified reduced basis approximation for parametrized partial differential equations and applications. J Math Ind 2011;1(1):3. . 10.1186/2190-5983-1-3

[15]

Yunus RB, Abdul Karim SA, Shafie A, Izzatullah M, Kherd A, Hasan MK, et al. An overview on deep learning techniques in solving partial differential equations. In: Abdul Karim SA, editor. Intelligent systems modeling and simulation II: machine learning, neural networks, efficient numerical algorithm and statistical methods. Cham: Springer International Publishing; 2022. p. 37‒47. . 10.1007/978-3-031-04028-3_4

[16]

Karniadakis GE, Kevrekidis IG, Lu L, Perdikaris P, Wang S, Yang L. Physics informed machine learning. Nat Rev Phys 2021;3(6):422‒40. . 10.1038/s42254-021-00314-5

[17]

Ren P, Rao C, Liu Y, Wang JX, Sun H. PhyCRNet: physics-informed convolutional-recurrent network for solving spatiotemporal PDEs. Comput Methods Appl Mech Eng 2022;389:114399. . 10.1016/j.cma.2021.114399

[18]

Winovich N, Ramani K, Lin G. ConvPDE-UQ: convolutional neural networks with quantified uncertainty for heterogeneous elliptic partial differential equations on varied domains. J Comput Phys 2019;394:263‒79. . 10.1016/j.jcp.2019.05.026

[19]

Ruthotto L, Haber E. Deep neural networks motivated by partial differential equations. J Math Imaging Vis 2020;62(3):352‒64. . 10.1007/s10851-019-00903-1

[20]

Gao H, Sun L, Wang JX. PhyGeoNet: physics-informed geometry-adaptive convolutional neural networks for solving parameterized steady-state PDEs on irregular domain. J Comput Phys 2021;428:110079. . 10.1016/j.jcp.2020.110079

[21]

Beck C, Hutzenthaler M, Jentzen A, Kuckuck B. An overview on deep learning based approximation methods for partial differential equations. Discrete Contin Dyn Syst B 2023;28(6):3697‒746. . 10.3934/dcdsb.2022238

[22]

Chen T, Chen H. Universal approximation to nonlinear operators by neural networks with arbitrary activation functions and its application to dynamical systems. IEEE Trans Neural Netw 1995;6(4):911‒7. . 10.1109/72.392253

[23]

Lu L, Jin P, Pang G, Zhang Z, Karniadakis GE. Learning nonlinear operators via DeepONet based on the universal approximation theorem of operators. Nat Mach Intell 2021;3(3):218‒29. . 10.1038/s42256-021-00302-5

[24]

Sharma Priyadarshini M, Venturi S, Zanardi I, Panesi M. Efficient quasi-classical trajectory calculations by means of neural operator architectures. Phys Chem Chem Phys 2023;25(20):13902‒12. . 10.1039/d2cp05506f

[25]

Lin C, Maxey M, Li Z, Karniadakis GE. A seamless multiscale operator neural network for inferring bubble dynamics. J Fluid Mech 2021;929:A18. . 10.1017/jfm.2021.866

[26]

Lin C, Li Z, Lu L, Cai S, Maxey M, Karniadakis GE. Operator learning for predicting multiscale bubble growth dynamics. J Chem Phys 2021;154(10):104118. . 10.1063/5.0041203

[27]

Zheng Q, Yin X, Zhang D. Inferring electrochemical performance and parameters of Li-ion batteries based on deep operator networks. J Energy Storage 2023;65:107176. . 10.1016/j.est.2023.107176

[28]

Moya C, Zhang S, Lin G, Yue M. DeepONet-grid-UQ: a trustworthy deep operator framework for predicting the power grid’s post-fault trajectories. Neurocomputing 2023;535:166‒82. . 10.1016/j.neucom.2023.03.015

[29]

Yin M, Ban E, Rego BV, Zhang E, Cavinato C, Humphrey JD, et al. Simulating progressive intramural damage leading to aortic dissection using DeepONet: an operator‒regression neural network. J R Soc Interface 2022;19 (187):20210670. . 10.1098/rsif.2021.0670

[30]

Pickering E, Guth S, Karniadakis GE, Sapsis TP. Discovering and forecasting extreme events via active learning in neural operators. Nat Comput Sci 2022;2(12):823‒33. . 10.1038/s43588-022-00376-0

[31]

Cai S, Wang Z, Lu L, Zaki TA, Karniadakis GE. DeepM&Mnet: inferring the electroconvection multiphysics fields based on operator approximation by neural networks. J Comput Phys 2021;436:110296. . 10.1016/j.jcp.2021.110296

[32]

Yin M, Zhang E, Yu Y, Karniadakis GE. Interfacing finite elements with deep neural operators for fast multiscale modeling of mechanics problems. Comput Methods Appl Mech Eng 2022;402:115027. . 10.1016/j.cma.2022.115027

[33]

Lu L, Pestourie R, Johnson SG, Romano G. Multifidelity deep neural operators for efficient learning of partial differential equations with application to fast inverse design of nanoscale heat transport. Phys Rev Res 2022;4(2):023210. . 10.1103/physrevresearch.4.023210

[34]

Lu L, Meng X, Cai S, Mao Z, Goswami S, Zhang Z, et al. Acomprehensive and fair comparison of two neural operators (with practical extensions) based on FAIR data. Comput Methods Appl Mech Eng 2022;393:114778. . 10.1016/j.cma.2022.114778

[35]

Li W, Bazant MZ, Zhu J. Phase-field DeepONet: physics-informed deep operator neural network for fast simulations of pattern formation governed by gradient flows of free-energy functionals. Comput Methods Appl Mech Eng 2023;416:116299. . 10.1016/j.cma.2023.116299

[36]

Goswami S, Kontolati K, Shields MD, Karniadakis GE. Deep transfer operator learning for partial differential equations under conditional shift. Nat Mach Intell 2022;4(12):1155‒64. . 10.1038/s42256-022-00569-2

[37]

Goswami S, Bora A, Yu Y, Karniadakis GE. Physics-informed deep neural operator networks. In: Rabczuk T, Bathe KJ, editors. Machine learning in modeling and simulation: methods and applications. Cham: Springer; 2023. p. 219‒54. . 10.1007/978-3-031-36644-4_6

[38]

Sun J, Li J, Hao Y, Qi C, Ma C, Sun H, et al. Boundary-to-solution mapping for groundwater flows in a Toth basin. Adv Water Resour 2023;176:104448. . 10.1016/j.advwatres.2023.104448

[39]

Jablonka KM, Ongari D, Moosavi SM, Smit B. Big-data science in porous materials: materials genomics and machine learning. Chem Rev 2020;120(16):8066‒129. . 10.1021/acs.chemrev.0c00004

[40]

Cawte T, Bazylak A. A 3D convolutional neural network accurately predicts the permeability of gas diffusion layer materials directly from image data. Curr Opin Electrochem 2022;35:101101. . 10.1016/j.coelec.2022.101101

[41]

Wang Y, Arns CH, Rahman SS, Arns JY. Porous structure reconstruction using convolutional neural networks. Math Geosci 2018;50(7):781‒99. . 10.1007/s11004-018-9743-0

[42]

Kontolati K, Goswami S, Shields MD, Karniadakis GE. On the influence of over parameterization in manifold based surrogates and deep neural operators. J Comput Phys 2023;479:112008. . 10.1016/j.jcp.2023.112008

[43]

Sun Q, Zhou WX, Fan J. Adaptive huber regression. J Am Stat Assoc 2020;115(529):254‒65. . 10.1080/01621459.2018.1543124

[44]

Gostick JT, Khan ZA, Tranter TG, Kok MDR, Agnaou M, Sadeghi M, et al. PoreSpy: a Python toolkit for quantitative analysis of porous media images. J Open Source Softw 2019;4(37):1296. . 10.21105/joss.01296

[45]

Huang P, Tao H, Yang J, Lian C, Liu H. Four stages of thermal effect coupled with ion-charge transports during the charging process of porous electrodes. AIChE J 2022;68(10):e17790. . 10.1002/aic.17790

[46]

Huang P, Tao H, Liu H, Lian C. Accelerating charging dynamics using self-driven optimizing porous structures. AIChE J 2024;70(4):e18313. . 10.1002/aic.18313

AI Summary AI Mindmap
PDF (3479KB)

12153

访问

0

被引

详细

导航
相关文章

AI思维导图

/