基于Lap-SAGAN的多尺度三维地质模型重构方法

Multiple-scale three-dimensional geological modeling approach based on Lap-SAGAN

摘要

三维地质体结构的准确表征是三维地质建模领域的研究热点,而如何刻画带有多尺度空间特征的地质体结构是其中的难点。深度学习技术的蓬勃发展为多尺度地下空间结构的三维精细表征提供了新的可能性。为提升多尺度多细节层次空间特征的提取和重建效果,本文在自注意力生成对抗网络(SAGAN)的基础上引入了拉普拉斯金字塔分级结构,并提出了基于拉普拉斯金字塔-自注意力生成对抗网络(Lap-SAGAN)的多尺度三维地质建模方法。为了满足多尺度空间特征的提取与表达需求,Lap-SAGAN使用三维高斯滤波采样方法对不同尺度不同细节层次的空间特征进行分级处理。此外,本文还提出了一种基于残差结构的空间上下文损失函数,能够保证重建地质模型与输入条件数据的一致性。最后以剖面数据作为条件约束信息,使用多个三维数据集验证了Lap-SAGAN的性能。实验结果表明Lap-SAGAN能够根据二维剖面数据刻画具有多尺度空间特征的三维地质结构,证明了本方法在三维地质模型重建方面的可行性和实用性。

Abstract

Accurate characterization of three-dimensional (3D) geological structures is crucial in geological modeling, yet effectively characterizing structures with multi-scale spatial features remains a significant challenge. The rapid advancement of deep learning technology offers new avenues for characterizing 3D multi-scale subsurface structures. To enhance the extraction and reconstruction of multi-scale spatial features, we propose a multi-scale 3D geological modeling method based on Laplacian Pyramid-Self-Attention Generative Adversarial Network (Lap-SAGAN). To efficiently extract features at multiple spatial scales, Lap-SAGAN employs a 3D Gaussian filter sampling method to hierarchically represent spatial features. In addition, we introduce a spatial context loss function based on residual computation to ensure consistency between the reconstructed geological models and the input conditioning data. The performance of Lap-SAGAN is evaluated using multiple 3D datasets. Experimental results demonstrate that Lap-SAGAN can effectively characterize 3D geological structures with multi-scale spatial features from 2D cross-section data, confirming its feasibility and practicality for 3D geological model reconstruction.

Graphical abstract

关键词

三维地质建模 / 深度学习 / 生成对抗网络 / 关键特征 / 多尺度特征

Key words

3D geological modeling / deep learning / Generative Adversarial Networks / key features / multiple-scale features

0 引言

三维地质建模技术旨在提供一种从三维空间对地质体进行直观、精确分析的手段,已经被广泛应用于城市地质调查、石油与天然气探测、矿产资源勘查与开发等领域^[1-2]。其中,如何有效表征带有多尺度空间特征的地质体结构(如岩性岩相结构、地层单元、孔隙结构等)是三维地质建模领域的研究热点^[3-4]。

地质统计学是三维地质建模领域常用的技术手段,其技术方法被划分为两点地质统计学与多点地质统计学。两点地质统计学以变差函数为核心,利用变差函数来线性估计并表征地质变量的各向异性^[5-6],然而这种基于两点间变异性原理的方法很难准确描述复杂地质现象的异质空间模式。多点地质统计学(multiple-point statistics,MPS)通过扫描训练图像来获取空间多点统计特征,从而有效反映复杂地质结构的几何形态和各向异性特征^[7-9]。然而MPS方法使用数据样板扫描训练图像来获取地质模式^[10-11],这种策略仅能反映训练图像的局部特征,对空间全局特征的提取和表征能力不足。

近年来,深度学习的方法被广泛用于地质建模的研究中,并取得了显著的进展^[12]。与传统地质建模方法^[13-14]相比,深度学习方法具有一些独特的优势,主要体现在两个方面:(1)深度学习方法擅长提取地质结构的深层特征表示,从而更好地再现地质各向异性模式^[15-17]。尤其是生成对抗网络(generative adversarial networks,GAN)^[18],在生成器与鉴别器互相竞争对抗达到纳什均衡时,可以产生逼真的地质图形^[19],成为了基于深度学习的地质建模方法中的主流研究方向。(2)深度学习方法模型推理过程分为建立映射和复用映射两个阶段。在训练阶段,模型消耗大量资源建立从原始输入到重建模型的端到端映射^[20-21],而在实际应用的过程中仅需要复用映射即可高效快速地重建目标模型^[22],相比传统地质建模方法更加智能高效^[23]。

聚焦于地学领域,基于生成对抗网络的三维地质建模方法得到了广泛的研究和应用。目前的研究成果可以验证生成对抗网络在揭示参考模型中隐藏的空间信息并重建特征方面具有显著的优势,同时也表明了将这种方法迁移到其他领域是可行的。Laloy等首先将传统的生成对抗网络应用于地质建模,训练完成的模型可以学习到训练图像深层次的分布特征,证明了GAN能够学到地质模型中的地质模式^[24]。Dupont等使用具有图像修补功能的GAN^[25],从现有岩性数据中预测河流环境中的沉积相分布,实现了多尺度策略重建储层模型。Liu等使用感知GAN来提高砂岩图像的分辨率^[26],使得原本难以分辨的小目标能够呈现出类似大目标的超分辨率特征,从而增强了图像的细节表现力。Canchumuni等使用GAN开发了相匹配的条件建模,建立了一个连续相参量化的深度神经网络^[27],提高了GAN模型的鲁棒性。在储层相的重建中,刘庆彬等利用了无条件-条件协同方法,在先验地质知识的学习过程中加入了硬数据的约束,从而实现了基于GAN的条件约束重构^[28]。Fan等提出了一系列GAN的变体,如WGAN-GP、BicycleGAN等^[29-31],并将其应用于三维地质模型重构过程。然而,以上基于GAN的模型在有限条件下重建结果的准确性仍需进一步提高。此外,基于卷积神经网络(convolutional neural network, CNN)的三维地质建模研究也得到了进一步发展,Zhang等使用3D Adam-CNN模型实现了三维地层模型自动构建^[32],该方法能够准确捕捉地层空间特征,但是训练该模型需要大量的计算消耗,这大大降低了该方法的实用性。Cheng等创新型地将CNN与Transformer融合^[33],该方法能有效捕捉局部和全局关键特征,从而圈定潜在资源勘探区域。与此同时,许多研究者将CNN与GAN结合,比如Mosser等利用深度卷积生成对抗网络(deep convolutional generative adversarial network, DCGAN)生成了多孔介质和鲕状灰岩的空间结构^[34],该方法利用CNN提高了复杂地质结构局部空间特征的提取和重建效果。虽然CNN能通过卷积提取图像的局部和全局特征,但传统的CNN结构通常使用较小的卷积核,这导致了它们的感受野有限,难以捕捉到大尺度的全局信息和关键特征。因此,如何表征多尺度地质结构特征和准确捕捉关键性特征仍然充满挑战。

现有的深度学习方法通常依赖于非常有限的条件数据重建三维地质模型^[35-37],且稀疏的条件数据会忽略包含丰富地质知识的剖面数据,使得生成对抗网络在重建复杂地质结构时会受到限制^[38],难以准确还原结构的关键特征和多尺度特征^[39]。为此,本文提出了基于拉普拉斯金字塔-自注意力生成对抗网络的多尺度三维地质模型重构方法(Lap-SAGAN)。本方法结合了拉普拉斯金字塔结构和SAGAN的优势,使用拉普拉斯金字塔结构提高对地质结构多尺度空间特征的提取和再现。在此基础上,利用自注意力机制模块建立空间任意两点间的长程相关关系,从而提高对地质体结构全局空间特征的捕获和刻画能力。此外,本文还提出了一种基于残差结构的空间上下文损失函数,通过计算剖面数据的空间上下文残差,实现以地质剖面数据为条件约束的三维地质体精细刻画与建模。

1 相关技术原理

1.1 生成对抗网络

生成对抗网络是一种通过模拟高维数据的分布特征来完成特定任务的深度学习模型^[18],其核心是训练两个相互竞争的网络:生成器G和鉴别器D。GAN的基本网络结构如图1所示。生成器的作用是生成新的数据样本,它通过隐式地学习高维数据分布实现。生成器的输入向量z服从先验分布p(z),这个先验分布通常是无特定结构的,如高维高斯分布。这些从分布中抽取的样本z本质上是随机噪声。生成器的目标是将这些随机噪声转换成逼真的数据样本,这个过程并不依赖于直接计算数据的概率密度函数。鉴别器的主要任务是评估输入样本x,判断这些样本是真实的还是由生成器生成的假样本。这本质上是一个二元分类问题,鉴别器输出一个概率值,表示样本x是真实样本的概率。

1.2 自注意力机制

自注意力机制(self-attention)能够直接计算数据内部各个元素之间相关性,这使得它能够超越传统方法局部区域的限制,有效地捕捉数据中的全局信息和长距离依赖关系,从而揭示复杂模式的深层结构^[40]。自注意力机制的过程如图2所示。

自注意力机制通过构建查询(Q)、键(K)、值(V)三个向量之间的关系来实现对输入数据的编码,其中Q、K和V来自同一个输入数据。输入数据X=[X₁,X₂,…,X_n]经过一系列学习得到权重矩阵[W_Q,W_K,W_V],输入数据与权重矩阵进行线性变换得到Q,K,V(序列长度为N,维度分别为D_K、D_K和D_V)。对于输入数据中的每一对元素X_i和X_j,需要计算一个注意力分数以表示X_i与X_j的相关程度。注意力分数的计算是通过对查询向量Q和键向量K执行点乘运算来完成的,接着将结果除以一个缩放因子以进行标准化。这个缩放因子通常是键向量维度d_K的平方根。具体来说,计算公式为

(1)$\text { Score }=\frac{Q K^{\mathrm{T}}}{\sqrt{d_{K}}}$

其中,d_K表示键向量的维度,它的使用有助于调节点乘结果的规模,防止在高维空间中进行点乘时可能出现的梯度消失问题。下一步,利用softmax函数对计算得到的注意力分数进行归一化处理,将每个注意力分数转换为一个介于0和1之间的值,并确保这些转换后的数值在整个序列中的和为1,计算公式为

(2)$\text { Weight }=\operatorname{softmax}\left(\frac{Q K^{\mathrm{T}}}{\sqrt{d_{K}}}\right)$

通过应用softmax函数,我们能够将原始的注意力分数归一化,形成一个概率分布,其中每个值代表了序列中一个元素相对于其他元素的重要性。最后,将序列中每个元素的值向量V与其相应的注意力权重相乘,然后对所有乘积求和。具体计算过程为

(3)$\text { Output }=\operatorname{softmax}\left(\frac{Q K^{\mathrm{T}}}{\sqrt{d_{K}}}\right) V$

上述计算过程中生成一个新的、与上下文相关的向量H,这个向量不仅蕴含了当前值本身的信息,而且还融入了其周围上下文的信息。

自注意力机制提供了一种洞察网络模型如何关注输入数据不同部分的方式,它的每一步计算都是独立的,不依赖于前一步的结果,这使得计算可以并行进行。在深度学习领域,自注意力机制可作为一个独立的网络层被嵌入到深度神经网络中,它可以与CNN等传统网络结构相结合,从而增强模型处理复杂数据模式的能力。

1.3 拉普拉斯金字塔分级结构

图像金字塔通过对图像进行上下采样构建多层次的图像表示,从而在不同尺度上分析图像^[41]。由于其对于图像的多尺度表征能力强,图像金字塔在图像融合、特征提取、目标检测等领域都得到了广泛的应用。高斯金字塔是图像金字塔结构的重要分支,旨在利用高斯滤波和下采样逐级降低原始图像的采样密度和分辨率,构建金字塔状的层次结构。

高斯金字塔的底部,即零级(G₀),对应于原始图像。G₀经过高斯低通滤波,并以二分之一的采样率进行下采样,生成更低分辨率的金字塔级别(G₁)。在下采样操作之前应用高斯低通滤波,保留图像中的低频信息,模糊了高频信息,减少图像中的噪声,使图像变得更加平滑。以相同方式处理G₁以获得G₂,不断重复这一操作生成剩余的金字塔级别。每个级别的图像可以被视为原始图像在特定尺度上的近似,其中高层次的图像捕捉更粗糙的全局特征,而低层次的图像则保留更多细节信息。高斯金字塔级别之间的迭代关系可以公式化为

(4)$G_{l}(i, j)=\sum_{m} \sum_{n} w(m, n) \cdot G_{l-1}(2 i+m, 2 j+n)$

其中,G_l(i,j)表示高斯金字塔的第l级中位置(i,j)的像素值,w(m,n)表示权重函数在位置(m,n)的值,这个权重函数通常被称为“高斯核”,(2i+m,2j+n)表示在金字塔级别之间进行采样的坐标变换。高斯金字塔级别之间的计算过程实际上是高斯核与G_l-1中的像素进行卷积操作,从而能得到G_l(i,j)。

在图像处理领域中,残差图像(强调特定细节的图像)在许多应用中起着关键作用。获得残差图像的一种常见方法是利用高斯金字塔结构,构造残差图的关键步骤是从高斯金字塔的一个层级减去下一个较小的层级^[42]。由于层级间的尺寸不同,因此在进行减法操作前,需先进行扩展操作,即对较小的层级进行上采样和插值,使其尺寸和较大的层级相匹配。扩展操作采取了与高斯下采样相反的操作,先进行行列扩展,再经过高斯低通滤波。经过上述过程,得到了一系列不同层级的残差图像,这些图像只显示原图的特定部分,比如边缘或者纹理。高斯金字塔和拉普拉斯金字塔之间的关系如图3所示。

不同层级的残差图像集合构成了拉普拉斯金字塔。拉普拉斯金字塔的构建过程可以公式化为

(5)$L_{l}=G_{l}-\operatorname{Expand}\left(G_{l+1}\right)$

其中,Expand表示扩展操作,扩展操作的目的是对当前层级的图像进行较为精确的像素值插值。扩展操作可以公式化为

(6)$G_{l, k}(i, j)=4 \sum_{m} \sum_{n} G_{l, k-1}\left(\frac{2 i+m}{2}, \frac{2 j+n}{2}\right)$

其中,G_l,k(i,j)表示在经过k次扩展操作后,位于第l级的高斯金字塔图像在位置(i,j)的像素值,m和n为用于插值的参数。扩展操作首先定位G_l,k-1图像中与G_l,k图像中(i,j)位置相对应的像素及其周围的像素,利用相邻的像素值计算新像素的值。公式中的归一化因子4可以确保插值后的像素值保持在合适的范围内,有助于避免像素值的溢出或过度放大,从而保持图像的精确性。

使用拉普拉斯金字塔构建图像的过程是可逆的,通过逆向操作可以精确地恢复原始图像。从拉普拉斯金字塔的顶层L_N开始,将L_N 扩展到与L_N-1相同的尺寸,然后将扩展后的L_N加到L_N-1上,形成一个新的数组G_N-1。重复此过程,将G_N-1扩展并加到L_N-2上,形成G_N-2。以此类推,依次重复扩展和相加的过程,直到达到金字塔的底层,从而重构出原始图像G₀。

拉普拉斯金字塔成为处理图像多尺度信息的理想工具,它能够精准地捕捉和呈现图像的多层次细节。此外,它的可逆性特点进一步增强了其实用性,允许从细节中准确地重构出原始图像^[43]。因此,无论是在多层次细节的提取、分析还是在图像的完整重建方面,拉普拉斯金字塔都显示出其独特的优势和应用价值。

2 基于Lap-SAGAN的多尺度三维地质模型重构方法

基于Lap-SAGAN网络的多尺度三维地质模型重构方法采用图像金字塔分级重构策略代替整体一次性生成策略,它可以从低级到高级逐层抽象图像特征,这种逐层抽象有助于在不同尺度上理解图像内容。此外,本方法使用条件剖面数据作为重构过程中的约束信息,同时对空间上下文损失函数进行优化改进,使之更满足本方法的网络模型需求。

2.1 Lap-SAGAN网络结构

Lap-SAGAN网络结构借鉴了拉普拉斯金字塔重建图像的思想,同时提出了三维高斯滤波上下采样的方法,此方法将在后续部分详细介绍。Lap-SAGAN网络主要实现思路为:通过一系列降采样操作构建空间金字塔。针对空间金字塔的每个尺度,独立训练一个条件GAN网络,条件GAN的生成器负责生成给定尺度的图像,而判别器则负责判断生成的图像是否真实。在训练过程中,生成器的输入包括两部分:一是条件剖面数据,二是经过下采样和上采样连续操作之后的真实图像数据。将真实图像与其经过下采样和上采样连续操作后的图像相减,得到真实的残差图,将其输入到判别器中,判别器的目标是区分真实的残差图与生成的残差图。生成器和判别器会相互竞争,最终学会在每个尺度上生成逼真的图像细节。其网络模型训练过程如图4所示。

在生成过程中,利用已经训练好的一系列条件GAN网络逐层生成具有多尺度特征的图像。生成过程从最粗糙的尺度开始生成图像,并逐级向更细尺度生成。在每个尺度上,将相应尺度的条件剖面数据和上一尺度生成的图像同时输入到该尺度对应的条件GAN网络中,该尺度对应的条件GAN网络生成的图像与上一尺度生成的图像相加,可以得到当前尺度的生成图像。这种分层生成过程允许在不同尺度上独立地生成图像特征。其网络模型生成过程如图5所示。

本方法对Lap-SAGAN的每个层级的GAN网络结构进行了优化,在每一层GAN网络中引入自注意力机制,使得原本的GAN网络升级为SAGAN网络。本方法所设计的Lap-SAGAN网络共包含三个层级,前两层网络结构的设计具有高度的灵活性,可以根据特定地质特征的重要性调整自注意力层的配置,或者根据数据的复杂度选择适当数量的层级,从而使模型更加适应特定的地质建模任务。Lap-SAGAN网络结构中的最后一个层级负责生成模型中最精细的尺度特征。在整个生成过程中,Lap-SAGAN从最精细的尺度开始生成图像,并逐级向粗糙的尺度过渡,这样能够确保从一开始就能够将地质结构的细节特征准确表征出来。本方法所设计的Lap-SAGAN网络最后层级的生成器网络结构采用自注意力机制结合U-Net结构,使得网络模型能够在最精细的尺度上理解和重建复杂的空间特征关系,从而提高整个重建过程的稳定性和准确性。

本方法还相应地优化了每一层级鉴别器的网络结构。针对前两个层级的鉴别器网络结构,本方法采用了基于块体的生成对抗网络(PatchGAN)结构。与传统的鉴别器网络结构不同,PatchGAN并不对整个图像进行一次性的真假判断,而是将图像划分为若干个小块,对每个小块分别进行真假评估,使得鉴别器能够专注于图像的局部细节,从而提高对图像质量的敏感度。针对最后一个层级的鉴别器网络结构,本方法采用了线性结构。采用线性结构是一种针对模型性能和效率的优化选择,旨在通过直接利用提取的高级特征进行有效的全局判断。此外,为了加速训练过程并增强模型的稳定性,本方法在生成器和鉴别器的每一层级(除了输入层和输出层)均引入了批处理归一化(batch normalization, BN)层。这一策略有助于减少内部协变量偏移,提高模型训练的效率。本方法选择了LeakyReLU作为激活函数,以增强模型在处理非线性问题时的表达能力,特别是在保持负输入值激活的同时提供了更好的信息流通。在生成器的输出层,本方法采用了Tahn激活函数,旨在适配数据的标准化分布范围,确保生成的结果更加贴近真实数据。

2.2 损失函数

本方法每一层级的生成器和鉴别器的损失函数均为二元交叉熵损失函数。二元交叉熵损失函数会将生成的地质模型的概率分布与真实标签的分布进行比较,计算生成模型与真实标签之间的距离。距离越小,表示生成的模型越接近真实标签,损失函数的值也越低。二元交叉熵损失函数的公式为

(7)$\text { BCELoss }=-\frac{1}{N} \sum_{i=1}^{N}\left[y_{i} \ln \left(p_{i}\right)+\left(1-y_{i}\right) \ln \left(1-p_{i}\right)\right]$

式中:N是样本数量;y_i是真实标签,取值为0或1;p_i是网络模型生成的概率。本方法通过优化二元交叉熵损失函数,使得鉴别器能够准确地区分真假样本,同时促进生成器生成更接近真实样本的地质模型,在这个动态竞争的过程中,生成器和鉴别器逐步达到平衡状态。在此基础上,为了进一步提高地质模型的真实性,本方法在生成器的二元交叉熵损失函数的基础上添加了条件损失函数,该函数用于约束生成器在生成地质模型时考虑额外的条件信息,从而更好地模拟真实结构。

本方法所设计的条件损失函数重点关注的是图像的残差结构,这是因为本方法的网络模型是一种多尺度的生成对抗网络,其生成器逐层生成图像的残差结构,而不是直接生成完整的图像。因此,本方法设计了基于残差结构的空间上下文损失函数。基于残差结构的空间上下文损失函数公式为

(8)$\begin{aligned}L_{\text {ctext }}(G)=- & E_{x \sim P_{\text {data }}(x)}| | R_{\text {real }}-R_{\text {generated }}| | * \\& \text { binary_mask }(x)\end{aligned}$

该损失函数同样利用预先定义的二进制掩码矩阵对每一层输入的条件剖面数据进行统一分类。在二进制掩码矩阵中,与条件剖面数据相对应的位置及其周围位置标记为1,而其余位置则标记为0。真实图像与其经过下采样、上采样操作之后的图像相减,得到真实图像的残差结构R_real。计算真实图像的残差结构与生成器生成的残差结构R_generated之间的距离,并将其乘以二维掩码矩阵,从而调整损失函数的焦点,使其更加关注与条件剖面数据相关的区域,在重构地质模型时能够更好地保留条件数据的关键特征。因此,本方法最终改进的Lap-SAGAN网络的联合损失函数表达式为

(9)$G^{*}=\text { BCELoss }+\lambda_{1} L_{\text {ctext }}(G)$

综上所述,本方法采用了二元交叉熵损失函数来衡量生成模型与真实标签之间的距离,以促进网络模型生成更接近真实标签的地质模型。此外,生成器的损失函数额外添加了基于残差结构的空间上下文损失函数,提高了网络模型对条件数据的重建准确性。二元交叉熵损失函数和基于残差结构的空间上下文损失函数构成了联合损失函数,该联合损失函数从局部和全局方面指导网络模型生成更精确的地质模型。

2.3 三维高斯滤波上下采样方法

本网络模型采用分层级训练的方法,每个层级的SAGAN网络模型对真实数据进行连续的下采样、上采样操作,以适应不同层级的特征提取需求。训练阶段层级间的数据传递通过下采样操作实现连接,而在生成阶段,则通过上采样操作实现层级间的连接。拉普拉斯金字塔图像重建原理主要探讨了二维图像的下采样、上采样操作,以及通过构造残差图像进行图像重建的方法。因此,本方法借鉴了该原理,提出了三维高斯滤波上下采样的方法,对三维模型进行上采样和下采样。

三维高斯滤波上下采样的方法针对于三维模型进行高斯滤波处理,该方法接受核大小(size)和标准差(sigma)两个参数,这两个参数用于生成高斯滤波。根据给定的size创建一个线性空间,使用创建的线性空间在三个维度上生成一个三维网格。这个三维网格定义了每个点在三维空间中的位置。在生成的三维网格上,对每个点(x,y,z)计算高斯函数值,最后将其归一化,以确保其总和为1。高斯函数的公式为

(10)$\operatorname{Gaussian}(x, y, z)=\mathrm{e}^{\frac{-\left(x^{2}+y^{2}+z^{2}\right)}{2 * \operatorname{sigma}}}$

通过上述过程,生成的三维高斯滤波可以用来对三维数据进行平滑处理。下采样过程首先应用高斯滤波以平滑原始数据,随后通过选择每个维度上的偶数索引元素来降低模型的尺寸,实现有效的数据压缩。而在上采样过程中,为了增加模型的尺寸,本方法首先通过在每个维度上重复模型中的每个元素来放大模型,然后再次应用高斯滤波进行平滑处理,以确保插值过程中数据的平滑过渡,最终输出经过上采样处理后的模型。三维高斯滤波上下采样能够有效地对三维数据进行精细的平滑处理,减少了采集和建模过程中引入的噪声,同时能够在保持数据质量的基础上实现空间尺度的灵活调整,优化了地质数据的处理流程。

3 数据集和超参数

本文使用了三个实验数据集来验证提出方法的三维模型重构能力,这些数据集均源自于地质建模领域的开源训练图像库(https://github.com/GAIA-UNIL/trainingimages)。三个实验数据集分别是三维岩相模型、三维地层结构模型和三维河流储层模型(如图6)。图6(a)中展示的是带褶皱的三维岩相模型,其大小为180×150×120(单位:像素),两类岩相的三维空间分布较为平稳,岩相1占比63.3%,岩相2占比36.7%。图6(b)中展示的三维地层结构模型包含了6种不同的地层,从上到下地层的岩性依次为黄土、砂岩、砾岩、石灰岩、云英岩和泥岩,形成了大小为228×114×114(单位:像素)的三维地层模型。图6(c)数据是一个三维河流储层模型,大小为250×250×100(单位:像素),包含河流、点坝、淤积物和堤坝4类沉积微相。

通过三维滑动窗口按照一定的步长从原始模型中移动来划分第0层的参考数据集(L0),之后利用三维高斯滤波上下采样方法连续两次对第0层的参考数据集进行下采样,分别得到第1层(L1)和第2层(L2)的参考数据集。为了制作适用于本网络模型要求的条件数据,首先对每一层的参考数据集进行归一化处理,之后从第0层的参考数据集中随机抽取条件剖面,并记录抽取的条件剖面的索引号。随后,对抽取的条件剖面按照高斯金字塔构建的步骤进行连续两次的下采样,分别得到第1层和第2层的条件剖面数据。将条件剖面数据按照对应的索引号放入每一层级参考数据对应尺度大小的三维矩阵中,其余位置填充为0.5,以此获得条件数据。其中,第1层和第2层的对应索引号分别是第0层索引号整除2和整除4得到的。

180×150×120像素的三维岩相模型经过上述处理得到每一层级的参考数据集和条件剖面数据集,如图7所示。从原始模型中利用滑动窗口划分的第0层参考数据的尺度大小为64×64×64,对第0层参考数据利用三维高斯滤波上下采样方法得到的第1层和第2层的参考数据的尺度大小分别为32×32×32和16×16×16。本方法一共划分了1 900张数据集,按照9∶1的比例划分为训练集和测试集,分别用于网络训练和效果测试。

使用相同的策略构建了三维地层结构数据集和三维河流储层数据集,分别得到了8 000个数据样本和22 072个数据样本,部分数据样本如图8和图9所示。同样按照9∶1的比例划分为训练集和测试集,分别用于网络训练和效果测试。

本方法根据不同的数据集特点和不同层级的网络结构,灵活设置了各自适用的超参数。具体的超参数包括总训练次数、批训练数量大小、学习率、空间上下文条件损失权重系数、优化器类型、线性层数量,以及不同层级的生成器(G)使用的卷积层数量、CNN滤波器大小、移动步长和不同层级的鉴别器(D)使用的卷积层数量。在确定网络模型的超参数时,本方法与前文方法类似,选择一组初始超参数值作为起点,选定超参数组合训练网络模型,在训练过程中持续评估模型性能,根据评估结果调整超参数值,并重新训练网络模型。经过多次的实验验证和参数调整,确定了适合本方法网络模型的最优超参数配置。本方法针对三组实验具体设置的超参数如表1所示。

4 实验结果与分析

本方法的网络模型生成过程与训练过程相反,生成过程是从小尺度逐级生成到大尺度的。这种反向生成方法允许我们逐步验证网络模型在不同尺度下的生成能力,从而全面评估其对地质模型的重构能力。在生成过程中,首先生成的是最小尺度的模型,最小尺度模型的生成对于理解地质模型的局部特征和空间异质性非常关键。通过重构最小尺度模型,本方法能够更深入地探索地质结构的微观细节,并且为后续尺度的生成奠定基础。我们对上述三个数据集进行了三组实验,同时使用三维地质建模领域较为通用的统计学方法对整体建模结果进行评估分析。

4.1 三维岩相模型重构结果及分析

本文采用三维岩相模型来验证提出的方法对于具有多个复杂连通结构的地质模型的重构能力。首先生成L2层岩相模型(16×16×16),从获取的结果中随机选取8个整体重构结果,如图10(a)所示。观察获得的重构结果在尊重条件数据的基础上实现了对当前尺度的特征提取,即本方法在生成最小尺度地质模型时可以根据条件约束数据学习到地质模型的空间异构模式,并且遵循条件数据的分布。随着尺度逐渐增大,本方法生成L1层岩相模型(32×32×32)是在L2层岩相模型的基础上进行的。图10(b)中展示了8个L1层模型的整体重构结果。从图中可以看出,在较大的尺度上,地质模型仍然是遵循条件剖面数据的约束,同时呈现出更为复杂和丰富的特征,进一步证明了本方法在逐步增加尺度的过程中能够有效地捕捉地质模型的多尺度特征。基于前两个不同尺度的生成结果,可以确定本方法在地质模型重建过程中能够保持对条件数据的高度忠实。随着生成过程的进行,最后一个阶段生成L0层岩相模型(64×64×64),这标志着地质模型的尺度进一步扩大,从而更全面地展现地质结构。图10(c)是选取的8个重构的整体结果。从图中可以看出,L0层地质模型呈现出更为精细的地质结构特征,相比前两个尺度的生成结果其地质界面更加清晰,细节更加丰富,说明本方法能够全面捕捉地质结构的微妙变化和细节特征,最终实现地质结构的全局特征重建。

本方法使用了多种统计学方法对重构结果进行分析评估。图11是参考模型与其对应的20个重构结果的变差函数曲线。从图中可以看出,这些变差函数曲线变化趋势一致,重构结果与参考模型之间的差异相对较小,重构结果的空间变异性接近于参考模型,说明了本方法重构的地质结构与参考地质特征的吻合程度较高。变差函数曲线图证明了本方法构建地质模型的高度准确性,能够生成与真实地质情况相符的结果。

图12是参考模型与其对应的20个重构结果在X方向和Y方向的连通性函数曲线。从连通性函数曲线中可以看出,重构结果在X方向和Y方向上连通性趋势与参考模型基本一致,说明本方法在重建地质模型的空间连续性方面取得了良好的效果。连通性函数曲线图进一步验证了本方法在三维地质模型重建中的有效性和可靠性。

图13(a)是30个参考模型及其对应的重构结果的MDS图。通过观察MDS图中的聚类情况,可以看出重构结果在空间关系上与参考模型呈现出良好的对应关系,重构结果之间也存在一定的相似性和差异性,说明了本方法能够理解地质模型的复杂特征和地质结构的多样性。MDS图的分析进一步验证了本方法在三维地质模型重构方面的能力。图13(b)是20个参考模型及其对应的重构结果的箱形图,从图中可以看出参考模型和实现结果的数据分布情况,主要包括中位数、上下四分位数以及可能存在的异常值。图中的重构结果与参考模型的中值、最大值和最小值的分布较为接近,证明了本方法在处理地质数据和重建三维地质模型方面的有效性和鲁棒性。

4.2 三维地层结构模型重构结果及分析

本节采用三维地层结构模型来验证所提方法对于具有丰富地层特征的地质模型的重构能力。如图14(a)所示,从生成结果中随机选取了8个L2尺度(16×16×16)的重构结果。从图中可以看出,本方法重构的地层模型符合条件剖面数据的约束,其地层之间的分界线清晰分明,说明本方法能够捕捉最小尺度地质结构的细微变化并保持与条件数据的一致性。图14(b)展示了8个L1尺度(32×32×32)的整体重构结果,L1尺度的地层结构模型是在L2尺度的地层结构模型的基础上生成的。从图中可以看出,地质模型仍然是忠实于条件剖面数据的。本方法重构出的L1尺度的地层结构模型在细节、结构和边界等方面仍然与 L2尺度的地层结构模型保持一致且具有合理性,这表明本方法能够学习并重建地质模型的多尺度特征。最后生成L0尺度(64×64×64)的地层结构模型,如图14(c)所示,从中选取了8个整体重构结果。从图中可以看出,L0尺度的地层结构模型地质特征更加精细多样,地质界面更加清晰,地层之间的联系更为复杂且密集,细节呈现出更丰富的纹理和层次感。本方法重构出的L0尺度的模型不仅捕捉到了地质结构的微观细节,还展示了更大范围的地质特征和全局结构。重构结果说明了本方法能够表征地质模型的多尺度特征,从而准确呈现了地质特征的复杂多变性。

本方法还运用了多种统计学方法对地层模型重构结果进行了定量评估,进一步验证其有效性。图15(a)是参考模型与其对应的20个重构结果的变差函数曲线。图15(a)中变差函数曲线的斜率和形状可以反映出重构结果与参考模型的空间异质结构相似,重构的模型与参考模型之间的差异较小。从图中可以看出,曲线呈现出相对平滑的形状,没有出现明显的波动,表明生成模型的性能比较稳定。变差函数曲线分析进一步说明了本方法重构结果的可靠性。

图15(b)是40个地层结构参考模型及其对应的重构结果的MDS图。从图中看出,参考模型与实现结果的数据分布范围接近,彼此靠近的数据点具有相似的特征。MDS图验证了本方法能够学习到地质模型数据中的重要结构和关联性。图16(a)是三维地层结构参考模型与其对应实现结果的相属性比例图。本方法同样将地层结构数据集进行了标准化处理,将所有属性层的数据范围都调整到了(-1,1)的区间内,以消除不同属性之间的数值差异。从相属性比例图中可以看出参考模型与其对应实现结果的相属性比例基本重合,表明本方法能够准确地重建地质结构的相属性分布。相属性比例图进一步验证了本方法在地质模型重建中的可靠性和有效性。

图16(b)是三维地层结构参考模型与其对应实现结果的箱形图。从图中可以看出,参考模型与实现结果的最大值、最小值和中位数基本一致,表明实现结果的数据分布与参考模型相似。箱形图说明了本方法能够重构出与真实数据较为接近的结果,验证了本方法在提取地质结构多尺度特征时有效地捕捉到了地质模型深层次的数据分布情况,实现了对地质模型的精准重建。

4.3 三维储层模型重构结果及分析

本节实验采用三维河流储层模型来验证所提方法对于复杂地质构造的多尺度特征的重构能力。与前两个实验相似,我们同样首先构建了8个L2尺度的三维河流储层模型,并在L2尺度基础上依次重建了L1尺度和L0尺度的重构结果。图17中展示了不同尺度的三维河流储层模型的结果,可以看出虽然重构的地质模型局部有一些噪点,但与数据集中的参考模型特征分布基本一致,能够准确地捕捉和重现地质模型中的小尺度细微特征和大尺度全局空间分布规律。上述重构结果表明了本方法能够逐级还原地质模型的多尺度特征,证明了本方法在地质建模领域中的可靠性和有效性。

多元离散属性的河流储层实验中的变差函数曲线如图18所示。参考模型与重构结果的变化趋势相似说明重构结果与参考模型的内部空间特征相似,表明了本方法对于复杂地质模型重建的有效性。

多元离散属性的河流储层实验中的MDS图和箱形图如图19(a)和19(b)所示。MDS图中参考模型与实现结果分布范围接近,表明了本方法能够学习到复杂地质模型中的结构特征。箱形图中重构结果的最大值、最小值、中位数等数据分布与参考模型基本一致,大多集中在0.05~0.08,表明了本方法能够实现对于河流储层模型这种复杂地质模型的精确重建。

4.4 对比实验与分析

本节实验对比了本文所提的Lap-SAGAN方法与Fan等^[29]提出的WGAN-GP(Wasserstein generative adversarial network with gradient penalty)方法在地质构造特征重构方面的性能。鉴于WGAN-GP方法不适用于其他两个数据集,本节仅限于比较这两种方法在三维岩相模型数据上的实验表现。

首先使用两个方法根据同一组测试数据分别生成岩相模型(64×64×64),并从两组生成结果中分别随机选取4个整体重构结果,图20(a)展示的是本文所提出方法Lap-SAGAN的生成结果,图20(b)展示的是WGAN-GP方法的生成结果。从图中可以看出,两个方法都可以根据条件约束数据学习到地质模型的空间异构模式,并遵循条件数据的分布。但是,利用本文所提出方法生成的褶皱更加清晰,细节特征更加丰富,说明本方法能够更全面捕捉地质结构中的微小变化和细节特征。

图21展示了两种方法根据同一个剖面数据生成的20个重构结果及其参考模型在X方向和Y方向的连通性函数曲线。从连通性函数曲线可见,本方法的重构结果在X方向和Y方向上连通性趋势与参考模型更加贴近,说明本方法在重建地质模型的空间连续性方面具有更优的表现。

图22(a)展示了30个参考模型及其对应的重构结果的MDS图。通过观察MDS图中的聚类情况,可以看出本方法的重构结果在空间关系上与参考模型呈现出更为一致的对应关系,且重构结果之间既展现出一定的相似性,又保留了差异性,说明了本方法能够更有效捕捉地质模型的复杂特征和地质结构的多样性。MDS图的分析进一步验证了本方法在三维地质模型重构中的优越性。图22(b)展示了30个参考模型及其对应重构结果的箱形图。通过观察图中两种方法的参考模型与重构结果的数据分布情况,包括中位数、上下四分位数以及可能存在的异常值,可以看出本方法的重构结果与参考模型的中值、最大值和最小值的分布范围更为接近,这证明了本方法在处理地质数据和重建三维地质模型方面有更高的精确性和稳定性。

5 结论

本文针对基于深度学习的三维地质建模过程中难以添加条件约束、关键特征以及多尺度结构特征难以被精细表征等亟待解决的关键问题,提出了一套基于拉普拉斯金字塔-自注意力生成对抗网络(Lap-SAGAN)的三维模型多尺度重构方法。Lap-SAGAN网络的多尺度特征三维模型重构方法将拉普拉斯金字塔和SAGAN网络结合在一起,通过拉普拉斯金字塔的多层次结构,实现了从粗糙到精细的多尺度特征重构,并使用SAGAN网络提高了模型重构的准确度和细节丰富度。本方法中Lap-SAGAN网络最后层级的生成器采用自注意力机制并结合U-Net结构,此结构确保了地质模型在生成过程中细节信息的有效保留,从而提取到小尺度精细的空间结构特征,为重构具有全局多尺度特征的地质模型奠定基础。本方法使用剖面数据作为条件约束数据,同时使用三维高斯滤波上下采样方法对实验数据进行预处理,使其符合所设计网络模型的输入形式。此外,本方法使用二元交叉熵损失函数衡量生成的数据与真实数据之间的差异,在此基础上添加了基于残差结构的空间上下文条件损失函数,进一步引导神经网络能够生成高质量、与真实数据更加接近的地质模型。

通过使用包括变差函数、连通性曲线、MDS分析、箱形图、属性比例分布直方图等统计手段从多个维度对本方法的重构结果进行了评估验证。实验结果表明,本文提出的方法能够对地质模型的关键特征以及多尺度特征进行有效的学习和建模,且能够高度忠实于条件数据,这充分说明了本方法在提取和重建多尺度空间特征方面的优越性。本文方法适用于多种类型三维地质模型重建,同时具有良好的扩展性,可广泛应用于多样化的地质异质模式的表征与建模,展现出了良好的工程实践应用前景,丰富了深度学习三维地质建模方法体系。

本文所提出的方法在多尺度特征提取和细节再现上展现了良好的效果,但引入拉普拉斯金字塔分级结构增加了模型的结构复杂度。随着地质数据规模的扩大,模型的计算成本和存储需求可能会显著增加。针对大规模地质数据,探索简化多层次结构方案以保持其精度和效率是未来研究中的重要方向。此外,尽管本方法在多个数据集上均表现出色,但其在不同地质区域的适用性和准确性仍需进一步验证与优化。

参考文献

[1] 邹艳红, 黄望, 阳宽达, 等. 基于杨赤中推估法空间插值的三维地质隐式建模[J]. 地质学刊, 2017, 41(3): 384-393.

[2] HOU W, LIU H, ZHENG T, et al. Extended GOSIM: MPS-driven simulation of 3D geological structure using 2D cross-sections[J]. Earth and Space Science, 2022, 9: e2021EA001801.

[3] 刘艳祥, 吕文雅, 曾联波, 等. 鄂尔多斯盆地庆城油田长7页岩油储层多尺度裂缝三维地质建模[J]. 地学前缘, 2024, 31(5):103-116.

[4] 乔辉, 张永贵, 聂海宽, 等. 页岩储层多尺度天然裂缝表征与三维地质建模:以四川盆地平桥构造带五峰组-龙马溪组页岩为例[J]. 地学前缘, 2024, 31(5): 89-102.

[5] 张团峰. 在储层建模中利用多点地质统计学整合地质概念模型及其解释[J]. 地学前缘, 2008, 15(1):26-35.

[6] 周永章, 肖凡. 管窥人工智能与大数据地球科学研究新进展[J]. 地学前缘, 2024, 31(4):1-6.

[7] SONG S, MUKERJI T, HOU J, et al. GANSim-3D for conditional geomodeling: theory and field application[J]. Water Resources Research, 2022, 58(7): e2021WR031865.

[8] CHEN Q, LIU G, MA X, et al. 3D stochastic modeling framework for Quaternary sediments using multiple-point statistics: a case study in Minjiang estuary area, Southeast China[J]. Computers & Geosciences, 2020, 136: 104404.

[9] CHEN Q, ZHOU R, LIU C, et al. pyMPSLib: a robust and scalable open-source Python library for mutiple-point statistical simulation[J]. Earth Science Informatics, 2023, 16(4): 3179-3190.

[10] COMUNIAN A, GIUDICI M, LANDONI L, et al. Improving Bowen-ratio estimates of evaporation using a rejection criterion and multiple-point statistics[J]. Journal of Hydrology, 2018, 563: 43-50.

[11] FENG W, WU S, YIN Y, et al. A training image evaluation and selection method based on minimum data event distance for multiple-point geostatistics[J]. Computers & Geosciences, 2017, 104: 35-53.

[12] ARPAT G B, CAERS J. Conditional simulation with patterns[J]. Mathematical Geology, 2007, 39: 177-203.

[13] 牛露佳, 石成岳, 王占刚, 等. 三维复杂地质结构模型的InterfaceGrid表达方法[J]. 地学前缘, 2024, 31(4): 129-138.

[14] 廖舟, 李梅. 基于开源GemPy的城市地下空间三维隐式势场建模方法研究[J]. 地学前缘, 2024, 31(3): 482-497.

[15] ZUO R, XIONG Y, WANG J, et al. Deep learning and its application in geochemical mapping[J]. Earth-Science reviews, 2019, 192: 1-14.

[16] JESSELL M, GUO J, LI Y, et al. Into the Noddyverse: a massive data store of 3D geological models for machine learning and inversion applications[J]. Earth System Science Data, 2022, 14(1): 381-392.

[17] TAHMASEBI P, KAMRAVA S, BAI T, et al. Machine learning in geo-and environmental sciences: from small to large scale[J]. Advances in Water Resources, 2020, 142: 103619.

[18] GOODFELLOW I, POUGET-ABADIE J, MIRZA M, et al. Generative adversarial networks[J]. Communications of the ACM, 2020, 63(11): 139-144.

[19] CUI Z, CHEN Q, LIU G, et al. SA-RelayGANs: a novel framework for the characterization of complex hydrological structures based on GANs and self-attention mechanism[J]. Water Resources Research, 2024, 60(1): e2023WR035932.

[20] GOODFELLOW I, BENGIO Y, COURVILLE A. Deep learning[M]. Cambridge: MIT Press, 2016.

[21] CUI Z, CHEN Q, LIU G. A two-stage downscaling hydrological modeling approach via convolutional conditional neural process and geostatistical bias correction[J]. Journal of Hydrology, 2023, 620: 129498.

[22] GOODFELLOW I, POUGET-ABADIE J, MIRZA M, et al. Generative adversarial nets[J]. Advances in Neural Information Processing Systems, 2014, 27: 2672-2680.

[23] CUI Z, CHEN Q, LIU G, et al. Hybrid parallel framework for multiple-point geostatistics on Tianhe-2: a robust solution for large-scale simulation[J]. Computers & Geosciences, 2021, 157: 104923.

[24] LALOY E, HÉRAULT R, JACQUES D, et al. Training-image based geostatistical inversion using a spatial generative adversarial neural network[J]. Water Resources Research, 2018, 54(1): 381-406

[25] DUPONT E, ZHANG T, TILKE P, et al. Generating realistic geology conditioned on physical measurements with generative adversarial networks[PP/OL]. arXiv (2018-08-05)[2025-02-24]. https://arxiv.org/abs/1802.03065.

[26] XIE X, QIN H, YU C, et al. An automatic recognition algorithm for GPR images of RC structure voids[J]. Journal of Applied Geophysics, 2013, 99: 125-134.

[27] CANCHUMUNI S W A, EMERICK A A, PACHECO M A C. Towards a robust parameterization for conditioning facies models using deep variational autoencoders and ensemble smoother[J]. Computers & Geosciences, 2019, 128: 87-102.

[28] NAM S, KIM Y, KIM S J. Text-adaptive generative adversarial networks: manipulating images with natural language[J]. Advances in Neural Information Processing Systems, 2018, 31: 42-51.

[29] FAN W, LIU G, CHEN Q, et al. Geological model automatic reconstruction based on conditioning Wasserstein generative adversarial network with gradient penalty[J]. Earth Science Informatics, 2023, 16(3): 2825-2843.

[30] FAN W, LIU G, CHEN Q, et al. Automatic reconstruction of geological reservoir models based on conditioning data constraints and BicycleGAN[J]. Geoenergy Science and Engineering, 2024, 234: 212690.

[31] FAN W, LIU G, CHEN Q, et al. Stochastic reconstruction of geological reservoir models based on a concurrent multi-stage U-Net generative adversarial network[J]. Computers & Geosciences, 2024, 186: 105562.

[32] ZHANG B, XU Z, WEI X, et al. Deep subsurface pseudo-lithostratigraphic modeling based on three-dimensional convolutional neural network (3D CNN) using inversed geophysical properties and shallow subsurface geological modal[J]. Lithosphere, 2024, 2024(1): lithosphere_2023_273.

[33] LI C, XIAO K, SUN L, et al. CNN-Transformers for mineral prospectivity mapping in the Maodeng-Baiyinchagan area, Southern Great Xing’an Range[J]. Ore Geology Reviews, 2024, 167: 106007.

[34] MOSSER L, DUBRULE O, BLUNT M J. Reconstruction of three-dimensional porous media using generative adversarial neural networks[J]. Physical Review E, 2017, 96(4): 043309.

[35] CAERS J. Modeling uncertainty in the earth sciences[M]. Hoboken: John Wiley & Sons, 2011.

[36] CAO D, HOU Z, LIU Q, et al. Reconstruction of three-dimension digital rock guided by prior information with a combination of InfoGAN and style-based GAN[J]. Journal of Petroleum Science and Engineering, 2022, 208: 109590.

[37] CUI Z, CHEN Q, LIU G. Characterization of subsurface hydrogeological structures with convolutional conditional neural processes on limited training data[J]. Water Resources Research, 2022, 58(12): e2022WR033161.

[38] YANG Z, CHEN Q, CUI Z, et al. Automatic reconstruction method of 3D geological models based on deep convolutional generative adversarial networks[J]. Computational Geosciences, 2022, 26(5): 1135-1150.

[39] ZHANG T F, TILKE P, DUPONT E, et al. Generating geologically realistic 3D reservoir facies models using deep learning of sedimentary architecture with generative adversarial networks[J]. Petroleum Science, 2019, 16: 541-549.

[40] ZHANG H, GOODFELLOW I, METAXAS D, et al. Self-attention generative adversarial networks[C]// International conference on Machine Learning. PMLR, 2019: 7354-7363.

[41] ADELSON E H, ANDERSON C H, BERGEN J R, et al. Pyramid methods in image processing[J]. RCA Engineer, 1984, 29(6): 33-41.

[42] BURT P J, ADELSON E H. The Laplacian pyramid as a compact image code[J]. IEEE Transactions on Communications, 1983, 31(4): 532-540.

[43] DENTON E L, CHINTALA S, FERGUS R. Deep generative image models using a laplacian pyramid of adversarial networks[J]. Advances in Neural Information Processing Systems, 2015, 28: 1486-1494.

基金资助

国家自然科学基金项目(42172333)

国家自然科学基金项目(42372345)