混合神经网络下二元混合液体自燃温度研究

Study on Auto‑Ignition Temperature of Binary Mixed Liquid Under Mixed Neural Network

摘要

为解决传统实验方法测量二元混合液体自燃温度所面临的时间和安全问题，本文提出了一种运用神经网络优化定量结构-性质关系（QSPR）预测模型的方法。首先，分别使用BP神经网络（BPNN）和一维卷积神经网络（1DCNN）处理混合分子描述符数据。然后，采用卷积神经网络（CNN）处理分子结构图数据，以此建立BPNN+CNN和1DCNN+CNN两种预测模型。通过交叉验证、残差分析和应用域分析等多种方法对两种模型的预测能力、拟合能力和稳定性进行了验证。最后，讨论了4种优化器和不同维度的分子结构图对模型性能的影响。通过实验可知，两种模型的决定系数分别为0.989 8和0.987 1；10折交叉验证复相关系数分别为0.961 1和0.963 3；交互验证系数分别为0.982 6和0.992 5。结果表明，两种模型均可对大多数二元混合液体自燃温度进行预测，其中，BPNN+CNN模型有较好的拟合能力，1DCNN+CNN模型有较好的稳定性。

Abstract

To solve the time and safety problems faced by the traditional experimental methods for measuring the auto-ignition temperature of binary mixed liquids， a method optimizing the quantitative structure-property relationship （QSPR） prediction model by using neural networks is proposed. BP neural network （BPNN） and the one-dimensional convolutional neural network （1DCNN） are used to process the mixed molecular descriptor data， respectively. Then， the molecular structure map data is processed using the convolutional neural network （CNN）， and in this way， two prediction models， BPNN+CNN and IDCNN+CNN， are established. After that， the prediction ability， fitting ability and stability of the experimentally designed BPNN+CNN and 1DCNN+CNN models are verified through cross-validation， residual analysis and application domain analysis. Finally， the effects of different optimizers on the model performance are discussed. And the results of two-dimensional and three-dimensional molecular structure diagrams on the model performance are analyzed. The experimental results show that the coefficients of determination of the two models are 0.989 8 and 0.987 1， respectively. The 10-fold cross-validated complex correlation coefficients are 0.961 1 and 0.963 3， respectively. And the cross-validated coefficients are 0.982 6 and 0.992 5， respectively. The results indicate that both models can predict the self-ignition temperature of most binary mixed liquids. The BPNN+CNN model has better fitting ability， and the 1DCNN+CNN model has better stability.

Graphical abstract

关键词

二元混合液体 / 自燃温度 / 神经网络 / QSPR / 分子描述符

Key words

binary mixed liquids / auto-ignition temperature / neural networks / QSPR / molecular descriptor

0 引 言

易燃可燃液体的燃烧爆炸事故屡见不鲜，如煤矿作业中的火灾和爆炸事故，货物生产、储存和运输过程中的燃烧事故和工业事故等^［1‐2］。为了预防和减少火灾、爆炸等事故的发生，并及时做出应对，了解易燃可燃液体的危险特性就变得尤为重要。自燃温度(Auto-Ignition temperature, AIT)^[3-4］是对可燃物质进行定量风险评估的一个重要表征参数。准确了解各种物质的自燃温度值，可以有效防止火灾和爆炸的发生^［2，5］。

现阶段人们对自燃温度的研究仅限于纯化学物质，对混合液体的研究相对滞后^［6‐7］。Suzuki^［8］和Tsai等^［9］将纯物质的自燃温度与分子描述符进行关联构建模型，为研究混合液体的自燃温度提供了新思路。杨守生等^［10］通过自燃点测试仪对一些二元可燃混合液的自燃温度进行了测量。然而，采用实验方法测量自燃温度费时费力，实验结果受到多种外界因素的干扰，故其在适用范围上存在着较大的限制^［6］。随着人工智能技术的不断发展，深度学习成为研究热点^［11］。深度学习被广泛应用于预测、图像处理等多个领域^［12］。将深度学习应用于定量结构-性质关系(Quantitative structure-property relationship,QSPR)的建模研究中^［13］，可以替代人工统计学分析提高计算效率。陈锡进等^［14］采用神经网络建模实现对烷烃自燃温度的预测。Safa等^［15］使用人工神经网络优化QSPR预测模型，模型预测结果高于相同条件下多元线性回归(Multivariable linear regression,MLR)模型。何凡等^［7］使用BP神经网络(Back propagation neural network, BPNN)模型预测二元混合液体自燃温度，性能高于已有的多元非线性回归(Multivariable non-linear regression, MNR)模型。

对深度学习技术在二元混合液体自燃温度预测的研究中，大多只考虑分子描述符信息，采用BP神经网络对其进行建模。本文在此基础上扩充部分数据集，将分子结构图与分子描述符相结合，构建了一种混合数据输入的神经网络预测模型。分别使用BP神经网络和一维卷积神经网络（One-dimensional convolutional neural network,1DCNN)对数字数据（分子描述符）进行处理，使用卷积神经网络（Convolutional neural networks，CNN）对图像数据（分子结构图）进行处理。基于QSPR理论，本文分别从预测结果、模型验证、应用域分析和机理解释4个方面对预测模型进行探讨分析，期望为工程上提供一种高效可靠的方法，以更好地预防二元混合液体所引发的火灾和爆炸事故。

1 数据准备

实验中使用的混合液体自燃温度数据一部分来自文献收集^{［16‐17］}，另一部分由山西省防火防爆安全工程技术研究中心实验所得^［2］。以常见的7类（烷类、醇类、醚类、酸类、苯类、酮类和酯类）共23种可燃有机物（正戊烷、正已烷、正庚烷、正辛烷、甲醇、乙醇、正丙醇、正丁醇、正戊醇、异丙醇、仲丁醇、乙二醇单甲醚、乙二醇单乙醚、乙二醇单丁醚、二乙二醇单甲醚、二乙二醇单丁醚、乙酸、丙酸、甲苯、丙酮、乙酸甲酯、乙酸乙酯和乙酸丁酯）为实验对象，测得48组二元混合液体在不同配比下的自燃温度值，共285个。自燃温度数据分别由AIT TA551自燃温度测试仪和HY 5332可燃液体、气体自燃温度测试仪依据ASTM E659－78^［3］测试方法测定。

1.1 分子描述符的计算和筛选

原子类型电拓扑状态指数（Electrotopological state indices for atom type，ETSI）是QSPR建模中最常用的描述符之一^［18］。利用分子描述符计算软件Mordred^［19］，分别计算出二元混合液体各组分（23种可燃有机物）的1 826种分子描述符。为确保模型可以拟合^［20］，结合本实验所使用的有机物，从1 826种分子描述符中筛选出9种分子描述符，具体情况见表 1。

1.2 混合分子描述符

对于二元混合液体的研究，需要一种混合分子描述符。然而，在现有的QSPR理论中，缺少一种能准确刻画混合分子描述符的体系。一些学者提出，对二元混合体系中两个组分的ETSI加权求和^{［7，19，21］}，可得混合分子描述符，公式为

(S_i{)}_{\mathrm{m}\mathrm{i}\mathrm{x}}=x_{\mathrm{1}}{S}_{i\mathrm{1}}+x_{\mathrm{2}}{S}_{i\mathrm{2}},（1）

式中：（S_i ）_mix为二元混合物的加权ETSI；S_i1和S_i2为二元混合物中两个组分的ETSI；x₁和x₂为两个组分的体积分数，且x₁+x₂=1。本文所提及的分子描述符均为二元混合液体的混合分子描述符。

1.3 数据集

数据集可分为数字数据和图像数据。数字数据是指根据式（1）计算得到的285组混合分子描述符及其对应的自燃温度值。图像数据是指二元混合液体两个组分的三维分子结构图的拼接，共285张，与数字数据一一对应。为确保模型的有效性，实验中训练集和测试集的划分比例为8∶2。

2 模型构建

实验环境为Windows 10系统。编译环境为PyCharm 2021，Python 3.7，TensorFlow 2.3.0，Keras 2.4.3。

2.1 模型框架

首先，定义网络的两个分支分别处理数字数据（经过计算得到的285组混合分子描述符数据）和图像数据。然后，合并两个分支。最后，通过激活线性激活函数（Linear activation）的全连接层（Fully-connected layer）得到混合液体自燃温度预测值。实验中分别使用BPNN和1DCNN对数字数据进行处理，图像数据由卷积神经网络进行处理。其中，BPNN和1DCNN的输入是9种分子描述符（见表 1），输出是长度为128的一维向量。CNN的输出是长度为4的一维向量，实验中不必在数字数据处理分支和图像数据处理分支中分别做回归任务，将两个分支合并后做回归预测即可。

2.2 数字数据处理分支

1） BPNN模型框架

BPNN网络结构见图 1（a），由输入层（Input layer层）、2个隐含层（Hidden layer层）和输出层（Output layer层）组成，激活函数为ReLU。隐含层的神经原个数分别为128和256。

2） 1DCNN模型框架

1DCNN网络结构见图 1（b），由2个卷积层（Conv1D层）、1个展平层（Flatten层）和1个全连接层（Dense层）组成，激活函数为ReLU，两个卷积核的filters个数分别为32和64。

2.3 图像数据处理分支

实验中将二元混合液体两个组分的三维分子结构图进行预处理使其大小相同，然后，进行拼接，经过处理后每次输入的图片数据为（64×64×3）。CNN网络结构见图 1（c），包括3个卷积层（Conv2D层）、3个最大池化层（Max Pooling层）、1个展平层（Flatten层）和2个全连接层（Dense层，神经元个数为16和4），激活函数为ReLU。

2.4 合并输出

如图 1（d）所示，实验中将数字数据处理分支的输出向量和图像数据处理分支的输出向量进行合并操作得到长度为132的一维向量，经过两个全连接层（Dense层，神经元个数为4和8，激活函数为ReLU）。最后，通过一个线性激活函数的全连接层，得到混合液体自燃温度的预测值。

3 实验结果讨论

3.1 模型预测结果及分析

实验中使用决定系数（R²）、平均绝对误差（MAE）、均方根误差（RMSE）和平均绝对百分比误差（MAPE）评估模型拟合能力、稳定性和精确度。实验中两种模型在测试集上的表现见表2。可知两种模型的R²大于0.98，MAE在±30 ℃的范围之内，满足ASTM E659－78的测试标准，表明两个模型有较好的稳定性，且是被承认的^［3］。为了进一步验证本实验两种模型的优越性，将其同文献中的BPNN^［7］，MNR^［16］和MLR^［22］模型进行比较，结果见表 2。

综合R²，RMSE，MAE，MAPE对比结果，发现实验中两种模型的性能优于文献中的模型。在测试集上，两种模型自燃温度的预测值与真实值对比结果见图 2。真实值用空心圆表示，预测值用实心圆表示，重合度越高，表明预测值越接近于真实值。从图中发现两个模型的真实值和预测值具有很高的重合度，尽管有小部分没有重合，但是偏差不大，表明两个模型的预测效果良好。

3.2 模型内部验证

模型内部稳健性可通过内部验证、残差分析和Y随机验证判断^［23］。实验将采用K折交叉验证法进行内部验证，同时利用残差分析进行校验。

1） K折交叉验证（K-fold cross-validation），常用的评估指标为交叉验证复相关系数（Q_{K-\mathrm{F}\mathrm{C}\mathrm{V}}^{\mathrm{2}}）和均方误差（MSE_K-FCV）。Q_{K-\mathrm{F}\mathrm{C}\mathrm{V}}^{\mathrm{2}}>0.9，表示模型的性能非常好。若R²与Q_{K-\mathrm{F}\mathrm{C}\mathrm{V}}^{\mathrm{2}}的结果相差大于0.3，则表示模型有过拟合的可能^［24］。

两个模型的交叉验证结果见表 3。他们的5折和10折交叉验证复相关系数均大于0.9，交叉验证复相关系数与R²的结果相差均小于0.3，表明两种模型的性能较强，没有过拟合的可能。

2） 残差分析以自燃温度的预测结果作为横坐标，以残差值作为纵坐标进行绘制残差图。若残差图中的散点是随机分布的，说明模型无系统误差且具有较高的稳定性。两个模型的残差分析结果见图 3。两种模型的训练集和测试集残差均随机分布在零基准线的两侧，没有明显的规律，说明两种模型在建模过程中均未产生系统误差，稳定性高。

3.3 模型外部验证

通过测试集样本的预测结果与实验结果之间的交互验证系数Q_{\mathrm{e}\mathrm{x}\mathrm{t}}^{\mathrm{2}}，可以衡量模型的外部预测能力^［25］。Q_{\mathrm{e}\mathrm{x}\mathrm{t}}^{\mathrm{2}}越接近1，表明模型的外部预测能力越好。模型外部预测结果见表 3，BPNN+CNN和1DCNN+CNN模型的Q_{\mathrm{e}\mathrm{x}\mathrm{t}}^{\mathrm{2}}分别为0.982 6和0.992 5，表明两个模型均具有可靠的外部预测能力，但是BPNN+CNN略逊色于1DCNN+CNN模型。

3.4 模型应用域分析

图 4 为两种模型的应用域分析直观呈现图。

两种模型的大部分数据点落在模型适用性范围内，只有极个别数据落在了±3标准残差范围外，但是均没有落在标准杠杆值h^*右侧，表明两种模型的适用范围广泛，可靠性高，可对大多数二元混合液体自燃温度进行预测。

3.5 消融实验

消融实验结果见表 3。综合考虑R²，Q_{\mathrm{e}\mathrm{x}\mathrm{t}}^{\mathrm{2}}，Q_{\mathrm{5}\mathrm{‑}\mathrm{F}\mathrm{C}\mathrm{V}}^{\mathrm{2}}，MSE_5-FCV，Q_{\mathrm{10}\mathrm{‑}\mathrm{F}\mathrm{C}\mathrm{V}}^{\mathrm{2}}和MSE_10-FCV的结果，仅处理数字数据的BPNN和1DCNN模型表现逊色于BPNN+CNN和1DCNN+CNN模型，表明BPNN+CNN和1DCNN+CNN模型的拟合效果、外部预测能力和稳定性更优。此外可以发现，不管是CNN+BPNN模型，还是CNN+1DCNN模型，其各项指标均优于仅使用数字数据的模型。由此可知，引入分子结构图后的混合数据可以提高模型性能。

3.6 优化器对模型性能影响分析

实验中分别使用4种优化器来寻求模型的最优解，不同优化器对模型性能的影响见表 4。发现当使用Adam优化器时，两个模型的各项指标表现最好，说明该优化器有利于提升模型的预测性能。RMSprop（RMSP）和Adamax（Adax）的表现不相上下，但略逊色于Adam。SGD相对最差，其收敛速度较慢且更难调参。

3.7 不同维度分子结构图对模型性能影响分析

为了验证本文使用三维分子结构图的优越性，使用不同维度的分子结构图（二维和三维）进行对照训练，并分析结构图维度对模型稳定性和外部预测能力的影响，结果如表 5 所示。整体而言，使用三维分子结构图的数据结果均优于使用二维分子结构图，表明采用三维结构图构建的模型更优。

3.8 模型机理

使用SHAP工具包^［26］对BPNN模型的输入特征（表1）进行全局重要度（贡献度）计算，在不同的测试集上计算5次，对结果取平均值，得到最终的平均贡献度，结果见图 5。分子描述符SssCH₂、SsCH₃和SsOH的平均贡献度在所有分子描述符中排名前三，在实验数据集中SssCH₂和SsOH常见于烷、醇类有机物，表明该模型对烷、醇类二元混合体系的预测效果最佳。SsCH₃排名第二，但在数据集所有化合物中均有出现，故不作为主要参考数据。SsssCH常见于醇类化合物的同分异构体，其平均贡献度中等偏低，说明模型对含有醇类同分异构体的二元混合体系预测效果一般。分子描述符SdssC、SaasC、SaaCH和SdO平均贡献度较小，其中，SdO和SdssC常见于酸类（包括含酸性官能团的酯类）和酮类，SaaCH和SaasC常见于苯类，说明该模型对含有酸类、酮类和苯类的二元混合体系预测效果相对较差。

4 结 论

本文将分子结构图与分子描述符相结合，建立了一种混合数据输入的神经网络预测模型，对二元混合液体自燃温度进行了研究。

1）扩充部分数据集并引入了一维卷积神经网络。探讨总结了9种分子描述符对二元混合液体自燃温度的贡献度，期望能以更少的分子描述符数据描述更多的性质。

2）两种模型均具有良好的拟合能力、预测能力和稳定性，性能优于BPNN、MNR和MLR模型。

3）现有的工作针对的是二元混合体系，二元以上的多元混合体系还有待开展。纯物质分子描述符的筛选有待进一步研究，同时，混合分子描述符的计算还有很大的提升空间，希望能够找出一种方法，可以更好地反映混合体系内单一组分之间的相互联合作用机制。

4）使用了CNN对图像数据进行处理，之后考虑使用ResNet网络进行对比研究。

参考文献

[1] 朱红亚，李晶晶，时静洁.烃类物质自燃点的QSPR预测研究［J］.消防科学与技术，2021，40（3）：303-307.

[2] ZHU Hongya， LI Jingjing， SHI Jingjie.Study on QSPR prediction of auto-ignition temperature of hydrocarbons［J］.Fire Science and Technology，2021，40（3）：303-307. （in Chinese）

[3] 吴薇，胡双启，胡立双.单元及二元混合可燃液体的自燃点研究［J］.中北大学学报（自然科学版），2022，43（5）：454-459.

[4] WU Wei, HU Shuangqi, HU Lishuang.Study on spontaneous ignition point of unary and binary mixed combustible liquids[J].Journal of North University of China (Natural Science Edition), 2022, 43(5): 454-459. (in Chinese)

[5] ASTM International. ASTM standard test method：E659－78 ［S］.The American Society for Testing and Materials PA：West Conshohocken，2000.

[6] 王梓豪.分子特征提取策略与集成学习辅助有机物环境及危险特性预测［D］.重庆：重庆大学，2020.

[7] 欧阳刚, 叶亚明, 闫侠, 等.固体自燃温度测定结果准确性的影响因素研究[J].河北工业科技, 2022, 39(1):86-92.

[8] OUYANG Gang, YE Yaming, YAN Xia,et al.Study on influencing factors for measurement accuracy of solid self-ignition temperature[J].Hebei Journal of Industrial Science and Technology, 2022, 39(1): 86-92. (in Chinese)

[9] 何凡，蒋军成，潘勇，等.基于电性拓扑状态指数的二元液体混合物自燃温度的预测［J］.化工学报，2016，67（7）：3109-3117.

[10] HE Fan， JIANG Juncheng， PAN Yong，et al.Prediction of auto-ignition temperatures for binary liquid mixtures based on electro-topological state indices［J］.CIESC Journal，2016，67（7）：3109-3117.（in Chinese）

[11] 何凡，蒋军成，潘勇，等.基于BP神经网络的二元混合液体自燃温度预测［J］.安全与环境学报，2017，17（4）：1343-1348.

[12] HE Fan， JIANG Juncheng， PAN Yong，et al.Forecasting the auto-ignition temperatures of binary liquid mixtures based on BP neural network［J］.Journal of Safety and Environment，2017，17（4）：1343-1348.（in Chinese）

[13] SUZUKI T.Quantitative structure-property relationships for auto-ignition temperatures of organic compounds［J］.Fire & Materials，1994，18（2）：81-88.

[14] TSAI F Y， CHEN C C， LIAW H J.A model for predicting the auto-ignition temperature using quantitative structure property relationship approach［J］.Procedia Engineering，2012，45（3）：512-517.

[15] 杨守生，王学宝.易燃液体二元混合物闪点、自燃点实验研究［J］.消防科学与技术，2008，27（3）：176-178.

[16] YANG Shousheng， WANG Xuebao.Experimental study on the flash point and spontaneous ignition temperature of binary flammable liquid mixtures［J］.Fire Science and Technology，2008，27（3）：176-178.（in Chinese）

[17] 胡瑾秋，张尚尚，曾然，等.基于深度学习的页岩气压裂砂堵事故预警方法［J］.中国安全科学学报，2020，30（9）：108-114.

[18] HU Jinqiu， ZHANG Shangshang， ZENG Ran，et al.Early warning method for sand plugging accidents in shale gas fracturing based on deep leaning［J］.China Safety Science Journal，2020，30（9）：108-114. （in Chinese）

[19] 朱馨，李建微，郭伟，等.基于机器学习的森林火险预测模型［J］.中国安全科学学报，2022，32（9）：152-157.

[20] ZHU Xin， LI Jianwei， GUO Wei，et al.Forest fire risk prediction model based on machine learning［J］.China Safety Science Journal，2022，32（9）：152-157. （in Chinese）

[21] SUN X Y， KRAKAUER N J， POLITOWICZ A，et al.Assessing graph-based deep learning models for predicting flash point［J］.Molecular Informatics，2020，39（6）：e1900101.

[22] 陈锡进，潘勇.应用电性拓扑状态指数预测烷烃自燃点［J］.中国安全生产科学技术，2009，5（6）：16-20.

[23] CHEN Xijing， PAN Yong.Prediction of auto-ignition temperatures of alkanes by electrotopological state indices［J］.Journal of Safety Science and Technology，2009，5（6）：16-20. （in Chinese）

[24] SAFA F， DAKHEL A A， SHARIATI S.Predictive artificial neural network model for solvation enthalpy of organic compounds in N，N-dimethylformamide［J］.Russian Journal of Physical Chemistry，2019，93（13）：2661-2668.

[25] 叶龙涛，潘勇，蒋军成.二元可燃混合液体自燃点的实验与理论预测［J］.石油学报（石油加工），2015，31（3）：753-759.

[26] YE Longtao， PAN Yong， JIANG Juncheng.Experimental determination and calculation of auto-ignition temperature of binary flammable liquid mixtures［J］.Acta Petrolei Sinica （Petroleum Processing Section），2015，31（3）：753-759. （in Chinese）

[27] LAN J X， JIANG J C， PAN Y，et al.Experimental measurements and numerical calculation of auto-ignition temperatures for binary miscible liquid mixtures［J］.Process Safety and Environmental Protection，2018，113（2018）：22-29.

[28] KIER L B， HALL L H.An electrotopological-state index for atoms in molecules［J］.Pharmaceutical Research，1990，7（8）：801-807.

[29] MORIWAKI H， TIAN Y S， KAWASHITA N，et al.Mordred：a molecular descriptor calculator［J］.Journal of Cheminformatics，2018，10（1）：1-14.

[30] 范文花.QSPR建模方法及其在染料敏化太阳能电池性能预测方面的研究进展[J].浙江化工, 2023, 54(1): 7-13.

[31] FAN Wenhua.QSPR modeling method and its research progress in performance prediction of dye-sensitized solar cells［J］.Zhejiang Chemical Industry，2023，54（1）：7-13. （in Chinese）

[32] 秦玉翠.基于人工神经网络的有机混合物定量结构性质关系研究［D］.西安：西安石油大学，2018.

[33] SHEN S J， PAN Y， JI X K，et al.Prediction of the auto-ignition temperatures of binary miscible liquid mixtures from molecular structures［J］.International Journal of Molecular Sciences，2019，20（9）：2084-2084.

[34] 周倩，诸林，李松照，等.含卤代烃二元共沸物共沸特性的QSPR模型［J］.化学工程，2021，49（11）：47-52.

[35] ZHOU Qian， Lin XHU， LI Songzhao，et al.QSPR model for azeotropic properties of binary azeotropes containing halogenated hydrocarbons［J］.Chemical Engineering （China），2021，49（11）：47-52. （in Chinese）

[36] ERIKSSON L， JAWORSKA J， WORTH A P，et al.Methods for reliability and uncertainty assessment and for applicability evaluations of classification-and regression-based QSARs［J］.Environmental Health Perspectives，2003，111（10）：1361-1375.

[37] FENG Y， SHAN L， YANG M，et al.A QSAR study of peptidyl vinyl sulfone cysteine protease inhibitors using topomer CoMFA and molecular docking［J］.Letters in Drug Design & Discovery，2021，18（8）：764-778.

[38] MITCHELL R， FRANK E， HOLMES G，et al.GPUTreeShap：massively parallel exact calculation of SHAP scores for tree ensembles［J］.PeerJ Computer Science，2022，8（5）：880.