[论文解读] Zero-Shot Learning of Aerosol Optical Properties with Graph Neural Networks

Kara D. Lamb, Pierre Gentine|arXiv (Cornell University)|Jul 21, 2021

Atmospheric aerosols and clouds被引用 7

一句话总结

本文提出一种图神经网络（GNN）模型，可在未见颗粒显著大于训练数据的情况下，实现对黑碳团簇气溶胶光学性质的零样本泛化。该模型在小团簇的MSTM模拟光学性质上进行训练，能准确预测大尺寸、未见团簇的散射、消光、吸收和不对称因子参数，为计算成本高昂的模拟提供了一种快速、精确的替代方案。

ABSTRACT

Aerosols sourced from combustion such as black carbon (BC) are important short-lived climate forcers whose direct radiative forcing and atmospheric lifetime depend on their morphology. These aerosols' complex morphology makes modeling their optical properties difficult, contributing to uncertainty in both their direct and indirect climate effects. Accurate and fast calculations of BC optical properties are needed for remote sensing inversions and for radiative forcing calculations in atmospheric models, but current methods to accurately calculate the optical properties of these aerosols are computationally expensive and are compiled in extensive databases off-line to be used as a look-up table. Recent advances in machine learning approaches have shown the potential of graph neural networks (GNN's) for various physical science applications, demonstrating skill in generalizing beyond initial training data by learning internal properties and small-scale interactions defining the emergent behavior of the larger system. Here we demonstrate that a GNN trained to predict the optical properties of numerically-generated BC fractal aggregates can accurately generalize to arbitrarily shaped particles, even over much larger (10x) aggregates than in the training dataset, providing a fast and accurate method to calculate aerosol optical properties in models and for observational retrievals. This zero-shot learning approach could be integrated into atmospheric models or remote sensing inversions to predict the physical properties of realistically-shaped aerosol and cloud particles. In addition, GNN's can be used to gain physical intuition on the relationship between small-scale interactions (here of the spheres' positions and interactions) and large-scale properties (here of the radiative properties of aerosols).

研究动机与目标

• 为解决使用传统电磁方法精确计算复杂、类似分形的黑碳（BC）气溶胶光学性质时存在的计算瓶颈。
• 开发一种机器学习方法，使其能超越训练数据分布，预测任意形状和更大尺寸的BC团簇的光学性质。
• 为大气模型和遥感反演提供一种快速、可微分的预计算查表替代方案。
• 深入理解微观粒子形态如何决定宏观辐射性质。

提出的方法

• GNN模型将BC分形团簇表示为图结构，其中球体作为节点，球体间相互作用作为边，以编码空间和形态信息。
• 采用图交互网络（IN）架构，包含可学习的节点和边消息传递函数，随后进行全局池化和回归头处理。
• 模型在57,556个小型团簇（N_s < 100）的MSTM模拟光学性质（Q_ext, Q_sca, Q_abs, g）上进行训练，这些团簇的分形维数和一次粒子数各不相同。
• 在未参与训练的880个大型团簇（100 < N_s < 1000）上测试零样本泛化能力，使用同一模型无需微调。
• 损失函数通过积分光学性质的均方误差（MSE）最小化，激活函数采用ReLU，正则化使用Dropout（p=0.5）。
• 模型使用PyTorch Geometric实现，在NVIDIA RTX 8000 GPU上训练，批量大小为20。

实验结果

研究问题

• RQ1 在小规模、数值生成的BC分形团簇上训练的GNN，能否准确预测远大于训练数据的未见团簇的光学性质？
• RQ2 GNN在多大程度上能泛化到其训练分布之外的形态和尺寸？
• RQ3 GNN在预测消光、吸收、散射和不对称因子等关键辐射传输参数方面表现如何？
• RQ4 GNN模型能否揭示局部粒子结构与全局光学行为之间关系的物理解释？

主要发现

• GNN在无需任何微调的情况下，对大团簇（N_s > 100）的积分光学性质（Q_ext, Q_sca, Q_abs, g）预测表现出高精度，展示了强大的零样本泛化能力。
• 模型对训练集尺寸10倍以上的团簇预测误差极低，表明其具备出色的外推能力。
• 交互网络（IN）架构在捕捉复杂球体间相互作用方面优于SGC和GCN等简单GNN，表现更优。
• 当在每个图中添加全连接层后，GNN在预测散射相函数S11方面达到当前最优性能，零样本泛化能力显著提升。
• GNN框架将单个粒子的计算成本从MSTM模拟的数小时至数天，降低至毫秒级预测，实现了模型中的实时集成。
• 该模型揭示了局部粒子形态（分形维数、一次粒子数）与宏观辐射性质之间的物理关系，提供了超越黑箱预测的可解释性。