[论文解读] SSL-SoilNet: A Hybrid Transformer-based Framework with Self-Supervised Learning for Large-scale Soil Organic Carbon Prediction

Nafiseh Kakhani, Moien Rangzan+6 more|arXiv (Cornell University)|Aug 7, 2023

Soil Geostatistics and Mapping被引用 5

一句话总结

该论文提出SSL-SoilNet，一种基于混合Vision Transformer的模型，通过在未标记的多模态数据（卫星图像和气候时间序列）上进行自监督对比学习，随后在有限的真实土壤样本上微调，实现了大规模土壤有机碳（SOC）预测的最先进性能，显著优于传统监督模型（如随机森林和梯度提升）在两个欧洲数据集上的表现。

ABSTRACT

Soil Organic Carbon (SOC) constitutes a fundamental component of terrestrial ecosystem functionality, playing a pivotal role in nutrient cycling, hydrological balance, and erosion mitigation. Precise mapping of SOC distribution is imperative for the quantification of ecosystem services, notably carbon sequestration and soil fertility enhancement. Digital soil mapping (DSM) leverages statistical models and advanced technologies, including machine learning (ML), to accurately map soil properties, such as SOC, utilizing diverse data sources like satellite imagery, topography, remote sensing indices, and climate series. Within the domain of ML, self-supervised learning (SSL), which exploits unlabeled data, has gained prominence in recent years. This study introduces a novel approach that aims to learn the geographical link between multimodal features via self-supervised contrastive learning, employing pretrained Vision Transformers (ViT) for image inputs and Transformers for climate data, before fine-tuning the model with ground reference samples. The proposed approach has undergone rigorous testing on two distinct large-scale datasets, with results indicating its superiority over traditional supervised learning models, which depends solely on labeled data. Furthermore, through the utilization of various evaluation metrics (e.g., RMSE, MAE, CCC, etc.), the proposed model exhibits higher accuracy when compared to other conventional ML algorithms like random forest and gradient boosting. This model is a robust tool for predicting SOC and contributes to the advancement of DSM techniques, thereby facilitating land management and decision-making processes based on accurate information.

研究动机与目标

• 通过利用自监督预训练来解决数字土壤制图（DSM）中标签土壤样本有限的挑战。
• 通过学习多模态数据源之间的地理与时空关系，提高SOC预测的准确性。
• 开发一种稳健且可迁移的深度学习框架，适用于多种地理区域和土壤特性。
• 通过利用未标记的卫星和气候数据进行预训练，减少对大规模标签数据集的依赖。
• 通过在多样化输入模态上进行对比学习，增强模型在数据稀缺区域的泛化能力和性能。

提出的方法

• 使用Vision Transformer（ViT）处理高分辨率卫星图像（30米），使用标准Transformer处理气候时间序列数据（约4公里分辨率）。
• 应用自监督对比学习，在空间和时间维度上从大量未标记数据中学习有意义的表示。
• 采用两阶段训练流程：首先通过对比损失在未标记数据上进行预训练，随后在少量标签土壤样本上进行微调。
• 通过混合Transformer编码器将多模态特征——遥感数据、地形数据、气候指数——整合到统一的表示空间中。
• 利用实例级别的对比学习，最大化同一地理位置在不同模态间增强视图的一致性。
• 使用标签SOC测量值对整个模型进行端到端微调，以将预训练特征适配到回归任务。

实验结果

研究问题

• RQ1 当标签数据稀缺时，自监督对比学习能否提升SOC预测的准确性？
• RQ2 处理图像和时间序列数据的混合Transformer架构与传统DSM模型相比表现如何？
• RQ3 在大规模未标记数据上进行预训练在土壤有机碳制图中的泛化能力提升程度如何？
• RQ4 所提出的模型能否在训练域之外的多样化地理区域和土壤类型上实现泛化？
• RQ5 在湿地等具有高度异质性的复杂土壤动态区域，模型表现如何？

主要发现

• SSL-SoilNet在LUCAS和欧洲数据集上均显著优于随机森林和梯度提升等传统监督模型，RMSE和MAE值更低。
• 当在有限标签样本上训练时，与监督基线相比，模型将RMSE降低了最多25%，展现出强大的数据效率。
• 在未标记数据上进行对比预训练提升了特征表示学习能力，尤其在标签分布不均或样本稀疏的区域表现更优。
• 混合架构有效捕捉了卫星图像中的空间模式和气候序列中的时间动态，从而提升了预测性能。
• 模型在不同欧洲区域（包括湿地和寒冷气候等挑战性区域）表现出强迁移能力和泛化性能。
• 该框架可适配其他土壤属性（如黏粒含量），并可扩展至高光谱数据以提升光谱分辨率。