[论文解读] A novel approach for fusion of heterogeneous sources of data

Mostafa Reisi Gahrooei, Hao Yan+2 more|arXiv (Cornell University)|Feb 28, 2018

Structural Health Monitoring Techniques参考文献 33被引用 9

一句话总结

本文提出了一种新颖的多张量对张量回归（MTOT）框架，用于融合异质数据类型——如标量、曲线、图像和结构化点云——形成统一的统计模型。通过将输入和输出表示为张量，并采用低秩张量分解与交替最小二乘法优化，该方法能高效捕捉复杂相关性，同时减少过拟合，在模拟实验和半导体制造案例研究中均展现出优于基线方法的预测精度。

ABSTRACT

With advancements in sensor technology, a heterogeneous set of data, containing samples of scalar, waveform signal, image, or even structured point cloud are becoming increasingly popular. Developing a statistical model, representing the behavior of the underlying system based upon such a heterogeneous set of data can be used in monitoring, control, and optimization of the system. Unfortunately, available methods only focus on the scalar and curve data and do not provide a general framework that can integrate different sources of data to construct a model. This paper poses the problem of estimating a process output, measured by a scalar, curve, an image, or a point cloud by a set of heterogeneous process variables such as scalar process setting, sensor readings, and images. We introduce a general approach in which each set of input data (predictor) as well as the output measurements are represented by tensors. We formulate a linear regression model between the input and output tensors and estimate the parameters by minimizing a least square loss function. In order to avoid overfitting and to reduce the number of parameters to be estimated, we decompose the model parameters using several bases, spanning the input and output spaces. Next, we learn both the bases and their spanning coefficients when minimizing the loss function using an alternating least square (ALS) algorithm. We show that such a minimization has a closed-form solution in each iteration and can be computed very efficiently. Through several simulation and case studies, we evaluate the performance of the proposed method. The results reveal the advantage of the proposed method over some benchmarks in the literature in terms of the mean square prediction error.

研究动机与目标

• 为过程监控与控制中异质数据类型（如标量、波形、图像和点云）建模缺乏通用统计框架的问题提供解决方案。
• 克服现有方法仅关注标量或函数型数据的局限，忽略高维数据中结构相关性的缺陷。
• 开发一种统一的回归模型，以捕捉结构内相关性（如图像中的空间模式），同时保持计算效率。
• 通过数据驱动的低秩参数化方法，实现从多样化工艺变量中准确预测复杂输出（如半导体制造中的对准误差）。

提出的方法

• 将每种异质输入和输出变量表示为张量，从而实现对多样化数据类型的统一数学处理。
• 使用最小二乘损失函数，建立输入张量与输出张量之间的线性回归模型。
• 通过覆盖输入和输出张量空间的基函数对模型参数进行分解，以降低维度并防止过拟合。
• 通过块坐标下降算法结合交替最小二乘法（ALS），同步学习基函数及其对应系数。
• 推导ALS迭代中每个优化子问题的闭式解，实现高效且可扩展的计算。
• 将该方法应用于晶圆形状的模拟以及半导体制造中对准误差的预测，采用二阶校正模型处理IPD（平面内位移）差异。

实验结果

研究问题

• RQ1 统一的回归框架能否在单一统计模型中有效建模异质数据类型（如标量、曲线、图像和点云）？
• RQ2 在融合过程中，如何保留并利用高维数据（如图像中的空间模式）的结构内相关性？
• RQ3 当 $p \gg n$ 时，所提出的MTOT方法相较于传统回归或基于PCA的方法，在多大程度上减少了过拟合？
• RQ4 在半导体制造等实际应用中，该方法能否实现优于现有基线方法的预测精度？
• RQ5 数据驱动的基函数学习在捕捉多样化输入与输出张量空间中的相关特征方面有多高效？

主要发现

• 在多个模拟研究中，所提出的MTOT方法在均方预测误差方面显著优于基线方法。
• 通过基于数据驱动的张量回归框架，该方法能够准确预测半导体制造中的对准误差，建模了晶圆形状（图像）与对准误差（图像）之间的关系。
• 低秩张量分解的使用有效减少了待估计参数的数量，即使预测变量数量远超样本量，也能有效缓解过拟合。
• 采用闭式更新的交替最小二乘法（ALS）算法，实现了快速且稳定的参数估计收敛。
• 该方法成功捕捉了晶圆形状中的复杂空间模式，并将其与对准误差相关联，在真实模拟设置中展现出强大的预测能力。
• 案例研究显示，使用MTOT模型时，预测值与实际对准误差之间的决定系数（R² > 90%），验证了其在半导体工艺控制中的实际应用价值。