[論文レビュー] Two-Dimensional Quantum Material Identification via Self-Attention and Soft-labeling in Deep Learning

Xuan-Bac Nguyen, Apoorva Bisht+4 more|arXiv (Cornell University)|May 31, 2022

Advanced Neural Network Applications被引用数 6

ひとこと要約

本論文は、2次元量子材料の検出におけるインスタンスセグメンテーションを向上させるために自己注意機構とソフトラベル化フレームワークを提案する。欠落したアノテーションを補うために、誤って否定とされたオブジェクトを自動で特定し、注意に基づく損失関数によってその勾配への影響を軽減する。この手法は最先端の性能を達成し、多様な2次元材料データセットにおいて、AP50を最大5%、APを最大5.7%向上させた。

ABSTRACT

In quantum machine field, detecting two-dimensional (2D) materials in Silicon chips is one of the most critical problems. Instance segmentation can be considered as a potential approach to solve this problem. However, similar to other deep learning methods, the instance segmentation requires a large scale training dataset and high quality annotation in order to achieve a considerable performance. In practice, preparing the training dataset is a challenge since annotators have to deal with a large image, e.g 2K resolution, and extremely dense objects in this problem. In this work, we present a novel method to tackle the problem of missing annotation in instance segmentation in 2D quantum material identification. We propose a new mechanism for automatically detecting false negative objects and an attention based loss strategy to reduce the negative impact of these objects contributing to the overall loss function. We experiment on the 2D material detection datasets, and the experiments show our method outperforms previous works.

研究の動機と目的

• 2次元量子材料検出におけるインスタンスセグメンテーションの欠落アノテーションの課題に対処し、モデルのリコールとパフォーマンスを制限する要因を解消すること。
• グランドトゥルースのアノテーションが欠落しているオブジェクトを自動で検出できる、エンドツーエンドで学習可能なメカニズムの開発。
• 誤って否定されたオブジェクトの負の影響を、ソフトラベル化を施した注意に基づく損失関数によって低減すること。
• 光学顕微鏡画像を用いた2次元フラクタルインスタンスセグメンテーションにおける検出精度とリコールの向上。
• グラフェン、hBN、MoS2、WTe2を含む多様な2次元材料に対して、標準的なCOCO指標を用いて手法の妥当性を検証すること。

提案手法

• 自己注意機構を領域提案ネットワークに統合し、アノテーションに欠落している可能性のあるオブジェクトを、微分可能でエンドツーエンドの方法で検出する。
• 誤って否定されたオブジェクトにソフトラベルを割り当てるための注意に基づく損失関数を導入し、バックプロパゲーション中の勾配寄与度を低減する。
• 注意モジュールと検出ヘッドを同時に最適化するマルチタスク学習フレームワークを用いてモデルを学習する。
• 画像のクロップを処理し、それを1次元配列に平坦化し、色プロファイルに基づいて厚さを回帰予測することで、ソフトラベル化プロセスに情報を供給する。
• 誤って否定の検出の信頼度を制御するためのしきい値（t = 0.6, 0.8, 0.9）を用い、t = 0.8が最適であると判明した。
• フレームワークは、グラフェン（G）、hBN（BN）、MoS2（M）、WTe2（W）の4つの2次元材料で標準的なCOCO指標（AP50、AP75、AP）を用いて評価された。

実験結果

リサーチクエスチョン

• RQ1 グランドトゥルースのアノテーションが欠落している状況下でも、自己注意機構が光学顕微鏡画像における誤って否定された2次元フラクタルインスタンスを効果的に検出できるか？
• RQ2 学習データに欠落したアノテーションが含まれる状況下で、注意に基づくソフトラベル化損失がモデルのパフォーマンスをどのように向上させるか？
• RQ3 多様な2次元材料においてセグメンテーションパフォーマンスを最大化するための誤って否定検出の最適しきい値は何か？
• RQ4 提案手法は、ベースラインおよび先行研究の最先端手法と比較して、リコールおよび平均適合度（AP）をどの程度向上させるか？
• RQ5 色プロファイルや厚さ特性が異なるさまざまな2次元材料に、この手法は一般化可能か？

主な発見

• 提案手法は、WTe2材料においてベースライン手法よりも平均適合度（AP）を5.7%向上させ、APが55.0から61.8に上昇した。
• グラフェンでは、しきい値t=0.8を用いることで、AP50が86.3から87.8に、APが72.4から75.7に向上した。
• 全材料においてBRL [15] よりも平均適合度で約2%向上し、特にMoS2で最大の向上（55.1 vs. 53.7）を示した。
• 検出信頼度の最適しきい値はt=0.8であり、全指標および全材料で最高のパフォーマンスを達成した。
• hBNで訓練およびテストした際、厚さ予測誤差を4.0 nmまで低減させ、全テスト済み材料組み合わせの中で最小の誤差を記録した。
• 図3の定性的な結果から、特に密集したフラクタル領域において、ベースラインより正確で完全なセグメンテーションマスクを生成することが示された。