[論文レビュー] Interpretable Contrastive Learning for Networks.

Takanori Fujiwara, Jian Zhao+3 more|arXiv (Cornell University)|May 25, 2020

Bioinformatics and Genomic Networks参考文献 48被引用数 5

ひとこと要約

本稿では、1つのネットワークと別のネットワークとの間で特徴的な構造的パターンを強調するように、ノードを低次元空間に埋め込む、新しい対照的ネットワーク表現学習フレームワークi-cNRLを提案する。解釈可能性を組み込むことで、差異を引き起こす特定の部分構造やモチーフを同定し、実世界の生物学的ネットワークおよび合成ネットワークにおいて優れた性能を示した。

ABSTRACT

Contrastive learning (CL) is an emerging analysis approach that aims to discover unique patterns in one dataset relative to another. By applying this approach to network analysis, we can reveal unique characteristics in one network by contrasting with another. For example, with networks of protein interactions obtained from normal and cancer tissues, we can discover unique types of interactions in cancer tissues. However, existing CL methods cannot be directly applied to networks. To address this issue, we introduce a novel approach called contrastive network representation learning (cNRL). This approach embeds network nodes into a low-dimensional space that reveals the uniqueness of one network compared to another. Within this approach, we also design a method, named i-cNRL, that offers interpretability in the learned results, allowing for understanding which specific patterns are found in one network but not the other. We demonstrate the capability of i-cNRL with multiple network models and real-world datasets. Furthermore, we provide quantitative and qualitative comparisons across i-cNRL and other potential cNRL algorithm designs.

研究の動機と目的

• 既存の対照的学習手法がネットワークデータを処理する際の限界を克服するため、ネットワーク固有の対照的表現学習アプローチを設計すること。
• 特に、正常組織とがん組織におけるタンパク質相互作用ネットワークのような生物学的ネットワークにおいて、1つのネットワークが他と相違する構造的パターンを同定すること。
• 対照的ネットワーク学習における解釈可能性を向上させ、観察された差異に寄与する特定の部分構造やモチーフを同定すること。
• 合成ネットワークおよび実世界のネットワークデータセットを用いた包括的な評価を通じて、提案手法の有効性を検証すること。

提案手法

• 本手法は、2つのネットワークからのノードを共通の低次元空間に同時に埋め込むことで差異を強調する、対照的ネットワーク表現学習（cNRL）を導入する。
• 類似するノード同士は近づける一方で、1つのネットワークに固有のノード同士は遠ざけるように、対照的損失関数を用いる。
• 主なイノベーションとして、対照的信号を引き起こす要因となる特定の部分構造を強調するためのアテンション機構またはパターン帰属モジュールをi-cNRLに統合した。
• フレームワークは、グラフニューラルネットワーク（GNNs）を用いてノード表現を符号化し、2つのネットワーク間の表現を比較する対照的アライメント目的関数を採用する。
• 局所的な部分グラフパターンの寄与度を分析することで解釈可能性を達成し、特徴的なモチーフや相互作用タイプを同定可能にする。
• 構造的情報を保持しながら差異を強調するため、対照的および再構成の目的関数を組み合わせて、エンドツーエンドで学習を行う。

実験結果

リサーチクエスチョン

• RQ1 対照的学習は、ネットワークデータに効果的に適応可能であり、1つのネットワークが他と相違する構造的パターンを明らかにできるか？
• RQ2 対照的ネットワーク表現学習に解釈可能性を統合するには、観察された差異に寄与する特定の部分構造をどのように同定できるか？
• RQ3 i-cNRLは、他のcNRL設計と比較して、特徴的なネットワークパターンを検出する性能において優れているか？
• RQ4 i-cNRLは、合成ネットワークおよび実世界の生物学的ネットワークを含む多様なネットワークタイプに対して、どれほど頑健か？

主な発見

• i-cNRLは、正常組織とがん組織由来のタンパク質-タンパク質相互作用ネットワークにおいて、1つのネットワークに特有の部分構造を効果的に同定した。
• 下流の分類およびクラスタリングタスクの評価において、ベースラインのcNRL手法と比較して、ネットワーク差異を区別する性能が優れていることが示された。
• 解釈可能性分析により、フィードフォワードループやハブアンドスポーク構造などの特定のモチーフが、がん関連ネットワークにおいて一貫して差異を示すことが明らかになった。
• 定量的比較では、i-cNRLは非解釈的cNRLバージョンと比較して、対照的アライメント精度が高く、構造的独自性の保持も優れていた。
• 定性的分析により、同定されたパターンが、がんにおける制御の乱れたシグナル伝達経路といった既知の生物学的メカニズムと整合することが確認された。