[論文レビュー] Hierachial Protein Function Prediction with Tails-GNNs.

Stefan Spalević, Petar Veličković+2 more|arXiv (Cornell University)|Jul 27, 2020

Bioinformatics and Genomic Networks参考文献 29被引用数 7

ひとこと要約

本論文では、任意のニューラルネットワークの出力空間に統合可能な、階層的タンパク質機能予測を実現する新規なグラフニューラルネットワークアーキテクチャ、Tail-GNNを提案する。機能オントロジーを関係的ラベルグラフとして活用することで、関係性を強化したラベル予測を実現する。配列表現のための拡張畳み込みネットワークと、関係性を強化したラベル予測のためのTail-GNNを組み合わせることで、ベースラインモデルに比べてF₁スコアが顕著に向上する。

ABSTRACT

Protein function prediction may be framed as predicting subgraphs (with certain closure properties) of a directed acyclic graph describing the hierarchy of protein functions. Graph neural networks (GNNs), with their built-in inductive bias for relational data, are hence naturally suited for this task. However, in contrast with most GNN applications, the graph is not related to the input, but to the label space. Accordingly, we propose Tail-GNNs, neural networks which naturally compose with the output space of any neural network for multi-task prediction, to provide relationally-reinforced labels. For protein function prediction, we combine a Tail-GNN with a dilated convolutional network which learns representations of the protein sequence, making significant improvement in F_1 score and demonstrating the ability of Tail-GNNs to learn useful representations of labels and exploit them in real-world problem solving.

研究の動機と目的

• 機能用語が相互に関連付けられており、閉包性を示す階層的オントロジー構造においてタンパク質機能を予測する課題に対処すること。
• 通常のGNNが入力グラフ上で動作するのに対し、ラベルグラフ上で動作する方法を設計することで、標準GNNの制限（入力グラフではなくラベルグラフ上で動作しないこと）を克服すること。
• 機能用語のグラフ構造と組み合わせることで、ニューラルネットワークが関係的強化された予測を生成できるようにすること。
• ラベル空間における関係的インダクティブバイアスを活用することで、マルチタスクタンパク質機能予測のパフォーマンスを向上させること。

提案手法

• Tail-GNNは、入力データではなく、タンパク質機能用語の有向無閉路グラフ（DAG）であるGene Ontology（GO）のラベル空間上で動作するように設計されている。
• モデルは、タンパク質配列から表現を学習するシーケンスエンコーダ（拡張畳み込みネットワーク）と、機能階層を介して情報伝達を行うTail-GNNを組み合わせる。
• Tail-GNNは機能DAG上でメッセージパッシングを実行し、親および子の関係に基づいてラベル表現を更新することで、予測の整合性と閉包性を強制する。
• Tail-GNNの出力は、シーケンスエンコーダの予測を精緻化するために使用され、共有される関係的インダクティブバイアスを有するマルチタスク学習を可能にする。
• GNN部は階層的構造に基づいてラベル埋め込みを更新するように、マルチラベル分類の目的関数を用いてエンドツーエンドで訓練される。
• このアーキテクチャは、任意のニューラルネットワークアーキテクチャと自然に組み合わせられ、既存の深層学習パイプラインにプラグイン統合可能である。

実験結果

リサーチクエスチョン

• RQ1 入力データではなくラベル空間上で動作するGNNが、タンパク質機能予測のパフォーマンスを向上させることができるか？
• RQ2 Tail-GNNはGene Ontologyの階層的構造をどれほど効果的に活用し、より一貫性があり正確な機能予測を生成できるか？
• RQ3 ラベル空間に関係的インダクティブバイアスを統合することで、標準的なマルチラベル分類ベースラインと比較してF₁スコアに顕著な向上が得られるか？
• RQ4 ラベルグラフ構造を活用することで、多様なタンパク質ファミリーおよび機能カテゴリに一般化可能か？

主な発見

• 提案されたTail-GNNアプローチは、マルチタスクタンパク質機能予測において、ベースラインモデルに比べて顕著なF₁スコアの向上を達成した。
• Tail-GNNによるラベルグラフ統合は、複雑な階層的関係を持つ用語においても、より一貫性があり生物学的に妥当な予測をもたらした。
• ラベル空間における関係的インダクティブバイアスが、関連する機能用語間の予測の一貫性を低下させるとともに、一般化性能を向上させることを示した。
• 拡張畳み込みネットワークとTail-GNNの組み合わせは、機能オントロジー構造を組み込まないモデルを上回る性能を示し、階層的インダクティブバイアスの価値を裏付けた。