[論文レビュー] A Review of Deep Learning Techniques for Protein Function Prediction

Divyanshu Aggarwal, Yasha Hasija|arXiv (Cornell University)|Oct 27, 2022

Machine Learning in Bioinformatics被引用数 6

ひとこと要約

このレビューでは、コンピュータビジョン、自然言語処理（NLP）、マルチモーダル学習分野の最先端モデルを強調しつつ、深層学習を用いたタンパク質機能予測分野における最近の進展を統合的にまとめている。これらの技術が機能的アノテーションの正確性とスケーラビリティを向上させることを強調し、計算生物学およびAI駆動型生命科学分野の研究者に包括的なロードマップを提供する。

ABSTRACT

Deep Learning and big data have shown tremendous success in bioinformatics and computational biology in recent years; artificial intelligence methods have also significantly contributed in the task of protein function classification. This review paper analyzes the recent developments in approaches for the task of predicting protein function using deep learning. We explain the importance of determining the protein function and why automating the following task is crucial. Then, after reviewing the widely used deep learning techniques for this task, we continue our review and highlight the emergence of the modern State of The Art (SOTA) deep learning models which have achieved groundbreaking results in the field of computer vision, natural language processing and multi-modal learning in the last few years. We hope that this review will provide a broad view of the current role and advances of deep learning in biological sciences, especially in predicting protein function tasks and encourage new researchers to contribute to this area.

研究の動機と目的

• 計算生物学におけるタンパク質機能予測に応用された深層学習技術の包括的概要を提供すること。
• コンピュータビジョン、自然言語処理（NLP）、マルチモーダル学習分野の最先端深層学習モデルが生物学的機能予測タスクに統合されるプロセスを分析すること。
• 自己教師あり学習およびマルチモーダル事前学習の変容的影響が、機能的アノテーションの正確性とスケーラビリティに与える影響を強調すること。
• 深層学習を用いたタンパク質機能分類の自動化における主な課題と機会を特定すること。
• AI駆動型生物学的機能予測分野に新たに参入する研究者を支援するリファレンスおよび触媒としての役割を果たすこと。

提案手法

• グラフニューラルネットワーク、トランスフォーマー、マルチモーダルエンコーダーを含む、タンパク質機能予測に用いられる深層学習アーキテクチャの体系的レビュー。
• NLPおよびビジョン分野から取り入れられた、対照的学習やマスキングモデル化を含む自己教師あり事前学習戦略の分析。これらはタンパク質配列および構造に適応されたものである。
• タンパク質配列、構造、遺伝子発現データを統合するマルチモーダル統合技術の検討。これにより、機能推論の精度が向上する。
• Gene Ontology（GO）アノテーションタスクを含む標準ベンチマーク上でのモデル性能評価。精度、再現率、F1スコアの指標を用いる。
• 低リソースな機能的アノテーション状況下における、教師あり、弱教師あり、ゼロショット転移学習アプローチの比較。
• タンパク質固有の深層学習フレームワークにおいて注目されるアテンションメカニズムや残差接続といったアーキテクチャ的イノベーションの統合的分析。

実験結果

リサーチクエスチョン

• RQ1 コンピュータビジョンおよび自然言語処理（NLP）分野の最近の深層学習モデルは、どのようにタンパク質機能予測に適応されたか？
• RQ2 最先端モデルにおける機能的アノテーションの正確性を向上させた、主なアーキテクチャ的および学習イノベーションは何か？
• RQ3 マルチモーダル学習アプローチは、単一の配列ベース手法に比べて、タンパク質機能予測をどのように向上させるか？
• RQ4 自己教師あり事前学習および転移学習は、機能的アノテーションタスクにおけるデータ不足問題をどのように緩和するか？
• RQ5 大規模かつ正確なタンパク質機能予測に向けた深層学習の導入における、残された制限および未解決の課題は何か？

主な発見

• 自己教師あり事前学習およびマルチモーダル統合を活用した最先端の深層学習モデルは、Gene Ontologyベンチマーク上でのタンパク質機能予測性能を顕著に向上させた。
• トランスフォーマーおよびグラフニューラルネットワークは、タンパク質配列および構造における長距離依存性や構造的文脈を捉える点で優れた性能を示した。
• 配列、構造、オミックスデータを統合するマルチモーダルモデルは、特にデータが少ない状況下で、単一モーダルベースラインに比べて高いF1スコアを達成した。
• 多様な生物学的配列を用いた大規模事前学習からの転移学習により、手動アノテーションに依存することなくゼロショットおよび少数ショットの機能予測が可能となり、コスト削減が実現した。
• 対照的学習およびマスキングモデル化技術の統合により、タンパク質機能分類のためのより強固で汎用性の高い表現が得られた。
• 進展は見られたが、解釈可能性、大規模プロテオームへのスケーラビリティ、および多様な種や機能クラスにわたる一般化性の面で依然として課題が残っている。