[論文レビュー] Deep Motif: Visualizing Genomic Sequence Classifications

Jack Lanchantin, Ritambhara Singh+2 more|arXiv (Cornell University)|May 4, 2016

Genomics and Chromatin Dynamics参考文献 12被引用数 60

ひとこと要約

Deep Motif (DeMo) は、ゲノム配列内の転写因子結合部位 (TFBS) を分類するという最先端の性能を達成する深層畳み込み/ハイウェイMLPモデルを導入する。最適化駆動の入力逆問題を用いて、一般化可能で解釈可能なモチーフ（位置加重行列として可視化）を抽出し、108個のTFデータセットの92個で精度とモチーフ品質の両面で先行手法を上回った。また、57回の比較のうち29回はJASPARのモチーフ性能と同等またはそれを上回った。

ABSTRACT

This paper applies a deep convolutional/highway MLP framework to classify genomic sequences on the transcription factor binding site task. To make the model understandable, we propose an optimization driven strategy to extract "motifs", or symbolic patterns which visualize the positive class learned by the network. We show that our system, Deep Motif (DeMo), extracts motifs that are similar to, and in some cases outperform the current well known motifs. In addition, we find that a deeper model consisting of multiple convolutional and highway layers can outperform a single convolutional and fully connected layer in the previous state-of-the-art.

研究の動機と目的

• 深層学習を用いて、転写因子結合部位 (TFBS) のゲノム配列分類の精度を向上させること。
• 特定のトレーニング配列に依存せず、陽性TFBSクラスを表す一般化可能で解釈可能なモチーフを生成する手法を開発すること。
• DeepBindなどの先行深層学習アプローチで見られる浅いモデルの限界や、一般化不能なモチーフ抽出の問題を克服すること。
• ゲノム分野に応用された深層ニューラルネットワークで学習されたパターンの視覚的・生物学的解釈を提供すること。
• ハイウェイ接続を備えたより深いアーキテクチャが、浅いモデルと比較してTFBS分類の性能を向上させることを示すこと。

提案手法

• 3つの128フィルタ、長さ5の畳み込み層と、各32ユニットの5つの全結合ハイウェイ層を備えた深層畳み込み/ハイウェイMLPアーキテクチャ。
• 入力配列は1つあたり4種類のヌクレオチド（A, C, G, T）にワンホットエンコードされた文字列であり、複数の層を通じて階層的な配列表現を学習する。
• モチーフ生成のための最適化：入力行列Sをバックプロパゲーションにより最適化し、モデルの陽性TFBSである確率を最大化する。初期化は一様分布（0.25）から開始。
• 最適化されたS行列は[0,1]にクリッピングされ、ラプラススムージングを用いて位置加重行列（PWM）に変換され、学習されたモチーフを可視化するために使用される。
• この手法は特定のテスト配列に依存しないため、個々のインスタンスの活性化ではなく、陽性クラスのパターンに一般化可能である。
• モチーフ類似度は、JASPARゴールドスタンダードモチーフとの比較において、Tomtom（統計的モチーフマッチング）およびAMA（テスト配列上のモチーフアフィニティスコア）を用いて評価された。

実験結果

リサーチクエスチョン

• RQ1 DeepBindのような浅いモデルと比較して、より深い畳み込みおよびハイウェイMLPアーキテクチャは、TFBS分類の精度を向上させることができるか？
• RQ2 最適化駆動の入力逆問題によって、特定の入力配列に依存せず、一般化可能で生物学的に意味のあるモチーフを、陽性TFBSクラスを表す形で生成できるか？
• RQ3 DeMoが生成するモチーフは、確立されたJASPARモチーフと類似度および予測力の面でどのように比較されるか？
• RQ4 より深いアーキテクチャの使用により、ゲノム配列における長距離依存関係のモデリングが、TFBS分類において向上するか？
• RQ5 系統的なモチーフ抽出戦略により、深層学習モデルの解釈性を向上させ、正確かつ生物学的に関連性のあるモチーフを生成できるか？

主な発見

• DeMoは108個のTFデータセットのうち92個でAUCがDeepBindを上回り、中央値AUCは0.951（DeepBindは0.931）を記録した。
• 57体のテストTFのうち36体では、Tomtomを用いた類似度評価でq値 < 0.5を満たし、JASPARモチーフと強い生物学的類似性を示した。
• AMAによるモチーフアフィニティスコアリングにおいて、JASPARがより大きなカスタマイズ済みデータセットを用いているにもかかわらず、57体のうち29体でDeMoのモチーフがテスト配列の50％以上でJASPARのモチーフを上回った。
• 最適化ベースのモチーフ抽出法により、密度の高い入力行列が得られ、これをPWMに変換することで、既知のTF結合選好と整合する生物学的に解釈可能なパターンが得られた。
• ハイウェイ接続を備えた深層アーキテクチャは、より良い特徴の抽象化を可能にし、分類性能の向上を実証した。これは、複雑なゲノム配列パターンをモデリングする際の深さの利点を示している。
• DeMoのモチーフ生成は一般化可能であり、特定のテスト例に依存していないため、活性化に基づく手法よりも生物学的解釈に適している。