[論文レビュー] DeepPINK: reproducible feature selection in deep neural networks

Yang Lu, Yingying Fan+2 more|arXiv (Cornell University)|Sep 4, 2018

Explainable Artificial Intelligence (XAI)被引用数 69

ひとこと要約

DeepPINKは、モデル-Xノックオフを対を結合したニューラルネットワークと統合し、DNNの特徴選択における偽発見率（FDR）を制御し、シミュレーションおよび実データでナイーブなノックオフ拡張モデルより検出力が高いことを示す。

ABSTRACT

Deep learning has become increasingly popular in both supervised and unsupervised machine learning thanks to its outstanding empirical performance. However, because of their intrinsic complexity, most deep learning methods are largely treated as black box tools with little interpretability. Even though recent attempts have been made to facilitate the interpretability of deep neural networks (DNNs), existing methods are susceptible to noise and lack of robustness. Therefore, scientists are justifiably cautious about the reproducibility of the discoveries, which is often related to the interpretability of the underlying statistical models. In this paper, we describe a method to increase the interpretability and reproducibility of DNNs by incorporating the idea of feature selection with controlled error rate. By designing a new DNN architecture and integrating it with the recently proposed knockoffs framework, we perform feature selection with a controlled error rate, while maintaining high power. This new method, DeepPINK (Deep feature selection using Paired-Input Nonlinear Knockoffs), is applied to both simulated and real data sets to demonstrate its empirical utility.

研究の動機と目的

• 制御された特徴選択を通じて深層ニューラルネットの解釈性と再現性を高める。
• 高次元設定でFDRを制御するためにmodel-Xノックオフの枠組みを活用する。
• 元の特徴とそのノックオフとの競合を可能にするDNNアーキテクチャを開発し、検出力を向上させる。
• シミュレートデータと実データセット( HIV-1突然変異、腸内細菌叢)で実証的有用性を示す。

提案手法

• 各入力特徴量がそのノックオフ対応分と対になるよう、DNNに対の結合層を導入する。
• フィーチャ重要度指標 Z_j と ւ Z_j を、フィルターウェイトと続くMLP層のウェイトを用いて定義する。
• ノックオフ統計量 W_j = Z_j^2 - ւ Z_j^2 を計算し、FDR制御のためにノックオフ閾値ルール T または T+ を適用する。
• L1正則化とAdam最適化を用いてネットワークを訓練し、二つの隠れ層を持つMLPを使用する。
• ガウス設計のもとでノックオフを構築し、必要に応じて精度行列を推定する（ISEEによるスケーラビリティ）。
• シミュレーションでベースライン（MLP、DeepLIFT、RF、SVR）と比較し、経験的FDRと検出力を評価する。

実験結果

リサーチクエスチョン

• RQ1 DeepPINKはDNNの特徴選択において有限サンプルでのFDR制御を達成しつつ高い検出力を維持できるか？
• RQ2 対となるノックオフ層を統合することは、DNNにおけるナイーブなノックオフ入力より特徴選択の性能を向上させるか？
• RQ3 線形モデルとSingle-Indexモデルという線形および非線形のデータ生成過程の下で、さまざまな次元でDeepPINKはどのように性能を示すか？
• RQ4 これらの方法は、実際の生物学データセット（HIV-1突然変異、腸内細菌叢）で制御されたFDRで既知の関連特徴を同定するか？

主な発見

• DeepPINKはシミュレーションで目標レベルq=0.2以下のFDRを一貫して制御する。
• DeepPINKは合成実験のほとんどの設定で競合手法（MLP、DeepLIFT、RF、SVR）より検出力が高い。
• 対結合層と X_j と ւ X_j の競合は、ナイーブなノックオフ拡張ネットワークに比べて検出力を大幅に向上させる。
• 実データ応用では、DeepPINKは既存文献の裏付けを持つ変異と腸内細菌叢特徴を同定し、FDR制御と発見の点でKnockoffおよびBHqを上回るか同等であることが多い。
• このアプローチは基礎データ生成過程に関する強いモデル仮定を避け、MLP以外の他のネットワークアーキテクチャにも適用可能である。